Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

37 Auditores de algoritmos 2. La situación en España Aunque España no ha llegado aún al nivel de madurez de uso de algoritmos en la gestión pública que se observa, por ejemplo, en la Europa continental o el mundo anglosajón, en los primeros meses del año 2021 se han conocido dos iniciativas relevantes en torno a esta cuestión 7 . En enero de 2021 se ha publicado la Guía de auditoría algorítmica, de Éticas Consulting, una organización con sede en Barcelona a cuyo frente se halla Gemma Galdón Clavell. Se trata de una guía muy accesible, disponible en castellano para quienes quieran acercarse a esta cuestión, y en la que se puede leer que “las auditorías algorítmicas se presentan como una forma necesaria de hacer que esta tecnología sea más explicable, más transparente, más predecible, y más controlable por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori” (Éticas, 2021, p. 9). Esta Guía también recuerda que “de acuerdo con la normativa vigente en materia de protección de datos ( RGPD y LOPDGDD ), todo tratamiento automatizado que produzca efectos significativos sobre la vida de una persona debe ser siempre supervisado por una persona” (Ibidem, p. 15), y plantea que todos los algoritmos utilizados por el sector público se sometan a algún tipo de auditoría. Su metodología se construye a partir de cuatro grandes prin- cipios rectores, complementarios entre sí (Éticas, 2021, pp. 23-27): a) Cumplimiento legal y ético: “todo algoritmo debe cumplir con lo dispuesto por las normas jurídicas y deontológicas vigentes”. Aquí se hace referencia expresa tanto a la protección de datos ya mencionada como a la Carta Europea de Derechos Humanos. b) Deseabilidad del sistema: “un algoritmo de impacto social debe ser siempre explicable, preciso, replicable, transparente y justo. Por este motivo es imprescindible prestar atención a cuál es el ‘problema’ al que pretende dar solución el sistema auditado, y examinar si la tecnología utilizada es, efectivamente, la mejor manera de abordarlo”. c) Aceptabilidad social: “un sistema que tiene efectos sobre la vida de las personas, ya sea de forma directa o indirecta, debe ser comprensible, controlable, sostenible y, en alguna medida, beneficioso para las partes afectadas por el mismo”. 7. Es necesario hacer referencia a los avances normativos que se han producido en Cataluña, con la aprobación del Decreto 76/2020 de Administración Digital, y la creación en enero de 2021 del Comité Ético de los Datos, un órgano consultivo y transversal, que tiene como objetivo “garantizar que el despliegue de los usos avanzados de los datos, propios de la administración digital, se hagan de forma equitativa y responsable.