Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

41 Auditores de algoritmos En este nuevo plan estratégico la mención a la tecnología y los sistemas de información es mucho más contundente: “la administración central apenas es capaz de seguir el ritmo de los avances en tecnología de la información, si es que lo hace. Sin embargo, la tecnología y los datos -el ‘oro del siglo XXI’- están cada vez más en el corazón del gobierno. La crisis de COVID-19 ha vuelto a poner de manifiesto que la continuidad de la prestación de servicios depende del buen funcionamiento de las tecnologías de la información, y los servicios públicos no son una excepción. Por eso damos tanta importancia a la gestión de la información en nuestra auditoría anual de responsabilidad gubernamental. Se ha convertido en el tercer componente de nuestra auditoría de la gestión operativa, junto con la gestión financiera y material. Cuando sea necesario, desarrollaremos normas adicionales sobre la gestión de la información. En este sentido, examinaremos el desarrollo y el control de los objetivos y el uso de algoritmos de autoaprendizaje en los próximos años” (Netherlands Court of Auditors, 2021a, p. 21). Uno de los primeros resultados concretos de este recono- cimiento estratégico de la importancia de las decisiones públicas basadas en datos ( data-driven ) y la necesidad de su vigilancia y control, es otro documento de 2021 titulado “Comprendiendo los algoritmos” ( Understanding algorithms ). El Tribunal de Cuentas de Holanda no sólo ha puesto el foco en la fiscalización de los algoritmos, sino que también está compartiendo con generosidad su conocimiento adquirido con el resto de Instituciones de Control Externo interesadas en esta cuestión. Ha publicado también un marco para la auditoría de los algoritmos ( Algorithm Audit Framework ), de manera que la lectura conjunta de ambos documentos constituye, hoy por hoy, la mejor guía para las organizaciones y auditores preocupados por esta cuestión. Sería muy prolijo, y desborda los objetivos de este artículo, describir la herramienta holandesa para la fiscalización de los algoritmos. Está a disposición del público interesado, en inglés, y basta con leerla y aplicarla, llegado el caso. Sí que es destacable mencionar que el marco de auditoría de algoritmos se basa en cinco pilares: la gobernanza de la herramienta y la rendición de cuentas sobre el uso de la misma; el modelo y los datos utilizados; la privacidad y el cumplimiento de las normas de protección de datos; los sistemas generales de tecnologías de la información; y finalmente la ética. De lo que se trata en este momento es de llamar la atención sobre este inquietante asunto y de animar a tomar decisiones anticipativas para que el uso de algoritmos por parte de las administraciones públicas españolas, en cualquiera de sus niveles de gobierno -estatal, autonómico o local- no pille por sorpresa a las entidades de control externo. La experiencia holandesa aporta seis recomendaciones para el sector público, que se reproducen, resumidas, a continuación (Netherlands Court of Auditors, 2021b, pp. 38-42):