Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

43 Auditores de algoritmos f) “Garantizar que se produzca una información clara, ahora y en el futuro, sobre el funcionamiento de Controles Generales de Tecnologías de la Información (CGTI). Recomendamos que el Consejo de Ministros dé instrucciones para que los ministros y secretarios de Estado competentes se encarguen de que los funcionarios que trabajan con algoritmos tengan y conserven el acceso a la información sobre la calidad de los CGTI en relación con los algoritmos en cuestión”. Aunque en este momento no parece probable una traslación inmediata de estas recomendaciones al sector público nacional, con pocas excepciones, marcan una línea de actuación de cara al futuro, que se puede concretar en diversas ideas fuerza, que van desde la presencia de un Chief Data Officer en cada ministerio -recordemos que los cimientos de todo esta modernización está en la disponibilidad y uso de los datos, y en la protección de la privacidad-, hasta la evaluación de los resultados, la transparencia, la observancia de claros principios éticos basados en el respeto a los derechos fundamentales, y el marco clásico de control de los sistemas de información. Una última referencia a la experiencia holandesa debe hacerse, antes de finalizar este epígrafe, al trabajo realizado por la Cámara de Cuentas de Rotterdam 10 , cuyo informe concluye que “el municipio de Rotterdam utiliza algoritmos para apoyar su toma de decisiones. Aunque el municipio ha prestado atención al uso ético de los algoritmos, la concienciación sobre esta necesidad aún no es generalizada. Esto puede llevar a una falta de transparencia de los algoritmos y a resultados sesgados, como en el caso de un algoritmo destinado a combatir el fraude en las prestaciones”. 5. Conclusiones y sugerencias En el año 2019, un informe de Nueva Zelanda proponía la creación ad-hoc de una agencia reguladora para el seguimiento y supervisión de algoritmos por parte del sector público. Las recomendaciones del informe son muy útiles, y aunque no hay constancia de que el Tribunal de Cuentas de Holanda las haya seguido, sí que parece claro y evidente que ha decidido asumir ese papel de controlador, en ausencia de un organismo específico que lo haga, en un entorno de uso creciente de algoritmos, no siempre con buenos resultados, como se ha visto en los casos de la lucha contra el fraude en la recepción de prestaciones básicas. El informe de Nueva Zelanda recomienda lo siguiente: “Hay varios modelos posibles para una nueva agencia regula- dora. Todos ellos tienen puntos fuertes y debilidades. En la actualidad, hay muy pocos ejemplos internacionales de los que aprender, y los que existen están en sus primeras etapas. Hemos propuesto una posible estructura para que la nueva agencia reguladora pueda trabajar con las agencias gubernamentales. El nuevo regulador podría desempeñar una serie de funciones, entre ellas: ‒ Elaborar directrices de buenas prácticas. ‒ Mantener un registro de los algoritmos utilizados en el gobierno. ‒ Elaborar un informe público anual sobre dichos usos. ‒ Realizar un seguimiento continuo de los efectos de estas herramientas. Si la agencia reguladora va a recibir algún tipo de poder estricto, habrá que tener en cuenta su capacidad para supervisar y hacer cumplir estos poderes. Si la agencia debe encargarse de controlar los algoritmos, hay que tener en cuenta que se trata de herramientas versátiles, capaces de ser reutilizadas para una variedad de usos. El escrutinio debe aplicarse a los nuevos usos/daños potenciales y no sólo a los nuevos algoritmos” (New Zealand Law Foundation, 2019, p.4). Hay dos reflexiones fundamentales que debe hacerse el mundo del control externo en relación con el uso de algoritmos en el sector público, la fiscalización de estas herramientas y la supervisión de sus resultados. La primera tiene que ver con la necesidad de estar al tanto de estos movimientos. Ya existen diversos grupos de trabajo internacionales -por ejemplo, el EUROSAI IT Working Group, que ha organizado una jornada específica sobre este tema- que están tratando el tema de los algoritmos. Pero una buena referencia en España puede ser la Comisión Nacional de los Mercados y la Competencia (CNMC), que ante la perspectiva del uso de algoritmos por parte de las grandes compañías globales para propiciar la colusión invisible de precios, ha decidido unirse al Computational Antitrust Project, de la Universidad de Stanford, junto a varias decenas de autoridades nacionales de la competencia, para aprender, compartir conocimientos y abordar de manera conjunta la estrategia de las diferentes autoridades nacionales en un mundo sin fronteras digitales. La creación de una red europea de instituciones de control externo interesadas en la supervisión del uso de algoritmos por parte del sector público puede suponer un buen paso adelante para asumir ese papel ahora inexistente que ya se reclama en Nueva Zelanda para evitar malos usos, enfoques erróneos o decisiones equivocadas.