Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

REVISTA AUDITORÍA PÚBLICA / 77 34 Introducción El 14 de octubre de 2020, cinco importantes Instituciones europeas de Control Externo -las de Finlandia, Alemania, Países Bajos, Noruega y el Reino Unido, por orden alfabético en inglés- publicaron un documento conjunto de enorme interés e importancia para el futuro (inmediato) de la fiscalización de las decisiones públicas basadas en el uso de algoritmos. Auditing machine learning algorithms. A White paper for public auditors , pretende ser una guía básica de referencia para ayudar tanto a las instituciones como a los auditores individuales a llevar a cabo auditorías de algoritmos basados en machine learning que hayan sido utilizados por las agencias gubernamentales. Aunque en España el uso de algoritmos en el sector público sea en estos momentos un asunto incipiente y sometido a discusión jurídica, limitado según los expertos en derecho administrativo a colaborar o apoyar la toma de decisiones, pero nunca a sustituir las potestades públicas o eludir la 1. Para no incluir una bibliografía muy prolija, se recomienda consultar Benítez Palma y Teré Pérez (2021). 2. El componente 16 del Plan de Recuperación, Transformación y Resiliencia del Gobierno de España desarrolla la hoja de ruta del despliegue de la Estrategia Nacional de Inteligencia Artificial. 3. Publicado a mediados de mayo de 2021 por la editorial Capitán Swing. necesaria motivación que impide la arbitrariedad 1 , los planes de modernización del sector público que serán financiados con fondos europeos y la publicación de documentos como la Estrategia Nacional de Inteligencia Artificial o España puede. Plan de recuperación, transformación y resiliencia de la economía 2 , anticipan la aplicación en las administraciones públicas españolas de este tipo de herramientas. De esta manera, surge en paralelo la necesidad de modernizar también las capacidades de las distintas instituciones independientes que tienen como misión ejercer el control de la acción del Gobierno, sea estatal, autonómico o local, o velar por el buen funcionamiento de la economía, como es el caso de la Comisión Nacional de los Mercados y la Competencia (CNMC). Este trabajo propone conocer los motivos por los que se deben auditar los algoritmos que se usan en el sector público, analizar las distintas experiencias de las instituciones de control externo en el ámbito de la fiscalización del uso de algoritmos, y profundizar en el caso concreto de los Países Bajos. Asimismo, sugiere algunas lecturas adicionales que pueden ser de interés para establecer una primera toma de contacto con una cuestión que, sin duda, debe preocupar y ocupar a las diferentes instituciones de control externo durante los próximos años. 1. ¿Por qué auditar los algoritmos? El uso de algoritmos en el sector público no es una novedad, al menos en los países occidentales. Desde hace varios años las organizaciones del sector público se apoyan en este tipo de herramientas para agilizar y objetivar la toma de decisiones. El paradigma de partida es la disponibilidad y neutralidad de los datos: existe abundancia de registros en manos de las administraciones públicas, y a partir de esta información se pueden diseñar fórmulas que ayuden a tomas decisiones más eficientes, eficaces y apoyadas en la evidencia. Pero la cosa no es tan sencilla. Hay que saludar con entu- siasmo la traducción y publicación en castellano del libro seminal “Automatizando la desigualdad”, de la politóloga estadounidense Virginia Eubanks, al que ya he hecho mención en otros artículos anteriores 3 . Eubanks demuestra