Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

39 Auditores de algoritmos 9. https://www.ccomptes.fr/en/publications/admission-post-bac-and-access-higher-education 3. El control externo y el uso de algoritmos en la administración pública La fiscalización de decisiones públicas basadas en herra- mientas algorítmicas no es nueva en el ámbito del control externo. Ya en 2017, la Cour des Comptes de Francia tuvo que auditar los resultados de la aplicación de estas técnicas en el acceso a la enseñanza superior. El informe, titulado (en inglés) Admission post-bac and Access to Higher Education concluía de manera rotunda que “la Admisión Post-Bachillerato (post-high school admission, o APB) es una plataforma digital pública utilizada por los bachilleres para presentar solicitudes con vistas a entrar en los cursos de primer año de la educación superior. Contiene dos algoritmos: un algoritmo de asignación, que cruza las preferencias de los centros educativos y de los solicitantes, y un algoritmo de clasificación, que atribuye un orden de prioridad a las solicitudes de acceso a los cursos de grado. Los métodos de funcionamiento de la APB, que carecen de transparencia y no se ajustan al código educativo, ponen de manifiesto las incoherencias en las condiciones de acceso a los cursos de licenciatura en las universidades. La APB constituye un avance técnico útil, pero hoy en día es criticada con razón y necesita ser reformada” ( Web de la Cour des Comptes ) 9 . Con motivo de la proliferación de uso de este tipo de herramientas, o soluciones, la revista ISACA ha prestado atención al tema, identificando los riesgos potenciales y las soluciones a adoptar para garantizar una buena auditoría de sistemas de inteligencia artificial: Retos para el auditor de la AI Claves para el éxito de la auditoría de la AI ‒ Marcos de auditoría o regulaciones específicas inmaduras para la IA ‒ Adoptar y adaptar los marcos y regulaciones existentes ‒ Precedentes limitados para los casos de uso de la IA ‒ Explicar y comunicar proactivamente sobre IA con las partes interesadas ‒ Definiciones y taxonomías inciertas de la IA ‒ Explicar y comunicar proactivamente sobre IA a las partes interesadas ‒ Gran variedad de sistemas y soluciones de IA ‒ Informarse sobre el diseño y la arquitectura de la IA para establecer un alcance adecuado ‒ Naturaleza emergente de la tecnología de IA ‒ Informarse sobre el diseño y la arquitectura de la IA para fijar el ámbito de aplicación ‒ Falta de orientación explícita sobre la auditoría de la IA ‒ Centrarse en la transparencia mediante un proceso iterativo. Centrase en controles y gobernanza, no en los algoritmos ‒ Falta de puntos de partida estratégicos ‒ Implicar a todas las partes interesadas ‒ Posible curva de aprendizaje para el auditor de IA ‒ Informarse sobre el diseño de la IA y contratar a especialistas necesarios ‒ Riesgo para el proveedor creado por la subcontratación de IA a terceros ‒ Documentar las prácticas de arquitectura para la transparencia entre equipos Fuente: ISACA (Auditing Artificial Intelligence, 2018)