Auditoría Pública nº 77. Revista de los órganos autonómicos de control externo

33 Enrique Benítez Palma Economista Ex Consejero de la Cámara de Cuentas de Andalucía Auditores de algoritmos Resumen: En octubre de 2020, cinco Instituciones de Control Externo europeas publicaron un documento sobre la auditoría de algoritmos basados en el autoaprendizaje (machine learning) con el doble propósito de llamar la atención sobre este asunto y establecer un marco de referencia común a la hora de abordar la fiscalización de las decisiones públicas automatizadas por parte del control externo. En ausencia de un marco normativo común europeo, y a la vista del creciente uso de algoritmos por parte del sector público para fundamentar y agilizar la toma de decisiones, en un proceso de construcción de una administración pública digital basada en los datos (data driven), los primeros ejemplos de sesgos y errores en estas decisiones algorítmicas ponen de manifiesto la necesidad de establecer controles sólidos para hacer un seguimiento del uso de estas soluciones. La agilidad y la objetividad que prometen las herramientas basadas en el uso de los abundantes datos disponibles (big data) choca con una realidad en la que aparecen sesgos y se toman decisiones automáticas sin la más mínima participación de las personas implicadas. Decisiones importantes que afectan a la vida y a los derechos de esas personas. El artículo propone una revisión a la documentación disponible, y alerta sobre el papel secundario que puede corresponder al control externo si no da un paso adelante en este territorio confuso y por construir. Otras agencias reguladoras, o incluso la galaxia existente de organismos fiscalizadores de la sociedad civil pueden ocupar el espacio abandonado. Abstract: In October 2020, five European Supreme Audit Institutions published a paper on the audit of machine learning algorithms with the dual purpose of drawing attention to this issue and establishing a common frame of reference when dealing with the audit of automated public decisions by external audit. In the absence of a common European regulatory framework, and in view of the increasing use of algorithms by the public sector to inform and speed up decision-making, in a process of building a data-driven public administration, the first examples of biases and errors in these algorithmic decisions highlight the need to establish robust controls to monitor the use of these solutions. The agility and objectivity promised by tools based on the use of the abundant data available (big data) clashes with a reality in which biases appear and automatic decisions are made without the slightest participation of the people involved. Important decisions that affect the lives and rights of these people. The article proposes a review of the available documentation, and warns of the secondary role that may correspond to external control if it does not take a step forward in this confused and unconstructed territory. Other regulatory agencies, or even the existing galaxy of civil society watchdogs, can occupy the abandoned space. Palabras Clave: Control externo, algoritmos, inteligencia artificial, sector público, auditoría. Keywords: External audit, algorithms, artificial intelligence, public sector, audit. AUDITORÍA Y GESTIÓN DE LOS FONDOS PÚBLICOS