Page 47 - Auditoría Pública Nº 85

Hacia el uso inteligente de la Inteligencia Artificial en la Auditor-IA: Sin Gobierno del Dato, no hay paraíso. Algunas reflexiones para no perecer en el intento

¡ Sistemas de IA no contratados por la SC. No dis- 5.3. Por último, –o, mejor, en primer lugar– y para el de-
ponen de los controles de protección de los anterio- bate: Algunas reflexiones adicionales sobre la IA en la
res. nueva “Auditor-IA”:

En ambos casos, se han valorado los posibles riesgos de: ¡ ¿Qué IA utilizar en la auditoría pública? ¿Sabe-
fuga de datos, tratamiento de datos inadecuado, de acce- mos lo que queremos, o lo que necesitamos?
so no autorizado, de falta de transparencia, y de sesgos al-
gorítmicos o generación de información incorrecta o falsa. ¡ Si las herramientas no son transparentes, si no
conocemos los algoritmos que las sustentan, ¿las
Finalmente, se ha evaluado el impacto en cada bloque. compramos sin más, por capítulo 2, sobre una base
intuitiva?
5.2. En segundo lugar, abordar el contenido de las Nor-
mas: A partir de este análisis, se ha establecido la regu- ¡ ¿O nos proveemos de nuestras propias herra-
lación contenida en las Normas de uso de la IA, estable- mientas de IA?
ciendo:
¡ Además, habrá que valorar previamente, como
¡ Prohibiciones de uso. en todas las soluciones y desarrollos tecnológicos
que precisemos, las previsiones de los arts. 157 y
¡ Casos de uso permitidos de IA en la SC con uso 158 de la Ley 40/2015.
limitado.
¡ Es más, dada la especificidad de las funciones
31
¡ Supervisión humana y registro de la actividad. de los OCEX y el TCU, ¿Y si consorciáramos el de-
La norma subraya este aspecto, clave en el uso de sarrollo conjunto de la IA que verdaderamente nece-
la IA en la auditoría: Cuando se obtengan resultados sitamos los OCEX?
derivados del uso de la IA de acuerdo para ser utili-
zados en los procesos de gestión o fiscalización de ¡ De esta manera, el intercambio de conocimien-
la SC, esos resultados deberán ser previamente re- to que precisa la IA generativa se crearía desde el
visados y verificados por las personas responsables propio know how y experiencias auditoras, lo que po-
del proceso o fiscalización. Se establece un procedi- dría suponer un punto de partida para construir una
miento y formalidades específicas para ello. IA ad hoc en la auditoría pública.

¡ Elaboración de una norma que regule los usos ¡ Por último, ¿estamos capacitados para auditar
30
correctos de IA en la Sindicatura . el uso adecuado de la IA por los entes que fiscaliza-
mos?, ¿Queremos, o debemos hacerlo? ¿Contamos
La aprobación de estas normas nos ayuda así mismo a con cualificación suficiente para desvelar y auditar
plantearnos otras cuestiones relevantes, como la necesi- los algoritmos que están detrás de esas herramien-
dad de abordar un procedimiento estándar de anonimiza- tas utilizadas?
ción de datos, que no demore el uso de las herramientas
de IA que estén autorizadas, pero que garantice su uso Entre todos deberemos conformar respuestas y solucio-
con garantías. nes a estos retos y problemas.

En todo caso, somos conscientes de que esta primera
aproximación reguladora, de urgencia si se quiere, ante 6. Alineación del PEGODA con el
la vis expansiva de las herramientas IA y su fácil e imper- Plan Estratégico de la Entidad.
ceptible deslizamiento en los propios trabajos de audito-
ría, debe ser objeto de constante seguimiento y supervi- Trazando líneas de futuro. Los planes estratégicos no son
sión, que inevitablemente dará lugar a adaptaciones en documentos inamovibles. Conviene revisarlos periódica-
la regulación futura, en función de la propia dinámica e mente para acompasar la acción y organización de cada
interacción de IA en las fiscalizaciones y la experiencia OCEX a su entorno, como instrumentos esenciales para
que se vaya acumulando. encauzar el futuro.

30 No accesible en general, no es un documento público, sólo de uso interno por el personal de la Sindicatura. Para más información, se puede contactar con el autor de
este artículo lperez@sindicom.es
31 Ya disponemos de experiencias similares positivas: PREEL, FISCALICEX, FISCONEX…

47