Page 122 - REVISTA AUDITORÍA PUBLICA 86

Del Procedimiento al Algoritmo: Nuevo Modelo de Auditoría de Sistemas Automatizados en la Administración Pública (MIASA-SP)

deep learning, agentes autónomos, e IA (inteligencia ar- 3. Riesgos de las AAA.
tificial) generativa. Su capacidad para procesar informa-
ción estructurada, semiestructurada y no estructurada La implementación de Actuaciones Administrativas Au-
los convierte en herramientas potentes, pero también tomatizadas ha supuesto un avance significativo en la
plantea desafíos significativos para la auditoría: explicabi- modernización de las Administraciones Públicas. Su
lidad de decisiones, control de sesgos, validación conti- uso permite optimizar recursos, agilizar procedimientos
nua y atribución de responsabilidad jurídica. La naturaleza y mejorar la trazabilidad de las decisiones. Sin embar-
no determinista exige enfoques de auditoría adaptativos, go, también plantea riesgos sustanciales que deben ser
con criterios de observabilidad, gobernanza algorítmica y abordados desde la auditoría pública con un enfoque
evaluación ética. multidisciplinar.

En síntesis, la correcta identificación de tres elementos A continuación, se presenta una clasificación de los dis-
diferenciados, la AAA como resultado jurídico, los siste- tintos tipos de riesgos con los que nos podemos enfren-
mas automatizados deterministas como soporte técnico tar, así como una matriz con los riesgos.
trazable y los sistemas no deterministas como entornos
dinámicos de decisión, constituye una condición previa Riesgos éticos y sociales.
para diseñar modelos de auditoría eficaces, proporciona-
les y jurídicamente fundados en la administración auto- ¡ Sesgos algorítmicos y discriminación. Los algo-
matizada. ritmos entrenados con datos históricos pueden
reproducir desigualdades sociales, económicas
o de género, afectando a colectivos vulnerables
y comprometiendo el principio de igualdad ante
la ley (Soriano, 2021).

¡ Exclusión digital y brecha social. Si ciertos gru-
pos de profesionales, como auditores en merca-
dos emergentes o de firmas más pequeñas, no
tienen acceso a las tecnologías más avanzadas
o a la capacitación adecuada, podrían quedarse
atrás en términos de competencia y efectividad
(Chicaiza Ortiz, 2024).

¡ Sesgo de automatización en empleados públi-
cos. Confianza en exceso en los sistemas auto-
matizados de ayuda a la toma de decisiones que
usan cada vez con mayor frecuencia e intensidad
(Mir Puigpelat, 2023).

¡ Desconfianza ciudadana. Impulsada por la per-
cepción de opacidad y la falta de educación tec-
nológica, representa un obstáculo para la acep-
tación y efectividad de la IA (Hilario Rivas et al.,
2025).

¡ Deshumanización en la toma de decisiones pú-
blicas. La percepción de que las decisiones pú-
blicas son tomadas por máquinas opacas puede
erosionar la legitimidad institucional y generar
desafección política (Boix Palop & Cotino Hueso,
2019).

Fuente: Elaboración propia

121