Page 14 - REVISTA AUDITORÍA PÚBLICA 87
P. 14
REVISTA AUDITORÍA PÚBLICA / 87
¡ Auditoría Pública. En su artículo explica que cada ¡ AP. Uno de los conceptos que menciona es el de
vez más decisiones públicas –como ayudas o pro- “caja negra”, cuando ni siquiera los propios pro-
cedimientos administrativos– pueden tomarse de gramadores pueden explicar cómo se ha tomado
forma automatizada. ¿Cómo afecta esto a la rela- una decisión. ¿Es posible garantizar el derecho de
ción entre la ciudadanía y la Administración? la ciudadanía a entender por qué se le concede o
deniega una ayuda cuando intervienen este tipo
Sandra Barrio. Afecta en gran medida. No es- de sistemas?
tamos ante un simple cambio de herramientas,
estamos ante una transformación profunda del SB. ¿Es posible garantizarlo? Rotundamente, sí,
“contrato” entre el Estado y el ciudadano. Es cier- pero exige cambiar el chip en el diseño de este
to que, operativamente, estas Actuaciones Admi- tipo de actuaciones
nistrativas Automatizadas son una maravilla: nos Ese es uno de los grandes retos ante los que nos
dan una agilidad inédita para gestionar montañas enfrentamos. Ese “efecto caja negra” (black box)
de datos que antes eran inabarcables. es el mayor enemigo de la seguridad jurídica. Si
Sin embargo, el riesgo de “deshumanización” es el sistema es tan complejo que ni sus creadores
real. Si el ciudadano siente que su vida o sus dere- pueden explicar el “porqué” de un resultado, es-
chos dependen de una “máquina opaca” a la que tamos limitando el derecho del ciudadano a defen-
no puede reclamar, la confianza en las institucio- derse y recurrir.
nes se quiebra y surge la desafección. Para que la Con el modelo MIASA-SP, yo defiendo que la Ad-
tecnología sea una aliada, la Administración debe ministración debe usar modelos interpretables y
asegurar que el algoritmo no sea un muro, sino guardar un registro minucioso de todo el camino
un puente transparente donde cada decisión sea que sigue el dato. No basta con cumplir el trámite
trazable y cercana. legal, hace falta una transparencia algorítmica real
Por tanto, para que la automatización sea una ver- que permita que tanto el gestor, como el admi-
dadera oportunidad de modernización, la Admi- nistrado y el auditor entendamos la lógica de la
nistración debe garantizar que la tecnología no se decisión.
convierta en una barrera, sino en un medio trans-
parente que respete la proximidad y la trazabilidad
de cada decisión pública. ¡ AP. Su trabajo propone el modelo MIASA-SP para
auditar estos sistemas automatizados. En térmi-
nos sencillos, ¿en qué consiste este modelo y qué
¡ AP. Muchas personas pueden pensar que, si deci- aporta frente a las formas tradicionales de audito-
de una máquina, el proceso será más objetivo. Sin ría pública?
embargo, usted advierte de riesgos como sesgos o
falta de transparencia. ¿Qué peligros pueden tener SB. Para explicarlo de forma sencilla, MIASA-SP es
estos sistemas si no se controlan adecuadamente? un modelo integral nacido por y para la auditoría del
sector público. La auditoría tradicional suele ser una
SB. Es una pregunta muy interesante. Hay que foto fija: llegamos cuando el proceso ha terminado
romper con el mito de que la tecnología es neutral para revisar “papeles” y ver si cumplen la ley.
por naturaleza. En mi experiencia como auditora, MIASA-SP, en cambio, es dinámico y preventivo. Se
siempre pongo el foco en dos riesgos que pueden estructura en seis fases que van desde el primer
dinamitar la equidad: análisis hasta la evaluación de la ética y la justicia
• Sesgos y discriminación: Si alimentamos un del sistema. Utilizamos herramientas avanzadas
sistema con datos históricos que ya contienen como la minería de procesos y la auditoría de logs
desigualdades (de género, sociales o económi-
cas), la máquina no solo no las corrige, sino que
las automatiza y las perpetúa. Esto golpea directa- “...la Administración debe
mente al principio constitucional de igualdad.
• El sesgo de automatización: Me preocupa garantizar que la tecnología
mucho que los empleados públicos confíen ciega- no se convierta en una barrera,
mente en lo que dice “el informe de la máquina”. Si
renunciamos al análisis humano crítico, perdemos sino en un medio transparente
la esencia de la justicia administrativa. que respete la proximidad
Sin un control riguroso, el Estado podría conver-
tirse en un ente vigilante que procesa datos sin y la trazabilidad de cada
ofrecer garantías de privacidad o rectificación. decisión pública.”
12
