Page 40 - Revista Auditoria Pública nº 83

REVISTA AUDITORÍA PÚBLICA / 83

Los algoritmos que integran los sistemas de IA corren el cumplir todo sistema de IA: a) accesibilidad, de tal forma
riesgo de no justificar las decisiones tomadas y no poder que el código debe ser auditado interna y/o externamen-
diagnosticar los fallos en el sistema. De esta forma, el te; b) explicabilidad, para que software genere resultados
impacto que tiene la IA en la toma de decisiones justifica comprensibles.
la necesidad de un correcto desarrollo de estos sistemas
en el sector público, con el fin de que los auditores no En algunas propuestas, el uso responsable de la IA en las
pierdan la comprensión y el control de la decisión de IA instituciones parte como piedra angular, y para ello deben
(Busuioc, 2020). estipularse límites y alcances. El sistema de IA envolven-
te, planteado por Asatiani et al. (2021), busca evitar el
Los precedentes de fracaso en la implantación de la IA riesgo de que la tecnología se centre únicamente en los
en el sector público han generado desconfianza, com- resultados instrumentales, es decir, en la eficiencia, y no
prometiendo su uso en la toma de decisiones (Filgueiras, en los resultados humanistas medidos a través de los
2021), así como también se ha visto frenado su uso en valores éticos, lo que podría desembocar en una pérdida
entornos donde la seguridad y la ética son vitales (Asa- de confianza institucional y un abuso de poder.
tiani et al. 2021).
Finalmente, Soylu et al. (2022) hace especial énfasis en
¡ Propuestas de mejora. la necesidad de dotar al sistema de datos de calidad y de
automatizar procesos para evitar errores en el registro de
Diferentes autores han realizado propuestas a fin de dar dichos datos. Esta automatización de procesos debe te-
respuesta a los inconvenientes comentados en los párra- ner asentados una serie de valores y un ajuste definido a
fos anteriores respecto a la correcta implantación de la IA un marco legal, de forma que las decisiones unilaterales
en las instituciones públicas. Así, Filgueiras (2021) pone del sistema no sean perjudiciales (Ranerup y Henriksen,
el énfasis en la calidad de los datos como base para que 2019).
las decisiones tomadas por el sistema sean objetivas y
libres de errores. Sin embrago las propuestas más cita-
das son las relacionadas con la implantación de un marco 4.3. Cloud.
regulatorio para alinear el sistema con comportamientos
correctos (Kaminski, 2019, citado en Henman, 2020; Bu- Los sistemas del Cloud Computing consisten en un su-
suioc, 2020; Asatiani et al. 2021; Filgueiras, 2021), como, ministro de servicios de computación, como almacena-
por ejemplo, el derecho que mantiene la legislación de la miento, servidores, bases de datos, redes o software a
Unión Europea a emitir un juicio profesional para cambiar través de internet (Nigro, 2022) que, sin necesidad de ser
la decisión tomada por el software. Además de contar adquiridos, disminuyen la inversión, el mantenimiento y
con la presencia de valores éticos que limiten el campo la obsolescencia (Kumar et al, 2019V).
de actuación de la IA (Asatiani et al. 2021; Falco et al.
2021; Filgueiras, 2021). ¡ Beneficios.

Ligada con la propuesta de valores, se propone que du- Los sistemas en la nube aportan eficiencia gracias al
rante la fase de desarrollo del sistema estén presentes menor trabajo manual, menos errores, mayor transpa-
las preocupaciones de los ciudadanos (Filgueiras, 2021) rencia y un menor mantenimiento de los registros (Car-
y los usuarios potenciales del sistema (Asatiani et al. lsson-Wall et al. 2021) y su tendencia de uso está incre-
2021), reforzando así la responsabilidad del uso de los mentándose cada vez más debido a la omnipresencia
algoritmos (Busuioc, 2020). de la documentación electrónica (Han et al. 2021). Esta
tecnología facilita el trabajo de los auditores debido a la
Por otra parte, diversos autores proponen la realización gestión integrada y unificada (Han et al. 2021), lo que les
de pruebas, evaluaciones del impacto de las distintas permite dedicarle más tiempo al análisis y a la aplicación
decisiones, auditoría del desarrollo del sistema (Busuioc, del juicio profesional (Carlsson-Wall et al. 2021).
2020), protocolos de actuación tras la toma de decisio-
nes con el uso del sistema o adoptar la opción de cer- ¡ Estudios de caso.
tificación de garantía de calidad del sistema (Kaminski,
2019, citado en Henman, 2020; Filgueiras, 2021). Carlsson-Wall et al. (2021) lleva a cabo una investiga-
ción en la que evalúa cómo afecta el sistema Cloud al
En cualquier caso, existe un consenso en los académi- desempeño de los auditores del sector público. En este
cos sobre la necesidad de auditar los algoritmos sobre caso de estudio parte de la implementación de la tecno-
los que van a apoyarse los auditores en la toma de deci- logía Cloud ERP con el objetivo de hacer informes más
siones (Busuioc, 2020; Criado et al. 2020). A este respec- simples y rápidos, aumentando la eficiencia al reducir el
to, Criado et al. (2020) proponen dos variables que debe tiempo de trabajo manual.

40