Christian Cano Zambrano
A medida que las administraciones públicas adoptan la inteligencia artificial (IA), se observa que esta transición tiene el potencial de transformar al servicio público y a las políticas públicas, al ofrecer un cambio rápido en la toma de decisiones y la prestación de servicios.
Los procesos de transformación digital en los gobiernos están reconstruyendo la idea de la tecnología predictiva que toma decisiones del sector público de manera autónoma. Los gobiernos invierten recursos sustanciales en el desarrollo de tecnologías de inteligencia artificial para automatizar y personalizar los servicios públicos.
Sin embargo, el estado actual de la técnica de aplicación de las tecnologías de IA en la esfera pública plantea varios desafíos. Es importante comprender que la tecnología de IA no cambia un conjunto de problemas. Las decisiones en los servicios públicos y las políticas siguen siendo un trabajo ritualista con mensajes ambiguos que generan interpretaciones conflictivas
La aplicación de la IA en la administración pública implica dos aspectos. Primero, aumentar la eficiencia de la máquina administrativa. Al expandir las capacidades de una administración pública para resolver diferentes problemas, la aplicación de IA aumenta la eficiencia del sector público. El segundo aspecto involucra el proceso de elección (o decisión) de los administradores públicos. Desde el principio es importante pensar en la elección de tecnologías como una construcción social que involucra comportamientos, actitudes y cogniciones en el proceso de transformación digital; en muchas situaciones las decisiones de política sobre tecnología están impulsadas por una lógica de costo y beneficio, en la que la IA puede modificar los patrones organizacionales de la administración pública con el potencial de fomentar la coproducción de servicios públicos.
En el mundo actual los requisitos para el uso de tecnologías no son tan confiables ni tan claros en el proceso de toma de decisiones de una organización determinada. Los ejemplos de fallos en la adopción de sistemas de IA son variados y recurrentes en la administración pública. Sin embargo, una cosa es cierta: el engaño o la desconfianza con respecto a las predicciones realizadas por los sistemas de IA compromete la legitimidad de su aplicación en tareas y procesos de toma de decisiones.
Una implicación importante es comprender que el diseño de los sistemas de IA y su adopción en la administración pública dependen del diseño de las instituciones de gobernanza de la IA. Estas deben ser capaces de dirigir políticas que movilicen instrumentos apropiados que alineen la lógica consecuencialista con la lógica de adecuación, permitiendo la conexión entre el propósito de la transformación digital y los valores políticos más amplios de democracia y derechos humanos.