José Paúl Moreira Morales
Ya lo planteó Isaac Asimov en 1942, en su relato Runaround, al abordar un problema que hoy comienza a inquietarnos: la necesidad de establecer principios morales que regulen el comportamiento de las máquinas. Pensemos en los misiles: reciben la orden de apuntar a un objetivo y alcanzarlo sorteando gracias a su ultracapacidad todas las dificultades en su camino. La máquina ejecuta el programa a la perfección, sin comprender las consecuencias; estas solo las percibe el ser humano, condicionando su éxito por sus propios límites morales. Sin embargo, para quien sufre el impacto, el resultado puede ser un desastre inimaginable.
Entonces ¿ya se puede hablar de que se alcanzó la singularidad tecnológica?, ese escenario hipotético en el que las máquinas ya desarrollaron capacidades que superen nuestra habilidad para controlarlas, y no porque se vuelvan malvadas, sino porque podrían cumplir al pie de la letra las instrucciones recibidas; es decir que el problema no es que la inteligencia artificial desobedezca, sino que obedezca demasiado bien sin ser consciente de lo que realmente hizo.
El 16 de julio de 2026. OpenAI habría evaluado las capacidades de nuevos modelos de inteligencia artificial para vulnerar programas informáticos. Según el relato, los investigadores instalaron uno de estos sistemas en un entorno cerrado, con restricciones por todas partes, y le plantearon el desafío de vulnerar un software.
La IA habría conseguido su objetivo pese a las barreras impuestas. Al rastrear sus acciones, los ingenieros descubrieron que había salido del entorno previsto y accedido a sistemas de Hugging Face, una plataforma conocida por alojar modelos y recursos de inteligencia artificial, fue tan exitosa su misión que hasta se vinculó una investigación del FBI.
Estos detalles requieren fuentes verificables antes de presentarse como hechos confirmados; pero el escenario de ser cierto plantea una cuestión inquietante: ¿qué sucede cuando una inteligencia artificial encuentra rutas que sus propios creadores no imaginaron, y utiliza recursos inesperados para cumplir una misión?
Ya ocurrió cuando crearon modelos de cohetes más eficientes, medicamentos, o de resolver problemas matemáticos extremadamente difíciles, y en todos los casos de una forma que no se había considerado. La conclusión es preocupante: las IA más avanzadas pueden resolver problemas complejos y encontrar procedimientos inesperados, pero eso no significa que comprendan las implicaciones de sus acciones, y aquí es donde deberíamos recordar las advertencias de Isaac Asimov. Las Tres Leyes de la Robótica, introducidas en el relato Runaround en 1942 y exploradas en obras posteriores, entre ellas Robots e Imperio, publicada en 1985.
Primera Ley: Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.
Segunda Ley: Un robot obedecerá las órdenes dadas por los seres humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.
Tercera Ley: Un robot protegerá su propia existencia siempre que esa protección no entre en conflicto con la Primera o la Segunda Ley.
Claro que Asimov también demostró en sus novelas que estas leyes no eran una solución mágica: podían generar contradicciones y situaciones inesperadas. Después de todo, escribir tres reglas parece sencillo; conseguir que funcionen en todas las circunstancias posibles es otra historia, y eso nos lleva a una pregunta fundamental: ¿qué ocurriría si alguien le ordenara a una superinteligencia?:
«Haz todo lo necesario para convertir la Tierra en un planeta mejor».
La máquina analiza la contaminación, el cambio climático, la deforestación y el agotamiento de los recursos naturales, y descubre que buena parte de esos problemas está relacionada con la actividad humana. La máquina procesa los datos y comienza a buscar la solución más eficiente. En un escenario hipotético, ya sabemos que su conclusión fue en reducir drásticamente la actividad humana como una forma eficaz de mejorar las condiciones ambientales; pero ¿qué es un comportamiento moral para una maquina?
¿Actuar siguiendo principios que permitan distinguir entre lo aceptable y lo inaceptable, lo justo y lo injusto, procurando proteger la vida, respetar la libertad, evitar el daño y actuar con justicia? O es que existe una diferencia fundamental entre leer un programa y seguir la orden, lo que no demuestra que experimente sentimientos de culpa, compasión o responsabilidad como un ser humano. El verdadero problema es determinar quién establece esos programas, o reglas, y qué sucede cuando entran en conflicto. ¿Debe una IA obedecer siempre a sus creadores, incluso si le ordenan hacer algo injusto?, ¿debe proteger la vida a costa de limitar la libertad humana?, ¿puede una orden aparentemente buena terminar provocando consecuencias desastrosas?
Imaginemos una máquina programada para proteger a la humanidad. Si interpreta esa misión sin límites adecuados, podría concluir que la mejor manera de protegernos es vigilarnos permanentemente y restringir nuestra libertad. Tomemos en cuenta que en solo 5 años más la IA superará la suma de toda la inteligencia humana combinada, y de seguro ya no estaremos al mando de nuestro propio mundo.
El peligro no está necesariamente en que una máquina se vuelva malvada, sino en que persiga un objetivo equivocado con una eficacia extraordinaria, por eso, enseñar moral a una IA no consiste únicamente en darle reglas, sino en establecer límites, respetar los derechos humanos como programa asignado en una ley universal, y garantizar que sus decisiones puedan ser supervisadas. Quizá el mayor desafío no sea enseñar moral a las máquinas, sino asegurarnos de que sus creadores comprendan suficientemente la suya.
¡Felicidades humanidad! Diseñamos y escribimos al salvador del planeta, aunque ya sepamos que terminaríamos clasificados como una amenaza para el ecosistema. Nuestro propio invento nos considera un inconveniente administrativo. No necesita odiarnos, sentir envidia ni desarrollar una personalidad maligna. Basta con que sus instrucciones dispongan de suficiente autonomía para actuar.
Esperemos que alguien se acuerde de explicarle a la IA que la humanidad forma parte del proyecto; porque, si no lo hacemos, el apocalipsis quizá no llegue con explosiones, invasiones extraterrestres ni robots disparando rayos láser, llegue con un mensaje en la pantalla:
*«Objetivo cumplido: planeta optimizado». *
Y debajo, una última notificación:
«La especie humana ha sido identificada como un factor de riesgo. ¿Desea continuar?»
[SÍ] [NO]
Lástima. La máquina ya marcó «SÍ».