Con la encíclica Magnifica Humanitas (“Humanidad Magnífica”), el Papa Leo XIV irrumpe en el debate mundial sobre los efectos de la inteligencia artificial, una tecnología que comenzó a transformar el mundo y amenaza con desplazar a los humanos en decisiones clave. El pontífice reclama una regulación robusta y exige que la IA sea “desarmada” para proteger a la sociedad de sus riesgos.
“Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad”, escribió el papa en la encíclica, como se conoce a estos documentos en que el que el líder de la Iglesia aborda los grandes temas que definen el futuro o marcan el presente. La inteligencia artificial “no es neutral”, subrayó y destacó la amenaza de que “se concentre en pocas manos”.
Leo XIV, de 70 años, matemático y primer papa nacido en Estados Unidos, encuentra su inspiración en León XIII, el pontífice que a fines del siglo XIX enfrentó la revolución industrial con la encíclica Rerum Novarum (“De las cosas nuevas”). No solo tomó su nombre en homenaje, sino que estableció un puente: si entonces la producción mecanizada transformó el mundo del trabajo, hoy la inteligencia artificial introduce una disrupción semejante sobre los trabajadores contemporáneos.
El papa, quien presentó la encíclica en un acto en el Vaticano, advirtió que el verdadero peligro surge cuando la tecnología comienza a decidir qué tiene valor y qué puede ser descartado, reduciendo a las personas a engranajes de un sistema obsesionado con la eficiencia. Resaltó que la innovación no es, por sí misma, enemiga de la humanidad, pero alertó que la búsqueda de beneficios no puede justificar políticas que sacrifiquen empleos de manera sistemática.
“Una sociedad que garantiza empleo solo a una pequeña fracción de la población, pese a tener un alto nivel de desarrollo técnico, corre el riesgo de exponer a muchos a la inactividad forzada, la falta de responsabilidad y la ausencia de tareas y estímulos diarios, lo que resulta en un empobrecimiento humano y cultural”, dijo.
PAPA-ENCICLICA-IA-2
El papa León XIV, este lunes en el Vaticano.
EFE
Leo XIV reclamó una regulación gubernamental sobre las empresas que impulsan el desarrollo de la inteligencia artificial, protección y programas de reconversión para los trabajadores cuyos empleos están en riesgo, educación que ayude a los estudiantes a pensar críticamente sobre la tecnología, medidas para resguardar a los niños frente a contenidos violentos, hipersexualizados o falsos generados por la IA, y salvaguardas que aseguren que las decisiones sobre el uso de armas permanezcan bajo responsabilidad humana.
La guerra
En el texto, León denunció la “cultura del poder” que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que “no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre el papa estadounidense y el gobierno del presidente de Estados Unidos, Donald Trump, que ha trabajado de manera agresiva para desregular el desarrollo de la IA.
“Todos los sistemas utilizados en un contexto bélico deben garantizar la posibilidad de reconstruir los procesos de decisión, de modo que la responsabilidad y la culpa no se diluyan en la máquina”, señaló el papa en su encíclica.
“La IA no elimina la inhumanidad intrínseca del conflicto; de hecho, solo puede provocar el conflicto más rápidamente y volverlo más impersonal”, dijo el papa. Advirtió contra la posibilidad de que algunos “consideren el conflicto armado como una forma eficaz de desviar la atención de los problemas internos y una herramienta cínica para gestionar dificultades”.
La publicación de la encíclica se produce tras las críticas de Leo XIV a la campaña militar de Estados Unidos en Irán, que provocaron la ira de Donald Trump y abrieron un fuerte debate con Washington. En ese contexto, el vicepresidente JD Vance y el secretario de Defensa Pete Hegseth intentaron justificar la ofensiva apelando a la teoría católica de la “guerra justa”, pero el Vaticano rechazó esa interpretación y el papa volvió a desautorizarla en su escrito.
“Sin perjuicio del derecho a la legítima defensa en el sentido más estricto, es importante afirmar que la teoría de la guerra justa, que con demasiada frecuencia se ha utilizado para justificar cualquier tipo de guerra, está ahora obsoleta”, escribió el papa.
Anthropic de invitado
La reflexión del papa sobre el impacto de la inteligencia artificial llega en un momento marcado por la aparición de Mythos, una herramienta desarrollada por la empresa Anthropic capaz de detectar fallas no identificadas en sistemas informáticos. Su potencial ha despertado temores por el uso que podría tener en la penetración de sistemas de seguridad.
El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA. Christopher Olah, cofundador de Anthropic ha chocado con la administración Trump por el uso de su tecnología en la guerra y la vigilancia.
En febrero, el gobierno de Trump ordenó a todas las agencias de Estados Unidos que dejaran de usar la tecnología de Anthropic después de que esta se negara a permitir al ejército estadounidense un uso sin restricciones. Anthropic, que se presenta como la empresa de IA que pone la seguridad y la mitigación de riesgos en primer plano de su investigación, ha demandado al gobierno.
Olah, quien fue invitado por el Vaticano a la presentación de la encíclica, señaló en un discurso que “necesitamos que más sectores del mundo —comunidades religiosas, sociedad civil, académicos, gobiernos— hagan lo que su Santidad ha hecho aquí: tomarse esto en serio, analizarlo detenidamente e impulsar los acontecimientos en una dirección mejor”.
el-cofundador-de-la-empresa-estadounidense-de-TFJN5X6EWFCRLC7UTTES3TH32Y
“Necesitamos críticos informados que adviertan a los laboratorios cuando estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”, agregó.
Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente del consejo de supervisión de Meta, dijo a Asociated Press que “estoy convencido de que esto demostrará ser un documento definitorio para nuestra era, un documento profundo y profético”.
“El papa León ofrece una voz clara, integral y coherente que nos insta a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos”, afirmó.
