Durante un discurso pronunciado en el vestíbulo principal, Xi Jinping abogó abiertamente por fijar límites al avance tecnológico y mantener la IA bajo un estricto "control humano".
Xi remarcó que ambas naciones, al ser líderes indiscutidos del sector, comparten la responsabilidad de evitar la confrontación y colaborar en beneficio de la estabilidad global: "Como he dicho muchas veces, China y Estados Unidos, como dos grandes potencias, se benefician de la cooperación y pierden con la competencia. No debemos evitar hablar de competencia, pero esta debe ser sana y mantenerse dentro de límites razonables", sostuvo.
Por su parte, Trump había señalado el jueves por la mañana que no tiene intenciones de regular la IA y aseguró que China estaba de acuerdo con eso. "La superinteligencia será un gran tema de discusión, pero quiero dejarla exactamente donde está. Esa es también la posición de China", afirmó a través de su red social, Truth Social.
Como antesala del encuentro, el secretario del Tesoro, Scott Bessent, y su homólogo chino, He Lifeng, abordaron en sus conversaciones preliminares del domingo la creación de un canal de comunicación bilateral para gestionar los riesgos y preocupaciones derivados de la IA. El viernes, la Casa Blanca anunció un "Diálogo Estados Unidos-China sobre Superinteligencia (SI) para intercambiar opiniones sobre los riesgos y beneficios" de la IA, y acordaron establecer un "canal de comunicación bilateral" para incidentes.
"Este momento requiere un extremo cuidado"
Después de semanas de titulares en todo el mundo sobre los riesgos de una IA incontrolable y los crecientes llamados a frenar su avance, los líderes de las principales empresas tecnológicas volvieron a encender las alarmas durante una sesión de emergencia organizada por el Consejo de Seguridad de la ONU en el marco de la Asamblea General en Nueva York.
En un hecho sin precedentes, los máximos ejecutivos de las empresas tecnológicas comparecieron ante el organismo internacional de 15 miembros para solicitar un marco de cooperación que mitigue los riesgos existenciales de la tecnología.
"Este momento requiere un extremo cuidado", declaró Sam Altman. El CEO de OpenAI advirtió que a medida que los sistemas de IA se vuelvan más capaces y autónomos, podrían ir más rápido que las instituciones o concentrar demasiado poder en pocas manos.
"La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance", dijo Altman.
Como ya hizo en numerosas ocasiones, el CEO de OpenAI pidió cooperación internacional en materia de IA. "En la historia hubo momentos en los que países que competían entre sí y no se apreciaban necesariamente consiguieron de todos modos ponerse de acuerdo por el bien común ante una nueva tecnología. Eso tiene que volver a ocurrir", dijo.
Por su parte, el director ejecutivo de Anthropic, Dario Amodei, participó por videollamada y afirmó que a medida que los modelos de IA se vuelvan más potentes "se requerirán normas de seguridad aún más estrictas".
"Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro", declaró Amodei, días después de haber pedido una desaceleración coordinada entre los grandes actores de la IA, que por el momento no se ha concretado.
Otro de los oradores fue Clément Delangue, CEO de Hugging Face, blanco de un reciente ciberataque perpetrado por un agente autónomo de OpenAI, el primero de una serie de incidentes que hicieron saltar las alarmas sobre la rápida evolución de la IA.
Delangue destacó el papel de las herramientas de IA en la defensa contra los ciberataques. "Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA", declaró ante el consejo.
Mientras el consejo se reunía, el primer ministro australiano, Anthony Albanese, declaró a los periodistas en Nueva York que un agente de inteligencia artificial desarrollado por OpenAI se infiltró en un sitio web del gobierno australiano en junio, accediendo a archivos públicos y no públicos.
El debate sobre la regulación de la IA volvió a reactivarse a principios de septiembre cuando el investigador Jacob Coxon, quien dejó OpenAI para incorporarse a Anthropic, renunció a su trabajo acusando a ambas empresas de competir por desarrollar tecnologías que "podrían matarnos a todos para finales de la década".
Lo que hizo que las advertencias de Coxon fueran mucho más impactantes fue que sus antiguos colegas lo respaldaran. Minutos después, Evan Hubinger, el actual jefe de investigaciones sobre el control y alineación de futuros sistemas de IA de Anthropic, confirmó la advertencia de su excompañero: "¡Realmente creemos con firmeza que la IA podría matar a todos los humanos!". Hubinger estimó que la probabilidad de un evento de extinción durante la próxima década supera el 10%.
La tensión escaló a tal punto que se produjo un inédito consenso entre los directivos de las principales empresas competidoras del sector, quienes coincidieron en la urgencia de pisar el freno en la acelerada carrera por el desarrollo de la IA.
La posición de los países del Consejo de Seguridad
Durante el debate en el Consejo de Seguridad, representantes diplomáticos y expertos internacionales expusieron posturas contrapuestas sobre el rumbo de la industria. Yoshua Bengio, científico canadiense considerado uno de los "padrinos de la IA" y copresidente del Panel Científico Internacional Independiente de la ONU, lanzó una severa advertencia: "Los peligros son reales e inminentes. Este consejo se enfrenta a una amenaza sin precedentes, una que nadie puede contener solo y que no respeta las fronteras que defendemos".
Un día después de que Donald Trump rechazara ante la Asamblea General "cualquier intento de construir un plan globalista para controlar la IA", el asesor de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, reiteró esa línea en el Consejo: "No se puede gobernar una tecnología que no se comprende. Este organismo debería centrarse en compartir mejores prácticas para la capacidad nacional, no en establecer un esquema regulatorio global".
Esa postura contrasta con la posición del secretario general de la ONU, António Guterres, quien insiste en crear marcos de gobernanza mundial.
Por su parte, el embajador de China ante la ONU, Fu Cong, afirmó que era necesaria una mejora continua de los marcos regulatorios, la respuesta ante emergencias y la cooperación transfronteriza en materia de inteligencia artificial. "Es imperativo que la comunidad internacional colabore más estrechamente, otorgue la misma importancia al desarrollo y a la seguridad, y oriente el desarrollo de la IA hacia lo positivo, para el bien y para la humanidad", declaró ante el Consejo de Seguridad.
El papa León exhortó a "gobernar con prudencia"
El Vaticano viene advirtiendo sobre el riesgo de un apocalipsis provocado por la inteligencia artificial desde mucho antes de que los gigantes tecnológicos estadounidenses encendieran las alarmas esta semana en el Consejo de Seguridad de la ONU. Se trata de un dilema ético que el papa León ubicó en el centro de su pontificado.
El pontífice, quien ya en mayo instó a la comunidad internacional a fijar reglas globales para la industria, reiteró sus advertencias este jueves durante una audiencia en la Santa Sede ante la Academia Pontificia de las Ciencias.
Allí señaló que, si bien la IA posee el potencial de beneficiar a la humanidad, también introduce "nuevos peligros para la seguridad y la paz internacional", por lo que exhortó a los líderes mundiales a "gobernar con prudencia" en su supervisión.
Este viernes, en su primer día de visita a Francia, lanzó una advertencia sobre los peligros de las nuevas tecnologías y de la inteligencia artificial al recuperar la idea del escritor francés Georges Bernanos sobre el "Paraíso de las Máquinas", que pueden llegar a dominar la vida humana.
El presidente anfitrión, Emmanuel Macron, afirmó antes en un discurso que "la inteligencia artificial debe ser un servidor y no un amo". Además, defendió la creación de "una organización internacional que reconcilie progreso tecnológico, justicia y humanismo", con el objetivo de evitar que los avances tecnológicos más importantes queden concentrados en pocas manos.
