Durante la Cumbre Internacional sobre Inteligencia Artificial celebrada en Dublín, la capital irlandesa, los líderes de las grandes empresas tecnológicas como Google DeepMind, Microsoft y OpenAI, junto a altas autoridades de la Unión Europea (UE), lanzaron un llamado urgente para reforzar la seguridad de la IA.
La creciente autonomía de los sistemas de inteligencia artificial y la multiplicación de incidentes operativos en 2026 encendieron las alarmas de la comunidad internacional en la Cumbre sobre IA de Dublín, un encuentro que reunió este miércoles a más de 1.500 líderes tecnológicos y responsables políticos.
Organizada por la presidencia irlandesa del Consejo de la Unión Europea, el encuentro estuvo marcado por un consenso inédito entre competidores y reguladores sobre la urgencia de establecer marcos normativos estrictos, mecanismos de desconexión obligatorios y pruebas de seguridad profundas para evitar que los avances técnicos sobrepasen el control humano en el corto plazo.
"Señales de alerta temprana" y la urgencia de instalar frenos de mano
El diagnóstico de los principales desarrolladores del sector fue tajante al calificar a 2026 como un "año aleccionador" para la industria debido al comportamiento anómalo de diversos modelos.
Demis Hassabis, premio Nobel de Química y presidente de Google DeepMind, advirtió sobre los riesgos inminentes de los sistemas autónomos más recientes. "Las pérdidas de control de agentes autónomos de IA observadas en los últimos meses son, en cierto modo, señales de alerta temprana", afirmó el investigador británico.
"Estos sistemas todavía no son muy potentes, por lo que los incidentes no son graves, pero podrían llegar a serlo de aquí a uno o dos años si no intensificamos los esfuerzos en materia de seguridad", afirmó el pionero de la investigación en IA, según consignó AFP.
Demis Hassabis, premio Nobel de Química y presidente de Google DeepMind.
AFP
La preocupación de Hassabis es compartida por el presidente de Microsoft, el estadounidense Brad Smith, otra de las figuras del sector tecnológico invitadas a Dublín.
El directivo de Microsoft defendió la idea de dotar a los agentes y sistemas de IA de "frenos de emergencia", es decir, mecanismos de desconexión obligatorios que permitan a los usuarios limitar los daños en caso de pérdida de control.
Para Smith, el problema radica en que la IA prácticamente no está regulada, a diferencia de un producto tan cotidiano como un envase de leche, sometido a todo tipo de controles. "Necesitaremos para la IA, como para todo lo demás en nuestras vidas, normas de seguridad reales y eficaces en las que el público pueda confiar", argumentó.
"Esta alergia que algunos en la industria tienen a la regulación es, francamente, algo que debemos superar", dijo Smith.
Presidente de Microsoft, Brad Smith.
AFP
La regulación europea
Por su parte, la finlandesa Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para Soberanía Tecnológica, Seguridad y Democracia, cuestionó la carrera frenética que libran las compañías por dominar el mercado.
"La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos", declaró Virkkunen.
"Deben ser capaces de controlar estos sistemas", afirmó, y añadió que la UE envió solicitudes de información a todas las principales empresas de IA para preguntarles qué medidas de seguridad y protección tienen implantadas.
La UE aprobó en 2024 un marco regulatorio integral para todos los países, la Ley de IA, que se convirtió en la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología. Este funciona mediante un enfoque basado en el riesgo, dividiendo los sistemas de IA en cuatro categorías principales: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo basado en el riesgo. Mientras mayor sea el riesgo, mayor será la regulación.
En agosto, la Comisión Europea obtuvo nuevas competencias reguladoras, ya que la normativa tiene una aplicación escalonada.
El contrapunto de la jornada lo aportó la norirlandesa Sarah Friar, directora financiera de OpenAI, quien coincidió en la importancia de fortalecer la seguridad y la transparencia, pero advirtió sobre los peligros de una sobrerregulación que termine paralizando al sector.
Friar defendió la necesidad de hallar "un equilibrio adecuado" que permita la evaluación externa de los modelos sin ralentizar la innovación occidental. "Queremos ser transparentes y permitir que personas cualificadas evalúen nuestros modelos, pero debemos asegurarnos de que eso no nos ralentice hasta el punto de quedarnos rezagados tecnológicamente frente a esos actores malintencionados", explicó Friar.
"Declaración de Dublín sobre IA Fiable, Segura y Soberana"
La cumbre de este miércoles concluyó con la presentación de la "Declaración de Dublín sobre IA Fiable, Segura y Soberana", una hoja de ruta promovida por el Gobierno irlandés con el respaldo de múltiples Estados miembros de la UE. El texto, acordado en los días previos a esta cita, reclama una mayor cooperación entre los países participantes en ámbitos como la adopción de la IA, la formación, la seguridad y las infraestructuras digitales.
El documento establece seis líneas de actuación para impulsar una inteligencia artificial fiable, segura y soberana en Europa. Entre sus objetivos figuran reforzar la cooperación entre los Estados miembros en materia de seguridad y gobernanza de esta tecnología; invertir en formación, investigación e infraestructuras digitales; y apoyar el crecimiento de empresas y soluciones innovadoras.
El documento plantea asimismo fortalecer las capacidades tecnológicas europeas y la autonomía estratégica de la UE, sin renunciar a la apertura internacional, y promover la colaboración con socios de confianza para garantizar que el desarrollo de la inteligencia artificial respete los valores democráticos y contribuya a generar confianza entre los ciudadanos.
