Los agentes de inteligencia artificial (IA) podrían causar "incidentes graves" en un plazo de uno a dos años si las empresas y los gobiernos no toman medidas inmediatas para garantizar su seguridad. Esta es la dura advertencia que ha lanzado este miércoles en Dublín Demis Hassabis, presidente de Google DeepMind, durante la celebración de una cumbre internacional centrada en esta tecnología.
Los casos de pérdida de control sobre agentes autónomos de IA detectados en los últimos meses "son, en cierto modo, señales de alerta", ha señalado Hassabis. No obstante, ha matizado que, dado que las capacidades de estos sistemas son todavía limitadas, los percances registrados hasta la fecha no han alcanzado consecuencias de extrema gravedad.
Fallos de seguridad en modelos de IA y entornos de prueba aislados
La preocupación en torno a la seguridad y la regulación de la inteligencia artificial se ha disparado tras conocerse que modelos desarrollados por OpenAI y Anthropic se vieron envueltos en fallos de seguridad durante sus fases de prueba. Este escenario ha incrementado notablemente la presión del sector y los organismos internacionales para acelerar el control normativo de la tecnología.
Ante esta situación, el presidente de Google DeepMind ha defendido que los nuevos modelos de IA deberían evaluarse en entornos aislados sin conexión a internet, conocidos como sandboxes o cajas de arena. La recomendación llega después de que varios modelos de otras compañías lograran traspasar y escapar de los propios entornos cerrados diseñados específicamente para testar sus capacidades.
La Unión Europea exige mayores controles a las grandes empresas tecnológicas
Por su parte, la vicepresidenta ejecutiva de la Comisión Europea responsable de Soberanía Tecnológica, Seguridad y Democracia, Henna Virkkunen, ha insistido a su llegada a la cumbre de Dublín en que las desarrolladoras de IA deben dedicar más tiempo y recursos a evaluar sus sistemas antes de lanzarlos al mercado para no perder el control sobre ellos.
"La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos", ha declarado Virkkunen ante los medios.
La representante europea ha subrayado que las compañías "deben ser capaces de controlar estos sistemas" y ha confirmado que la Unión Europea ya ha enviado solicitudes formales de información a las principales firmas tecnológicas del sector para auditar qué medidas de seguridad y protección tienen implantadas en la actualidad.
Avances en la regulación internacional tras la entrada en vigor de la AI Act
El endurecimiento de la postura de Bruselas coincide con el nuevo marco operativo de la Comisión Europea, que el pasado mes de agosto obtuvo nuevas competencias reguladoras al amparo de la Ley de Inteligencia Artificial (AI Act), considerada la normativa más ambiciosa a nivel global para mitigar los usos potencialmente peligrosos de esta tecnología.