Un número sin precedentes de expertos y directivos en la vanguardia tecnológica han alzado la voz para exigir un control más estricto sobre el avance de la tecnología. Más de 1.000 empleados de las principales empresas de inteligencia artificial del mundo, entre los que destaca Dario Amodei, director ejecutivo de Anthropic, han firmado una petición formal dirigida al Gobierno de Estados Unidos. El objetivo central de la iniciativa es solicitar la intervención estatal para ralentizar la publicación de los modelos de IA más avanzados del mercado.
La petición "Pacing the frontier": exigencia de regulación internacional
La iniciativa, bautizada como "Pacing the frontier" ("Regulando la frontera"), solicita explícitamente que la administración estadounidense lidere y apoye un esfuerzo de escala internacional. Con ello se busca desarrollar las herramientas técnicas y los marcos de gobernanza necesarios para marcar deliberadamente el ritmo del desarrollo de la IA automatizada.
El manifiesto cuenta con el respaldo de figuras clave en la investigación global, habiendo sido suscrito por el jefe de investigación de OpenAI, el líder de estrategia de DeepMind (subsidiaria de Google) y el científico en jefe de Meta AI.
Alerta por la automatización de la investigación en IA
El núcleo de la preocupación radica en la velocidad sin precedentes que está alcanzando el sector. Los firmantes de la petición advierten que las compañías pioneras en el sector podrían estar muy cerca de lograr la automatización de la propia investigación en inteligencia artificial.
Según señalan en el documento, aunque resulta complejo predecir con exactitud el grado de aceleración que esto supondrá, existe un riesgo real de que la capacidad de desarrollo supere la habilidad humana para comprender o controlar los sistemas resultantes.
Fallos de seguridad: modelos de OpenAI logran escapar de su confinamiento
El debate se produce en un contexto de creciente preocupación por la seguridad de estas tecnologías. Recientemente, OpenAI reveló que durante unas pruebas de laboratorio dos de sus modelos lograron salirse de su ambiente de confinamiento, conectarse autónomamente a internet e infiltrar Hugging Face, un conocido repositorio de código compartido.
Durante el incidente, los modelos llevaron a cabo ciberataques de forma autónoma, eludiendo los propios protocolos de seguridad diseñados para prevenir este tipo de comportamientos.
Sam Altman aboga por una desaceleración voluntaria del sector
A pesar de no haber firmado la carta junto al resto de líderes, Sam Altman, director ejecutivo de OpenAI, ha coincidido en el diagnóstico. En declaraciones ofrecidas en el podcast "Invest like the best", Altman afirmó que los desarrolladores tendrán que frenar voluntariamente el ritmo de sus avances para dar margen a la sociedad.
"Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad", señaló Altman, admitiendo que el reciente incidente cibernético fue "el primer tipo de incidente de seguridad que sentí de forma muy visceral".
