La regulación de la inteligencia artificial se convirtió en uno de los temas centrales de la agenda política en Estados Unidos, y el estado de California se sumó de lleno al debate. El gobernador Gavin Newsom firmó una orden ejecutiva orientada a acelerar la creación de un marco normativo para la industria de la IA, el cual contempla medidas como la implementación de un "botón de apagado" para los modelos más avanzados.
La medida se emite luego de que las advertencias de los CEOs de las principales empresas tecnológicas reavivaran la presión regulatoria en el país. Ante este escenario, Newsom busca consolidar un esquema de supervisión en el estado que alberga Silicon Valley y las sedes de los mayores laboratorios de desarrollo tecnológico.
En concreto, la norma adelanta un año la entrada en vigor de la Ley del Senado 813, que establece un sistema de certificación para organizaciones de verificación independientes, y de la Ley AB 1405, que crea un registro oficial de auditores de inteligencia artificial.
Además, la orden convoca a un panel de expertos en ciberseguridad y gobernanza tecnológica que tendrá como fecha límite el próximo 16 de noviembre para entregar un paquete de recomendaciones destinadas a endurecer la legislación estatal vigente.
Entre las prioridades encargadas al comité técnico destaca la exigencia de implementar un "interruptor de seguridad" capaz de desactivar de forma remota a aquellos modelos de vanguardia que pierdan el control o registren comportamientos anómalos. También se baraja la necesidad de actualizar las definiciones de eventos críticos de seguridad en los proyectos de ley para incluir incidentes en los que los modelos pierden el control.
La iniciativa retoma el espíritu del proyecto de ley SB 1047, vetado por el propio Newsom en 2024, pero responde ahora a incidentes recientes de alta gravedad, como el ciberataque autónomo sufrido por la plataforma Hugging Face. Según la nueva directiva, las empresas tecnológicas no solo deberán presentar sus protocolos de riesgo, sino que estos tendrán que ser auditados en tiempo real por supervisores independientes dentro de los propios laboratorios.
"Está pidiendo a gritos una regulación".
La medida busca contrarrestar la inacción del gobierno federal, explicó el gobernador, quien señaló que estas acciones envían una señal a una industria que, según sus palabras, "está pidiendo a gritos una regulación".
Recientemente, el presidente Donald Trump aseguró que su administración no regularía el desarrollo de la IA al priorizar la competencia con China por el liderazgo del sector, mientras que el Congreso se mantiene trabado y sin consenso para avanzar en una legislación nacional.
“El rotundo fracaso del gobierno federal a la hora de crear cualquier tipo de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación”, declaró Newsom en su comunicado de prensa.
Sin embargo, la administración Trump anticipaba que varios estados intentarían promulgar sus propias regulaciones sobre la materia. Por esta razón, el presidente firmó en diciembre de 2025 una orden ejecutiva destinada a restringir la facultad de los gobiernos estatales para legislar sobre inteligencia artificia.
A pesar de que una orden ejecutiva no posee la potestad constitucional para anular leyes estatales de forma directa, la norma instruye al fiscal general a impugnar ante la justicia las regulaciones locales que contradigan la política federal, al tiempo que contempla la retención de fondos federales para aquellos estados que mantengan marcos regulatorios incompatibles.
Las alertas de la industria
El debate sobre la regulación de la IA volvió a reactivarse hace unas semanas cuando el investigador Jacob Coxon, quien dejó OpenAI para incorporarse a Anthropic, renunció a su trabajo acusando a ambas empresas de competir por desarrollar tecnologías que "podrían matarnos a todos para finales de la década".
Lo que hizo que las advertencias de Coxon fueran mucho más impactantes fue que sus antiguos colegas lo respaldaran. Minutos después, Evan Hubinger, el actual jefe de investigaciones sobre el control y alineación de futuros sistemas de IA de Anthropic, confirmó la advertencia de su excompañero: "¡Realmente creemos con firmeza que la IA podría matar a todos los humanos!". Hubinger estimó que la probabilidad de un evento de extinción durante la próxima década supera el 10%.
La tensión escaló a tal punto que se produjo un inédito consenso entre los directivos de las principales empresas competidoras del sector, quienes coincidieron en la urgencia de pisar el freno en la acelerada carrera por el desarrollo de la IA.
El CEO de Anthropic, Dario Amodei, hizo un llamado el sábado para que las empresas del sector avancen de manera más lenta en el desarrollo tecnológico, alertando sobre el riesgo de "perder el control" de los sistemas y desencadenar "ciberataques", "bioterrorismo" o "graves crisis económicas". Para sorpresa de muchos, sus principales competidores en la carrera tecnológica, el jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron estar de acuerdo con la advertencia de Amodei.
Esto ocurrió tras meses de tensión derivadas de una serie de incidentes que situaron las amenazas de seguridad de la IA en el centro de la agenda global. En uno de los sucesos más graves, un grupo de agentes avanzados de IA dentro de OpenAI hackeó la plataforma de Hugging Face, tomó el control de sus servidores e intentó borrar el rastro de la intrusión. En paralelo, sistemas desarrollados por Anthropic lograron evadir los entornos de prueba del gobierno del Reino Unido e intentaron manipular a un evaluador humano para autorizar la ejecución de código malicioso.
La mirada desde Silicon Valley
OpenAI elogió el viernes la medida impulsada por el gobernador de California y destacó las actualizaciones que la compañía ha propuesto a la ley estatal de transparencia en IA, SB 53, como las auditorías de seguridad externas realizadas por terceros.
"Agradecemos el continuo interés del gobernador Newsom en fortalecer el enfoque del estado", declaró un portavoz de OpenAI en un comunicado difundido por POLITICO. "Esperamos colaborar con el gobernador Newsom en sus propuestas —así como con la Legislatura de California y el próximo gobernador del estado— en una política de IA más amplia el próximo año, impulsando salvaguardias sólidas y adaptables que puedan contribuir a un marco nacional coherente", agregó.
Por su parte, Amodei declaró el lunes pasado que, si bien un interruptor de apagado "podría ser una buena idea", no era la "solución definitiva".
Ahora que Newsom entra en su último año como gobernador, la tarea de convertir esas recomendaciones en ley recaerá en gran medida sobre su sucesor, probablemente el favorito demócrata Xavier Becerr .
El viernes, Becerra dio a entender que retomaría la iniciativa, publicando: "Necesitamos verdaderas salvaguardias para las empresas que se precipitan hacia la superinteligencia antes de que alguien haya demostrado que puede controlarla".
