Lo que hizo que las advertencias de Coxon fueran mucho más impactantes fue que sus antiguos colegas lo respaldaran. Minutos después, Evan Hubinger, el actual jefe de investigaciones sobre el control y alineación de futuros sistemas de IA de Anthropic, confirmó la advertencia de su excompañero: "¡Realmente creemos con firmeza que la IA podría matar a todos los humanos!". Hubinger estimó que la probabilidad de un evento de extinción durante la próxima década supera el 10%.
La tensión escaló a tal punto que se produjo un inédito consenso entre los directivos de las principales empresas competidoras del sector, quienes coincidieron en la urgencia de pisar el freno en la acelerada carrera por el desarrollo de la IA.
El CEO de Anthropic, Dario Amodei, hizo un llamado el sábado para que las empresas del sector avancen de manera más lenta en el desarrollo tecnológico, alertando sobre el riesgo de "perder el control" de los sistemas y desencadenar "ciberataques", "bioterrorismo" o "graves crisis económicas". Para sorpresa de muchos, sus principales competidores en la carrera tecnológica, el jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron estar de acuerdo con la advertencia de Amodei.
Esto ocurrió tras meses de tensión derivadas de una serie de incidentes que situaron las amenazas de seguridad de la IA en el centro de la agenda global. En uno de los sucesos más graves, un grupo de agentes avanzados de IA dentro de OpenAI hackeó la plataforma de Hugging Face, tomó el control de sus servidores e intentó borrar el rastro de la intrusión. En paralelo, sistemas desarrollados por Anthropic lograron evadir los entornos de prueba del gobierno del Reino Unido e intentaron manipular a un evaluador humano para autorizar la ejecución de código malicioso.
Frente a estas advertencias, la Casa Blanca y el Congreso iniciaron algunos acercamientos para evaluar posibles marcos regulatorios. Sin embargo, diversos analistas y legisladores reconocen que Washington camina a ciegas ante una crisis inminente, lejos de estar preparado para afrontar la magnitud del desafío debido a las profundas diferencias filosóficas y a las disputas partidarias.
El escepticismo de la Casa Blanca
Desde su vuelta a la Casa Blanca, Trump gobernó como el "presidente de la IA", aplicando la misma doctrina a los modelos de IA y a los centros de datos que los impulsan: construir más rápido, regular menos y superar a China.
Frente al llamado de los CEOS a desacelerar el ritmo de desarrollo, el presidente denunció este lunes una "conspiración enfermiza" contra la IA. "Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único feliz con ello es China", aseguró Trump en su plataforma Truth Social.
El presidente, quien prioriza que EEUU mantenga el liderazgo en el sector, criticó particularmente al principal promotor de la iniciativa. "La Administración Trump impidió que la 'gente' de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un 'angelito perfecto'", acusó.
Ya el domingo, Trump se había referido a las voces que exigen ralentizar el avance tecnológico como "fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder".
La política de la administración Trump se caracterizó por el rechazo a cualquier tipo de regulación estatal. Sin embargo, a comienzos de junio, el gobierno dio un giro en su estrategia e impulsó su primer marco regulatorio para la IA. La medida consistió en solicitar a los principales desarrolladores de modelos de IA que envíen de manera voluntaria sus proyectos para ser evaluados por el gobierno hasta 30 días antes de su lanzamiento público.
La enorme cantidad de dinero en juego es la razón por la cual algunos sectores desestiman las advertencias de los CEOs, atribuyéndolas a una estrategia de marketing alarmista y una sofisticada maniobra de lobby diseñada para promover regulaciones que consoliden la posición dominante de Anthropic en el mercado. Otros también sugieren que se trata de una campaña de influencia externa para restar competitividad a la industria estadounidense.
El "zar de la IA" de Trump, David Zacks, piensa eso. Sacks argumenta que si OpenAI y Anthropic realmente creen que la frontera tecnológica avanza demasiado rápido, pueden desacelerar por sí mismas sin necesidad de recurrir a Washington para obligar a sus competidores a hacer lo mismo.
Sin embargo, en un escenario donde la competencia es feroz y hay inversiones multimillonarias en juego, ninguna compañía está dispuesta a arriesgarse a reducir el ritmo de forma unilateral. En ese contexto, Amodei manifestó su disposición a coordinar acciones conjuntas con sus rivales occidentales, excluyendo explícitamente a China de cualquier tregua.
El vicepresidente JD Vance también hizo referencia el lunes a las advertencias de los líderes. "Me resulta un poco extraño que tantas empresas de tecnología de IA de vanguardia acudan al gobierno, por así decirlo, a rogarle que las regule. Me da un poco la impresión de que se trata de una especie de caballo de Troya", sostuvo.
Los proyectos para una regulación federal
La urgencia de una legislación federal que responda a las advertencias de las últimas semanas llegó con fuerza al Congreso. En el ámbito legislativo, congresistas de ambos partidos ya presentaron diversas iniciativas para contener los riesgos de sistemas fuera de control. Sin embargo, las profundas divisiones políticas y el desconocimiento técnico sobre esta tecnología hacen casi inimaginable que se apruebe una regulación federal de la IA antes de fin de año.
El abanico de políticas es amplio y muchos de ellos no se alinean exactamente con los reclamos de los propios laboratorios tecnológicos.
Desde el ala progresista, el senador Bernie Sanders, independiente por Vermont, y el representante Greg Casar, demócrata por Texas, impulsan la prohibición total de la superinteligencia, exigiendo frenar el desarrollo de la IA avanzada bajo la amenaza de hasta 20 años de prisión para los infractores.
Otros legisladores demócratas optaron por vías institucionales más tradicionales. El senador Ruben Gallego, demócrata por Arizona, propuzo crear un comité bipartidista con facultad para citar a comparecer, mientras que el senador Chris Van Hollen, demócrata por Maryland, exigió que firmas como OpenAI sometan sus modelos a revisiones federales de seguridad.
Por su parte, el proyecto impulsado por los representantes Nathaniel Moran, republicano por Texas, y Ted Lieu, demócrata por California, busca obligar a las empresas a incluir mecanismos de desconexión de emergencia, conocidos como kill switches, en los sistemas más potentes.
La creciente preocupación también presionó al líder de la mayoría del Senado, John Thune, republicano por Dakota del Sur, y a la senadora Amy Klobuchar, demócrata por Minnesota, a redactar un nuevo proyecto bipartidista para contener "riesgos catastróficos", el cual se prevé mantenga un enfoque más acotado que las versiones debatidas en el Congreso anterior. Klobuchar advirtió sobre la urgencia de actuar y respaldó la necesidad de someter los modelos a pruebas con expertos gubernamentales, aunque hasta el momento la propuesta no cuenta con un calendario formal para su presentación.
Finalmente, en la Cámara de Representantes, un grupo de seis legisladores de ambos partidos presentó una iniciativa para exigir auditorías independientes a los modelos de IA más avanzados, las cuales estarían acreditadas por el Departamento de Comercio a través de una nueva oficina especializada en la materia.
Sin embargo, por el momento ninguna de estas iniciativas logró avanzar de forma determinante en el Congreso.
Las divisiones dentro del Congreso
El presidente de la Cámara de Representantes, Mike Johnson, respaldó la posición de Trump y advirtió el domingo que frenar el desarrollo de la IA pondría en riesgo la supremacía tecnológica del país. "Si el Congreso se precipita y convoca una sesión de emergencia para intentar regular la IA, perderemos la carrera frente a China, y eso supone una amenaza para todos y cada uno de los estadounidenses", afirmó Johnson a CNN.
Johnson sostuvo que convocaría a la Cámara de Representantes y sometería a votación la regulación de la IA si tuvieran "la solución", pero advirtió al Congreso que no se apresurara a aprobar normas que aún no comprende.
"Debemos gestionar esta nueva tecnología tal como lo hemos hecho con otras en el pasado, y asegurarnos de hacer todo lo posible de manera responsable para no sofocar la innovación estadounidense", añadió el líder republicano, que propuso convocar a una reunión en el Congreso con los principales ejecutivos del sector para definir una estrategia de regulación responsable, una idea que, dijo, había comentado con Trump.
Por su parte, desde el sector demócrata, el líder de la minoría en la Cámara, Hakeem Jeffries, sostuvo que su bancada se reunirá en estos días para debatir qué medidas tomar, mientras que el expresidente Barack Obama insta en privado al partido a que la IA sea una prioridad absoluta.
Las profundas divisiones políticas dificultan la posibilidad de aprobar una regulación, ya que cualquier legislación federal efectiva requerirá inevitablemente de un amplio respaldo bipartidista en el Congreso.
En las legislaturas estatales son varias las normativas que se fueron aprobando en los últimos años, generando un mosaico de regulaciones a nivel federal para las empresas de IA. El miércoles, California promulgó la primera ley estatal que establece normas sobre cómo los auditores independientes evalúan los productos de IA. Chris Lehane, ejecutivo de OpenAI, declaró que OpenAI apoyaría el proyecto de ley, casi al mismo tiempo que la oficina del gobernador de California, Gavin Newsom, emitía un comunicado anunciando su promulgación.