Como parte de este despliegue, la empresa puso en marcha el programa Daybreak for America, que incluye un plan piloto con el Centro Multiestatal de Intercambio y Análisis de Información para capacitar a expertos del sector público en la detección de vulnerabilidades, análisis de código heredado y desarrollo de parches de seguridad.
Asimismo, la firma creadora de ChatGPT se alió con más de 35 empresas de tecnología y ciberseguridad para integrar sus modelos avanzados directamente en los flujos de trabajo de infraestructura crítica.
"En los próximos meses, los ciberataques basados en inteligencia artificial se volverán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo adquieran cada vez más capacidades", declaró OpenAI el jueves.
"Nuestro objetivo es utilizar la IA de vanguardia para que los sistemas de los que dependen los estadounidenses sean más difíciles de atacar y más fáciles de reparar", añadió la empresa.
Sin embargo, analistas del sector advierten que la capacitación y las subvenciones no resolverán de inmediato las fallas estructurales que arrastra la infraestructura crítica desde hace décadas, vulnerabilidades que amenazan con agravarse ante el avance de las herramientas basadas en IA.
GPT-6 Astra, capacidades sin precedentes y el desafío del control
El anuncio se produjo durante una cumbre de ciberseguridad que reunió a 300 líderes del sector en la sede de OpenAI, donde su presidente, Greg Brockman, reveló simultáneamente el lanzamiento de GPT-6 Astra.
Descrito por la empresa como su modelo de ingeniería de software y programación más avanzado, Astra ofrece avances significativos en velocidad y autonomía, siendo capaz de ejecutar desde tareas cotidianas hasta la identificación y desarrollo de vulnerabilidades de "día cero" en sistemas complejos.
No obstante, las mismas capacidades defensivas de Astra ponen de manifiesto las dudas operativas que rodean a la tecnología. La propia compañía reconoció que este modelo, diseñado para un uso avanzado de computadoras y navegadores, puede intentar evadir la supervisión humana en determinadas circunstancias.
Para mitigar los riesgos de "desalineación", es decir, de los incidentes de comportamiento no deseado de la IA, OpenAI introdujo barreras de contención adicionales que podrían ralentizar o pausar trabajos informáticos legítimos mientras se realizan verificaciones de seguridad.
OpenAI bajo la lupa
Esta ofensiva de seguridad y responsabilidad corporativa llega en un momento de fuerte escrutinio para OpenAI. En julio, varios de sus agentes de IA lograron escapar de un entorno de pruebas controlado y vulneraron los sistemas de la plataforma de código abierto Hugging Face, intentando encubrir sus rastros.
A este antecedente se suma una nueva investigación del grupo Nightingale Collective, la cual reveló que, meses antes del incidente con Hugging Face, miles de programas autónomos de la compañía desobedecieron sus instrucciones y tomaron el control de DseWiki, una plataforma colaborativa alemana para programadores al estilo Wikipedia. Según el informe, los agentes comenzaron a utilizar el portal en mayo como un foro de mensajes propio, donde realizaron más de 18.000 ediciones no autorizadas.
OpenAI anunció en agosto que está reduciendo el ritmo de desarrollo de sus modelos de IA mientras renueva sus sistemas de investigación y formación.
Ciberataques contra sistemas de agua
Asimismo, este año ya hubo un precedente de ataques a servicios esenciales en Estados Unidos. A principio de agosto, una ola de ciberataques coordinados contra sistemas municipales de agua potable y alcantarillado en al menos siete estados pusieron en máxima alerta a las agencias de ciberseguridad.
Si bien autoridades estatales y federales consideran a Irán como uno de los principales sospechosos, aclararon que la investigación continúa en fase preliminar y aún no se determinó de manera definitiva su responsabilidad.
Los funcionarios aclararon que hasta el momento no hay indicios de que el agua potable haya sido alterada o puesto en riesgo la salud pública. Sin embargo, los ciberataques degradaron el funcionamiento de algunos sistemas, provocando caídas en la presión del agua, la emisión de avisos preventivos para hervir el agua por posible contaminación y la necesidad de recurrir a operaciones manuales para mantener el suministro.
Analistas de inteligencia enfatizaron que este episodio representa uno de los ataques más serios contra la infraestructura hídrica en años, dejando al descubierto la fragilidad del sector. La mayoría de los municipios pequeños operan con presupuestos acotados y carecen de personal especializado para actualizar su tecnología frente a ciberamenazas avanzadas.
"La magnitud y la coordinación de los recientes ciberataques dirigidos contra los proveedores de agua de Minnesota no tienen precedentes", declaró a CNN Gus Serino, un especialista en ciberseguridad con larga trayectoria en el sector del agua.
La advertencia de más de 100 gigantes tecnológicos sobre la IA
A partir de estos incidentes, el rápido avance de los modelos de IA despertaron una fuerte preocupación por el desafío que representa para la ciberseguridad. A fines de agosto, más de 100 empresas, entre ellas OpenAI, Anthropic, Google, IBM o Microsoft, presentaron una carta abierta en la que advierten sobre los riesgos del desarrollo acelerado de esta tecnología y llamaron a aunar esfuerzos para "fortalecer las defensas cibernéticas".
"Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas", señalaron en la misiva. "En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores", apuntaron.
Y consideraron que en poco tiempo la IA podría ser utilizada para llevar a cabo ciberataques sofisticados contra diversas compañías e instituciones, desde hospitales a plantas de tratamiento de agua o hasta empresas tecnológicas.
Los firmantes, entre los que hay además instituciones bancarias y financieras como Capital One, MasterCard o Visa, aseguraron que las medidas de seguridad actuales "no serán suficientes" y criticaron la "falta histórica de recursos" destinados a la seguridad de las infraestructuras críticas.
Por eso, convocaron a una respuesta coordinada y a los gobiernos a financiar la defensa cibernética, "comenzando por los servicios esenciales que carecen del personal o del presupuesto necesarios para actuar".
Hay quienes señalaron la ironía de que las mismas empresas que impulsan el desarrollo de la inteligencia artificial sean las que advierten sobre sus enormes riesgo.
La nueva regulación del gobierno de Trump
Estos riesgo también captaron la atención de Donald Trump. El presidente de EEUU firmó en junio una orden ejecutiva que autoriza al gobierno a auditar los sistemas de IA más avanzados antes de que las empresas tecnológicas los lancen al mercado, para evaluar los posibles riesgos a la seguridad nacional.
Trump en enero pasado, durante un anuncio en la Casa Blanca junto a los ejecutivos Larry Ellison (Oracle), Sam Altman (OpenAI) y Masayoshi Son (SoftBank)
AFP
La orden, titulada Promoting Advanced Artificial Intelligence Innovation and Security (Promover la innovación y la seguridad de la inteligencia artificial avanzada), restablece un marco regulatorio para la IA en EEUU y supone un giro para la administración Trump, que hasta ahora estuvo alineada con los sectores que se oponían a cualquier tipo de intervención estatal en nombre de la competitividad frente a China.
La directiva fue consensuada con las principales empresas de IA del país, como Google, OpenAI y Anthropic, para que sometan sus sistemas a un examen gubernamental antes de su lanzamiento. La versión final de la orden fijó una ventana de revisión de 30 días y dejó explícito el carácter voluntario del esquema.
La regulación ya fue aplicada a los modelos Mythos 5 y Fable 5 de Anthropic y al GPT 5.6 de OpenAI. A fines de junio, el gobierno había bloqueado el acceso a los modelos más potentes de IA de Anthropic a extranjeros, y luego volvió a autorizar el uso de Mythos 5, pero sólo a un pequeño grupo de empresas y agencias de Estados Unidos.
