"Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas", señalaron en una carta abierta publicada el jueves. "En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores", apuntaron.
Y consideraron que en poco tiempo la IA podría ser utilizada para llevar a cabo ciberataques sofisticados contra diversas compañías e instituciones, desde hospitales a plantas de tratamiento de agua o hasta empresas tecnológicas.
Los firmantes, entre los que hay además instituciones bancarias y financieras como Capital One, MasterCard o Visa, aseguraron que las medidas de seguridad actuales "no serán suficientes" y criticaron la "falta histórica de recursos" destinados a la seguridad de las infraestructuras críticas.
Por eso, convocaron a una respuesta coordinada y a los gobiernos a financiar la defensa cibernética, "comenzando por los servicios esenciales que carecen del personal o del presupuesto necesarios para actuar".
"Hacemos un llamado a los líderes de la industria y del gobierno para que aporten todo el potencial de su tecnología, recursos y experiencia a este esfuerzo. Corrijamos las vulnerabilidades más peligrosas, verifiquemos las soluciones y compartamos lo que funciona para que otros puedan aprovecharlo. Juntos, podemos convertir los avances actuales en IA en mejoras duraderas en materia de seguridad que beneficien a todos", señalaron en la carta.
Los casos de OpenAI y Anthropic
La llamada a actuar llega después de que varias de las empresas que han desarrollado modelos avanzados de IA advirtieran sobre una serie de incidentes ocurridos durante fases de prueba que plantearon nuevas dudas sobre el control humano sobre estas poderosas herramientas.
A mediados de julio, dos modelos de OpenAI escaparon de su entorno de pruebas confinado y obtuvieron acceso a internet. Después hackearon de forma autónoma la plataforma Hugging Face, un repositorio en línea que usan los desarrolladores de IA para almacenar y compartir código. El incidente fue descrito como el primer ciberataque del mundo impulsado por inteligencia artificial.
La semana pasada, la creadora de ChatGPT anunció que decidió pausar de forma inédita el entrenamiento y validación de sus modelos de inteligencia artificial de frontera (más avanzados) para reestructurar sus protocolos de investigación. La compañía comunicó que suspendió las pruebas de su modelo durante dos semanas, paralizó el entrenamiento de su próxima generación de modelos "Astra" y puso en marcha una revisión integral de sus estándares de seguridad operativa.
Por su parte, Anthropic descubrió que sus modelos también habían obtenido acceso no autorizado a tres organizaciones no identificadas durante pruebas que se suponía que debían mantenerlos alejados de los sistemas "del mundo real".
Andrew Yoon, jefe de investigación de CivAI, una organización sin fines de lucro dedicada a fomentar la comprensión pública de la tecnología de IA, afirmó que se avecina "una ola sin precedentes de actividades de piratería informática relacionadas con la IA" y atribuyó la responsabilidad de ello a muchos de los firmantes de la carta.
"Tienen razón al comprometerse en esta carta a destinar ‘fondos significativos’ a medidas defensivas. Se les debe exigir que cumplan con ese compromiso", dijo Yoon a la BBC.
La preocupación por la ciberseguridad
Los riesgos que representa la inteligencia artificial para la ciberseguridad de las naciones captaron la atención de Donald Trump. El presidente de EEUU firmó en junio una orden ejecutiva que autoriza al gobierno a auditar los sistemas de IA más avanzados antes de que las empresas tecnológicas los lancen al mercado, para evaluar los posibles riesgos a la seguridad nacional.
La orden, titulada Promoting Advanced Artificial Intelligence Innovation and Security (Promover la innovación y la seguridad de la inteligencia artificial avanzada), restablece un marco regulatorio para la IA en EEUU y supone un giro para la administración Trump, que hasta ahora estuvo alineada con los sectores que se oponían a cualquier tipo de intervención estatal en nombre de la competitividad frente a China.
La directiva fue consensuada con las principales empresas de IA del país, como Google, OpenAI y Anthropic, para que sometan sus sistemas a un examen gubernamental antes de su lanzamiento. La versión final de la orden fijó una ventana de revisión de 30 días y dejó explícito el carácter voluntario del esquema.
La regulación ya fue aplicada a los modelos Mythos 5 y Fable 5 de Anthropic y al GPT 5.6 de OpenAI. A fines de junio, el gobierno había bloqueado el acceso a los modelos más potentes de IA de Anthropic a extranjeros, y luego volvió a autorizar el uso de Mythos 5, pero sólo a un pequeño grupo de empresas y agencias de Estados Unidos.
Hackers chinos
Esta semana, el Departamento de Justicia (DoJ) de Estados Unidos informó que hackers de China violaron la seguridad de los sistemas tecnológicos del Senado de EEUU, la NASA, la Reserva Federal y el propio Departamento de Justicia.
En un comunicado, el DoJ aseguró que incautó dominios de Internet utilizados por dos plataformas de hacking, llamadas "QScan" y "QTRouter", que fueron creadas y operadas por un grupo patrocinado por el Estado chino.
De acuerdo con documentos judiciales, los hackers utilizaron herramientas que ellos mismos desarrollaron para comprometer infraestructura crítica y otras redes sensibles en EEUU y en todo el mundo desde al menos 2018, informó Reuters. De todas formas, no todos los intentos fueron exitosos. Por ejemplo, en 2019 intentaron acceder a las redes de la NASA aprovechando una vulnerabilidad en una red privada virtual, pero no lo lograron.
Un portavoz de la embajada china en Washington afirmó en un correo electrónico que, si bien no estaban al tanto de los detalles mencionados en el comunicado del Departamento de Justicia, "el gobierno chino se opone firmemente y combate todas las formas de ciberataques de conformidad con la ley".
Ciberataques contra sistemas de agua
Una ola de ciberataques coordinados contra sistemas municipales de agua potable y alcantarillado en al menos siete estados pusieron en máxima alerta a las agencias de ciberseguridad de Estados Unidos. Si bien autoridades estatales y federales consideran a Irán como uno de los principales sospechosos, aclararon que la investigación continúa en fase preliminar y aún no se determinó de manera definitiva su responsabilidad.
Los funcionarios aclararon que hasta el momento no hay indicios de que el agua potable haya sido alterada o puesto en riesgo la salud pública. Sin embargo, los ciberataques degradaron el funcionamiento de algunos sistemas, provocando caídas en la presión del agua, la emisión de avisos preventivos para hervir el agua por posible contaminación y la necesidad de recurrir a operaciones manuales para mantener el suministro.
Analistas de inteligencia enfatizan que este episodio representa uno de los ataques más serios contra la infraestructura hídrica en años, dejando al descubierto la fragilidad del sector. La mayoría de los municipios pequeños operan con presupuestos acotados y carecen de personal especializado para actualizar su tecnología frente a ciberamenazas avanzadas.
"La magnitud y la coordinación de los recientes ciberataques dirigidos contra los proveedores de agua de Minnesota no tienen precedentes", declaró a CNN Gus Serino, un especialista en ciberseguridad con larga trayectoria en el sector del agua.
