Nvidia ha defendido el papel que juegan los sistemas de inteligencia artificial abiertos en la mejora de la ciberseguridad con el lanzamiento de 'Open Secure AI Alliance', una nueva iniciativa que cuenta con el respaldo de importantes empresas tecnológicas, como Microsoft, SpacexAI, Cisco y Cloudflare.
La reflexión que ha dejado el reciente 'hackeo' de HuggingFace, ejecutado completamente por modelos de OpenAI que lograron salir de un entorno aislado de pruebas de manera autónoma, ha desembocado en una defensa del código abierto para mejorar la ciberseguridad en la inteligencia artificial.
Este 'hackeo' se ve, de hecho, como un ejemplo de la importancia del código abierto en la IA, porque "cuando las herramientas de IA cerradas, incapaces de distinguir entre atacantes y defensores, bloquearon un análisis forense esencial, Hugging Face ejecutó el modelo GLM 5.2 de ponderación abierta en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión".
Así se destaca en el manifiesto liderado por Nvidia con el que se presenta 'Open Secure AI Alliance', una iniciativa que busca facilitar herramientas abiertas y de vanguardia a las empresas de ciberseguridad de todo el mundo con el objetivo de reforzar la respuesta ante las nuevas amenazas que plantea la IA.
Para ello, se destaca que los sistemas y los modelos de inteligencia artificial abiertos aumentan la transparencia al permitir su inspección, pero también al facilitar que puedan adaptarse y ejecutarse en una infraestructura propia para proteger los datos.
El manifiesto no rechaza el uso de modelos cerrados, pero defiende el uso de modelos abiertos como complemento y como una forma de "democratizar las capacidades defensivas". "posibilita una defensa masivamente distribuida, impulsada por la comunidad y autogestionada, sin un único punto de fallo", apostilla.
Open Secure AI Alliance está liderada por Nvidia, y en ella participan empresas especializadas en computación en la nube, ciberseguridad, 'software' empresarial, así como fundaciones de código abierto e investigación de IA. Microsoft, HuggingFace, Adobe, Linux Fundation, Cloudflare, TrendAI, Salesforce, IBM, Cisco y SpacexAI figuran entre los 37 socios fundadores.
El valor del código abierto también se ha subrayado recientemente como el impulsor del liderazgo de Estados Unidos en la carrera de la inteligencia artificial, con una defensa hecha por empresas como Microsoft, Perplexity, Mistral y Nvidia, que ven que los modelos de peso abierto pueden hacer que la inteligencia artificial sea más accesible, esté ampliamente disponible y permita avanzar en ciberseguridad.
Qué se puede interpretar desde Latinoamérica
Marcela Mercapidez, CEO de la empresa uruguaya de ciberseguridad Sabyk, afirmó que el documento firmado por 25 empresas sobre modelos abiertos de inteligencia artificial "es un poco un documento de lobby". Señaló que "ninguno de los 25 firmantes vende acceso a un modelo frontera cerrado" y remarcó que OpenAI, Anthropic y Google no firmaron.
Mercapidez sostuvo que el contexto en el que se difundió el documento "tampoco es neutro", al señalar que se conoció días después de que trascendiera que la administración estadounidense evalúa restringir modelos abiertos chinos y sancionar a laboratorios por presunta apropiación de propiedad intelectual. "Los incentivos están declarados. Nada de esto invalida el argumento, pero obliga a leerlo con criterio", expresó.
La ejecutiva indicó que, desde América Latina, la discusión debe centrarse en sus efectos. "No somos parte de la discusión regulatoria de Estados Unidos. Somos parte de sus consecuencias", dijo. Agregó que la elección de dónde ejecutar modelos de inteligencia artificial implica decisiones sobre soberanía de datos, continuidad operativa y dependencia de proveedor.
Además, explicó que la posibilidad de descargar, evaluar y ejecutar modelos en infraestructura propia permite que bancos, hospitales y organismos públicos mantengan el control sobre información sensible sin depender de un único proveedor extranjero. No obstante, advirtió que "abierto no significa seguro".
Mercapidez afirmó que un modelo descargado "es un componente de cadena de suministro y debe gobernarse como tal", con controles sobre origen, licencia, procedencia de los datos de entrenamiento, evaluación previa a producción, versionado, monitoreo y planes de contingencia. "Sin eso, 'soberanía' es solo una palabra que suena seria pero vacía", concluyó.
Europa Press
