Nvidia (NVDA) puso en marcha la Open Agent Safety Platform, una iniciativa orientada a ayudar a los desarrolladores de inteligencia artificial a reforzar los mecanismos de seguridad en sus agentes autónomos. El anuncio llega apenas días después de que el CEO de la compañía, Jensen Huang, cuestionara públicamente el enfoque de seguridad adoptado por Anthropic y OpenAI.
"El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA", declaró Huang en el comunicado de prensa de la empresa. El ejecutivo agregó: "A medida que seguimos descubriendo la frontera de las capacidades de la IA, debemos acelerar el descubrimiento en la frontera de la seguridad de la IA". Y remató con una frase que resume la filosofía detrás del nuevo producto: "La seguridad y la protección requieren ingeniería de pila completa".
La taiwanesa Nvidia se cuela en la televisión de un Wall Street que sube y baja al compás de la guerra comercial.
AFP
La seguridad en la inteligencia artificial
La semana pasada, Huang se sentó con el periodista Ezra Klein, de The New York Times, para discutir las recientes advertencias del CEO de Anthropic, Dario Amodei, y del CEO de OpenAI, Sam Altman, quienes sugirieron que el ritmo actual de desarrollo de la inteligencia artificial podría representar una amenaza para la humanidad.
En esa entrevista, Huang fue directo respecto a lo que considera una contradicción en el discurso de esas compañías: "Si tu producto no está listo para lanzarse, no lo lances", le dijo a Klein. Y añadió, con un dejo de ironía: "Es la primera vez que escucho a una empresa o a un CEO decir que necesito... que se alivien las leyes de responsabilidad de los productos para poder marcar mi propio ritmo".
El directivo de Nvidia describió en repetidas ocasiones la postura de los laboratorios líderes en IA como "extraña" ("odd", en el original en inglés), dado que, a su juicio, esas mismas empresas encabezan la innovación en el sector mientras los riesgos de seguridad podrían mitigarse con tecnología existente.
El plan de Nvidia
"Nadie está construyendo más capacidad de cómputo hoy que la gente que pide que se les frene", afirmó Huang en la charla con Klein. "Me parece extraño... Conozco a mucha gente en esos dos laboratorios que dedica su vida a hacer un buen trabajo. Ellos saben lo que pasó. Yo sé que ellos saben lo que pasó. Sé que saben cómo arreglarlo, y sé que lo están arreglando".
Según la compañía, la Open Agent Safety Platform busca establecer protocolos de seguridad que puedan prevenir las alarmantes brechas que se han revelado en laboratorios rivales en los últimos meses.
"NVIDIA Open Agent Safety Platform reúne a la industria, a investigadores y a organizaciones del sector público para compartir mejores prácticas, alinear métodos de evaluación y fomentar la cooperación internacional", explicó Huang en el comunicado. "Juntos, podemos elevar el estándar de la seguridad global de la IA".
Durante la conversación con Klein, Huang planteó que los laboratorios de IA simplemente deberían reequilibrar sus prioridades en lugar de pedir una desaceleración generalizada.
El director ejecutivo de Nvidia, Jensen Huang, y el presidente Donald Trump.
AFP
Jensen Huang con Donald Trump
"Entonces, cuando digo que necesitamos acelerar la tecnología de la IA, la gente piensa, por alguna razón, que la seguridad no es parte de eso", sostuvo el CEO de Nvidia. "La seguridad es parte de eso. El alineamiento es parte de eso. La evaluación es parte de eso: las barreras de protección, el sandboxing, la tecnología de aislamiento, la tecnología de monitoreo, la telemetría, la tecnología de monitores externos de IA... todo eso es tecnología de IA. Aceleren eso a fondo".
Klein le respondió señalando que, si a los miembros más preocupados dentro de esos laboratorios se les garantizara destinar un 80% de su capacidad de cómputo a seguridad y alineamiento —en lugar de a la expansión de capacidades—, se sentirían mucho más tranquilos. La respuesta de Huang fue escueta: "Sí, ¿qué les impide hacerlo?".
El lanzamiento se produce pocos días después de que Huang participara en una cena de Estado organizada por el presidente Donald Trump en la Casa Blanca en honor al presidente chino Xi Jinping, en un encuentro donde, según trascendió, se discutieron temas de comercio e inteligencia artificial entre ambas potencias.
Con este movimiento, Nvidia busca posicionarse no solo como el principal proveedor de hardware para el entrenamiento de modelos de IA, sino también como un actor central en la definición de los estándares de seguridad de la industria, un terreno hasta ahora dominado discursivamente por los propios laboratorios que desarrollan los modelos, como Anthropic y OpenAI.
