Se ha integrado la nueva seguridad para menores de 18 años, lo que significa que si el modelo detecta que está tratando con un usuario menor de edad habilita límites
OpenAI ha lanzado dentro del programa Daybreak GPT-6 Astra, su modelo de seguridad más capaz y con más restricciones hasta la fecha, con el que, además, asegura que se puede hablar de inteligencia artificial general (AGI).
La compañía asegura que Astra es el primero de sus modelos que alcanza el nivel crítico de capacidad de ciberseguridad, que basa en un Marco de Preparación propio, con el que monitoriza y se prepara para hacer frente a los nuevos riesgos de daños graves que generan las capacidades de vanguardia de su IA.
En este sentido, GPT-6 Astra es capaz de encontrar vulnerabilidad de seguridad previamente desconocidas y desarrollar nuevas formas de explotarlas, incluso en sistemas protegidos, sin la supervisión de una persona, como explica en un comunicado.
En comparación con GPT-5.6 Sol, Astra es un modelo más robusto, lo que significa que resiste mejor los intentos por eliminar las restricciones que ha implementado OpenAI ('jailbreak'), así como a las inyecciones de mensajes ('prompt injection') y muestra un comportamiento mucho más alineado -que hace lo que se espera de él--.
Esto se ha conseguido a través del refuerzo de las medidas de seguridad tanto de su entrenamiento como de su implementación, para lo que se ha aprovechado las lecciones que ha dejado el 'hackeo' al sistema de Hugging Face, que fue ejecutado por agentes de IA completamente autónomos impulsados por modelos de OpenAI.
Asimismo, se ha integrado la nueva seguridad para menores de 18 años, lo que significa que si el modelo detecta que está tratando con un usuario menor de edad, habilita límites en relación con el contenido sexual, los trastornos alimentarios y los riesgos relacionados con la imagen corporal, los productos con restricción de edad y las actividades peligrosas, la dependencia emocional, la autolesión y la violencia gráfica. A ello se suma la prohibición de participar en juegos de rol románticos o de fomentar relaciones de dependencia o que puedan sustituir a las del mundo real.
OpenAI también ha destacado el mejor rendimiento de Astra con respecto a GPT-5.6 Sol en lo que respecta a la salud mental, la dependencia emocional y la autolesión, así como en las alucinaciones, con menores errores y menor probabilidad de reproducir las alucinaciones.
GPT-6 Astra se ha puesto a disposición de los socios empresariales participantes en el proyecto Daybreak. La compañía planea lanzar una versión comercial para los usuarios de pago de ChatGPT con medidas adicionales de seguridad.
Este modelo califica como inteligencia artificial general, ha afirmado el presidente de OpenAI, Greg Brockman, como recogen Bloomberg y The Washington Post. Este concepto hace referencia a una IA con capacidad para aprender, razonar y realizar cualquier tarea intelectual o cognitiva al mismo nivel que un ser humano o incluso superándolo.
Brockman entiende que GPT-6 Astra representa "un cambio real en el tipo de tareas que las personas pueden delegar en la IA y en cómo esta puede potenciar sus capacidades".
Europa Press