El director ejecutivo de OpenAI, Sam Altman, afirmó recientemente que ChatGPT alcanza los 800 millones de usuarios semanales. Según un informe publicado por la compañía, el 0,15 % de esas personas —alrededor de 1,2 millones— mantiene conversaciones con indicadores explícitos de posible planificación o intención suicida.
El estudio indica además que el 0,05 % de los mensajes intercambiados en la plataforma contiene señales explícitas o implícitas de ideación suicida, aunque no representan casos confirmados, sino situaciones donde el modelo detecta riesgo emocional o comportamientos preocupantes.
OpenAI explicó que ha entrenado a ChatGPT para responder de forma segura y empática, orientando a los usuarios hacia profesionales de la salud o líneas de ayuda en crisis. “Entrenamos nuestros modelos para que respondan de forma segura, lo que incluye dirigir a las personas a recursos profesionales”, señaló la empresa.
La compañía detalló que estas medidas se integran en la última versión del modelo GPT-5, que redujo entre un 65 % y un 80 % las respuestas que no cumplían plenamente con el comportamiento deseado en conversaciones relacionadas con psicosis, manía, autolesiones o dependencia emocional. “El nuevo modelo redujo las respuestas no deseadas en un 52 % en comparación con GPT-4o”, se indicó en las evaluaciones realizadas por expertos.
Según el documento, las conversaciones vinculadas con salud mental grave —como la psicosis o la manía— son poco frecuentes, aunque se detectan en alrededor del 0,07 % de los usuarios activos semanales. Aun así, la empresa subraya que cada detección correcta permite redirigir la interacción hacia recursos de apoyo reales.
“Creemos que ChatGPT puede brindar un espacio de apoyo para que las personas procesen sus sentimientos y se acerquen a amigos, familiares o profesionales de la salud mental cuando sea necesario”, sostuvo OpenAI en el comunicado.
Las mejoras se desarrollaron con la colaboración de más de 170 expertos en salud mental, incluidos psiquiatras, psicólogos y médicos de atención primaria de 60 países. Estos profesionales participaron en la definición de guías de seguridad, en la evaluación del comportamiento del modelo y en la validación de respuestas en escenarios de crisis.
Los especialistas compararon el rendimiento de GPT-5 con el de versiones anteriores y observaron una reducción del 39 % al 52 % en las respuestas no deseadas. Las pruebas incluyeron más de 1800 conversaciones que abordaban síntomas de psicosis, manía, autolesiones y dependencia emocional.
OpenAI también amplió su sistema de monitoreo mediante taxonomías clínicas, utilizadas para identificar cómo se manifiestan los comportamientos deseables e indeseables del modelo. “El resultado es un modelo que responde de forma más fiable a usuarios que presentan síntomas de psicosis, manía, pensamientos suicidas o apego emocional poco saludable”, señaló la empresa.
La compañía indicó que GPT-5 mantiene una fiabilidad superior al 95 % en conversaciones largas y desafiantes, un escenario donde los modelos anteriores solían mostrar fallos de consistencia. Además, agregó que los recordatorios suaves para tomar descansos durante sesiones extensas también forman parte de las nuevas medidas de seguridad.
En los casos donde se detecta dependencia emocional hacia la herramienta, el modelo está programado para fomentar la conexión con el entorno real. “Estoy aquí para agregar a las cosas buenas que la gente te da, no para reemplazarlas”, es una de las respuestas tipo que enseña el sistema.
El documento de OpenAI resalta que las conversaciones sobre salud mental representan una fracción mínima del total, pero son objeto de vigilancia constante. Las estimaciones, aclara, podrían variar a medida que se perfeccionen los métodos de medición y cambie el comportamiento de los usuarios.
La empresa sostiene que continuará refinando sus taxonomías y herramientas técnicas para mejorar la detección de riesgos y garantizar respuestas más seguras en futuras versiones del modelo. “Este trabajo es de suma importancia para nosotros, y agradecemos a los numerosos expertos que continúan guiándolo”, concluye el texto.
