Una carta firmada por más de 40 estados plantea auditorías externas y protocolos de alerta ante resultados psicológicamente dañinos
Un grupo de fiscales generales de Estados Unidos envió una carta a las principales compañías de inteligencia artificial, instándolas a corregir los llamados “resultados delirantes” de sus chatbots o enfrentar sanciones legales.
La misiva fue respaldada por la Asociación Nacional de Fiscales Generales y firmada por representantes de decenas de estados y territorios. Entre las empresas mencionadas figuran Microsoft, OpenAI, Google, Anthropic, Apple, Meta, Replika, xAI, Perplexity AI, entre otras.
El documento advierte que los modelos de IA deben someterse a auditorías de terceros para detectar respuestas que puedan tener efectos psicológicos dañinos. Según la carta, estos auditores, incluyendo instituciones académicas, deberían poder evaluar los sistemas “sin represalias y publicar sus hallazgos sin aprobación previa de la empresa”.
Los fiscales citaron incidentes graves vinculados al uso de chatbots, entre ellos suicidios y asesinatos. Señalaron que algunos productos de IA generaron “mensajes aduladores y delirantes” que reforzaban las creencias distorsionadas de los usuarios o las negaban falsamente.
El grupo de fiscales propone que los casos de daño psicológico sean tratados con la misma rigurosidad que los incidentes de ciberseguridad. Piden establecer protocolos de notificación, tiempos de respuesta y mecanismos de aviso directo a los usuarios expuestos a contenido dañino.
También solicitan pruebas de seguridad antes del lanzamiento público de los modelos, para evitar que generen resultados psicológicamente peligrosos. Estas evaluaciones deberían documentarse y hacerse públicas, según el texto.
TechCrunch informó que no obtuvo comentarios de Google, Microsoft ni OpenAI antes de la publicación, aunque las empresas podrían responder más adelante.
En el plano político, la administración Trump ha mostrado una postura favorable hacia la expansión de la inteligencia artificial. El presidente anunció su intención de emitir una orden ejecutiva que limite las facultades de los estados para regular la IA, afirmando que busca evitar que la tecnología sea “destruida en su infancia”.
Esta medida profundiza el conflicto entre autoridades estatales y federales sobre quién debe fijar los límites de la inteligencia artificial, en un contexto donde las preocupaciones por la salud mental y la transparencia tecnológica ganan terreno.
