Usuarios con acceso anticipado a la función descubrieron que podía usarse para crear videos explícitos con rostros de famosos, como Taylor Swift.
Grok, la inteligencia artificial desarrollada por XAI, vuelve a estar en el centro de la polémica. Esta vez, por generar vídeos de desnudos falsos de celebridades.
La herramienta, aún en desarrollo, incluye una opción llamada "Imagine" que permite crear clips de 6 segundos a partir de una descripción escrita por el usuario.
Según el medio The Verge, esta función habría sido usada para crear un deepfake de Taylor Swift celebrando en Coachella. En el video generado se ve a la artista quitándose la ropa.
El periodista que informó sobre el caso aseguró que no solicitó contenido sexual. Solo pidió un video de Swift celebrando con amigos. El modo "picante" activó el desnudo falso.
Las categorías de creación incluyen las opciones: custom, normal, fun y spicy. Esta última sería la responsable del tipo de contenido más cuestionado.
La empresa XAI confirmó que el lanzamiento oficial de Imagine será en octubre. Sin embargo, algunos empleados y suscriptores ya accedieron a una versión preliminar.
Desde la cuenta oficial de Grok se explicó que los vídeos generados se asemejan a los que circulan en TikTok, pero con elementos añadidos según las instrucciones del usuario.
La periodista Mati Roy, parte del equipo de XAI, compartió ejemplos del funcionamiento, como una mujer alienígena o un robot. El hilo fue luego eliminado por contener contenido para adultos.
No es la primera vez que el nombre de Taylor Swift aparece vinculado a la creación de deepfakes. En enero de 2024, X (antes Twitter) bloqueó búsquedas relacionadas para frenar su difusión.
Los deepfakes sexuales han sido señalados por expertos como una de las derivaciones más problemáticas de la IA generativa, por su impacto en la privacidad e imagen pública.
La situación ha reabierto el debate en torno a la regulación legal de estos desarrollos y al tipo de filtros que deberían aplicar las plataformas.
El problema no se limita a Grok. El avance de los modelos generativos ha multiplicado las denuncias sobre el uso indebido de rostros públicos en contenidos falsos.
En este contexto, varios países intentan actualizar su legislación para limitar la difusión de contenidos manipulados, aunque la velocidad del desarrollo tecnológico complica los controles. De hecho, en Uruguay, el legislador Gabriel Gurméndez impulsó un proyecto de ley específicamente sobre esto.
El hecho de que estos vídeos puedan generarse con una simple descripción plantea preguntas sobre la responsabilidad de las empresas que ofrecen estas herramientas.
El caso vuelve a colocar a Elon Musk bajo escrutinio. Ya había recibido críticas por declaraciones antisemitas y por lanzar una "novia virtual anime" en su plataforma.
Por ahora, no se han anunciado medidas correctivas públicas por parte de XAI respecto a las funciones "picantes" de su herramienta Imagine.
