Detrás de los videos alterados hay redes bien organizadas que apuntan a engañar y lucrar. ¿Quiénes están detrás y cómo operan?
Imagen creada con inteligencia artificial (DALL-E)
"Falso". Si en la era de las redes sociales esa palabra se escuchaba con frecuencia con la irrupción de la inteligencia artificial será aún más común.
En internet han proliferado en las últimas semanas y meses videos deepfake. Se trata de contenido audiovisual generado con inteligencia artificial que permite modificar la apariencia o la voz de una persona en un video de manera extremadamente realista.
Para ser más específicos sobre la etimología de la palabra: deepfake es un acrónimo de deep learning (aprendizaje profundo), una técnica de inteligencia artificial basada en redes neuronales que imitan el funcionamiento del cerebro humano para procesar grandes volúmenes de datos; y fake, que implica generar videos, audios o imágenes falsificadas de manera realista.
En esta newsletter te voy a hablar de cómo funciona esta tecnología, casos en Uruguay y, lo más revelador, que las empresas donde se distribuyen estos contenidos no los eliminan tras denuncias de expertos en ciberseguridad.
Plata, plata y más plata. En general, todos aluden a cómo los uruguayos pueden ganar más dinero en estos deepfakes.
El más notorio recientemente fue el que denunció el senador del Partido Nacional Jorge Gandini. Él denunció a través de sus redes sociales que circulaba un video alterado en el que aparecían varias figuras políticas y de los medios. Allí se pide un "aporte" de $ 11.100 para recibir $ 230 mil en seis días. Participa hasta el conductor de noticias Nicolás Núñez.
Pero hubo más: en diciembre de 2024, un grupo (¡verificado por Facebook!) publicó un deepfake de Luis Suárez. En el video aparece una presentadora de un canal anunciando que UTE (?) "ha desarrollado un proyecto que resolverá los problemas financieros de todos los uruguayos".
El año pasado también circularon otros deepfakes que manipulaban la imagen de figuras como el presidente Luis Lacalle Pou, el expresidente José Mujica y el exministro de Salud Daniel Salinas. El objetivo: promover criptomonedas falsas y tratamientos de salud inexistentes, buscando engañar a las personas con promesas de riqueza o longevidad.
Uno de los videos más difundidos del presidente Luis Lacalle Pou toma una cadena nacional del mandatario y le altera el mensaje donde promete darle a la víctima $ 380 mil hoy mismo.
"Estas publicaciones están posicionadas estratégicamente mediante publicidad paga en Facebook, apuntando a un segmento específico de audiencia: mayores de 25 años oriundos de Uruguay", dice la investigación de Di Battista, quien asegura que muchos de estos videos conducen a un sitio apócrifo que simula ser el portal de Subrayado, el medio de noticias de Canal 10. Allí hay una noticia igualmente falsa que apoya el producto que intentan vender.
Los videos deepfake del presidente Luis Lacalle Pou presentan detalles sutiles pero reveladores que delatan su falsedad. Expertos advierten sobre desfases entre el movimiento de los labios y el audio, anomalías en la traducción de la intérprete de señas y fallos gráficos evidentes, como parpadeos irregulares y distorsiones en la zona del cuello.
Además, el mandatario muestra errores lingüísticos poco comunes en el habla rioplatense, como la falta del yeísmo rehilado al decir “ienar” en lugar de “llenar” y el uso de expresiones más propias del español neutro, como “tómate”. Estos detalles, si bien son sutiles, exponen la manipulación detrás de los videos y refuerzan la importancia de verificar la autenticidad del contenido digital.
A algunos les puede parecer obvio, pero quienes nunca hayan escuchado sobre el fenómeno de los deepfakes y cómo funciona esta tecnología pueden caer en la trampa. Sobre todo, jubilados.
Una investigación realizada por Emmanuel Di Battista, analista de ciberseguridad de Birmingham Cyber Arms, analizó el año pasado cada uno de estos casos e intentó detectar el origen y el modus operandi que utilizaron los delincuentes para llegar al público uruguayo con estos deepfakes.
Por ejemplo, el que usa la imagen de Lacalle Pou fue realizado por un grupo llamado "Bynkaen Xanynor", lo que sugiere que es un grupo "rusoparlante".
El investigador detectó una campaña que utilizó al menos cuatro perfiles de Facebook para distribuir estos deepfakes mediante publicidad paga. Algunos comenzaban con la foto de Lacalle Pou y dirigían al video deepfake donde se ve al mandatario adulterado a participar de esta estafa.
En otros tenían enlaces que llevaban a páginas fraudulentas. Di Battista encontró cuatro sitios web falsos de Subrayado que terminaban con el dominio ".best". Además, detectó cuatro direcciones de correo electrónico del proveedor 1&1 Mail & Media Inc.
Hay varias plataformas para crear deepfakes y se pueden mezclar. Para darte un ejemplo sobre lo fácil que es confeccionarlos: para un video en mi cuenta de Instagram mostré cómo "inventé" una entrevista con el prócer José Gervasio Artigas. Usé la foto del cuadro de Blanes y una foto mía y le pedí a Pika, la IA audiovisual, que genere una especie de entrevista con un micrófono en el medio. Para ser de los primeros modelos, esta IA ofrece resultados sumamente interesantes. Te invito a verlo.
Los investigadores reportaron estos sitios web a Sav.com, la plataforma donde están alojados los sitios web apócrifos, pero no los dieron de baja.
"Ellos hacen plata con ese contenido. Los reclamos no dan plata", explicó Mauro Eldritch, de Birmingham Cyber Arms.
Según me contaron desde Birmingham Cyber Arms, los investigadores reportaron estos sitios web a la empresa que alojaba la página apócrifa (Sav.com). Sin embargo, no les importó y no los dieron de baja, según pudo comprobar El Observador.
¿Qué hicieron entonces? Los investigadores denunciaron el caso ante el administrador del TLD (Top Level Domain), que es la entidad responsable de gestionar dominios como .com, .org, .uy o .best.
Cuando se detecta un abuso, el reclamo primero se dirige a quien vendió el dominio, pero si no hay respuesta, se puede escalar la denuncia al administrador del TLD, quien tiene la potestad de desconectar el sitio de manera forzosa.
Además, en casos graves, puede iniciar un proceso más extenso para sancionar al vendedor del dominio, impidiéndole registrar nuevos sitios bajo ese TLD.
Sin embargo, es un proceso largo y engorroso, lo que implica que cuanto más tiempo esté en línea, más víctimas podrían verse afectadas.
Meta cuenta con una política para prevenir estafas financieras en sus plataformas. Estas políticas prohíben anuncios que promuevan productos, servicios o esquemas mediante prácticas engañosas o fraudulentas. Según sus normas, Meta se esfuerza por identificar y eliminar estafas en sus plataformas de manera proactiva, utilizando sistemas automatizados. Sin embargo, si un usuario detecta una presunta estafa, puede denunciarla.
Desde Birmingham Cyber Arms realizaron estas denuncias. Uno de los anuncios no fue eliminado y Meta argumentó que podían solicitar una revisión en un plazo de 180 días si creían que la red social había cometido un error. "Sabemos que puede ser frustrante, por lo que te recomendamos ocultar anuncios o cambiar tus preferencias de anuncios para influir sobre qué anuncios se te muestran", le dicen al usuario.
En otro caso sí lograron darlo de baja, pero Meta demoró dos meses en hacerlo.
Con una mejora cada vez más sofisticada de la IA, y con una actitud no tan activa de las plataformas donde se alojan estos contenidos, los usuarios DEBEMOS estar más en alerta.
En esta newsletter Nueva pestaña, que te llega jueves de por medio, te cuento todo sobre tecnología e inteligencia artificial. Pero tenemos más de una decena de opciones de newsletters de autor, que seguro te van a gustar. Si querés administrar qué newsletters recibir, lo podés hacer desde acá.
Soy Juan Pablo De Marco, escribo de tecnología, y por cualquier comentario, inquietud o si tenés ganas de que hable sobre algún tema podés escribir a esta dirección.