Cargando...

Tecnología > Sustitución de Imágenes

Los videos deepfakes "no van a tardar en llegar" a Uruguay, dijo el Ministerio del Interior

Según el licenciado en informática Enrique Topolansky, "la tecnología de los deepfakes pueden consumirse como un servicio"

Tiempo de lectura: -'

29 de julio de 2021 a las 05:02

Cecilia Piazza - Especial para Cromo

Los deepfakes son videos en los que la cara y/o voz de una persona se manipula con el objetivo de crear productos ficticios. Tal vez esto no parece una novedad, pero la particularidad de estos videos es que, gracias a un software de inteligencia artificial, se ven auténticos.

Hoy la tecnología de los deepfakes pueden consumirse como un servicio. Cualquier persona interesada en crear un video falso lo puede hacer. Simplemente tiene que descargarse una de las muchas apps que existen y conseguir tres buenas fotos: una mostrando el frente, una de perfil derecho y otra del perfil izquierdo. 

Con eso ya es suficiente para sustituir la cara en un video porque las plataformas trabajan con un algoritmo que ya está entrenado: "no es que las personas que lo utilicen sepan demasiado, sino que utilizan una red neuronal que ya está entrenada para poder hacer eso", sostuvo Enrique Topolansky, director del Centro de Innovación y Emprendimientos de la Universidad ORT.

El licenciado en informática aclaró que hasta ahora esto no era posible porque las computadoras de uso cotidiano no tenían "el poder" suficiente, pero actualmente este se consigue en cualquier smartphone.

Cibercrimen: el caso de los deepfakes en Uruguay

Hay distintos niveles de deepfakes. Por un lado, existen videos inocentes, por ejemplo, los creados con la aplicación ElfYourself (muy popular en Navidad), que según Topolansky los usa "muchísima gente". Por otro lado, hay creaciones que entran en la categoría de cibercrimen. Entre estos se destaca la sustitución de caras en videos pornográficos.

Un caso particular 

El portal BBC News publicó la historia de la escritora británica Helen Mort. Ella descubrió que se habían subido imágenes de sus vacaciones y de su embarazo a un sitio web pornográfico. Un grupo de ciberdelincuentes invitó a usuarios a editar las fotos, fusionando el rostro de Helen con imágenes sexuales explícitas y violentas. Estos videos estuvieron publicados durante más de un año sin que la escritora supiera de su existencia.

El jefe del Departamento de Delitos Informáticos del Ministerio del Interior, Winston Rodríguez, dijo a Cromo que por ahora no hay ninguna denuncia sobre deepfake en Uruguay. No obstante, la división está atenta por si llegan a ocurrir este tipo de situaciones. Aseguró que si ya sucede en otros países, "no va a tardar más de dos meses en llegar acá".

Por su parte, el licenciado en informática sostuvo que estas sustituciones no son difíciles de lograr: "hay una cantidad de software gratis y disponible para hacer eso". 

Deepfakes realistas y su difusión en redes sociales 

Según Topolansky, el uso de los deepfakes trae consigo "un problema muy grave y a medida que se mecanice cada vez va a ser peor". 

"Al principio cuando se hacen este tipo de cosas son bastante ridículas y es fácil darse cuenta que se trata de una sustitución. Pero en la medida que la tecnología evoluciona –cada vez hay más potencia de procesamiento de datos en las computadoras y mejores algoritmos– es más difícil de ver", explicó. 

En las redes sociales como Instagram o Tik Tok, es muy común el uso de filtros. Estos, que cada día funcionan mejor y permiten a los usuarios ponerse piercings, tatuajes, lentes, o directamente cambiar las facciones de su cara, usan la misma tecnología que se necesita para hacer sustituciones en deepfakes. Entonces, estos últimos tienen la posibilidad de ser cada vez más realistas.

El licenciado en tecnología dijo que, para evitar los grandes impactos de este tipo de sustituciones, va a haber que mejorar los sistemas de autoidentificación.

"Hoy por hoy, el mayor problema es que si alguien publica un video en redes sociales, no hay forma de saber si es auténtico o no", subrayó. Además, agregó que el mundo va a tener que moverse hacia una internet "4.0" en la cual el contenido que se sube "es trazable". "Cualquiera puede subir cualquier sin hacerse responsable", indicó el experto, y ese tipo de cosas son las que llevan a que sea cada día más gente lo haga. 

Crear una persona que no existe ¿es deepfake?

Con sólo entrar a la web thispersondoesnotexist.com encontraremos el rostro de una persona que no existe, y sin hacer más que recargar la página una y otra vez, ésta nos mostrará una nueva cara hasta que nos cansemos. ¿Cómo lo hace? Usando un algoritmo de IA conocido como "red de confrontación generativa" (GAN).

Esta tecnología funciona enfrentando dos sistemas. Por un lado, el generador recoge los algoritmos que se encargan de crear algo (en este caso la cara). Por otro lado, el discriminador está dedicado a determinar si la imagen generada es real o es falsa. Si determina que es falsa, se descarta y se genera otra, lo que a su vez permite a la máquina aprender a generar caras más realistas.

Sin embargo, aunque bastantes de las imágenes generadas asustan por su realismo, es cierto que todavía el algoritmo no es perfecto, y pueden existir pequeños fallos, tanto en las caras como en el fondo.

Imagen creada por IA con fallas en el fondo

Imagen creada por IA con fallas en el fondo

Consultado por esta web, Topolansky aclaró que no entra en la categoría de deepfake porque no es una sustitución de identidad. "A esto yo le llamaría arte. Cuando alguien crea una imagen, por más realista que sea, es una creación. Es muy diferente cuando vos tomás la imagen de una persona y la alterás", concluyó.

Comentarios

Registrate gratis y seguí navegando.

¿Ya estás registrado? iniciá sesión aquí.

Pasá de informarte a formar tu opinión.

Suscribite desde US$ 345 / mes

Elegí tu plan

Estás por alcanzar el límite de notas.

Suscribite ahora a

Te quedan 3 notas gratuitas.

Accedé ilimitado desde US$ 345 / mes

Esta es tu última nota gratuita.

Se parte de desde US$ 345 / mes

Alcanzaste el límite de notas gratuitas.

Elegí tu plan y accedé sin límites.

Ver planes

Contenido exclusivo de

Sé parte, pasá de informarte a formar tu opinión.

Si ya sos suscriptor Member, iniciá sesión acá

Cargando...