Mundo > Inteligencia artificial

La tecnología “deepfake” de manipulación de imágenes puede generar desinformación masiva

Un deepfake es un vídeo en el que se muestran imágenes falsas, habitualmente del rostro de una persona, que parecen ser reales y que se han producido utilizando inteligencia artificial
Tiempo de lectura: -'
19 de marzo de 2023 a las 05:04

En 2018, el entonces presidente de los Estados Unidos, Donald Trump, aparecía pronunciando un discurso en el que pedía a Bélgica que se retirara del Acuerdo Climático de París. Trump nunca dio este discurso. Pero creó un gran malestar internacional. Una aplicación “deepfake” había creado el video falso.

El siglo XX ha sido llamado el siglo de la revolución tecnológica. Ahora, la tecnología basada en chips ha tomado al mundo por sorpresa y hará aparecer al siglo pasado como una época de ideas e invenciones primitivas.

Ya sea en el ámbito de las armas para el ejército o las pantallas táctiles inteligentes de los teléfonos móviles, los automóviles o la tecnología de mensajería, WhatsApp está disponible prácticamente de forma gratuita; la lista es interminable. La grabación automática de conversaciones en teléfonos celulares comunes es una norma.

De hecho, tales desarrollos han permitido a las agencias de investigación una enorme influencia en la resolución de diversos delitos y diferendos. La capacidad de la mayoría de los teléfonos inteligentes es casi mejor que una computadora de escritorio común.

Las supercomputadoras, que pueden hacer más de miles de millones de cálculos por segundo con millones de terabytes de memoria, son parte de todas las naciones tecnológicamente avanzadas.

Los cómics infantiles de los años 60 contaban la historia de un científico que creó una computadora con inteligencia integrada para tomar el control del mundo. Lo que era fantasía, ahora, debido a los rápidos desarrollos en Inteligencia Artificial, pareciera transformarse en realidad.

Un fotógrafo común a principios de los años 60 podía implantar la cara de una persona en el cuerpo de otra persona, creando una enorme confusión/duda en las películas y en la vida real. Se podía mostrar a un actor bailando, pero en realidad era otra persona bailando con la cara del actor superpuesta. Si bien todo esto fue principalmente para películas, pocos lo usaron para delitos o actividades bélicas.

El concepto sigue vivo, aunque en una dimensión diferente. A menudo fuera de la atención pública, está el vasto e increíble desarrollo de lo que se ha llamado tecnología “deepfake”, que ha logrado un progreso constante a lo largo de los años y casi ha alcanzado la perfección.

Un deepfake es un vídeo en el que se muestran imágenes falsas, habitualmente del rostro de una persona, que parecen ser reales y que se han producido utilizando inteligencia artificial; en concreto, se trata de técnicas denominadas deep learning (aprendizaje profundo), que utilizan algoritmos de redes neuronales.

La inteligencia artificial recrea una imagen de una cara o de cualquier otro objeto aprendiendo de cientos o miles de imágenes de esa cara u objeto. Utiliza las denominadas redes neuronales generativas antagónicas, GAN por sus siglas en inglés, con algoritmos que son capaces de aprender de los patrones que encuentran en las imágenes para luego reproducirlos creando otras nuevas de ese objeto, rostro o imagen.

En 2017, investigadores de la Universidad de Washington utilizaron más de 14 horas de grabación del presidente Barack Obama para reproducir su imagen y voz, y así simular cualquier discurso. Crearon un modelo de la forma y los movimientos de la boca para vincularlo con las grabaciones de la voz. Con esta técnica, partiendo de vídeos reales podían poner en boca de Barack Obama cualquier mensaje que un actor reprodujera.

En 2018 un grupo de profesionales hizo un deepfake, no muy bueno, pero sí divertido, del senador de Texas Ted Cruz cantando e imitando a Tina Turner. En este caso, el modelo de algoritmos codificó cómo gesticula, se mueve y se ve la cara del senador y la de un actor. A continuación, decodifica las imágenes del rostro de Ted Cruz y las reconstruye sobre las del rostro del actor.

Esta tecnología ha progresado constantemente durante casi una década y actualmente puede crear marionetas digitales parlantes con un alto grado de perfección.

Muy pronto (de hecho, ya está sucediendo en algunos casos), los títeres digitales con volúmenes exponenciales de desinformación se utilizarán como 'Arma de confusión masiva' (WMC), que será quizás más potente que las armas nucleares.

Con la comunicación global instantánea similar a WhatsApp, la desinformación llegará a todos los rincones del mundo en segundos.

La tecnología deepfake utiliza algoritmos de aprendizaje profundo, que pueden aprender por sí mismos y resolver problemas cuando se dispone de una amplia entrada de datos. Uno puede usar esto para intercambiar caras en el video y reproducir cerca de la voz original, haciendo que los espectadores crean que es original.

El fabricante de desinformación simplemente requiere el uso de redes neuronales profundas que involucran codificadores automáticos. Los codificadores automáticos son esencialmente una forma de programa de inteligencia artificial de aprendizaje profundo capaz de replicar el video de una persona después de estudiarlo.

Se requiere una colección de clips de video de la persona objetivo, habitualmente tomadas de las redes sociales o los medios de prensa, para crear un mensaje falso dicho por la persona. El creador del deepfake “fabrica” el contenido del mensaje.

El creador programa las imágenes para comunicar mensajes falsos a los espectadores. Por ejemplo, el presentador de un canal de noticias internacional podría transmitir este mensaje: el presidente de los Estados Unidos podría aparecer en forma de marioneta digital expresando su descontento por los acontecimientos que tienen lugar en alguna parte del mundo y amenazando con utilizar armas nucleares. a menos que su dictado sea aceptado o implementado.

Un televidente común que vea este mensaje en la pantalla de su televisor no tendrá medios para determinar la veracidad de las declaraciones hechas por lo que para él es el presidente.

El uso de tecnología deepfake en manos de delincuentes alterará la cara del crimen a nivel mundial. Un delincuente que acceda a esta tecnología podría publicar un videoclip que muestre "el hijo de alguien en cautiverio y exigir un rescate" y enviárselo a los padres preocupados.

A excepción de los miembros de algunas tribus aún ocultas en algunos rincones del globo, casi el 87% de la población tiene acceso a un teléfono móvil, ya sea por una persona o un conocido cercano.

Ese es el poder exponencial de la tecnología. Las redes sociales han alterado por completo la forma en que las personas se comunican. Millones, tal vez miles de millones, publican una imagen diariamente en Facebook, Instagram, etc. La privacidad ya no es una virtud.

Los casos de creación de identidades falsas ya se han convertido en una norma. Su proliferación es limitada debido a la no disponibilidad de la tecnología para todos. Sin embargo, esta poderosa arma pronto podría ser utilizada por actores no estatales para difundir mensajes falsos, particularmente aquellos que generen malestar entre la población.

El espectro de uso de la tecnología deepfake es enorme. Un mensaje audiovisual es el arma más potente para hacer creer a los espectadores su veracidad. Los títeres digitales se utilizarán ampliamente en el futuro previsible, principalmente para difundir "desinformación real".

La tecnología deepfake ya cruzó el límite de la infancia. Numerosas aplicaciones ya están disponibles y pueden ser utilizadas por un principiante. Por ejemplo, la aplicación DeepNude ya se usa para crear videos e imágenes de mujeres desnudas. Del mismo modo, los chinos han desarrollado las aplicaciones Face Swap, FaceApp y DeepfACE Lab. Algunos de estos se pueden usar como aplicaciones de edición de fotos.

De hecho, el crecimiento del desarrollo de la Inteligencia Artificial ha creado un Frankenstein. Aún no se sabe cómo será domesticado el monstruo.  El WMC, como instrumento de guerra, podría llegar a ser millones de veces más poderoso que las armas nucleares más poderosas desarrolladas hasta la fecha.

La desinformación difundida por los títeres digitales podría no ser detectable y neutralizable a tiempo antes de que cause un daño irreparable al tejido social.

Los videos engañosos y falsificados se convertirán en una norma más temprano que tarde. Basta con imaginar el impacto global de la imagen falsa de Putin apareciendo en las pantallas de televisión anunciando que “Rusia lanzará un ataque nuclear en Kiev el 25 de marzo de 2023 a las 10:00 horas. Se recomienda a todos los extranjeros que abandonen Kiev de inmediato”.

(SEON.Io, NUSO.org, The EurAsian Times)

Comentarios

Registrate gratis y seguí navegando.

¿Ya estás registrado? iniciá sesión aquí.

Pasá de informarte a formar tu opinión.

Suscribite desde US$ 345 / mes

Elegí tu plan

Estás por alcanzar el límite de notas.

Suscribite ahora a

Te quedan 3 notas gratuitas.

Accedé ilimitado desde US$ 345 / mes

Esta es tu última nota gratuita.

Se parte de desde US$ 345 / mes

Alcanzaste el límite de notas gratuitas.

Elegí tu plan y accedé sin límites.

Ver planes

Contenido exclusivo de

Sé parte, pasá de informarte a formar tu opinión.

Si ya sos suscriptor Member, iniciá sesión acá

Cargando...