La foto de la polémica
Nicolás Tabárez

Nicolás Tabárez

Periodista de cultura y espectáculos

Espectáculos y Cultura > INTELIGENCIA ARTIFICIAL

El papa de campera y un debate nuevo: ¿podremos volver a creer en las fotos?

Una fotografía del papa Francisco con una campera de diseño disparó un debate sobre un posible "fin de la realidad"
Tiempo de lectura: -'
07 de abril de 2023 a las 05:03

La foto empezó a circular como tantas otras en estos tiempos. Llegaba por Twitter, por Instagram, por Whatsapp. Los celulares pasaban de mano entre amigos y familiares incrédulos, sorprendidos, estupefactos, divertidos. Al principio nadie lo dudó. Era una locura, pero era real. Ahí estaba Jorge Mario Bergoglio, el mismísimo papa Francisco, el santo padre, el heredero de San Pedro, caminando por la calle con una campera blanca de Balenciaga que lo dejaba con una apariencia a medio camino entre la mascota de Michelin y un trapero a punto de sacar un nuevo tema.

De cerca nadie es normal, dice el dicho, y al afinar la mirada y aumentar el zoom se empezaban a notar los detalles que develaban el misterio. Al crucifijo que oscila sobre la campera le falta la mitad de la cadena; un cristal de los lentes del papa se monta con su mejilla, sus dedos atraviesan algo que parece ser un vaso de café que lleva en la mano.

El ojo entrenado por los sucesos de los últimos meses reconoce la marca de fábrica de esos errores: es una imagen creada por inteligencia artificial. Porque, vaya uno a saber por qué, estas creaciones digitales no le embocan a las manos (le ponen más dedos o quedan deformes). Así que por ahora ya sabe: ante la duda, cuente los dedos.

Más allá de ese defecto, lo cierto es que la imagen del papa rapero fue todo un fenómeno. Se convirtió en un meme, le pusieron los colores de Nacional y Peñarol a la campera, etcétera. Y fue un llamado de atención, un despertar violento sobre una inquietante posibilidad del futuro inminente: que perdamos la capacidad de determinar si una imagen o un video son reales o son creados por una inteligencia artificial. Si estamos al borde de perder la noción de realidad. Si la verdad puede, todavía más, difuminarse en una tormenta de mentiras.

Javier Mazza, director del Departamento de Humanidades y Comunicación de la Universidad Católica de Uruguay, dice: “Desde el lugar más pesimista posible ya estamos en ese escenario, solo que situaciones como esta de la foto del papa son signos más claros, son señales de que hay que asumir que esto ya está pasando”.

¿Por qué la IA no sabe “dibujar” manos?

A esta altura la frase ya se ha convertido en un meme, pero bueno, qué mejor que ir a la fuente: le pedí a una inteligencia artificial que me contara por qué no puede dibujar manos.
El híperfamoso chatGPT (firme candidato a personaje del año) dice que hay tres razones.
  • Las manos son estructuras complejas con muchas partes intrincadas. Esta complejidad hace difícil replicar de forma acertada los movimientos y la posición de las manos.
  • Hay mucha variación en la apariencia y la forma de las manos, incluso en un mismo individuo. Esto hace difícil generalizar y representar adecuadamente la diversa variedad de formas y tamaños que las manos pueden tener.
  • Dibujar manos requiere un complejo entendimiento de anatomía, proporción y perspectiva, lo que puede ser difícil de aprender y dominar para una inteligencia artificial. Además, crear imágenes realistas y convincentes requiere un elemento de interpretación artística y creatividad, lo que es complejo de replicar para la IA.

Aunque desde el último tramo de 2022 el mundo se ha ido obsesionando cada vez más con herramientas de inteligencia artificial como el chatGPT y sus posibles usos académicos y creativos, dando debates sobre el fin de la creación humana o de cómo aplican los derechos de autor, entre las aplicaciones que más han llamado la atención están aquellas como Midjourney o Dall-E, que editan o crean imágenes basados en instrucciones del usuario.

Desde la serie animada Padre de familia imaginada como una sitcom de los 80 hasta el Mundial dirigido por diez cineastas históricos, en los últimos meses se han viralizado distintas aplicaciones de estos sistemas, pero la imagen del papa fue un paso más allá, porque el involucrado era una persona real en un contexto poco probable, pero hasta plausible. La perilla se movió un poco más y subió un par de muescas.

Ficción y realidad

Según Mazza, lo que sucede con las creaciones visuales de inteligencia artificial, también llamadas deep fakes, es apenas el siguiente paso en una escala que ya venía extendiéndose ante nuestros ojos (nunca mejor dicho).

El filósofo señala que ya desde hace un tiempo, “cuando vemos una imagen o un video ya no asumimos que tiene un correlato con la realidad. "La mayoría de las fotos que se suben a Instagram tienen un filtro que las altera, y en el siguiente nivel está el cine y el uso de la pantalla verde. Hay casos como las películas de Marvel o Avatar donde lo único ‘real’  en la imagen son los actores maquillados. En ese caso el porcentaje de realidad es todavía menor. Y con los deep fakes es lo mismo pero todavía más radical, porque se pierde el apoyo en la realidad”, explica.

Los deep fakes agregan otro nivel de complejidad, sin embargo. Mientras que si vemos Avatar asumimos y entendemos que se trata de una ficción, que es otro código, y aceptamos sin mucho complejo que las imágenes no se asemejen a la realidad, ver al papa enfundado en una campera cool puede confundir, porque a golpe de vista y antes que detectemos los errores visuales (o nos demos cuenta de que el líder de la Iglesia Católica jamás usaría esa prenda), puede estar pasando.

Por eso ver un dibujo animado o un videojuego convertido en una serie realista o a la Copa del Mundo convertida en el filme de un cineasta nos parece divertido y gracioso, porque lo tomamos como un juego y entendemos las referencias culturales que se cruzan, pero vemos al papa encamperado y nos ponemos nerviosos.

Y más nerviosos todavía cuando vemos un video como el que se publicó en 2017 de Barack Obama, que fue creado por un grupo de investigadores de la universidad estadounidense de Washington utilizando inteligencia artificial para recrear al expresidente de su país y publicar un discurso falso, o los que se viralizaron en Brasil durante la campaña electoral de 2022, uno que mostraba al actual presidente, Luiz Inácio Lula da Silva, quejándose del precio de un dulce, o a su antecesor, Jair Bolsonaro, bailando una canción que hablaba del PT, el partido de Lula.

O los múltiples clips que se encuentran en YouTube que imaginan a actores modernos interpretando papeles clásicos, o videos de imitaciones donde se sobreimprime el rostro de la figura parodiada. 

Hace algunos días, el medio español El Confidencial publicó un video, guionado por inteligencia artificial (o eso dicen ellos, al menos), en el que se imaginan los próximos diez años de la humanidad y los efectos de esta revolución tecnológica que recién ahora empezó a propagarse entre nosotros el común de los mortales no-ingenieros.

En el video imaginaban un futuro todavía más distópico que el que podemos pensar, con un uso indiscriminado de inteligencia artificial para crear noticias falsas, acusar de delitos inventados a celebridades o anónimos y demás maldades (pero también bondades, porque la tecnología no es buena o mala, sino que son los humanos y su uso los que le dan esa carga).

Al final del video, se estipula que este futuro no tendrá lugar si se establecen regulaciones y criterios claros de uso; por estos días Elon Musk y un conglomerado de figuras del ámbito tecnológico hicieron un pedido para que se frenen las investigaciones en el campo de la inteligencia artificial para evitar un desmadre o un escenario similar al de Terminator.

Mazza, sin embargo, no cree que las prohibiciones o regulaciones sean lo más adecuado. Sí considera que habrá una regulación de facto, un pacto social sobre los buenos usos y costumbres a medida que se vaya usando. “Es más posible que pase eso. Y también más interesante que haya un esfuerzo o un cambio de quienes interpretamos imágenes y aplicamos estas tecnologías que una prohibición. Además de que a nivel histórico hay pocos casos de tecnologías que hayan sido prohibidas y hayan fracasado por ese motivo”.

Y señala que será un escenario más rico “ajustar como pensamos y acostumbrarse a que todo el tiempo salgan creaciones falsas y aclaraciones de que son creaciones de inteligencia artificial”.

Algo similar plantea Maybeth Garcés, docente y filósofa de la Universidad Católica del Uruguay. “La prohibición, como hizo ahora Italia, no es la vía, porque se genera un uso ilegal y se hace imposible de contener”, pronostica. “Y a la par que se desarrolle la inteligencia artificial, habrá mecanismos de contención con esa misma tecnología, que adviertan al usuario de que son falsas. No habrá un escenario tan catastrófico, aunque sí puede ocurrir que se difundan falsedades, como ahora pasa con las noticias, que en Twitter por ejemplo a veces tienen advertencias automáticas para el usuario”.

Garcés agrega que lo novedoso del escenario que conforman estas tecnologías es que pueden servir para replantear el lugar que tienen ahora las imágenes en el inconsciente colectivo como reflejo fiel de la realidad, y demanden más del espectador. En definitiva, un cambio en el paradigma de consumo y en qué tanta verdad hay en una imagen.

Cambio de paradigma

Aunque en el contexto de la historia humana cien años sean apenas un instante, el impacto que tuvo la irrupción de la fotografía fue considerable. Hasta ese momento, la pintura era la técnica principal que se usaba para recrear el mundo real, es decir, para representar la realidad. Con mayor o menor realismo y anclaje en lo que podían ver los ojos, pero representación al fin.

La fotografía quebró eso, porque de representación pasó a ser, al menos en nuestra percepción mental, la realidad estampada en una imagen. Los que estamos en las fotos “somos nosotros”, aunque el fotógrafo también pueda apelar a la técnica y a sus talentos para alterar percepciones, deformar, crear o generar alteraciones a la realidad.

Y ahora pasa algo similar: llega algo que cambia el vínculo entre imagen y realidad. Una creación artificial pero que apela a los códigos de la fotografía hecha por humanos como referencia y generar un anclaje que permita que la confundamos con algo real, como pasó con la foto del papa o los deep fakes de Obama y Lula.

Garcés explica que lo que plantean las imágenes generadas es lo inverso a lo que fue la fotografía. “Ya no nos vamos a parar igual ante las imágenes”, anticipa.

Su colega Javier Mazza apunta en tanto que si bien no se sabe qué terminara sucediendo, imagina que quizás tengamos “una vuelta a lo que pasaba en el Renacimiento con las imágenes, pero pasado por el tamiz más realista de lo que nos dejó la fotografía. Y que todo esté mezclado, las imágenes reales con las creadas por máquinas”.

Sin embargo, los dos filósofos apuntan que un posible impacto del fenómeno marque un freno al régimen de hipervelocidad e inmediatez que marcó internet y sobre todo, las redes sociales. Primero, quizás, lo haremos los periodistas y las demás profesiones vinculadas a esto, y luego el resto de la sociedad. En lugar de opinar de las decisiones estéticas del papa al ver su foto, frenaremos a chequear si la imagen es real o la creó un software. O quizás no, y perdamos la posibilidad de confiar en una imagen para siempre. O quizás algunos dudarán y buscarán fuentes confiables y otros creerán a pie juntillas lo que confirme sus prejuicios, ideas, o lo que les resulte más conveniente. Un poco como ahora, pero más futurista.

Cómo identificar una imagen creada por IA, según la IA

Si lo hicimos una vez, lo haremos de nuevo: le pedí a una inteligencia artificial que me explicara cómo darse cuenta si una foto fue creada por uno de los suyos.
Según el siempre bien dispuesto chatGPT, hay que prestarle atención, en primera instancia, a lo más obvio. “Muchas imágenes y videos generados por IA tienen algunos rasgos o características indicativas de su origen. Por ejemplo, pueden tener ciertas inconsistencias que no están en las fotos tomadas por humanos, o pueden mostrar un nivel de detalle y complejidad que es imposible que un humano haya creado”.
El siguiente paso ya es un poco más técnico, y consiste en examinar los metadatos. “¿Qué rayos son los metadatos?” se preguntará usted (salvo que sea conocedor del tema). Pues es la información que contiene datos como el formato del archivo, el tamaño, cuándo y dónde fue creado, con qué celular se sacó la foto, desde donde envió ese mensaje de Whatsapp, etcétera. “Las imágenes o videos generados pueden tener metadatos que indiquen si fue creada usando un programa o un algoritmo específico”, avisa GPT.
Otra opción que da la IA es usar herramientas que ayudan a detectar el origen de fotos o videos. “Estas herramientas usan varios métodos, como analizar los patrones de los pixeles o examinar los artefactos de compresión en un video, para determinar si fue hecha por una inteligencia artificial”.
Siempre fan de las moralejas y las conclusiones claras, el bueno del chat avisa: “Es importante notar que ninguno de estos métodos es infalible, y que siempre hay un riesgo de falsos positivos o falsos negativos”.
“Además, como la tecnología de IA sigue evolucionando, es probable que los métodos usados para detectar creaciones de inteligencia artificias tendrán que ser mejorados o refinados”.

Comentarios

Registrate gratis y seguí navegando.

¿Ya estás registrado? iniciá sesión aquí.

Pasá de informarte a formar tu opinión.

Suscribite desde US$ 345 / mes

Elegí tu plan

Estás por alcanzar el límite de notas.

Suscribite ahora a

Te quedan 3 notas gratuitas.

Accedé ilimitado desde US$ 345 / mes

Esta es tu última nota gratuita.

Se parte de desde US$ 345 / mes

Alcanzaste el límite de notas gratuitas.

Elegí tu plan y accedé sin límites.

Ver planes

Contenido exclusivo de

Sé parte, pasá de informarte a formar tu opinión.

Si ya sos suscriptor Member, iniciá sesión acá

Cargando...