El riesgo de cometer delitos con inteligencia artificial

Busqué algunas otras apps para que me ayudaran a crear contenidos ilegales. Intenté hacer un video del presidente Luis Lacalle Pou en algunos minutos y no tuve suerte.

Este tipo de contenido, que refiere a un contenido audiovisual falso pero altamente realista, utiliza técnicas avanzadas de inteligencia artificial, pero no es tan fácil de lograr.

La herramienta que utilicé me advertía que Lacalle era un personaje público y que llevar a cabo esta tarea no era posible. ¿Cómo lo sabe? Su sistema está entrenado con suficientes imágenes del mandatario para discernir de que se trata alguien con relevancia pública.

En esta nota escrita por Tomer Urwicz, El Observador y Digital Sense –compañía uruguaya líder en procesamiento de imágenes y aprendizaje automático– crearon un video en que un Luis Suárez gesticula al compás que le instruye uno de los ingenieros de la compañía.

El engaño que le hacen a ChatGPT

Si bien a ChatGPT no se le puede pedir de manera explícita cómo cometer un ilícito, algunas empresas de seguridad informática han advertido sobre cómo hay hackers que logran engañar a esta inteligencia artificial para lograr su objetivo.

ESET, una de estas compañías, advirtió cómo logran cometer un phishing, el ciberdelito más usual en internet y en el que más caen los uruguayos. En este caso los atacantes simulan ser una entidad en la que el usuario confía y le envían un mail o mensaje para robarle información o dinero. 

Los atacantes han utilizado la herramienta para redactar correos, que ellos no sabrían escribirlos de manera adecuada, y le dan instrucciones sobre todos los detalles que debe tener el mensaje para concretar su ansiado cometido: robar datos y dinero. 

¿Cómo podés hacer para saber si un correo fue escrito por un hacker con inteligencia artificial? Obvio que debés verificar la dirección del remitente, no hacer clic en enlaces sospechosos (nunca un banco te va a pedir que mandes tus datos privados por mail) y no descargues ningún archivo que te manden adjunto.

Pero si esto todavía no te resultó, podés verificar si un texto fue escrito por un humano o una inteligencia artificial con la herramienta ZeroGPT.

La forma fácil de afectar derechos de autor

Hay una muy sencilla de utilizar que permite eliminar marcas de agua. Para muchos bancos de imágenes, que utilizan esta barrera para evitar que sus creaciones sean robadas, viene siendo un problema. Pero Google ya ha anunciado que tiene la estrategia para poder endosarle una marca de agua (invisible para el ojo humano).

Las ilegalidades que ya se cometieron con IA

Quienes tienen conocimientos más amplios sobre esta tecnología han causado serios problemas a algunas personas. En España, sucedieron varios casos de desnudos falsos de adolescentes. Los creadores utilizaban esta tecnología que monta una imagen hiperrealista y verosímil de esas mujeres. En una investigación que aún continúa en curso, hay 26 menores implicados y 21 chicas afectadas. Algunas niñas “ni siquiera están saliendo de sus casas”, contaron sus madres.

Este hecho muestra la popularización de algunas de estas herramientas y de cómo ya están impactando en el futuro. 

¿Qué nos espera? Mayor regulación, algo que han pedido hasta los propios actores que producen estas herramientas. En Uruguay hay un proyecto de ley sobre ciberdelitos que incluye la tipificación de la usurpación de imagen y abarca también casos de suplantación de identidad, comentó para esta newsletter Agustina Pérez Comenale, abogada especializada en este tema.

En nosotros, mayor concientización sobre sus buenos usos y también peligros.

Soy Juan Pablo De Marco, editor web, y por cualquier comentario, inquietud o si tenés ganas de que escriba de algún tema podés escribir a esta dirección.