ver más

La primera sentencia condenatoria en Uruguay por material de abuso sexual de menores generado con inteligencia artificial fue identificada por operadores de Fiscalía y marca un punto de inflexión: el fallo establece que material generado con IA representando menores "constituye delito penalizable", incluso cuando no existe una víctima real detrás de las imágenes.

El dato surge del estudio "Explotación Sexual Comercial de Niños, Niñas y Adolescentes en Uruguay: entornos digitales y respuesta institucional", realizado por la Facultad de Psicología de la Udelar para el Comité Nacional para la Erradicación de la Explotación Sexual Comercial y no Comercial de la Niñez y Adolescencia (CONAPEES), con apoyo del Fondo de Población de las Naciones Unidas (UNFPA).

La investigación se basa en una encuesta a 135 operadoras y operadores de primera línea y entrevistas grupales a referentes de Fiscalía, INAU, ANEP, Salud y el Ministerio del Interior.

El informe la presenta como una categoría nueva. Bajo el título "Material generado con inteligencia artificial", los autores escriben que "operadores de Fiscalía identificaron la primera sentencia condenatoria en Uruguay" en esta materia.

Según el estudio, el fallo rechaza los "argumentos que infieren que, al ser artificial, no constituiría material de abuso sexual a niños, niñas y adolescentes". Es decir: la ausencia de una víctima filmada o fotografiada no exime al contenido de su carácter delictivo.

Los autores del informe —Pablo López y Manuela Costa, del Programa Género, Sexualidad y Salud Reproductiva del Instituto de Psicología de la Salud— ubican este material dentro del mapa de Explotación Sexual Comercial de Niños, Niñas y Adolescentes (ESCNNA) en entornos digitales.

Lo que diferencia a esta modalidad, plantea el estudio, es que "plantea desafíos específicos al no requerir victimización directa para la producción del material". Ese rasgo introduce complicaciones propias para la detección, la investigación y la persecución penal.

El proyecto de ley que avanza en el Parlamento

En paralelo a la jurisprudencia reseñada en el estudio, avanza en el Parlamento un proyecto de ley que busca penalizar a quienes difundan imágenes sexuales o íntimas de terceros creadas con IA u otras tecnologías.

La iniciativa es del diputado colorado Gabriel Gurméndez y ya fue votada por unanimidad en la Cámara de Diputados y en la comisión del Senado. Resta su aprobación en el pleno de la Cámara de Senadores.

El proyecto propone modificar el artículo 92 de la Ley de Violencia Hacia las Mujeres Basada en Género de 2017, que hoy castiga con seis meses de prisión a dos años de penitenciaría a quien difunda imágenes íntimas sin autorización. La modificación incorpora las grabaciones "reales o simuladas" dentro del tipo penal.

El texto define las imágenes simuladas como aquellas que, "de manera verosímil, mediante inteligencia artificial, edición digital u otra tecnología", producen "una representación falsa pero creíble en apariencia, voz o conducta de la persona afectada". En ningún caso se considerará válida la autorización otorgada por una persona menor de 18 años.

Los administradores de sitios, portales o buscadores que, "notificados de la falta de autorización, no den de baja las imágenes de manera inmediata, serán sancionados con la misma pena" prevista en el artículo.

En la exposición de motivos, Gurméndez argumenta que "la evolución de las tecnologías digitales ha permitido la creación de imágenes y videos altamente realistas que simulan a personas en situaciones que nunca ocurrieron", en particular mediante técnicas de deepfake o "ultra falso".

El diputado sostiene que esa tecnología, "al ser utilizada con fines no consentidos y en contextos de contenido sexual o íntimo, constituye una grave vulneración de derechos fundamentales como la intimidad, el honor, la integridad moral y la propia imagen". Y advierte que "en los últimos tiempos han ido creciendo los casos de este tipo de abusos, que afectan a las víctimas principalmente mujeres y menores". La exposición enumera legislaciones ya vigentes en Estados Unidos, Reino Unido, España, Alemania, Francia y Canadá.

Temas:

deepfakes inteligencia artificial

Seguí leyendo