Google tiene una nueva herramienta para identificar pornografía infantil

La gran mayoría de las soluciones tecnológicas a favor de la identificación del abuso y de la pornografía infantil se basan en la utilización de una cierta cantidad de contenido que es previamente marcado y que se encarga de identificarlo en imágenes y videos. Esto hace que solo puedan identificar el material que es marcado de antemano como ilegal y por eso se necesitan moderadores humanos para identificar el nuevo contenido. Las personas deben encargarse de “nutrir la base de datos viendo y revisando imágenes y videos para otorgarles una clasificación”, explicó el portal Xataka.

Sin embargo, la herramienta de Google hace uso del sistema de identificación artificial “machine vision” para usar material previamente clasificado para que así pueda identificar imágenes y videos CSAM de una forma más rápida. Cuando el sistema identifica este material envía una alerta al moderador y es quien lo marca como ilegal de una forma más rápida. Las pruebas que Google realizó a su herramienta permitieron identificar un 700% más de contenido CSAM.

La Internet Watch Foundation (IWF), una de las organizaciones que está dedicada a detener la propagación de CSAM, tiene un gran equipo de moderadores que intentan identificar imágenes y videos de este contenido y que opera en más de 12 países.La IWF va a ser la primera organización en probar el nuevo software de Google.

Fred Langford, director general adjunto de IWF, mencionó que intentaron con varias herramientas que intentan automatizar esta tarea, “pero a día de hoy ninguna ha resultado ser efectiva, así que en caso de que se cumpla lo que promete Google este clasificador sería un poco como el 'Santo Grial' de nuestro campo", expuso el portal.