Los planes de los gigantes de internet para evitar los discursos de odio

Buscan combatir la estrategia yihadista que encontró en la red el mejor escaparate para exhibir sus victorias, viralizar sus atrocidades y sumar seguidores a sus filas

De Manchester a Teherán; de Londres a París; de El Cairo a Bagdad. El Estado Islámico golpea sobre las poblaciones civiles. La mayor organización terrorista de la historia después de Al Qaeda se ha estado nutriendo de dos armas: el terror e internet.

El primer video de una decapitación fue grabado por una célula terrorista derivada de Al Qaeda en 2004. En ese entonces no existían YouTube ni Twitter. Facebook todavía seguía limitado a universitarios. Y pocas personas tenían smartphones. Hoy, sin embargo, esas herramientas les permiten a los grupos terroristas llegar de forma directa a un público de millones de personas.

"Los videos tienen calidad de Hollywood y se hacen con la última versión de Final Cut. Empezaron con videos de 5MB de peso, de mala calidad, y ahora podemos verlos con calidad de Blu-Ray en la web", dijo a Vice Evan Kohlman, un consultor en terrorismo que trabajó para el FBI.

El terrorismo yihadista encontró en la red el mejor escaparate para exhibir sus victorias, viralizar sus atrocidades y sumar seguidores a sus filas. Prueba de ello fue el asesinato del periodista estadounidense Steven Sotloff en 2014. A través de 1.500 cuentas se lanzaron 3.000 tuits apoyando la ejecución. El mensaje llegó a 2,5 millones de usuarios.

En los últimos años, Twitter, Facebook, YouTube, entre otros servicios en línea, se han convertido en una de las vías principales de reclutamiento. Ya en 2012 la ONU advertía que los terroristas los utilizaban cada vez más para propagar su mensaje.

Después del ataque terrorista en Manchester, que dejó 22 muertos, la primera ministra británica Theresa May dijo que buscaría formas de obligar a las empresas a que abran sus servicios, de modo que los gobiernos accedan más fácilmente a los datos de los usuarios sospechosos. "No le podemos permitir a esta ideología tener el espacio seguro que necesita para reproducirse. Y eso es precisamente lo que proporcionan internet y las grandes compañías proveedoras de internet", expresó.

"No le podemos permitir a esta ideología tener el espacio seguro que necesita para reproducirse. Y eso es precisamente lo que proporcionan internet y las grandes compañías proveedoras de internet", expresó Theresa May.

El objetivo es que los grupos terroristas no puedan utilizar las redes sociales como megáfono global. "El Estado Islámico está disfrutando de un momento viral y los puntos de vista compensatorios ni se acercan a la fuerza necesaria para oponerse a ellos", dijo Victoria Grand, directora de Políticas de Google. ¿Es una batalla que se puede ganar?

Censores en línea

El ataque al centro comercial de Westgate (de Nairobi, Kenia), en el que fueron asesinadas 72 personas, fue el primero en coordinarse por Twitter y no en foros yihadistas. Y ahí fue donde el grupo Al Shabab dijo ser autor de la masacre. Desde entonces, la red social se ha convertido en unos de los principales instrumentos de propaganda.

El califato del Estado Islámico cuenta con un ejército de aproximadamente 46 mil fieles en Twitter, según un estudio elaborado con datos de 2014 por la Brooking Institution. Una cifra que presumiblemente será mayor hoy en día, dada la repercusión que ha logrado el grupo terrorista en este tiempo, y que ha empujado a la red social a clausurar los perfiles de miles de usuarios.
Se estima que cerca de 30 mil cuentas estarían controladas por seguidores, mientras que el resto serían bots, programas que imitan el comportamiento humano.

Frente a las dudas iniciales, en los últimos meses los gigantes de internet han tomado una actitud más beligerante, censurando los mensajes violentos y clausurando miles de cuentas.

"Condenamos el uso de Twitter como herramienta para promover el terrorismo", aseguró un portavoz de la red social, que añadió: "Desde mediados de 2015 hemos suspendido más de 125 mil cuentas, relacionadas con el Estado Islámico, por amenazas o promoción del terrorismo yihadista".

En julio de 2016 Google y Facebook comenzaron a automatizar el proceso de eliminar los videos extremistas de sus plataformas. El método se conoce como hashing y es una técnica similar a la que se usa para identificar y borrar contenidos protegidos por derechos de autor.

"El Estado Islámico está disfrutando de un momento viral y los puntos de vista compensatorios ni se acercan a la fuerza necesaria para oponerse a ellos", dijo Victoria Grand, directora de Políticas de Google.

El proceso implica operaciones matemáticas que asignan un valor, conocido como hash, a una cadena de datos. Los mismos archivos recibirán el mismo hash, lo que permite a las computadoras encontrar los duplicados de forma fácil. El propietario de los derechos proporciona el hash del material y el sitio elimina cualquier archivo subido a sus servidores que comparta ese valor.
En diciembre de ese año, Twitter y Microsoft se sumaron a Google y Facebook para tener una base de datos en común a fin deque el material sea suprimido de todos los servicios.

A raíz de los últimos ataques terroristas producidos en Europa, Google recientemente afirmó que intensifica sus esfuerzos para luchar contra los contenidos "extremistas o relacionados con el terrorismo" en YouTube.

"Trabajamos, como los demás, desde hace años para identificar y eliminar los contenidos que van contra nuestras reglas. Pero por molesto que sea la verdad es que debemos reconocer, y el sector económico también, que hay que hacer más", escribió el consejero general Kent Walker en un texto publicado en su blog.

Este objetivo "puede ser un desafío: el video de un atentado terrorista puede ser material informativo si es publicado por la BBC, o apología de la violencia si es subido en un contexto diferente por otro usuario", dijo.

Cada minuto se suben a YouTube unas 300 horas de video, por lo que resulta humanamente imposible revisarlas todas. Google promete reforzar su utilización de la inteligencia artificial, de manera que las computadoras "nos ayuden a identificar y eliminar más rápidamente los contenidos extremistas o relacionados con el terrorismo". El buscador afirma que sus modelos actuales logran detectar más del 50% de los videos inapropiados.

Sin embargo, la firma reconoce que la tecnología no puede ser la única respuesta, por lo que promete aumentar "significativamente el número de expertos independientes" encargados de supervisar los videos. El programa se expandirá con la integración de 50 organizaciones no gubernamentales y 63 organizaciones especializadas que trabajan en problemas como el discurso de odio, la autolesión y el terrorismo.

Cuando un contenido no viole claramente las políticas de YouTube, como por ejemplo contenido religioso en un tono violento o de supremacía de alguna cultura, la empresa los etiquetará para advertir a los usuarios; estos no serán monetizados (no podrán ganar dinero por concepto de publicidad), no podrán recomendarse y se deshabilitarán los comentarios, para reducir su alcance.

La empresa de Mark Zuckerberg, por su parte, empezó a experimentar con inteligencia artificial para entender mejor si el lenguaje usado en las publicaciones es propaganda terrorista; también usa herramientas de coincidencia de imágenes para prevenir que los usuarios suban videos o imágenes de terroristas conocidos y también usa algoritmos para detectar grupos de perfiles afines, páginas y otros que apoyen el terrorismo.

"Queremos que Facebook sea un lugar hostil para los terroristas", dijo la red social en su blog en un post titulado Cómo luchamos contra el terrorismo.

Estas herramientas permiten identificar mejor las imágenes cuestionables. "Cuando alguien trata de subir una foto o un video (de carácter) terrorista, nuestros sistemas determinan si estas imágenes son idénticas" a las imágenes claramente terroristas. Si es el caso, la descarga se bloquea.

Además, la red social tiene ahora más de 150 personas que están enfocadas principalmente en luchar contra el terrorismo. Aunque reconoció que la tecnología no puede reemplazar "la experiencia humana", Facebook sostuvo que el número de empleados encargados de la gestión de contenidos aumentará en 3.000 para el próximo año, con lo que alcanzará los 7.500.

terror-1279135_960_720.jpg

undefined undefined

Métodos secretos

Los grupos terroristas han desarrollado sus propios sistemas informáticos para ocultar su identidad y evitar ser detectados virtualmente. Varios informes revelaron que renovaron todo "su software de inteligencia" solo "de tres a cinco meses" después de las filtraciones de Edward Snowden en 2014.

Por ejemplo, en este tiempo han usado el software de encriptación conocido como Asrar al-Mujahideen, que permite a los usuarios generar una llave digital que puede ser usada para codificar o decodificar texto, así como el Asrar al-Dardashah, una extensión para mensajería instantánea. También se han descubierto versiones para dispositivos móviles. Tanto Al Qaeda como el Estado Islámico u otros, todos trabajan con estándares de encriptación como RSA, AES o Twofish, los mismos que utiliza un usuario común al pagar con una tarjeta de crédito.