Un nuevo informe del Instituto para el Diálogo Estratégico (ISD) revela que neonazis y supremacistas blancos están difundiendo propaganda relacionada con Hitler e intentando reclutar nuevos miembros en TikTok. Los investigadores encontraron que el algoritmo de TikTok también está promoviendo este contenido entre nuevos usuarios, aprovechando la popularidad de la plataforma entre audiencias jóvenes para esparcir su mensaje.
El informe del ISD, compartido exclusivamente con el portal WIRED, señala que cientos de cuentas extremistas en TikTok publican abiertamente videos que promueven la negación del Holocausto, la glorificación de Hitler y la Alemania nazi, sugiriendo que la ideología nazi es una solución a problemas modernos, como la supuesta invasión de inmigrantes en países occidentales. Estas cuentas también apoyan a tiradores masivos supremacistas blancos y presentan imágenes relacionadas con transmisiones en vivo o recreaciones de esas masacres. Muchas utilizan símbolos nazis en sus imágenes de perfil o incluyen códigos de supremacía blanca en sus nombres de usuario.
Nathan Doctor, un investigador del ISD que escribió el informe, dice que comenzó su investigación a principios de este año cuando encontró una cuenta neonazi en TikTok mientras trabajaba en otro proyecto. Esto lo llevó a descubrir una red mucho más amplia de cuentas que se ayudaban mutuamente al dar "me gusta", compartir y comentar en las publicaciones de otras para aumentar su alcance.
Tradicionalmente, los grupos que promueven narrativas neonazis están aislados en plataformas más marginales como Telegram. Sin embargo, en Telegram ahora se discuten técnicas para reclutar miembros a través de TikTok, compartiendo videos, imágenes y pistas de audio para que otros las publiquen en la plataforma.
Un grupo neonazi en Telegram expresó que, a pesar de tener una nueva cuenta en TikTok con cero seguidores, alcanzaron más vistas de las que podrían tener en otras plataformas como Bitchute o Twitter. Otros grupos han seguido este ejemplo, con un destacado neonazi pidiendo a sus seguidores que "impulsen" sus videos de TikTok para maximizar su alcance viral.
Un canal extremista en Telegram con 12,000 seguidores instó a sus miembros a promover el documental neonazi "Europa: The Last Battle" en TikTok, logrando que algunos videos obtuvieran más de 100,000 vistas. Una cuenta que publicó fragmentos de esta película alcanzó casi 900,000 vistas, difundiendo afirmaciones antisemitas y falsas sobre la familia Rothschild.
Esta no es la primera vez que se revela el papel del algoritmo de TikTok en la promoción de contenido extremista. A principios de mes, la Red Global sobre Extremismo y Tecnología informó que el algoritmo estaba promoviendo la "adoración de ideólogos fascistas menores". El año pasado, los investigadores encontraron que también impulsaba narrativas supremacistas eurocéntricas en el sudeste asiático.
Jamie Favazza, portavoz de TikTok, afirmó que el comportamiento de odio y las ideologías extremistas no tienen cabida en la plataforma y que más del 98% de este contenido es eliminado antes de ser reportado. Además, señaló que TikTok cuenta con más de 40,000 profesionales de confianza y seguridad a nivel mundial, incluyendo especialistas en extremismo violento que monitorean constantemente las comunidades extremistas.
A pesar de estas medidas, los extremistas continúan utilizando TikTok para difundir su ideología. Doctor, el investigador de ISD, descubrió que esta red de cuentas no se limita a Estados Unidos, sino que es un fenómeno global, encontrando material en varios idiomas como francés, húngaro, alemán y ruso. Incluso identificó grupos nazis en México y América Latina.
Los investigadores también encontraron que algunas organizaciones fascistas o de extrema derecha del mundo real estaban reclutando abiertamente en TikTok, enlazando a sitios web con folletos antisemitas e instrucciones para fabricar armas, e instando a sus seguidores a unirse a chats grupales seguros en plataformas cifradas como Element y Tox.
Aunque TikTok ha prohibido algunas cuentas, otras siguen activas, y la plataforma enfrenta un desafío continuo para combatir el contenido extremista. Los investigadores crearon nuevas cuentas para observar cómo el algoritmo de TikTok promueve el contenido nazi, y descubrieron que, después de ver solo unos pocos videos de cuentas pronazis, el algoritmo sugería más contenido similar, aumentando la exposición a narrativas de odio.
Abbie Richards, investigadora especializada en TikTok, y Marcus Bösch, investigador de la Universidad de Hamburgo, coinciden en que no es sorprendente encontrar este tipo de contenido en la plataforma y expresan dudas sobre la capacidad de TikTok para solucionar el problema. A pesar de las medidas proactivas, TikTok sigue siendo un objetivo para los extremistas debido a la "asimetría adversarial", como señala Adam Hadley, director ejecutivo de Tech Against Terrorism.
