El algoritmo que radicaliza a tu hijo

La imagen mostraba a un hombre con ropa moderna (un viajero en el tiempo) informando al líder nazi sobre la invasión de Normandía. Joanna dejó todo lo que estaba haciendo y se sentó, alarmada, con su hijo, quien le explicó que ni siquiera había leído el texto, que había pensado que el viajero estaba tratando de matar a Hitler, no de ayudarlo. “Se sorprendió y avergonzó cuando le expliqué el mensaje real: que hubiera sido mejor si el Holocausto hubiera continuado”, escribió su madre en una columna del New York Times, luego de que un hilo de Twitter que publicó a raíz de este episodio se convirtiera en viral, compartido y “likeado” por miles. Los que las redes te quitan las redes te lo dan. A veces, porque en otras oportunidades la pérdida es irreparable.

En el último mes, dos nuevos tiroteos masivos dejaron más de 30 muertos en Estados Unidos y sacudieron, por undécima vez, los cimientos de una sociedad dividida que no encuentra explicación ni soluciones para detener la violencia. En ambos casos, una escuela de niños de menos de 10 años en una comunidad mayoritariamente latina de Texas, y un supermercado de una zona en la que viven sobre todo negros en Buffalo, Nueva York, los atacantes fueron jóvenes de 18 años, uno de ellos definitivamente radicalizado vía internet y el otro seguramente. Ambos, además, tuvieron acceso a armas de alto calibre por las leyes vigentes en buena parte de Estados Unidos (rifles del estilo AR-15). En Texas fueron asesinados 19 niños y dos maestros. En Buffalo murieron 13 personas que hacían sus compras en el supermercado local.

Joanna Schroeder es una periodista y escritora que encontró un patrón de contenidos en las redes de sus hijos que no imaginaba llegaría a ellos, criados en un hogar sin radicalismos, respetuoso de la vida humana y de las diferencias y similitudes que permiten que una comunidad prospere. Lo que encontró la llenó de preocupación. “Era un contenido que se sentía muy agresivo. A veces se suponía que era divertido, pero claramente tenía mensajes intolerantes y llenos de odio”, dijo a NPR en estos días, entrevistada luego de los tiroteos, en buena parte porque luego de su experiencia escribió una guía para ayudar a los padres a detectar a tiempo y conversar con sus hijos estas experiencias que, en muchos casos, terminan radicalizándolos irremediablemente, en Estados Unidos hacia las filas de la supremacía blanca o el fundamentalismo religioso, en otro países hacia la violencia en general.

“Inmediatamente salté a Twitter, escribí una amenaza y simplemente descargué mis sentimientos y mis miedos. Y eso se volvió salvajemente viral, al menos para mis estándares. Y el rechazo que recibí entonces fue, “esto es ridículo. Los memes no radicalizan a los niños. Los memes son solo bromas. Los niños conocen la diferencia entre, ya sabes, propaganda y bromas. No son tan ingenuos como crees que son”, recordó Schroeder. En sus tweets la periodista explica que el proceso comienza cuando los adolescentes, en su gran mayoría varones blancos en EEUU, son inundados al principio con memes que tienen leyendas levemente racistas, sexistas, homofóbicas y anti semíticas. Son demasiado jóvenes para entender los matices y su operativa en redes hace que no se detengan a examinar detalles. Repiten y comparten.

La mayoría de los adolescentes que navegan por TikTok o Instagram o en cualquier plataforma, acceden a estos contenidos. Están buscando datos sobre un videojuego o un tutorial para pasar al siguiente nivel, y algo se les cruza en el feed, un mensaje de odio escondido en una aparente broma o una imagen distorsionada, nada “grave”. Con suerte todo quedará en eso y la edad y la experiencia los alejará de estos contenidos. Con mala suerte y ausencia de supervisión parental extremadamente cercana (mucho más atenta que la que la mayoría de las personas le damos a nuestros hijos), estos primeros contactos se transforman en otros que tienen personas detrás, organizaciones enteras que manipulan con los miedos de la adolescencia, la cultura del bullying y las inseguridades de esta y otras etapas de la vida. 

Todo esto sucede en Estados Unidos pero también en el resto del mundo. Una investigación realizada en 2019 por el New York Times en Brasil reveló que algo muy similar ocurrió y ocurre allí. Matheus Dominguez, de 16 años entonces, cambió su vida debido a YouTube y su “máquina de recomendaciones”, mientras buscaba recursos y tutoriales para tocar la guitarra. Así descubrió a Nando Moura, un youtubero que publica videos sobre heavy metal, juegos y, sobre todo, política. En sus videos Moura acusa a feministas, maestros y políticos de izquierda de llevar adelante enormes conspiraciones. Matheus se enganchó y fue uno de los votantes más entusiastas de Jair Bolsonaro.

“Los miembros de la extrema derecha recién empoderada de la nación, desde organizadores de base hasta legisladores federales, dicen que su movimiento no habría crecido tanto, tan rápido, sin el motor de recomendaciones de YouTube. Una nueva investigación indica que pueden estar en lo cierto. El sistema de búsqueda y recomendación de YouTube en Brasil parece haber desviado sistemáticamente a los usuarios a canales de extrema derecha y conspiración”, dice la nota del New York Times.

Del fanatismo político o religioso al asesinato hay un trecho, pero nunca sabremos cuán largo o corto es y cuánto tarda cada individuo en transitarlo alguna vez. “Por lo general, lo que motiva estos tiroteos es un elemento de autodesprecio, desesperanza, desesperación, ira, que se vuelve hacia el mundo”, dijo James Densley, sociólogo y fundador de The Violence Project a NPR luego de estas tragedias. “Es la misma trayectoria una y otra vez. Solo que las personas se radicalizan en direcciones ligeramente diferentes, pero sus raíces son las mismas”.

Detrás del asesino de Buffalo hay una clara huella online, que comparte con la mayoría de los que mataron masivamente a personas en Estados Unidos; su camino hacia la radicalización llegó al punto de que compartió sus planes en Discord, una plataforma de mensajería instantánea, además de un documento de 200 páginas de teorías conspirativas racistas. El ataque fue transmitido en vivo por él mismo. 
Los uruguayos solemos creer que acá “eso no llega”, pero la mayoría de las veces todo desembarca de una u otra manera. La radicalización en las redes sociales no es una novedad por aquí tampoco, y como muestra basta pasar un rato en Twitter o Facebook e, incluso, en Instagram y TikTok desde la perspectiva de una persona joven. ¿Cuándo debemos preocuparnos? Schroeder resume en algunos puntos a los qué debemos estar atentos los padres:

Encontrar accidentalmente mensajes de odio.

Compartir chistes y memes discriminatorios.

Afirmar creencias de extrema derecha en la vida diaria.

Apoyar a grupos antidemocráticos y difundir conspiraciones o manifiestos de odio.

Solicitar o participar en actos de intimidación o violencia.

La experta, además, recomienda que cuando el adulto percibe alguno de estas señales no enfrente con rezongos o agresividad al joven, porque eso le genera rabia que a su vez lo lleva a aislarse más y atrincherarse en esas ideas recién plantadas. En cambio, si el adulto pide que le expliquen qué le atrae de esos contenidos o por qué cree que se cuelan en su dieta algorítmica, tal vez haya espacio para una conversación productiva que derive en un freno a la violencia online que, siempre, termina siendo física.