Tecnología > CRÍTICA
La docuficción de Netflix que te hará querer tirar tu celular por la ventana
Por Anouk Rielo Castells – Especial para Cromo
“Pasé ocho meses hablando de esto con mis abogados, porque me asusta”, afirma en los primeros minutos del documental Joe Toscano, exconsultor de Google, empresa que abandonó por motivos éticos. Nos adentramos en las entrañas de plataformas como Google, Twitter, Facebook, Instagram, Pinterest o YouTube a través de personas que tuvieron cargos de responsabilidad en estas empresas y que alzan su voz para criticar muchas de las cosas que ellos mismos diseñaron.
Los seres humanos tenemos un imperativo biológico de conectarnos con otras personas que afecta directamente en la producción de dopamina como recompensa a estas interacciones. Detrás de esto hay millones de años de evolución. La psiquiatra estadounidense Anna Lembke afirma en el documental que no es sorprendente que un vehículo como las redes sociales, que optimiza estas conexiones entre seres humanos, tenga el potencial de ser adictivo. Las empresas han visto en este potencial una mina de oro basada en la extracción y comercialización de los datos de los usuarios, dándose así lo que la socióloga estadounidense Shoshana Zuboff bautizó como “capitalismo de vigilancia”.
La mina: el usuario
Las redes sociales encontraron la forma de monetizar y, por lo tanto, rentabilizar sus plataformas. Este es el negocio: vender seguridad. Por primera vez en la historia del capitalismo se ha cumplido el sueño de cualquier empresa: tener la garantía de que si ponen un anuncio será exitoso, afirma Zuboff. Nunca antes nadie había logrado dirigir la atención de las personas de una forma tan eficaz, ni la cartelería más grande y extravagante, ni el anuncio más impactante y sensacionalista.
De esta forma, las redes sociales han invertido todos los recursos posibles en desarrollar estrategias para captarte como usuario y retenerte frente a tu pantalla el máximo tiempo posible, de manera que no exista la posibilidad de que no veas el anuncio de esa nueva hamburguesa del McDonald’s. O de esa nueva hamburguesa sin carne del McDonald’s, en el caso de seas una persona vegana o vegetariana, porque las redes sociales se las han ingeniado también para saber eso.
Dentro de estas estrategias se enmarca la “tecnología persuasiva”, que hace uso de conocimiento psicológico para modificar conductas a través de la tecnología. Tristan Harris, extrabajador de Google y presidente y cofundador del Centro de Tecnología Humana, define en el documental la “tecnología persuasiva” como la aplicación intencional y extrema del diseño para hacer que los usuarios actúen de una forma determinada.
La arquitectura de las redes sociales está creada por un conjunto de diseñadores que se han pasado años estudiando y experimentando con tu cerebro para hacer que te quedes en línea un rato más, para implantarte sutiles hábitos inconscientes, con el único objetivo de colarte un anuncio publicitario más.
En este sentido, Harris compara las redes sociales con las máquinas tragamonedas por el uso de una técnica en común: el “refuerzo positivo intermitente”. Los reforzadores son estímulos que al presentarse aumentan la probabilidad de que se repita la conducta que los produjo. Por eso no puedes parar de deslizar para refrescar la información o a chequear tu lista de notificaciones, por ese nuevo vídeo acorde a tus intereses que aparecerá al refrescar, o por ese nuevo like que verás al entrar a la ventana de notificaciones.
Puede que, a diferencia de las máquinas tragamonedas, las redes sociales no se “traguen tus monedas” de forma directa, pero sí hará que te compres ese abrigo o esa entrada de concierto que no te hubieras comprado si no fuera por esa publicidad que se coló entre tus historias. Y, lo peor, es que del casino te puedes ir, pero las redes sociales irán contigo a donde vayas (y, seguramente, registren tu camino por geolocalización al mismo tiempo).
Quizás muchos usuarios estén dispuestos a dar cierta información personal o a recibir cierta publicidad a cambio de hacer uso de las redes sociales. “Si no pagas por el producto, eres el producto”, y quizás estemos dispuestos a ser productos – a que nuestra atención sea el producto - a cambio de no pagar. Sin embargo, para el escritor e informático estadounidense Jaron Lanier, esta frase es demasiado simplista. Tú no eres el producto, el producto es el cambio gradual, leve e imperceptible de tu comportamiento y tu percepción: “cambiar lo que haces, lo que piensas, lo que eres, es el producto”, afirma en el documental.
El oro: la información
Zuboff sostiene estamos ante una situación “sin precedentes”, que las redes sociales tienen más información sobre nosotros de lo que jamás se imaginó en la historia humana. Registran cada like, cada comentario, cada follow, cada entrada a un perfil, cada búsqueda, incluso el tiempo que te pasas mirando cada post. Saben más de ti que tú mismo. Afirma Sandy Parakilas, exjefe de operaciones de Facebook, que toda esa información alimenta unos sistemas que “cada vez hacen mejores predicciones sobre quiénes somos y qué vamos a hacer”.
Estos sistemas funcionan mediante inteligencia artificial, elaborando las predicciones a través del aprendizaje automático. “Le das a la computadora un objetivo y ella aprende a hacerlo. Cada día mejora en elegir las publicaciones correctas en el orden correcto para que tú pases más tiempo en el producto”, afirma el empresario estadounidense Jeff Seibert. De esta manera, a diferencia de lo que se piensa habitualmente, los algoritmos no están diseñados para darle al usuario lo que quiere ver, sino para recopilar tu información personal, conocerte lo mejor posible, y saber qué es lo que te va a hacer quedarte en frente de la pantalla, y en qué publicidad tienes más probabilidades de caer.
En palabras de la matemática estadounidense Catherine O'Neil, “los algoritmos son opiniones codificadas”, no tienen objetividad, están optimizados para una definición concreta del éxito, que para una empresa siempre será el beneficio, a cualquier costo. Por esta razón hay que dejar de concebir las redes sociales como una “herramienta” de la que se puede hacer un buen o mal uso. “Hemos pasado de un entorno tecnológico basado en herramientas a uno basado en adicción y manipulación. Las redes sociales no son herramientas, tienen sus propias metas y sus propios medios para alcanzarlas mediante el uso de la psicología en tu contra”, sostiene Harris.
“El capitalismo de vigilancia se beneficia del rastreo infinito de los lugares a donde vas con las grandes empresas de tecnología, cuyos modelos de negocio es asegurar que los anunciantes tengan todo el éxito posible”. - Tristan Harris
Las consecuencias
Los seres humanos evolucionamos para preocuparnos por lo que pensaban de nosotros el resto de nuestra “tribu”. Pero, ¿estamos preparados para saber lo que piensan 10.000 personas de nosotros? ¿O para recibir aprobación social cada cinco minutos?
El aumento de las tasas depresión, de autolesión y de suicidio en adolescentes desde que se produjo el auge de las redes sociales responden a esta pregunta. Cuenta en el documental el psicólogo social estadounidense Jonathan Haidt que los adolescentes de la generación Z, nacidos después de 1996, son la primera generación en la historia que tuvo redes sociales en la secundaria, una generación que es psicológicamente más ansiosa, más frágil y más deprimida. A su vez, Harris afirma que se está entrenando y condicionando a una nueva generación de personas para que cuando se sientan incómodas, solas, inseguras o temerosas, utilicen el celular. Nombra este fenómeno como “chupete digital”, que termina atrofiando nuestra propia capacidad de lidiar con estas circunstancias.
Cada vez el contacto con estas plataformas se produce más temprano. El teléfono es la nueva televisión, los y las niñas se pasan horas navegando por la red, jugando o viendo vídeos, sin apenas supervisión adulta. No obstante, como explica Harris, estos productos no fueron diseñados por psicólogos infantiles que quieren proteger y cuidar a los niños. El algoritmo que le recomienda vídeos de YouTube a tu hijo no va a pensar en ningún momento en recomendarle vídeos que le aburran para que deje el celular porque ya ha superado el tiempo máximo en pantalla recomendado por la Organización Mundial de la Salud. La definición de “éxito” con la que se codificó el algoritmo no es su bienestar, es el beneficio de la empresa, aunque eso suponga generar una adicción en los más pequeños o socavar su sentido de la valoración y su identidad.
Y más allá del propio individuo, las implicaciones sociales que tienen estos fenómenos se pueden observar haciendo un repaso por los últimos años de la historia. Polarización, propaganda, fakes news, desinformación; el algoritmo solo piensa en aumentar tu tiempo en pantalla recomendándote lo que te gusta, aunque eso implique retroalimentar teorías conspiranoicas o discursos supremacistas, aunque eso implique poner en riesgo la vida de las personas que integran una comunidad recomendándote publicaciones en Facebook instándote a no usar tapabocas porque el covid-19 es una mentira del gobierno.
Los protagonistas del documental coinciden en que el problema está en el modelo de negocio, y para poner freno a estos mercados afirman que hay que regularlos. Sin embargo, el capitalismo siempre ha buscado la acumulación de riqueza a cualquier precio, de una forma tan intrínseca que costaría pensar que no se trata de una característica estructural de este sistema. Entonces, ¿por qué iba a dejar de hacerlo ahora?
“Vivimos en un mundo en el que un árbol muerto vale más que uno vivo, en el que una ballena vale más muerta que viva. Mientras la economía funcione así y las corporaciones no estén reguladas, seguirán destruyendo árboles y matando ballenas. Aunque sepamos que eso está destruyendo el planeta. Ahora nosotros somos el árbol, somos la ballena”. – Justin Rosenstein, exlíder de ingeniería de Facebook
