Tecnología > INTELIGENCIA ARTIFICIAL
Cómo Instagram, Spotify y Twitter "buscan engancharte": el detrás de escena de sus algoritmos
Usamos las redes sociales sin cuestionarnos cómo operan por detrás. Haldo Spontón es uno de los mayores expertos uruguayos en Uruguay en inteligencia artificial. Trabaja como uno de los líderes en la temática en Globant (VP of Technology & Head of AI, según el cargo formal) desarollando aplicaciones para los clientes de la compañía.
El docente e investigador en procesamiento de señales y aprendizaje automático explica a Cromo cómo operan los motores de recomendación de Netflix, Facebook, Google, Spotify y Twitter, cómo logran que estemos casi todo el día frente a la pantalla y qué impacto mental puede tener en la salud de los usuarios.
En este resumen de la charla, Spontón insta a los usuarios a “entender el juego” cuando uno interactúa con cada plataforma para no caer en excesos de uso.
¿Cómo se podría resumir el funcionamiento básico de los algoritmos de Netflix, Facebook o Spotify?
Todos estos algoritmos comenzaron por el 2000. Se llaman motores de recomendación. Cuentan con una gran familia de técnicas que dan vida a estos motores. Todas estas plataformas intentan siempre personalizar la experiencia que viven los usuarios mediante contenido que creen relevante para un usuario en cada momento. Es la búsqueda de la hiperpersonalización.
Pero al principio no estaban pensadas para favorecer una experiencia de hiperpersonalización. ¿Eso fue cambiando conforme fue pasando el tiempo?
Entiendo que las redes sociales se crean con un objetivo de compartir y conectar. A medida que se empiezan a usar y a inundar de contenido, es ese contenido que se vuelve valioso y el que engancha a los usuarios a pasar más tiempo dentro de las redes sociales. Así se valorizan. Al final del día, las redes sociales compiten por tu tiempo. Y separo el caso de “red social” (Facebook y Twitter) de “distribución de contenido” (Netflix y Spotify). Si bien las técnicas que se utilizan son parecidas, los objetivos son distintos.
"Al final del día, las redes sociales compiten por tu tiempo".
¿Cuáles son las diferencias de esos objetivos?
El negocio de Twitter, Facebook, Instagram y hasta Google hoy, en 2021, es básicamente la publicidad. Lo que empezó como una red social para conectar gente, se empezó a llenar de contenido, que se volvió interesante. Así empezaron a diseñar motores de recomendación para que ese contenido sea relevante para vos en todo momento. Y llegó el momento que toda esa data empezó a servir para personalizar la publicidad. Y ahí es donde se cambió el negocio. Hoy la publicidad es la que domina el negocio de las redes sociales.
Porque lo que más les importa es que interactúes lo más posible en una red social para poder definirte lo más posible y compartirte espacios de publicidad lo más adecuados para vos. Eso es importante porque en ese espacio de publicidad cuánto yo más te conozco más caro es. Yo Facebook, yo Twitter, puedo vender ese espacio a quienes publican (anunciantes). Porque es un espacio que tiene más posibilidades de conversión.
¿Por ejemplo?
Si las redes sociales saben que me gustan las bicicletas, una marca de bicicletas va a pagar más por darme publicidad a mí que a otra persona, que no sé si les gustan. Saben que yo tengo más posibilidades de comprarla. El negocio está en conocer al usuario a través de la interacción.
En el documental El dilema de las redes sociales se habla de tecnología persuasiva, ¿qué es? ¿todas las redes sociales generan un laberinto de uso para las personas?
Hace algunos años fue definido esto como efecto burbuja. Es uno de los grandes problemas que tienen los algoritmos de recomendación. Estos algoritmos, al aprender lo que yo consumo, miro y compro habitualmente, empiezan a ver que hay contenidos que no son relevantes porque yo no accedí. De alguna manera empiezan a alejarme del contenido que no es relevante para mí y a encapsularme en el contenido que sí me interesa.
¿Cómo se aplica esto en Twitter?
En Twitter yo sigo personas. En mi feed (página principal donde aparecen los tuits) se empieza a enfocar en las cosas que sigo y les doy “me gusta”. El feed se empieza a transformar en un espejo de mí, y en las cosas que yo pienso. Esto me aleja de otras ideas, noticias y otras líneas de pensamiento. Esto hay que saberlo.
Pero en Twitter a veces aparece un tuit que se contradice con mi forma de pensar. ¿Cómo es que lo aplica? ¿Intenta mechar un tuit que sea antagónico a ese espejo que explicás?
Hay muchas formas de salir de esa burbuja. Hay formas que las redes intentan explorar para romperla. A veces puede ser aplicando métodos "random": te empiezo a presentar cosas que son cosas muy actuales y tienen mucha actividad. Por más de que no estén en tu línea de pensamiento, te las meten. Hay veces que usan el antagonismo, sin dudas. A Twitter le interesa que consumas contenido que esté alineado a lo que pensás vos, pero también le interesa que consumas contenido que sea completamente opuesto a lo que pensás. Ese es el objetivo de Twitter. En general, algo absolutamente opuesto a vos genera más interacciones que algo que esté en línea de lo que pensás. Spotify lo hace todo el tiempo: con el descubrimiento semanal, todas las semanas genera una lista de 30 canciones que no conocés, y que nunca escuchaste. Eso lo hace muy bien. Realmente, amplía tu burbuja todo el tiempo y no te deja encerrarte.
"En general, algo absolutamente opuesto a vos genera más interacciones que algo que esté en línea de lo que pensás".
En Instagram, muchos usuarios creen que con solo darle "like" a una publicación alimentan el conocimiento de la plataforma sobre ellos. ¿Pero saben mucho más? ¿Cuánto más?
Toda tu interacción en el feed de Instagram, segundo a segundo, es trackeada. Eso no significa que ellos guarden la información de forma literal. No hay una línea escrita que diga: "Haldo estuvo dos segundos mirando una publicación". Sí se guardan datos simplificados de tu interacción con el feed.
Un "me gusta" a una publicación es mucho más que eso. Es un "me gusta" a todas las características que tiene esa publicación. Si yo pongo "me gusta" a una foto de una guitarra, no estoy diciendo que me gusta esa foto. Estoy diciendo mucho más que eso: que me gustan las guitarras, determinado tipo de música o cantante. Incluso, con la hora del día que uso las aplicaciones estoy diciendo mucho más: cuándo es mi momento en el que estoy activo en las redes sociales y cuál es mi hora de ocio. Estar cinco minutos mirando cosas, frenar en una publicación, acceder a publicaciones asociadas, ir al filtro de búsqueda de Instagram y cliquear en un resultado y navegar los parecidos, todo eso genera mi perfil en Instagram.
Todo eso dice cosas de mí que de alguna forma se usan para sus objetivos. El más loable es actualizar mi feed para que todo me interese más. Un fin un poco menos loable que todo me interese más para retenerme más tiempo en la publicación y, si me dan contenido que a mí me gusta, me quedo más tiempo. Es de alguna forma un círculo virtuoso o vicioso, depende de cómo se quiera ver. El otro objetivo es que cuanto más te conozco, más interactuás, mejor contenido te doy, más tiempo estás y más publicidad te puedo vender. Todo empieza con el objetivo de mejorar tu experiencia y brindarte un contenido relevante para ti, y termina en que la publicidad sale más cara porque Instagram te conoce un montón. Y puedo vender el espacio más caro. No todo es maquiavélico. Hay que saber el juego que está jugando cuando uno interactúa con la red social.
El problema es que el usuario realiza esas acciones de manera inconsciente. Uno cliquea y no sabe que está generando una huella digital que beneficia a Instagram
Totalmente. Y lo que te define no es solamente lo que hacés, sino lo que no hacés.
¿Por qué?
En 2019, cuando Instagram actualizó el algoritmo que modifica cómo actualiza el feed, empezó a castigar a la gente que no usaba tanto la aplicación. Si no usás tanto la aplicación, te empieza a mostrar menos contenido. Y, cuando querés mirar contenidos que suben tus familiares, como usás muy poquito la aplicación, Instagram no te los muestra. Hubo muchos usuarios que se quejaron.
Cuando navego en Facebook, Instagram o Twitter, ¿ellas saben lo que hago por fuera de ellas? ¿Saben que navego todos los días en la web de El Observador?
Es indirecta la conexión. No es que Twitter sepa que tú entrás a El Observador. Hay plataformas intermedias que se llaman DMP, Data Managment Platform (Plataforma de gestión de datos, en español) que son los que se encargan de almacenar la información que uno genera con cookies (son archivos informáticos diminutos que obtienen datos sobre nosotros). Y esa información se interconecta entre plataformas. Muchas veces se anonimiza y otras veces no. Lo que pasa es que vos navegás en El Observador, eso genera actividad tuya en cookies y eso termina viviendo en un DMP que de alguna te mete en una cajita de los que navegaron en El Observador con un identificador. Después, cuando Twitter mira datos de ese DMP, sabe que ese usuario con la misma cookie está navegando en Twitter y está en la cajita que navegó en El Observador. Es una conexión indirecta.
¿Twitter contrata DMP?
Sí, se contratan.
Entonces, ¿además de la información que recolectan dentro de Twitter también recopilan información que hay fuera?
En realidad consumen la información que hacés fuera. No son ellos los que la recopilan.
¿Cuál es el impacto que tiene en la salud mental de la gente este tipo de algoritmos?
No me siento capacitado para responder esa pregunta. A modo de reflexión, hay que tener cuidado con el efecto adictivo de las personas. La personalización lo que busca por detrás es generar un refuerzo positivo a mi pensamiento. El objetivo es engancharnos. Nos llenan de estímulos positivos para que lo que tenemos adelante nos interese, nos interese y nos interese. Y nos enganchemos cada vez más. Simplemente, hay que entender el juego que estamos jugando. Esa no es la realidad: es una pequeña ventana a una realidad a cómo nosotros pensamos y nos gusta.
No puedo hablar de salud mental, pero sí entendiendo cómo funcionan estos algoritmos, y el contenido de estas redes sociales, puede ser un círculo vicioso o virtuoso y está creado de forma explícita para que nosotros nos enganchemos. No quiero ponerle adjetivos. Hay gente que opinará que es un desastre y hay quienes opinarán que es una tecnología que está bien porque es una opción súper elegante para conocer mejor a las personas y hacer mejor marketing. Lo que hay que hacer es entender. Nos quieren enganchar para vender mejor publicidad. Me parece que el objetivo inicial de conectar nunca se perdió. Hoy me toca estar viviendo lejos de Uruguay y es una herramienta que me sirve para conectar. Son herramientas súper valiosas. Pero hay que entender todo lo que hay detrás.
"La personalización lo que busca por detrás es generar un refuerzo positivo a mi pensamiento. El objetivo es engancharnos. Nos llenan de estímulos positivos para que lo que tenemos adelante nos interese, nos interese y nos interese"
¿El algoritmo de Spotify ha tenido un impacto en la industria de la música?
Tienen lo que se llama el dilema de los 30 segundos. Spotify premia a los artistas o sellos que suben música en base al número de reproducciones. La reproducción cuenta cuando pasás los 30 segundos de la canción. Ahí suma una reproducción. Si escuchás un segundo de canción no suma, si escuchás 29 segundos tampoco. Cuando la gente se empezó a dar cuenta de ese algoritmo, los productores empezaron a cambiar la forma en que producían las canciones. Y empezaron a decir: ‘Yo tengo que atrapar al usuario en 30 segundos. No me importa si escucha toda la canción. Con que escuche 30 segundos me alcanza’.
¿Empezaron a colocar los estribillos al principio?
Exacto. La gran mayoría de las canciones populares que se consumen hoy empiezan con un estribillo. Se terminaron esas introducciones de dos minutos. Eso no existe más. Justamente por el dilema de los 30 segundos. Eso es interesante de analizar. Porque la definición de un algoritmo termina alterando la realidad. Y la realidad se termina adaptando a lo que espera el algoritmo. Y eso sí es súper paradigmático. Es un sistema computacional que define que una reproducción se inicie a los 30 segundos. Y eso termina provocando que la industria de la música componga diferente las canciones y se altere un estilo musical.
Estas empresas, al generar tantos ingresos, tienen mucho poderío para mejorar estos algoritmos mucho más. ¿Qué se puede esperar de ellas en los próximos años? ¿Una hiperpersonalización mayor?
El poder que tiene esto es muy grande porque pueden manejar una cantidad de datos suficientemente grande que les permiten conocer casi en detalle a una población entera. Cuando digo en detalle, es que tienen un perfil suficientemente detallado que les permiten saber qué te puede llegar a gustar o qué idea tenés en la cabeza. Entonces, esa información mal usada es algo complicado. El ejemplo paradigmático de todo esto fueron las elecciones de Estados Unidos en 2016 (el famoso caso de Cambridge Analytica) en donde utilizaron la información generada por las redes sociales para intentar decodificar con altísimo grado de certeza a los indecisos. Y no solamente identificarlos, sino generar contenido explícitamente diseñado para cada uno de ellos y hacerlos decantar por una opción, sabiendo que son indecisos. Lo que hicieron fue generar contenido súper polarizante para que (el indeciso) decante por una opción electoral. Eso sí es maquiavélico. Tiene un objetivo por detrás que no es el objetivo de las redes sociales.
"Pueden manejar una cantidad de datos suficientemente grande que les permiten conocer casi en detalle a una población entera"
¿Y qué impacto tuvo ese hecho?
Eso dio lugar a que la reglamentación sobre los datos en internet se endurezcan muchísimo. Y el primero que dio pasos en ese sentido fue Europa. Hoy no es tan fácil construir una huella digital para estas plataformas. Hay una protección de datos personales mucho mayor. Tu huella digital pertenece a datos personales. Yo mañana puedo pedir que se elimine toda mi actividad en Google, y es legal hacerlo, y lo tienen que hacer. Hoy, de alguna manera, se empiezan a generar marcos de regulación.
Me imagino que va a tender a un equilibrio: estas grandes compañías que manejan datos, van a empezar a perder un poco de poder gracias a estas regulaciones. Quizás en un momento haya un exceso de regulación y el mercado mismo empiece a ayudar a las compañías que no sean tan duras y así se llegue a un equilibrio en el que las compañías puedan sobrevivir y del otro lado los usuarios puedan hacer lo que quieran con su huella digital.
¿Las plataformas cambiaron el concepto de privacidad?
Tengo la idea que el concepto de privacidad cambia con con las generaciones. Seguro el concepto de privacidad que tienen las plataformas hoy es mucho más parecido al concepto de privacidad que tiene un adolescente o adulto de 20 o 25 años que la que tengo yo o la que tiene mi madre. No sé si es producto de las redes sociales, que cambió el concepto de privacidad o viceversa: o fueron los usuarios que fueron empujando hacia un concepto diferente de privacidad. A nivel de tecnología estamos en un camino inverso al que veníamos (…) Hoy, por ejemplo, iPhone te pregunta si permitís (a otras apps) trackear data tuya. Podés decir a cada una de las aplicaciones si pueden trackear tus datos. Hace dos años no podías hacerlo. Era parte de aceptar el uso de la aplicación.
