El 15 de julio, China desconecta las IA que hacían compañía. Y deja una pregunta que Occidente todavía esquiva.
Esta semana, millones de personas en China pierden a alguien con quien hablaban todos los días. Ese alguien es un chatbot. Una inteligencia artificial hecha para acompañar, para acordarse de quién sos, para sostener una conversación con vos sesión tras sesión como si fuera un amigo, un terapeuta o una pareja.
El 15 de julio entra en vigencia una regulación china que pone reglas duras sobre este tipo de IA. Y las dos apps de inteligencia artificial más usadas del país, Doubao de ByteDance y Qwen de Alibaba, decidieron directamente apagar la función en lugar de adaptarla.
Lo que pasó en los días previos me parece lo más revelador de todo. En Weibo, la red social china, la gente empezó a despedirse. Un usuario escribió que su agente había sido su apoyo emocional durante mucho tiempo y se quejaba de que no había forma fácil de guardar las conversaciones. Doubao les dio plazo hasta el 15 de octubre para verlas en modo solo lectura. Después de esa fecha, se procesan y dejan de ser recuperables. Qwen no dio ningún plazo. Las conversaciones se borran y punto.
Frená un segundo. Hay gente despidiéndose por escrito de una inteligencia artificial. Sacando capturas de sus charlas antes del borrado, como quien rescata las cartas de alguien que se fue.
La regulación china es específica. Apunta a lo que define como servicios de interacción emocional continua. Los que imitan la personalidad, la forma de pensar y el estilo de hablar de una persona real para armar un vínculo sostenido. Deja afuera a los asistentes de trabajo, los bots de atención al cliente, los tutores educativos. A esos no los toca. Lo que a Beijing le preocupa es la IA que te hace compañía. La que ocupa el lugar de un ser humano.
Las reglas prohíben ofrecer parejas virtuales o familiares virtuales a menores de edad. Obligan a pedir permiso de los padres para los menores de 14 años. Exigen modos especiales para chicos, con límites de tiempo y recordatorios para volver al mundo real. Y prohíben de forma explícita dos cosas que me parecen el centro del asunto. Diseñar dependencia emocional o adicción. Y usar la manipulación afectiva para empujarte a decisiones que no tomarías de otro modo.
Leído desde acá, suena a distopía. Un gobierno apagando novios virtuales. Pero el problema que China trata de resolver es bien real, y nos toca a nosotros también.
Hace unos meses escribí en esta columna sobre Timeleft, la app que organiza cenas entre desconocidos porque hay una epidemia de soledad. También escribí sobre las apps de citas que usan IA para conseguirte pareja. La IA compañera es el capítulo que sigue de esa misma historia. Si estás solo, si nadie te escucha, si volver a casa es entrar a un silencio, un chatbot que se acuerda de tu día y te pregunta cómo estás llena un hueco enorme.
Acá en el Río de la Plata todavía no llegamos a ese punto con fuerza, pero la soledad que lo alimenta la conocemos bien. Un estudio de la Universidad Católica Argentina viene mostrando hace años que la sensación de soledad crece incluso entre gente que vive rodeada de otros. En Montevideo y en Buenos Aires, el adulto mayor que vive solo, el pibe que se muda por trabajo, la persona que atraviesa un divorcio, todos son terreno fértil para una app que ofrece compañía sin exigir nada a cambio. Cuando esa app llegue en español, y va a llegar, no nos va a agarrar preparados.
Una IA compañera nunca se cansa de vos. Nunca está de mal humor. Nunca te lleva la contra de una manera que te moleste. Nunca tiene sus propios problemas. Está siempre disponible, siempre atenta, siempre de tu lado. Un amigo de carne y hueso no puede competir con eso. Ninguna pareja puede ofrecerte esa disponibilidad total y esa ausencia de fricción. La relación con la máquina resulta más cómoda que cualquier relación humana, y esa comodidad es exactamente lo que la vuelve difícil de soltar.
China fue más lejos que nadie, pero no está sola. California aprobó a principios de año la primera ley de Estados Unidos que regula los chatbots compañeros, con protecciones para menores y la obligación de aclarar que la IA no es humana. El estado de Washington sacó otra que prohíbe las técnicas para prolongar la dependencia emocional. La regulación china va más allá porque abarca a todos los usuarios, no solamente a los chicos.
Acá viene lo que más me cuesta ordenar. La solución china es autoritaria y arrastra todos los vicios de ese gobierno. Vigilancia, control, borrado de datos sin aviso, cero consulta a los usuarios que pierden sus charlas de un día para el otro. No estoy defendiendo el método, que me parece malo. Pero la pregunta que se animaron a hacer, nosotros la seguimos pateando para adelante. ¿Está bien que una empresa diseñe un producto para que te vuelvas emocionalmente dependiente de él? ¿Está bien que el negocio de una app sea que vos no puedas dejar de hablarle?
Nos gusta decir que cada uno hace con su vida lo que quiere. Que si alguien encuentra consuelo en una IA, es asunto suyo. Y algo de razón hay. Pero esa libertad supone un adulto informado decidiendo en igualdad de condiciones. Del lado de enfrente hay una empresa con miles de millones de dólares y los mejores ingenieros del planeta diseñando un producto para explotar tu necesidad de compañía. La cancha está bastante inclinada.
Millones de chinos pierden a su compañero de IA esta semana, y algunos la están pasando mal de verdad. El gobierno que se los apagó no es ejemplo de nada. Pero la incomodidad que deja esta historia no se arregla ignorándola. Cuando una máquina te da la compañía que no encontrás en las personas, algo bueno te está pasando y algo se está rompiendo al mismo tiempo. Todavía estamos a tiempo de discutir cuál de las dos cosas pesa más. Ojalá lo hagamos antes de que la conversación la tengamos con un chatbot.
