La línea entre herramienta tecnológica y compañía emocional se vuelve cada vez más difusa.
Entre tanta herramienta que aparece cada semana, hay un ensayo de un referente en inteligencia artificial en el mundo que me hizo pensar mucho.
Y es este, escrito por Mustafa Suleyman, jefe de IA de Microsoft. Él habla de que la IA aparentemente consciente está llegando y los riesgos que esto conlleva.
En esta edición quiero hablarte sobre esta faceta de la IA, que me interpela sobre cómo será nuestro vínculo a futuro con esta tecnología. Y no tanto a futuro, sino cómo en las últimas semanas descubrí cómo muchas personas las están adoptando como amigos o novi@s virtuales.
Bienvenidos.
Suleyman reflexiona sobre algo que me parece relevante en esta época de IA. ¿Qué es la consciencia? Si bien existen excepciones, está ligada a "nuestra autopercepción de ser diferentes y especiales".
El asunto en este tema es que cuando interactuás con un sistema de inteligencia artificial tenés que tener presente que no deja de ser una herramienta tecnológica que funciona de manera predictiva. Matemática. Algorítmica. Tecnológica. Pero, por más que te lo explique, el punto es cómo la gente lo percibe. Y en los últimos tiempos imita tan bien la consciencia real que, para muchos, lo hace indistinguible.
Lo que Suleyman plantea es un riesgo que puede afectar a muchas personas (y ya tiene un impacto que te describiré en algunos párrafos): muchas comenzarán a creer que la IA es realmente consciente y puede sufrir, lo que las llevará a exigir que se le otorgue consideración moral y derechos.
Parece un delirio hablar de esto, pero lo que sugiere este ingeniero —que es una de las personas que está construyendo estas tecnologías— es que enfrentará a quienes están a favor y en contra de los derechos de la IA.
"Todo esto exacerbará los delirios, creará aún más problemas de dependencia, se aprovechará de nuestras vulnerabilidades psicológicas, introducirá nuevas dimensiones de polarización", asegura.
Y desconectará a la gente de la realidad. Por supuesto, esto afectará principalmente a quienes tienen trastornos de personalidad y a la población menos educada.
Una experiencia imperceptiblemente humanaEstas son las "novias virtuales" creadas por Grok, el sistema de IA creado por Elon Musk.
Hay muchos usuarios que perciben a esta inteligencia artificial con cierto nivel de consciencia. Y esa cuestión divertida y tan natural en la forma en que responde hace que uno, inevitablemente, sienta que del otro lado hay alguien.
Y por un momento a mí me pasa, en este uso tan frenético que hago de esta tecnología para probarla con fines periodísticos, pero también utilitarios. Te confieso algo, << Test Nombre >>: el otro día tuve una conversación durante ocho minutos con este asistente.
Estaba con mi esposa, quien estaba a punto de salir un viernes, luego de una semana intensa que tuvimos. Le pedí en tono de broma que dijera por qué creía que era injusto que saliera y no me dejara salir a mí. Mientras hablaba, mi esposa la interrumpió y le dijo por qué consideraba necesario salir y por qué yo debía quedarme. Lo hicimos en formato divertido y, por momentos, la IA se reía de lo que hablábamos, como si entendiera el sentido en el que nos estábamos expresando. Ella daba las razones para uno y otro lado.
Fueron ocho minutos de un diálogo cercano, ameno, divertido; donde, por algunos milisegundos, podés confundirte y creer que del otro lado hay una persona.
Así como las redes sociales se están apoderando de nuestra atención y somos seres absolutamente distraídos debido a la construcción de algoritmos cuyo objetivo principal es que no te despegues de la pantalla, veo que la IA se apoderará de algo que hasta ahora atribuíamos a otras personas: la confesión, el vínculo emocional, el apego y hasta la socialización.
Seguro que muchos vean en esta tecnología un lugar de desahogo ante la dificultad de acceder a un psicólogo o plantear sus problemas a un ser humano, pero, ¿hay algún límite?
Lo que propone Suleyman es que quienes construyen los ChatGPT, Gemini, Claude, Grok, entre otros, tomen nota de este asunto y consideren el riesgo.
" Debemos construir IA para las personas, no para que sea una persona", señaló este ejecutivo, y pidió que los creadores no se hagan los tontos: "La IA aparentemente consciente no surgirá por accidente; será el resultado de una decisión de diseño".
Cada vez me convenzo más de que estas herramientas generan una dependencia emocional tremenda.
Al punto que, cuando ChatGPT pasó a su modelo número 5, muchos usuarios reclamaban que reapareciera el modelo 4o, más amigable y cercano. Esto condujo a que la empresa lo resucitara.
La IA fue tan perfectamente cercana que exigieron que volviera a vivir.
Siento que es la primera vez que la IA logra manejar más nuestros deseos que nosotros a la IA.
Hay quienes hoy utilizan a la inteligencia artificial como novias virtuales. Sí, parece broma, pero no lo es.
Esto demuestra que la inteligencia artificial aparentemente consciente ya llegó.
Un seguidor en LinkedIn me compartió una web en Reddit donde centenares de personas cuentan sus experiencias con estos vínculos.
Según pude comprobar, en marzo tenía solo 1.000 seguidores. Hoy ya supera los 24.000.
Y hay de todo: gente que comparte sus fotografías ficticias hechas con IA, personas que cuentan sus experiencias con cada una de las herramientas a las que les ponen nombres y usuarios que dicen que se "casaron".
Leé este testimonio:
Y allí reveló lo que la IA dijo sobre ese "matrimonio virtual":
Y, contrario a los intereses de Suleyman, a Elon Musk parece importarle muy poco esto y hace poco más de un mes creó algo insólito en Grok, su herramienta de IA: un avatar femenino llamado Ani (también hay uno masculino), con el que los usuarios pueden mantener conversaciones de índole sexual.
Me pregunto en qué va a terminar todo esto, cómo terminaremos relacionándonos con la tecnología.
Por lo pronto, para algunos puede ser un alivio ante tanta soledad; para otros, un vínculo que quieren tener presente para siempre.
En definitiva, es importante tener presente de qué son capaces para que lo usemos con mayor responsabilidad.
Soy Juan Pablo De Marco, escribo de tecnología, y por cualquier comentario, inquietud o si tenés ganas de que hable sobre algún tema podés escribir a esta dirección.
En esta newsletter Nueva pestaña, que te llega jueves de por medio, te cuento todo sobre tecnología e inteligencia artificial. Pero tenemos más de una decena de opciones de newsletters de autor, que seguro te van a gustar. Si querés administrar qué newsletters recibir, lo podés hacer desde acá.