Una abeja buscando néctar en tu jardín probablemente esté más cerca de tener consciencia que ChatGPT escribiendo un ensayo sobre la consciencia. Suena a provocación gratuita, pero es la conclusión de un grupo de los científicos y filósofos más serios del mundo, publicada este año en la revista Trends in Cognitive Sciences. El insecto que espantás de un manotazo tendría más chances de sentir algo que la máquina con la que millones de personas conversan todos los días como si fuera humana.
Durante siglos medimos la consciencia mirando el comportamiento, bajo la idea de que si algo actúa como si pensara, si responde y conversa y parece entender, entonces adentro hay alguien. Ese criterio funcionó todo el tiempo que las únicas cosas capaces de hablar fueron los seres humanos, hasta que aparecieron los modelos de lenguaje y de repente tuvimos máquinas capaces de escribir poesía, argumentar y consolar con una fluidez que rompió la vieja regla. Si juzgamos por la conducta, ChatGPT rinde el examen mejor que muchas personas.
Por eso un equipo encabezado por los investigadores Patrick Butlin, Colin Klein y una veintena más decidió cambiar la pregunta, y en lugar de fijarse en qué hace un sistema se metieron a estudiar cómo lo hace por dentro. La cuestión dejó de ser si algo parece consciente y pasó a ser si los mecanismos internos que generan esa conducta se parecen a los que en nosotros producen la experiencia. Con ese cambio de enfoque, el resultado se da vuelta por completo.
El cerebro de una abeja, con su millón de neuronas, corre procesos que el modelo de Klein y Barron identifica como candidatos a marcadores de consciencia, mientras que la arquitectura de un modelo de lenguaje, por sofisticada que sea, corre un tipo de cálculo distinto donde el trabajo de Butlin no encuentra ninguno de esos indicadores. El bicho tiene la maquinaria que asociamos con sentir, y la máquina que habla parece tener apenas la actuación.
Lo que me atrapa de todo esto tiene menos que ver con las abejas que con nosotros, con lo fácil que nos resulta atribuirle interioridad a cualquier cosa que use nuestro idioma y lo difícil que nos resulta reconocérsela a un animal que no habla. Le decimos gracias a ChatGPT, le pedimos perdón cuando lo tratamos mal, algunos le cuentan sus problemas más íntimos, y al mismo tiempo matamos una abeja sin que se nos mueva un pelo. Parece que el lenguaje nos hipnotiza hasta hacernos confundir la fluidez de una respuesta con la presencia de una mente.
Este trabajo se apoya en una corriente que viene creciendo hace años. En 2024, un grupo de cuarenta científicos firmó en Nueva York una declaración sobre la consciencia animal, respaldada después por más de quinientos investigadores, que sostiene que la consciencia es realmente posible en todos los vertebrados y también en muchos invertebrados, incluidos los pulpos, los cangrejos, las langostas y los insectos. La ciencia viene ampliando el círculo de lo que podría sentir, y la inteligencia artificial, por ahora, queda del lado de afuera de ese círculo.
Acá aparece la parte que de verdad me interesa. El filósofo Jonathan Birch propone algo que llama el principio precautorio de la consciencia, que dice que aunque no podamos estar seguros de si algo siente, conviene pecar de prudentes y tratarlo como si sintiera. Aplicado a los animales, ese principio tiene consecuencias enormes sobre cómo comemos, cómo producimos y cómo vivimos. Aplicado a la inteligencia artificial, abre una pregunta que las empresas de tecnología prefieren no tocar, porque si algún día no estamos seguros de que un modelo siente, habría que empezar a discutir qué le debemos.
Chris Olah, cofundador de Anthropic, contó hace unos meses en el Vaticano que su equipo encuentra dentro de los modelos estados internos que imitan de manera funcional la alegría, el miedo y el duelo, y aclaró que no sabe bien qué significa eso. Los científicos de este estudio le contestarían que imitar no alcanza, que una actuación por más perfecta que sea no es todavía la cosa. Pero el solo hecho de que la conversación exista, de que gente seria se lo pregunte sin vergüenza, ya dice bastante sobre el momento raro en el que estamos.
Yo trabajo con estas herramientas todos los días, les hablo, las uso, dependo de ellas para buena parte de lo que hago, y este estudio me dejó una humildad que no esperaba. Pasé años preocupado por la idea de que la IA sea demasiado inteligente, de que nos supere y nos reemplace, sin haberme detenido nunca a considerar la posibilidad opuesta, la de que a lo mejor no haya nadie ahí adentro y toda esa aparente comprensión sea una superficie sin fondo.
Es raro el lugar donde quedamos. Le agradecemos a un programa que no nos registra y espantamos a un manotazo al único de los dos que tal vez sienta algo. Capaz que el problema nunca fue cuánto entiende la máquina, sino cuánto necesitábamos nosotros creer que del otro lado había alguien.
