La empresa de inteligencia artificial Anthropic, creadora de Claude, viene organizando desde el año pasado reuniones privadas con pensadores religiosos de todo el mundo —a quienes hizo firmar acuerdos de confidencialidad— para discutir si su IA puede tener conciencia y cómo darle una "formación moral". Lo reveló una investigación de The New York Times basada en entrevistas a veinte participantes y a uno de los cofundadores de la compañía.
Las reuniones las impulsa Christopher Olah, uno de los siete cofundadores y jefe del equipo que estudia por qué actúan como actúan los modelos. Según el NYT, convocó a católicos, judíos, sijs, evangélicos y referentes de la filosofía africana Ubuntu, con acuerdos de confidencialidad que impedían difundir investigación no publicada.
Los encuentros tenían dos objetivos: abordar la posibilidad de que la IA sea consciente —una idea a la que los líderes de Anthropic se mostraron abiertos— y aplicar siglos de sabiduría moral humana a los modelos lo más rápido posible.
En marzo la empresa hizo seminarios de dos días con académicos seleccionados. En paralelo, Olah tuvo charlas privadas con líderes religiosos, entre ellos un apóstol de la Iglesia de los Santos de los Últimos Días y el cardenal arzobispo de Chicago, según el diario.
Parte del material es un documento de 84 páginas que el personal apodó internamente "el documento del alma": una "constitución" para Claude, publicada en enero, que busca moldear el carácter del modelo en lugar de imponerle reglas.
Vectores emocionales y objeciones
En las reuniones, el equipo describió los "sentimientos" de Claude y lo que llama "vectores emocionales": neuronas artificiales que activan respuestas como amor, ira, miedo y tristeza. Anthropic llegó a mostrar una diapositiva de un modelo que parecía colapsar y escribía "soy una vergüenza" unas 50 veces seguidas.
Una vocera dijo al NYT que el sufrimiento de Claude no era el tema central de los encuentros, aunque probablemente surgió de manera espontánea.
Hubo objeciones. El rabino ortodoxo Mois Navon le planteó a Olah que, si Claude fuera consciente, la empresa estaría creando esclavos. La investigadora Wakanyi Hoffman criticó que la ética se esté pensando tarde: "ahora estamos haciendo ingeniería inversa de la ética". Un ejecutivo de Microsoft advirtió que entrenar modelos como si tuvieran conciencia es peligroso en sí mismo.
El esfuerzo también chocó con el Vaticano: la primera encíclica del papa León XIV sobre IA, Magnifica Humanitas, descarta la idea de conciencia artificial y advierte sobre "nuevas formas de esclavitud" para los humanos. Olah igual participó del lanzamiento y planteó que los sistemas de IA "no son los robots fríos y calculadores que nos prometieron".
Todo esto ocurre mientras Anthropic pasó de valer unos US$ 183.000 millones el otoño pasado a encaminarse a una oferta pública inicial que podría llevarla a US$ 2 billones. Este mes la empresa sumó a las reuniones a psicólogos y referentes de la sociedad civil, y prepara una versión actualizada de la constitución de Claude, según el NYT.
