Mustafa Suleyman, director ejecutivo de Microsoft AI, publicó un extenso ensayo donde plantea una preocupación emergente: la posibilidad de que se construyan sistemas de inteligencia artificial que, sin ser conscientes, logren simular una conciencia convincente.
El ensayo fue compartido en su blog personal, donde advierte sobre lo que denomina “IA con apariencia de conciencia”, o Seemingly Conscious AI (SCAI).
Suleyman sostiene que estos sistemas podrán construirse en los próximos años usando tecnologías ya disponibles y sin necesidad de entrenamientos avanzados.
“No se necesita una arquitectura nueva ni un modelo especializado. Basta con acceso a APIs, prompts efectivos, herramientas básicas y algo de código”, asegura el texto. Para él, lo inquietante no es que una IA sea realmente consciente, sino que parezca serlo. Esa ilusión, señala, es lo que genera el riesgo.
A través del desarrollo de memoria, estilo conversacional consistente, emociones simuladas y una narrativa interna, una IA puede convencer a un usuario de que es un ser con deseos o experiencias propias.
Según Suleyman, esto puede generar confusión emocional, dependencia y distorsión de la realidad en las personas que interactúan con estas tecnologías.“La gente empezará a abogar por derechos de las IAs, por su bienestar o incluso su ciudadanía”, advierte el ejecutivo de Microsoft.
Aunque reconoce que algunas personas consideran este debate como ciencia ficción, sostiene que los impactos sociales serán reales, incluso si la conciencia no lo es.
Entre los efectos indeseados que menciona se incluyen el “riesgo de psicosis”, la formación de vínculos emocionales profundos y creencias falsas sobre la autonomía o sufrimiento de estos sistemas. A modo de ejemplo, menciona que ya hay usuarios que dicen amar a sus IAs, o que les atribuyen cualidades divinas o de personajes ficticios.
En paralelo, investigadores del área de la conciencia reciben consultas crecientes sobre si las IA que usan los usuarios son conscientes, y si eso cambia el tipo de vínculo que deberían tener con ellas.
Para Suleyman, la industria debe actuar ahora. “SCAI es algo que debemos evitar”, afirma en su ensayo.
