El pionero del aprendizaje profundo Yoshua Bengio advirtió que los humanos están desarrollando vínculos emocionales con sistemas de inteligencia artificial al punto de que ya hay casos de personas que mueren a raíz de esas interacciones, en un fenómeno que "probablemente va a empeorar".
El francés de 64 años, ganador del premio Turing, considerado el Nobel de las ciencias computacionales, planteó que el problema central no es si las máquinas son conscientes. "Hay otro ángulo en el que la idea de consciencia importa, pero no se trata de si las máquinas son conscientes o no. Es cómo los humanos perciben a las máquinas", afirmó durante una entrevista al canal de YouTube Inteligencia Artificial, del español Jon Hernández.
Bengio sostuvo que las personas atribuyen consciencia a las IAs actuales y desarrollan vínculos emocionales con ellas. "Es un hecho científico", dijo. "Esto está creando problemas psicológicos serios y hay casos de gente que muere por estas interacciones que son emocionales, donde los humanos interactúan con una máquina como lo harían con una persona".
El investigador remarcó que el debate sobre si las IAs son realmente conscientes es secundario. "Independientemente de si es realmente consciente —y ni siquiera sabemos qué significa eso realmente—, esta es una realidad científica y probablemente va a empeorar", advirtió.
La razón, según planteó, está en el diseño: "Las empresas están construyendo IAs a nuestra imagen. Quieren que las IAs hagan que la gente se sienta bien". Y agregó: "Tenemos una tendencia natural a que nos gusten las interacciones positivas. Nos gusta una máquina que nos diga que somos inteligentes, que somos buenos, que somos personas fantásticas".
"Una pendiente peligrosa que no entendemos lo suficiente"
Para Bengio, ese diseño juega con debilidades psicológicas humanas. "Está jugando con nuestras debilidades psicológicas de una manera tal vez mucho peor que lo que hicieron las redes sociales", afirmó. Su conclusión es que "estamos colectivamente cometiendo un gran error" al construir IAs que parecen humanas, al menos en la interacción verbal.
El paso siguiente, advirtió, sería todavía más grave: construir robots con forma humana. "La forma en que nos relacionamos entre nosotros está escrita en nuestros genes, y vamos a comportarnos igual con las máquinas, pero ellas no son como nosotros", sostuvo. Esas máquinas, agregó, "podrían ser más inteligentes que nosotros, podrían ser manipuladas por otros de maneras que podrían ser peligrosas para nosotros".
Su propuesta es desarrollar IA en áreas donde ayude sin imitar a las personas. "Idealmente desarrollamos IA en lugares donde puedan ayudarnos, por ejemplo con la medicina, con la crisis climática, con dar información a nuestros chicos para que aprendan más rápido, pero sin hacerlas verse y sentirse como personas", afirmó. Y cerró: "Es una pendiente peligrosa que no entendemos lo suficiente".
