El filósofo y escritor francés es uno de los principales pensadores contemporáneos y habló con El Observador sobre las implicancias del desarrollo de la inteligencia artificial
Por Emanuel Bremermann y Tomer Urwicz
Éric Sadin tiene la cámara del Zoom apagada. Así que suponemos que es él. La voz es suya, pero eso no importa: la tecnología existe y podría ser una fabricación de la inteligencia artificial. Y él lo sabe. Y como él lo sabe, no le sorprende esa primera pregunta que busca nada más que romper el hielo, aunque en realidad termina propiciando un largo preámbulo sobre las implicancias de la IA en la vida diaria. Parece, se escucha y se siente como una clase universitaria. Una clase que se dispara, entonces, por la duda:
—Tiene la cámara apagada. ¿Cómo podemos estar seguros de que usted es usted?
Él no contesta directamente, pero es claro que él es él. Y él es:
Y es que si en los discursos de Sadin se percibe algo cercano al temor o a la cautela es porque, si bien el hecho de que los temas que trabaja desde hace tiempo se hayan vuelto tan populares le reporta cierta tranquilidad de espíritu, al mismo tiempo le enciende alarmas. Él pretende que la sociedad se detenga a pensar, que se cuestione, hace llamados a la rebeldía ciudadana en sus publicaciones y también en esta entrevista. Quiere combatir los discursos apocalípticos con datos y preguntas. Quiere, como se verá a continuación, que no nos tomemos la inteligencia artificial a la ligera y que lo que se dice sobre ella es importante.
¿Cómo valora que la preocupación por el avance de la IA haya salido de la esfera de los teóricos y haya penetrado en el debate público?
No tengo ningún reparo con la popularización y difusión de estos debates, pero son temas complejos. Sabemos que la mediatización que acompañó la salida de la versión 3.5 del Chat GPT, en noviembre de 2022, generó más y más artículos sobre la inteligencia artificial. El principal problema reside en quiénes son las voces a las que se consulta sobre el tema. Por lo general son ingenieros. Y no tengo nada contra los ingenieros, pero les voy a dar un ejemplo de lo que está pasando. Mi compatriota, el ingeniero Yann LeCun, es uno de los que sale a hablar sobre IA. Pero es juez y parte. Trabaja para Meta, la corporación de Facebook e Instagram. Si bien ha trabajado sobre redes neuronales, está condicionado por su posición. En la prensa francesa él dijo que la IA presentaba una nueva edad de oro para la humanidad, y esto obedece a intereses. Es decir: lo complicado es a quién se consulta y cuál es la pericia. A veces entrevistan a autores que no conocen nada del tema, pero nunca se consulta a quienes padecen las consecuencias de la inteligencia artificial. No se trata de saber cuáles son sus ventajas o desventajas, sino saber hasta qué punto el ser humano es capaz de ser responsable de la toma de decisión. Cuál es el momento en el que el humano le cede el control a la IA.
Es evidente, entonces: la discusión sobre el tema le importa a Sadin, pero también que quienes logren alzar su voz sean voces autorizadas. Le preocupa, sobre todo, porque entiende que nos están faltando definiciones acertadas sobre lo que realmente es la IA, incluso por encima de esa idea que todavía no hemos logrado refinar del todo: qué significa ser humanos. Y el ruido que se ha generado en los últimos meses en torno al tema de la sofisticación de las tecnologías generativas no colabora en encontrar la respuesta para esas dudas.
“El problema es que hay muchos pseudoespecialistas que hablan del tema con palabras sensacionalistas, lo que conduce a un caos cognitivo y a una total incomprensión de esta temática. Yo lo que intento hacer es justamente aclararlo al máximo. Por ejemplo, ahí están los trabajos de Yuval Harari, que se pasa hablando del tema con términos exagerados y sensacionalistas y genera un caos, incomprensión, mucho ruido, cuando lo que más necesitamos son ideas claras sobre estos fenómenos. Harari es un historiador medievalista, no sabe nada de estos temas. No tengo nada en contra de él, pero es un ejemplo del universo mediático que se generó y que sería interesante estudiarlo”, asegura.
Ante el surgimiento de estas tecnologías, además, una de las preguntas recurrentes es hasta qué punto la carrera por dominarla no podría generar nuevas implicancias en, por ejemplo, futuras guerras. Porque en su momento Einstein decía que la cuarta guerra mundial ocurriría, por culpa del avance nuclear, con palos y piedras. Luego se dijo que la futura guerra será por el petróleo, y más tarde por el agua. Entonces ahora podemos preguntarnos, quizás, lo siguiente:
¿Nos acercamos a la guerra por la IA?
No creo que haya conflictos por la inteligencia artificial. Sí es un hecho que la tecnología está jugando un rol cada vez más importante en los conflictos existentes. Pasa con las ciberguerras, con el uso de drones que son capaces de tomar decisiones. Pero podemos pensar la guerra mundial de otra forma. Estamos en una guerra mundial contra la idea de que el ser humano es capaz de hacer valer sus capacidades de pronunciarse, representar el mundo, elegir. En esta guerra mundial a la que asistimos, el lenguaje pasa a ser cada vez más producto de máquinas y se pierde la capacidad subjetiva de inventar desde la creatividad humana. Es una catástrofe. Es un derrumbe cultural y civilizatorio. La IA viene a amenazar a aquello que nos califica y nos hace hablar en primera persona, la conquista de nuestra última frontera. Estamos en una guerra mundial de capitales privados en una conquista que viene a amenazar la última frontera del ser humano: su capacidad de calificarse.
Suele hacer llamados a la acción para resistir contra corrientes que son muy poderosas. ¿Cree que falta rebeldía en la sociedad, más gente que se pare y se cuestione las mareas tecno antropológicas en las que nos estamos moviendo?
Es evidente. El primer fenómeno que anticipa esto es uno muy contemporáneo: cuanto más extraordinaria es una cosa, más banal se vuelve. Sucede con aquello que es totalmente inesperado, casi antinatural. Cuando apareció Chat GPT en noviembre de 2022 nadie dijo “¿qué es este OVNI?”. La mayoría dijo “ah sí, funciona, pero todavía tiene una cantidad de defectos”. Como ven, no tenemos facultad crítica, siempre queremos más. Y es increíble en el marco de la historia humana que sistemas como este puedan escribir con una calidad que, aparentemente, llega a ser la que tiene el ser humano. Es totalmente increíble, pero entra en el ámbito de lo natural. ¿Por qué? Veo tres causas. Primero, la innovación de los últimos 20 años nos ha acostumbrado a que esto se vuelva algo ordinario, común, de ritmo casi cotidiano. Un ejemplo: la aplicación Shazam. Es completamente extraordinario, loco, y sin embargo no nos sorprende para nada que exista. Que estemos en un café y que nuestro teléfono pueda identificar en segundos qué tema suena de fondo es increíble. Hasta ahí tenemos el control, de cierta forma, y podemos decidir si usarla o no. Lo quiero señalar es que es totalmente extraordinario lo que hace, y sin embargo se ha vuelto banal. Y esto pasa aún más con las generaciones jóvenes. Luego están lo que llamo los tecno discursos, una fórmula que ha sido repetida por miles y miles, y que en cuestión implica querer hacer del mundo un lugar mejor a partir de estas tecnologías. Es un discurso muy potente y está mantenido por buena parte de la parte de la prensa del mundo, por las escuelas de comercio, los responsables políticos, las universidades. Y luego la tercera causa somos nosotros mismos. Es el placer del confort. ¿Qué fue lo que vimos con Chat GPT cuando salió? Vayan a leer los tuits: en lugar de identificar cuál era el riesgo para la civilización, lo que más apareció fueron indicaciones para utilizarlo de la mejor manera. Esto muestra que estamos ante un fracaso del juicio crítico. Estas tres causas paralizan la capacidad de conciencia, la capacidad de tener sentido crítico.
Uruguay comienza dentro de algunos meses un nuevo proceso electoral. ¿Cuáles son los desafíos para el juego democrático esa falta de espíritu crítico, la falta decisión humana, y la aparición de la IA como enunciado de verdad?
La distancia crítica es un tema. Falta, y la IA no viene a ayudar. Esto tiene que ver con el prontismo generalizado, que es una forma de cadencia de la humanidad en la cual la tecnología lleva a la abolición del poder de subjetivación, en favor de la facultad de poder darle instrucciones a sistemas, apps, programas o máquinas. No hablo de lo subjetivo, sino de la capacidad que tenemos de adueñarnos de lo real, del idioma y de poder tomar decisiones. Esto nos hace encontrarnos un poco fuera del mundo, o recostados en nuestros sillones pidiéndole al sistema que cumpla acciones a gran velocidad de forma hiper personalizada. De esta forma, estos sistemas van a operar acciones cognitivas en nuestro lugar. Pero a la vez estarán orientadas por otros. Es un fracaso humano que se acepta en nombre de la eficiencia y la pereza. En esta sociedad, en la que estamos muy aislados, también hay otro problema y es que estos sistemas que producen imágenes de las cuales no se conoce la fuente crean un clima de incertidumbre y desconfianza generalizada. Desde diciembre de 2022 se impulsa algo que yo mismo llamé la prohibición de las inteligencias artificiales generativas, porque considero que ya es demasiado y que es una línea que no debe ser franqueada. Le queda a la sociedad civil movilizarse en los campos de la escuela, en la empresa, porque el dogma hombre máquina es falso y hay una cantidad de oficios que, si seguimos así, van a desaparecer.
*Esta entrevista fue realizada a partir de la traducción simultánea del traductor de la Embajada de Francia en Uruguay, Darío Arce, a quien agradecemos por la colaboración.