Por eso, Carrión creó una obra apasionante por su planteo, que con un guiño al pasado tiene una actualidad rabiosa (y es, por lo tanto, un registro de época), y que consiste en un ejercicio tan peculiar como fascinante: escribió un libro junto a Chat GPT, Los campos electromagnéticos, editado por Caja Negra.
A través de una colaboración con Taller Estampa, un colectivo de ingenieros y artistas, el resultado es en parte un ensayo sobre los cruces entre tecnología y literatura, y en parte un homenaje a Los campos magnéticos, firmada por los franceses André Breton y Philippe Soupault, que apelaron a la escritura automática y crearon así una obra señera del surrealismo.
Los textos tecnosurrealistas que compuso Chat GPT —en sus versiones 2.0 y 3.0; el sistema hoy ya cuenta con una versión 4.0— son cautivantes, no solo porque maravilla ver la creación de esta inteligencia artificial y comparar sus resultados con lo hecho por humanos, sino también por las dudas, posibilidades y reflexiones que puede disparar.
Carrión quiso cambiar la pisada: no imaginar la enésima distopía tecnológica, sino plantear una colaboración entre la inteligencia humana y la artificial. Sacar al humano del centro y ponerlo a la par de las otras inteligencias con las que convive en el mundo.
¿En qué momento la inteligencia artificial empieza a convertirse en un tema de interés y de estudio para vos?
Pues la verdad es que no tengo conciencia clara. Yo creo que fue entrando en mí. Hace 15 años empecé a escribir sobre series de televisión y tanto ahí como en el cine la inteligencia artificial es importante. Recuerdo que me interesó mucho el personaje The Machine de Person of Interest, que es una inteligencia artificial que vigila el mundo. Me interesó mucho la primera temporada de Westworld, y empecé a leer libros, ensayos sobre inteligencia artificial. Porque no se puede entender Google o Netflix sin la inteligencia artificial. La cuestión es que de pronto, un día, a finales de 2018, se me ocurrió la novela Membrana, narrada por una Inteligencia Artificial que crea un museo del siglo XXI, y ahí me di cuenta de que era capaz de hacer el ejercicio de pensar como una inteligencia artificial y desde ese momento, hasta la publicación de Los campos electromagnéticos, todos mis proyectos han estado recorridos por la IA: el podcast Solaris, el libro Todos los museos son novelas de ciencia ficción y Los campos electromagnéticos.
¿La tecnología pasó de la ciencia ficción al terror en los últimos años?
Sí, la verdad es que es un poco extraño que los humanos hayamos empeñado en pensar las criaturas artificiales en términos de terror desde Frankenstein, y en términos de distopía desde Blade Runner, Matrix, Terminator, Black Mirror. Y es una especie como de transferencia simbólica del miedo que realmente tienen que dar figuras como no sé, Adolf Hitler o Silvio Berlusconi o Donald Trump o Jair Bolsonaro. Es extraño cómo a veces, en vez de cuestionar a los humanos que dan miedo, como ahora serían Mark Zuckerberg o Elon Musk, transferimos esa sospecha y ese pánico a unas máquinas que finalmente hacen lo que los humanos les decimos que hagan.
¿Te parece razonable de alguna forma el miedo a la inteligencia artificial, o hay que tenerle miedo a los humanos y no a la tecnología?
Son los humanos los que decidieron hace unos meses inyectar 10.000 millones de dólares en la IA generativa al tiempo que despedían a 10.000 personas, como pasó en Microsoft, ¿no? De modo que sí, siempre son los humanos. Los humanos hemos hecho este cambio tecno-social radical en los últimos 25 años. Nos podríamos haber negado a usar Google, a usar el correo electrónico, nos podríamos haber negado a abrir cuentas en Facebook o en TikTok, pero hemos apoyado masivamente esa transición y ahora ya es irreversible. Quizás ahora es el momento en que nos dimos cuenta que estas tecnologías, los algoritmos, las inteligencias artificiales o las redes neuronales estaban muy presentes en nuestra vida y el potencial que tienen también.
En esta cuestión de la fusión de estas tecnologías con el arte, ¿por dónde te imaginas el futuro de estas dos ramas trabajando en conjunto? Pienso en la nueva serie de Marvel cuyos créditos iniciales fueron creados con ayuda de inteligencia artificial. ¿Te imaginas un futuro donde esas cuestiones sean más comunes, más cotidianas?
Yo diría que en general lo que está ocurriendo es que la indigencia artificial se ha infiltrado como herramienta en todos los ámbitos de la vida digital. Es decir, cuando buscas en Google lo haces con ayuda de IA, cuando eliges qué serie o película ver en Netflix o en Disney Plus, lo haces también según cuestiones algorítmicas, y en Photoshop, en Word está presente. La génesis conceptual de la actual escritura generativa está en la función de autocompletar un texto que todos usamos en Whatsapp o en un email y que tiene ya 15 años de historia, de modo que yo creo que esa simbiosis hombre-máquina tiene una nueva etapa, que es la de la editor o de supervisor. Hay una cooperación, entonces habrá cuestiones que el ser humano desarrollará al cien por cien y habrá otras en las cuales más bien será quien conceptualiza, estructura, diseña, edita, corrige, valida. Porque es el único que define si lo que la máquina ha escrito es verdad o no, es verificable o no. De modo que va a ser una relación bastante horizontal, un poco como la que se establece entre un músico y su instrumento. Lo que ocurre es que ese instrumento es más autónomo de lo que han sido las herramientas hasta ahora.
En el momento de establecer el temario que se le plantea al Chat GPT para que genere los textos, ¿cómo lo trabajaste?
Lo que hice fue leerme dos veces Los campos magnéticos. Cogí el índice del poemario y lo que hice fue copiar el índice, porque Breton y Soupault también seguían un índice de títulos como punto de partida, y creé versiones alternativas en clave más tecnológica. El espejo sin azogue se convirtió en El espejo de pixeles. Habla el cangrejo ermitaño, que es el poema más raro de Breton y Soupault, en mi versión se convirtió en Habla el algoritmo ermitaño, y también es el poema más raro, o el texto más raro del libro.
¿Cómo fue el paso de lo que ya habías hecho, escrito desde el lugar de una IA, y ahora pasar a utilizar una verdadera inteligencia artificial?
Fue un paso natural. No era nada calculado, pero cuando empecé con Membrana y me obsesioné, se me metió esa voz que habla muy raro, en plural femenino, con palabras que recuerdan al argentino, con muchos tics y un tono casi de himno bíblico, lo que pude imaginar desde el lugar de enunciación de esa red de algoritmos del futuro, fue una visión de conjunto de la realidad, en clave de big data y también de lenguaje generado automáticamente. Después de eso escribí el guion de la primera temporada de Solaris y creé una interlocutora, Ella-Vosotres, que habla el lenguaje inclusivo, que me parece que es un lenguaje verosímil en un futuro no muy lejano, y después creé el personaje de Mare, que es mi interlocutor también del futuro en la novela Todos los museos son novelas de cine ficción. De modo que había creado una voz en primera persona plural de una inteligencia artificial del 2100, una voz en primera persona singular pero también plural de futuro reciente, otra voz de dentro de veintipico de años y ya se había agotado ese territorio, de modo que me parecía natural cerrar el ciclo, acabar esta experimentación literaria con la inteligencia artificial haciendo que escribiera la IA. Y cuando conocí a Taller Estampa apareció esta idea de entrenarlo para que escribiera como yo. Después surgió el GPT-3, y ahora ya está el GPT-4. Entonces decidimos cerrar el libro con el GPT-3 y que sea un experimento, el fin de un proyecto personal, pero también un documento histórico. Porque queda en un libro, que es la forma en que los humanos conservamos la memoria, un documento de cómo escribían las máquinas en el año 2022 del siglo XXI.
¿A medida que el chat GPT iba devolviendo estos textos que luego están publicados, cómo era esa primera reacción, esa primera lectura, qué te pasaba cuando te ibas viendo?
La mayoría era decepción porque me parecían poco interesantes. El GPT-2 es mucho más interesante que el GPT-3 porque es más loco, más inesperado, más surrealista. Al GPT-3, por quererle corregir los sesgos, lo han hecho muy doméstico, muy buen redactor, pero mal escritor. Pero se trata de insistir, de repetir y de pronto aparece el destello, aparece el flash, aparece la ironía, la casualidad, el error, el verso buenísimo, la frase increíble, una idea sorprendente. De modo que, por eso, en el prólogo habló de la minería. Porque se trata de excavar, excavar, excavar en la piedra hasta que encuentras la veta de oro.
Pablo Tosco
El escritor español Jorge Carrión
¿Te imaginas que en el futuro este tipo de textos o incluso publicaciones de autores muertos, simuladas o replicadas por inteligencia artificial, serán comunes o algo más pasajero?
El futuro siempre nos sorprende. Durante la pandemia incluso se dijo que quizá acababa el capitalismo y todo sigue igual. Estamos un poco o bastante peor, de modo que no tengo ni idea. Pero en el año 2004 estuve veinte días, más o menos, en Brasilia. Hice una crónica sobre sectas y estuve en una donde me enseñaron las obras completas de Federico García Lorca, que eran varios volúmenes, muchos más de los que escribió Lorca en vida. Porque ellos lo que hacen es invocar a escritores muertos y con escritura automática les dictan poemas o cuentos o textos. Evidentemente esos libros no se han publicado que yo sepa y Lorca nunca ha escrito post mortem, pero evidentemente sí es posible, sin duda, que una inteligencia artificial escriba imitando a la perfección a Lorca y, por tanto, no es descabellado que ocurra que se publique algún libro de Federico García Lorca que sea muy bueno, realmente, con la cooperación de algún gran poeta. No sé lo que ocurrirá, pero imagino que el capital, que es lo que mueve esta industria, va a estar interesado en que Marilyn Monroe protagonice películas o en que Tolstoi cree una nueva obra maestra, y ya veremos cuando ese momento llegue qué tipo de resultados encontramos y qué tipo de recepción.
¿Qué pensás cuando ves los futuros distópicos que se imaginan sobre la inteligencia artificial?
Es ridículo. Y eso lo digo en Membrana y lo dice en clave de advertencia Mare en Todos los museos son novelas de ciencia ficción. Yo creo que no estamos todavía cerca de la singularidad (el momento en el que la inteligencia artificial pueda superar a la humana y generar autonomía), pero lo que está claro es que estamos generando miles —y ahora ya millones con el GPT— de relatos distópicos y la inteligencia artificial los va a leer. Entonces estamos educándolas en la destrucción, o sea que si a ellas no se les ocurre por sí mismas, solo tienen que mirar toda esa obra para darse cuenta que es lo que quizá deseamos. Por eso insistimos en ese camino. Yo cuando me di cuenta de que Membrana insistía en esa narrativa apocalíptica, escribí Solaris y Todos los museos… y Los campos electromagnéticos para compensar Membrana.
Al momento de firmar el libro, ¿cómo fue el proceso de decisión de que ChatGPT firme como uno de los autores junto al Taller Estampa?
Pues la verdad es que fue muy natural, es como había sido creado el libro y lo que hicimos fue informarnos y vimos que había varios libros en inglés donde también estaba GPT en la portada y vimos que legalmente era posible, al menos todavía, de modo que nos animamos. Lo que sí fue una decisión de última hora fue que su biografía estuviera en la solapa junto con las nuestras porque, bueno, es un gesto de que realmente hay que colaborar, hay que situarse con humildad al lado de los no humanos, también los animales y los vegetales. Es cuestión de pensar más horizontalmente y darnos cuenta de que todos escribimos en colaboración. Creamos juntos, humanos y no humanos.
