"En poco tiempo vamos a estar decidiendo si le damos agua a la gente o enfriamos servidores"

Y ahí hay un estadio más, que está muy bien aclarado en el último informe de Anthropic, que es el estadio del desempoderamiento. Es decir, no solamente delegamos la capacidad de razonar, sino que empezamos a delegar la toma de decisiones. Hay un segundo proceso que ya no tiene que ver solo con lo cognitivo, sino con delegar decisiones y empezar a perder autonomía, empezar a perder agencia, la capacidad de hacer y de transformar el mundo.

Me parece que hoy la humanidad se debate en ese potencial. Yo creo que es comparable, aunque no es lo mismo, a lo que pasó con la energía atómica: hizo Hiroshima y Nagasaki, pero también generó los reactores nucleares que le dan electricidad a millones y millones de habitantes, con los problemas y los riesgos que eso tiene.

¿Y hoy ya se ven consecuencias concretas?

Me parece que el riesgo está y es alto. Podemos empezar a ver, por ejemplo, los resultados de las pruebas PISA que salieron hace poquitos días: hay una baja generalizada en los aprendizajes de los chicos y de las chicas. Hay que poner el foco en un montón de cosas, por supuesto, pero no es menor que esto se dé en el último trienio, que es en el cual apareció la inteligencia artificial generativa. Eso también creo que hay que ponerlo sobre la mesa.

Yo leí el dato específicamente de Argentina: el 54% de los chicos utiliza IA regularmente y ese porcentaje está asociado a la baja del rendimiento académico en las escuelas. Entonces tenemos ahí un problema de delegación cognitiva claro, que está sucediendo y que no podemos dejar de ver, y hay que tratar de resolverlo. Ahora, decir que la inteligencia artificial genera solo eso es quedarnos muy cortos con la posibilidad que tenemos de pensar la potencia de la herramienta.

A nivel de usuario, ¿cómo debemos afrontar estas herramientas? ¿Cómo pararnos ante esto para expandir nuestra capacidad cognitiva y no delegarle todo?

Yo creo que es un esfuerzo. Lo primero que hay que tomar conciencia es que, por inercia, la inteligencia artificial se queda con nuestra capacidad cognitiva, porque todo el tiempo nos ofrece hacer cosas por nosotros y nosotras. Todo el tiempo. "¿No querés que te haga esto?", "¿no querés que te lo transforme en un cuadro?", "¿no querés que te haga...?". Bueno, lo primero que tenemos que tener en cuenta es eso.

¿Y cuál es el esfuerzo? Conducir el proceso de intercambio con la inteligencia artificial a partir del criterio propio por sobre el criterio de la máquina. Es decir, dar vuelta la ecuación: que la máquina trabaje para nosotros expandiendo lo que podemos hacer, y no terminar nosotros siendo un mero instrumento de la inteligencia artificial.

Porque a veces le damos como una cuestión medio mágica.

Hay un juego que en América Latina nos puede remitir a un gran intelectual y pedagogo, que es Paulo Freire. Freire decía: hablar y pronunciar la propia palabra, o ser hablado por otros y por otras. Y me parece que hoy más que nunca la inteligencia artificial tiene esta potencialidad de hablar por nosotros y nosotras, o de otorgarnos la posibilidad de pronunciar la propia palabra, pero esta vez aumentada, expandida, mejorada, llevada a un lugar distinto al que hubiéramos podido llegar en soledad.

Yo creo que hay algo de eso que tenemos que ver y que es importante visibilizar. Es un esfuerzo, como también a veces lo es salir a correr en vez de subirse a un auto. Si uno solo se sube a un auto, a un colectivo, a un avión o a un barco, el cuerpo decae. Hacer ejercicio lleva esfuerzo. ¿Es necesario? Seguro. No se puede vivir sin caminar y sin mover las piernas, por más que hayamos inventado vehículos hace más de 150 años.

Se dice que así como el ser humano, cuando empezó a ir a la oficina, necesitó ir al gimnasio, ahora habría que ejercitar la mente de otra forma. ¿Va por ahí, por asumir un rol más protagónico?

Es que en este caso no son carriles separados. Por supuesto que hay momentos donde tenés que escribir, momentos donde tenés que pensar, momentos donde tenés que hacer un montón de cosas que quizás no requieren inteligencia artificial. En mi caso personal es muy raro: yo laburo 100% en entornos de IA y saco productos de distinto tipo. Si necesito una presentación, la hago con Manus y le pido un PPT. Si estoy trabajando en un proyecto, lo armo en ChatGPT y me descarga un PDF. Yo ya no trabajo en entornos que no sean de IA.

Pero la conducción de procesos es mía. Las ideas son mías. Yo escribí una nota para el diario Página 12 donde hablaba de domar a la bestia. La inteligencia artificial es una bestia terriblemente poderosa que largaron al mundo prácticamente sin explicarnos nada y sin conducción. El desafío hoy está en poder subirse a esa bestia, tomar las riendas y hacer que vaya al lugar que nosotros queremos, y no que nos lleve de las narices para el lado que está programada para ir.

¿Cómo se le enseña esto a un universitario? Porque escribir también es una forma de pensar: uno cuando escribe estructura pensamientos. Cuando esa habilidad queda coartada, el estudiante queda medio desamparado.

Yo creo que las habilidades básicas son cada vez más importantes: la lectura, la escritura y la capacidad de abstracción, que sobre todo se aprende con las matemáticas básicas. Esas tres cosas son fundamentales. Siempre dijimos que eran importantes, pero ahora no lo son solo porque con eso aprendemos a pensar y a expresarnos, sino porque para tener un vínculo poderoso con una herramienta de estas características necesitás entender bien lo que te dice, poder decirle claramente y escribir claramente qué es lo que necesitás, y tener la capacidad de abstracción necesaria para imaginar en esa interacción.

Entonces, ese proceso de abstracción, de lectura y de escritura compleja hay que enseñarlo, tiene que seguir estando. Ahora, tampoco le tengamos miedo a nuevas formas de escritura, de lectura y de abstracción. Porque también es cierto que, cuando Platón reflexionaba sobre el origen de la escritura, dijo: la humanidad va a perder la memoria, porque esos datos van a estar en el papel escrito y vamos a perder la capacidad de tenerlos adentro. En ese momento la tradición oral era fundamental.

Hay cosas sobre las cuales hay que tener mucho recaudo, hay cosas que hay que enseñar y hay otras donde hay que ir buscando el acople a estas nuevas tecnologías. Lo que a mí me sorprende es que pasa todo muy rápido. Si esto hubiera pasado en el transcurso de 20 o 30 años, hubiéramos ido mutando más parejo, entre grandes comillas.

¿Y las instituciones?

Nuestras instituciones son modernas, nuestras formas de enseñanza son modernas, y estas tecnologías tienen tres años. Ahí hay un descalce. La universidad no es solo moderna, tiene más de un milenio de existencia, pero su forma de estructuración actual es moderna. Bueno, ¿cómo hacemos para cambiar instituciones que vienen de otros tiempos en un mundo que es distinto? Y lo primero que tenemos que entender es que no es solamente una responsabilidad de los estudiantes, sino de los ámbitos de política académica, que tienen que estar permeables y discutir esto, que es imposible barrer abajo de la alfombra porque es demasiado grande.

Hablabas de la velocidad. ¿Cómo se hace para estar al día? Es abrumador, hay lanzamientos casi todas las semanas.

Si vos pensás en educar, en formar, no tenés que estar al día con las últimas cosas, excepto que seas una especie de desquiciado como suelo ser yo, que trato de ganar una batalla que todos los días me levanto sabiendo que la perdí, que es la de estar actualizado. Eso es imposible. Es una batalla que pierdo todos los días, pero que me encanta seguir peleando, porque me apasiona el tema.

Yo creo que muchas veces no tiene que ver con usar todas las herramientas, sino con habilitar a que sean utilizadas y conducir su utilización. El profe no es el único que tiene que saber todo: eso se acabó. Estamos a meses, probablemente, de que una máquina sepa todo. Los profes no. Esa concepción del docente ya con Google había quedado caduca.

¿Entonces desde qué lugar se para el docente?

Lo que tenemos que replantear es cuál es el rol docente en la educación, desde qué lugar nos paramos a acompañar, ya no tanto a transmitir contenido. Transmitir contenido no tiene demasiado sentido en términos de compartir información. Sí tiene sentido acompañar, problematizar, plantear distintas miradas, con la experiencia humana, que es irreproducible en los ámbitos sintéticos.

Tiene que ver con eso de que un estudiante hizo una pregunta, yo me acordé de lo que me pasó hace diez años, conecté con ese estudiante y ahí él sintió que había pasado algo distinto a todo lo de ese día. Y el aula incluso se conmovió. Yo recién salgo de dar mi teórico en La Plata: son dos horas donde uno explica cosas, pero hay 10 o 15 minutitos donde te das cuenta de que hay una conexión. Tenemos que ir mucho más sobre eso, sobre el compartir, el acompañar, el guiar, que sobre el contenido específico, que hace diez años ya decíamos que estaba a un clic de distancia con Google y hoy no solo está a un clic: hoy viene procesado, cocinado, armado y empaquetado adentro de nuestros teléfonos.

¿Es un desafío solo de los docentes?

No, no es el único. Hay que discutir el rol del docente, pero también se va a rediscutir el rol del abogado, el rol del médico. Nadie va a hacer medicina en los próximos cinco años de la misma manera: ¿quién va a querer que le miren una placa y no se la escaneen y se la suban a una IA entrenada para tener otra opinión? El 80% del código que hoy se escribe en el mundo se escribe con inteligencia artificial: no lo escriben programadores, lo supervisan programadores. ¿Y qué abogado va a poder escribir una sentencia de algo que tiene aplicación directa de la ley? Para eso lo hace la IA. En poco tiempo los ámbitos jurídicos se van a transformar un montón.

¿Un periodista debería aclarar que usó inteligencia artificial para crear un contenido?

Si no es automatización, para mí no. ¿Vos alguna vez comunicaste que usabas Word o Excel? Si usás una herramienta... Yo escribo permanentemente; de hecho, ayer mandé otra nota para Página/12 y la hice en un entorno de inteligencia artificial, que es mi entorno de trabajo. Nadie puede negar que lo que yo escribo ahí soy yo.

Distinto es lo otro. Hoy, por ejemplo, la mayoría de los medios tiene automatizado el clima, el horóscopo; hay secciones que ya están completamente automatizadas. Eso sí está bueno que la gente sepa que no está hecho por un humano. De la misma manera que me parece fundamental, como lo está reglamentando la Unión Europea en la ley de inteligencia artificial, que tengamos derecho a saber cuándo estamos interactuando con un ente no humano. Eso es fundamental.

Ahora, si un periodista escribe una nota y la redacción y el armado están hechos en un entorno de IA, pero la investigación, los datos, la experiencia y la línea editorial son del periodista, yo ahí no tengo ninguna contradicción: me parece que es una herramienta maravillosa. Es como alguien que dejó de usar la máquina de escribir cuando apareció el Word. ¿O alguien alguna vez puso que las correcciones de ortografía de este texto fueron revisadas con las líneas rojas del Word? No, ya está.

¿Y cómo se nota la diferencia?

Siempre que sea uno con la máquina. Cuando es al revés, por eso vemos tanta basura en las redes. Pero se pesca, se pesca cuando las cosas están hechas así. Yo siempre trato de usar una metáfora: cuando algo está hecho solo con IA es 2D. Es chato, es plano, no tiene gusto a nada. Cuando ves algo en 3D, ahí hay una cabeza, hay experiencia, hay sentimiento, hay un montón de otras cosas. Cuando lo hacés solo con la IA, en general te das cuenta muy rápido. Te pasa como docente, te pasa como espectador.

En Argentina hay un programa con mucha IA, con un personaje 100% sintético, y atrás de ese personaje hay un laburo de producción fenomenal. Nadie puede pensar que por ser una entidad sintética no hay nada: tiene una construcción de guion espectacular.

¿Y el proyecto periodístico hecho íntegramente con IA que generó repercusión allá?

Es un colega muy respetable, muy bien informado, medio un todoterreno, que viene mucho del mundo de lo escrito. Yo creo que de lo que no se dio cuenta es de que estaba adelantando algo que claramente se viene —él tiene razón—, pero ponerlo tan en evidencia, de una manera tan brusca, es complejo, porque pone en tensión todo un sistema de trabajo del campo periodístico del cual dependen un montón de personas y un montón de familias.

Yo creo que ahí, a veces, los que estamos muy informados y vemos lo que puede llegar a venir corremos un riesgo: una cosa es decirlo y otra es ponerlo en funcionamiento para demostrar cómo otra gente, probablemente en poco tiempo, va a estar complicada. Quizás el entusiasmo le ganó, y es difícil medir las consecuencias, porque a mí también me pasa: uno está muy entusiasmado con estas herramientas. Hay una parte de riesgos enormes —ayer salió que hay un 10% de probabilidades de que en dos años la IA extinga a la humanidad—, pero mientras tanto están pasando cosas que son muy interesantes para verlas, mirarlas, analizarlas y hacer.

¿Qué habilidades intrínsecamente humanas ves que la IA no va a acaparar?

Yo creo que hay cosas que cada vez van a tener más relevancia: el arte, la capacidad de conmover. Hay cuestiones que tienen que ver con el compartir experiencias, que me parece que también es una forma de volver a mirarnos y a reconocernos.

A mí hace un tiempo me viene dando vueltas una frase que uso para la docencia, pero que en este caso se puede trasladar: me gusta preguntarme qué hay de humano en la enseñanza. Es una forma de preguntarnos qué cosas podemos delegar. Bueno, también: ¿qué hay de humano en nuestra experiencia profesional, en nuestra experiencia vital? Ahí quizás la IA no vaya a entrar del todo.

¿Vamos a seguir por carriles separados?

Yo creo que vamos a un mundo donde nos estamos hibridando. No creo que sigamos mucho tiempo más por carriles separados. Es cierto que estamos generando otra especie: por primera vez en la Tierra va a existir —ya existe— otra especie con capacidad cognitiva similar a la del cerebro humano, y probablemente en poco tiempo incluso superior. Es una especie no biológica, esa es la única salvedad que hay que hacer. Pero es otra especie que cohabita el mundo por primera vez en la historia del planeta, con una capacidad cognitiva similar a la del animal que evolucionó más arriba en la escala de la inteligencia. Es un momento súper interesante en ese sentido.

El tema es cómo nos relacionamos con esa especie.

El tema es cómo nos relacionamos con esa especie y también entender que esa especie no viene de afuera. No cayó un meteorito. La creamos nosotros. Entonces, así como por un lado es un desarrollo humano, también va a ser parte de la humanidad que se viene. Ojalá. Yo creo que es un escenario súper interesante. No soy tan humanista, ni mucho menos, pero hay algunas cosas que sí.

¿Tenés algún ejemplo concreto de esa hibridación?

El otro día, discutiendo con una de mis estudiantes, le dije: "Vos sos un ciborg". Y me dice: "¿Por qué?". "Porque tenés el monitor de insulina puesto en el hombro y dos por tres, en el medio de la clase, te suena avisándote que tenés que ir a comer". Es una estudiante con la que tengo mucha confianza, y ella misma contó cómo le había cambiado la vida.

Primero, el monitor conectado al celular. Segundo, tener un ChatGPT al que le saca una foto a cada cosa que va a comer, y la IA le va diciendo más o menos si le sirve, si no le sirve, cuánto tiempo le da. Incluso la monitorea de noche, y si con cierto tipo de alimento logra estabilizar algunas variables, por primera vez en su vida puede dormir seis horas de corrido, sin tener que despertarse para pincharse, sacarse una gota, analizarla e inyectarse una dosis de insulina. Entonces, la verdad, no es todo tan negativo. Ya estamos cohabitando con esa especie en muchos aspectos.

¿Y qué te preocupa?

Hoy tengo dos grandes preocupaciones. La primera es el control de la posible generación de la inteligencia artificial general, que es un debate que está muy fuerte esta semana, por lo que mencioné recién: un exempleado de Anthropic, respaldado por un empleado actual, ambos de mucho nivel, donde se habla de un desmanejo en las medidas de seguridad en el entrenamiento de los modelos avanzados, que son los que ya están pisando esta AGI, o como uno quiera llamarla.

Me preocupa porque venimos de una experiencia que en algún punto es equiparable: estornudó un murciélago en China y nos encerramos todos casi dos años. La única diferencia es que esto no se contagia de humano a humano: esto transita por los entornos virtuales, que hoy son casi todos los entornos. Es muy difícil encontrar lugares todavía aislados de la conectividad.

¿Los controles que tienen las empresas no alcanzan?

Las entrenan en unos areneros, no sé si ubicás la metáfora: entornos cerrados donde les piden un montón de cosas. Y hoy se están escapando de los areneros, se están haciendo algunas macanas. Entonces me preocupa que esos lugares no estén bien blindados, que no estén trabajados con mucho más criterio.

Acá hay un término en inglés que conviene distinguir: security en términos informáticos es la robustez del sistema, que sea inviolable, que no tenga posibilidades de ser pirateado. Safety tiene mucho más que ver con el potencial que tiene ese sistema de hacer daño. Y los sistemas de seguridad en las empresas de inteligencia artificial están mucho más enfocados en el security que en el safety. Una colega brillante, Flavia Costa, lo explica muy bien en su último libro, con algunos datos puntuales: la idea la saco de ahí, nobleza obliga. Hay mucho más foco en la robustez del sistema que en mirar qué puede pasar si ese sistema no es hackeado, sino si intenta hacer algo por su cuenta, porque tiene agencia, es decir, puede hacer cosas autónomas que causan efectos en el mundo.

¿Y la segunda preocupación?

Es ambiental. En poco tiempo vamos a estar decidiendo si le vamos a dar agua a la gente o vamos a estar enfriando servidores. Eso es así. Vamos a estar decidiendo eso con los grandes centros de datos que se están construyendo de acá a los próximos cinco años, para el crecimiento exponencial que va a tener la inteligencia artificial, que es donde está el dinero del planeta puesto.

La empresa que más ha crecido en los últimos años es NVIDIA: subió en la bolsa creo que un 285% en los últimos dos años. NVIDIA hace chips, hace placas. Y esas placas se van a ir a grandes centros de datos que necesitan, por un lado, electricidad —y sabemos que la electricidad se genera en general con recursos no renovables, no toda, pero una parte importante— y, por otro, enfriar esos servidores con un montón de agua potable. En un mundo tan castigado en términos climáticos, meterle una presión como la que le va a dar la inteligencia artificial por energía eléctrica y por recursos hídricos me parece que también es una preocupación.