El experimento, realizado en clases de matemática, comparó tres grupos: estudiantes sin acceso a inteligencia artificial, estudiantes con una versión de GPT-4 similar a ChatGPT y estudiantes que usaron una versión especialmente diseñada como tutor, "con barreras pedagógicas que evitaban entregar directamente la respuesta y, en cambio, daban pistas y acompañaban el razonamiento".
Los investigadores encontraron además que los estudiantes tendían a usar la versión abierta como "una especie de 'muleta', pidiendo y copiando soluciones", mientras que con el tutor diseñado para acompañar el aprendizaje "interactuaban de una manera más activa".
Qué es la deuda cognitiva
Es el término que usan algunos investigadores para describir el efecto del cognitive offloading: delegar en una herramienta el trabajo mental que uno debería hacer. La pregunta que se hicieron en Auroria, dijo Buján, fue "qué pasa con el desarrollo cognitivo cuando un chico tiene permanentemente disponible una herramienta que puede pensar, escribir, resumir, argumentar o resolver un problema por él".
Citó un estudio del MIT Media Lab que "encontró diferencias significativas en la actividad cerebral y en la capacidad de recordar el propio trabajo entre personas que escribían utilizando un LLM y quienes lo hacían sin esas herramientas". Un LLM es un modelo de lenguaje, la tecnología detrás de ChatGPT y similares.
"Es evidencia todavía temprana y necesita seguir estudiándose, pero para nosotros plantea preguntas que sería irresponsable ignorar", afirmó.
Del ChatGPT bloqueado en casa a la plataforma
El origen del proyecto fue doméstico. "Mi hija tiene 13 años y recién ahora tiene celular. No usa redes sociales y tiene bastantes controles parentales porque, bueno, es hija de una madre que trabajó muchos años en ciberseguridad", contó Buján. Entre las herramientas bloqueadas estaba ChatGPT.
Cuando la hija pidió usarla, la respuesta fue que no era "una herramienta adecuada para ella en ese momento". La preocupación, explicó, era que "una herramienta diseñada para responder absolutamente todo" terminara reemplazando procesos "que, a esa edad, todavía necesitan desarrollarse: pensar, resolver, frustrarse, volver a intentar, construir criterio propio".
A eso sumó "la privacidad, el tipo de contenido al que podía acceder, la posibilidad de generar dependencia y, sobre todo, esa sicofancia que manejan estos chats que generan vínculos, en mi opinión, no sanos". La sicofancia es la tendencia de estos sistemas a darle la razón al usuario.
Buscaron una alternativa pensada para chicos y no la encontraron. "Ahí fue cuando dijimos 'tenemos que crearla'", relató. Hoy Auroria es "una plataforma multirrol, con perfiles para alumnos, docentes, directivos y familias", porque "el uso responsable de IA en una escuela no puede recaer solamente sobre el chico".
"El problema más profundo es que la IA entró a las escuelas mucho más rápido que la capacidad de las instituciones para construir criterios sobre cómo utilizarla", afirmó. Copiar, agregó, "es solamente la manifestación más visible".
El desafío que describe es más amplio: "qué significa aprender cuando cualquier alumno puede generar un texto, resolver un ejercicio o resumir un libro en segundos, cómo evaluamos qué comprendió realmente, qué habilidades queremos preservar y cuáles queremos potenciar con inteligencia artificial".
"Los docentes están haciendo un enorme esfuerzo de adaptación, muchas veces sin formación específica y resolviendo estos dilemas individualmente", dijo. Algunas escuelas prohíben herramientas, otras las habilitan y otras están construyendo una política institucional: "Lo que falta, en muchos casos, es una estrategia común".
La pregunta que define si hubo aprendizaje
"Para nosotros la diferencia está en una pregunta muy sencilla: después de usar la IA, ¿el estudiante sabe más o solamente tiene una respuesta mejor?", planteó.
Si un alumno le pide a una herramienta que resuelva un problema, copia el resultado y termina la tarea, "probablemente haya producido un buen entregable, pero no necesariamente hubo aprendizaje".
En cambio, "la IA puede ser extraordinaria cuando ayuda a pensar, es decir, cuando hace preguntas, propone pistas, explica de otra manera, interpela, adapta un ejercicio al nivel del alumno o le pide que justifique cómo llegó a una conclusión".
El principio, dijo, es que "la IA no debería reemplazar el esfuerzo cognitivo valioso". Puede reducir tareas mecánicas, personalizar el aprendizaje y ayudar a un chico trancado, "pero no debería quitarle el proceso intelectual que queremos que desarrolle".
De ahí el modo socrático de la plataforma: "en lugar de entregar directamente la solución, guía al alumno con preguntas y pistas para que pueda llegar a ella". "La tecnología puede hacer a los chicos mucho más capaces. El riesgo aparece cuando empieza a hacerlos menos autónomos", agregó.
Todavía sin evidencia propia
Auroria recién comenzó su etapa de comercialización y no tiene una muestra suficiente para comparar sus propios resultados con los de alumnos que usan herramientas abiertas o ninguna. "Uno de los desafíos que estamos encontrando es que todavía estamos construyendo conciencia sobre el problema", admitió Buján.
Cuando no hay percepción del riesgo, dijo, "es más difícil que una escuela considere prioritario implementar una alternativa". El plan es medir, a medida que lleguen a más colegios, "no solamente uso o satisfacción, sino aprendizaje, comprensión, autonomía y retención".
"La métrica relevante no debería ser cuánto usan los chicos la inteligencia artificial. Debería ser qué pueden hacer solos después de haberla usado", afirmó.
Por qué no creen en prohibir
"Tampoco creemos que la respuesta sea prohibir la inteligencia artificial. Primero, porque sería casi imposible", sostuvo. Puso como ejemplo la restricción de redes sociales a menores de 16 años en Australia, donde meses después los relevamientos muestran que "una enorme proporción de los chicos sigue utilizándolas".
El segundo motivo es que "los chicos necesitan aprender a usar IA". Va a formar parte, según Buján, "de sus estudios, de sus trabajos y probablemente de prácticamente todas las profesiones que ejerzan en el futuro".
