Omar Sanseviero, de Google DeepMind, mostró en una charla que hoy cualquier persona puede llevar un modelo de inteligencia artificial dentro del celular y usarlo sin conexión a internet. La clave son los modelos abiertos, programas que se descargan y quedan guardados en el teléfono, como una app más, y que funcionan aunque no haya señal.
"Modelos abiertos significa que son modelos que ustedes pueden ir y descargar", explicó Sanseviero durante Nerdearla, un evento de tecnología que se desarrolló esta semana en Buenos Aires y al que asistió El Observador. La diferencia con los asistentes más conocidos es sencilla. En lugar de mandar cada pregunta a una computadora gigante en internet, el modelo vive en el propio aparato. "Acá puedo utilizar un modelo sin ninguna conexión a internet, no estoy enviando ningún prompt a ninguna nube", dijo mientras sostenía su teléfono.
Para entenderlo sirve pensar en los parámetros como el tamaño del cerebro del modelo. Cuantos más tiene, más pesa y más máquina necesita para funcionar. El trabajo de su equipo, contó, fue el camino inverso. La idea que repitió fue "comprimir la mayor cantidad de inteligencia y capacidades dentro de estos parámetros", o dicho de otro modo, "meter la mayor cantidad de inteligencia en el menor número de parámetros posibles". Algo así como guardar una biblioteca entera en una valija de mano.
Esa familia de modelos chicos se llama Gemma. Los más livianos tienen entre 2.000 y 4.000 millones de parámetros y corren en un teléfono común o en el navegador, sin llamar a internet. "No necesitan tener una computadora carísima tampoco para poder utilizar este tipo de modelos", aclaró. El más reciente, Gemma 4, salió en abril de este año con una licencia abierta que permite usarlo para casi cualquier cosa.
Son modelos que entienden 140 idiomas y manejan texto, imágenes, audio y video. Para instalarlos en el celular sin conexión, Sanseviero mencionó herramientas gratuitas como Google AI Edge Gallery, además de otras del mundo abierto como Hugging Face, Ollama y LM Studio.
Los ejemplos que mostró y cómo imagina lo que viene
En una demostración, una persona caminaba por la montaña y le hablaba a Gemma desde el teléfono, sin señal. El modelo le confirmó que no había internet, le leyó un cartel que advertía sobre pumas en la zona, le resolvió la derivada de una función matemática y hasta le recordó el horario de una caminata grupal. Cuando apareció un animal, le aclaró que no era un puma sino un perro.
Sanseviero contó que alguien de la comunidad llegó a instalar Gemma en una Nintendo Switch, algo para lo que la consola nunca fue pensada. Andaba lento, a poco más de un token por segundo, pero le servía para mostrar el punto: modelos "más potentes en dispositivos más pequeños", año tras año.
Otro ejemplo fue el de una persona con problemas de visión que salía a correr guiada por el modelo, que le iba dando indicaciones sobre hacia dónde ir. Ahí apuntó a la parte multimodal, la capacidad de entender no solo lo que uno escribe sino también lo que la cámara ve.
Su invitación fue a que cada uno pruebe con sus propios problemas. "No necesitan ser personas expertas en todo a un nivel superprofundo para poder empezar a construir", sostuvo, y pidió "piensen en sus propios problemas, qué problemas tienen en sus mundos, en sus industrias". Para él es "un momento extremadamente emocionante para construir con inteligencia artificial" porque "las herramientas están ahí".
Sobre lo que viene se mostró prudente. "Vamos a ver cómo va a ser el mundo en el futuro, pero tal vez logramos poner modelos como Gemma en dispositivos extremadamente chiquitos", dijo.
