Federico Rosenhain: especialista en tecnología, datos e inteligencia artificial con amplia trayectoria en gigantes de la industria como Google, SAP y Mercado Libre. Actualmente se desempeña como Executive AI Ambassador en Oracle para la región APUB (Argentina, Paraguay, Uruguay y Bolivia), rol desde el cual impulsa la adopción estratégica y corporativa de soluciones de IA.
Durante Nerdearla presentó la charla "It's the data, stupid" (es la data, estupido), donde reivindica el valor de los datos en las estrategias de IA.
Tras su intervención en el evento, conversó con El Observador sobre el impacto de esta tecnología y el rol fundamental de la información.
Si una empresa tiene sus papeles y registros hechos un desastre y quiere implementar YA inteligencia artificial para tomar decisiones, ¿debe ordenarlos primero o se puede implementar sin eso?
Puede empezar ya, pero por una decisión concreta, no conectando toda la empresa a un chatbot y esperando una revelación. Elegiría una pregunta real —por ejemplo, qué pedidos están demorados— y seguiría los datos hasta la fuente: quién los registra, qué significa cada estado y cuándo se actualizaron y desde ahi podría operar.
Ahí hay que ordenar lo necesario para ese caso, probar respuestas y ampliar desde lo que funcione. En la charla lo decía con un archivo que todos conocemos: final_final_ahora_si. Darle acceso a ese archivo a un modelo más potente no lo convierte en la versión correcta, simplemente acelera algo que no está óptimo, es decir hacer lo mismo de la forma incorrecta, pero claramente de forma mas veloz.
¿La máquina aprende sola o solamente repite como loro lo que nosotros ya hicimos antes?
Ninguna de las dos cosas describe bien lo que pasa. Durante el entrenamiento, un modelo aprende patrones y puede combinarlos para producir respuestas nuevas; no se limita a copiar una frase guardada. Pero eso tampoco significa que aprenda de cada conversación como una persona que acaba de entender el negocio. Una empresa puede darle documentos actualizados para responder una consulta, medir dónde falla y corregir el sistema. Eso es un proceso deliberado. Si dejamos que “aprenda sola” de cualquier dato que encuentre, puede aprender también errores, contradicciones y prejuicios. Y acá una diferencia grande.. cuando es un loro, nos damos cuenta que es un loro, cuando es una IA cada vez cuesta mas distinguirlo.
En las preguntas del público hablaban de la costumbre de darle a todo Enter. ¿Nos estamos volviendo más vagos para pensar porque asumimos que la máquina ya lo pensó por nosotros?
Y… un poco puede ser.. de hecho, si yo fuera muy vago, hasta podría pedire a una IA que respondiese estas preguntas. La herramienta puede ahorrarnos trabajo mecánico y dejarnos más tiempo para pensar. El riesgo aparece cuando confundimos una respuesta fluida con una respuesta correcta. Si esto lo respondiese ChatGPT, probablemente diría con mucha elegancia que debemos conservar el pensamiento crítico. Estaría bien; después habría que preguntarle qué fuente usó y si esa fuente aplica a este caso. Mi regla es sencilla: cuanto más importante sea la decisión, menos alcanza con que la respuesta “suene bien”. Pensar también es saber cuándo pedir evidencia, detectar lo que falta y decir “con estos datos todavía no decidiría”.
¿Por qué nos acostumbramos a darle “Aceptar” o “Enter” a todo en el celular sin leer nada?
Es buena esa pregunta y se relaciona con la anterior… somos vagos.. y confiados… Nos piden aceptar cosas todo el tiempo, muchas veces con textos interminables, justo cuando queremos hacer otra tarea. Aprendemos que el botón es un obstáculo para llegar a lo que buscamos (como si fuesemos ratones de laboratorio). No es solo un problema de atención individual; también importa cómo están diseñadas esas pantallas. Por eso me preocupa trasladar el mismo reflejo a la IA: aceptar una recomendación sobre una película es una cosa; aceptar sin revisar una respuesta sobre salud, dinero o derechos es otra. No hace falta leer cada pantalla como si fuera una escritura. Sí hace falta frenar cuando estamos entregando datos sensibles o delegando una decisión importante.
Para el dueño de un almacén, una panadería o una ferretería: ¿en qué le puede servir de verdad esto hoy?
Le puede servir si resuelve un problema que ya tiene hoy. Una panadería puede mirar ventas por día para preparar mejor la producción y reducir lo que sobra. Una ferretería puede identificar productos que se agotan seguido o consultar más rápido un catálogo de proveedores. Un almacén puede ordenar pedidos y redactar respuestas a clientes. No hace falta empezar con una inversión enorme ni con la promesa de “transformar el negocio”. Hace falta registrar razonablemente bien (los datos siempre primero!!), probar una tarea, comparar con lo que hacía antes y ver si ahorra tiempo o mejora una decisión. Si los precios están desactualizados, el mejor asistente del mundo va a cotizar con una confianza envidiable y un margen ruinoso.
Netflix sabe lo que te gusta mirar porque mira lo que hacés todos los días. ¿Cuál es el límite de los datos que pueden acumular sobre nosotros?
Que una empresa pueda registrar una interacción no significa que deba guardarla para siempre ni usarla para cualquier fin. Netflix usa señales como lo que vemos, terminamos o calificamos para recomendar contenido. El límite debería ser claro: qué datos son necesarios para ese servicio, para qué se usan, quién accede a ellos, cuánto tiempo se conservan y qué control tenemos nosotros. Por otro lado, hay ciertas industrias como la financiera que requieren un mínimo de historia tanto para construir tu historial como para tener de respaldo por posibles problemas legales en el futuro. Almacenar datos en si no es un problema, el uso que se les da, si podría serlo.
En Argentina, además, tenemos derechos para conocer y corregir datos personales que poseen empresas y organismos. La personalización puede ser útil; convertir cada gesto cotidiano en un permiso ilimitado para rasterarnos, no tanto.
Contaste que un sistema médico inventó enfermedades que no existían por usar datos falsos. ¿Cómo puede ser que una máquina llegue a inventar cosas con tanta seguridad?
Este es el punto clave de la inteligencia artificial generativa y lo que conocemos como “alucinaciones”. Los modelos generativos pueden darnos la impresión que están hablando siempre de temas que saben, pero como a fin de cuentas trabajan con algoritmos de “palabras más probables”, existe siempre la posibilidad que digan cosas que “parecen correctas” pero que en realidad no tienen sustento. Esta es una lección sobre lo que ocurre cuando una tecnología no está bien conectada con la información y el trabajo reales.
En medicina particularmente, esa diferencia es demasiado importante como para dejarla librada a lo convincente que suene una frase.
¿Por qué siempre tiene que haber una persona vigilando lo que hace la computadora antes de mandar una respuesta o tomar una decisión importante?
Siempre, lo que se dice siempre, no.. pero esto si aplica sobre todo a modelos nuevos o que todavía no están tan maduros, porque alguien tiene que hacerse responsable del significado y de las consecuencias. El modelo puede procesar miles de registros; una persona de operaciones puede advertir que “despachado” significa que salió del depósito, no que llegó al cliente. Esa distinción cambia la respuesta. La supervisión no tiene que ser una persona mirando cada movimiento trivial: puede incluir reglas, pruebas, alertas y revisión humana en los casos sensibles o dudosos.
Si una decisión afecta la salud, el trabajo o el dinero de alguien, no podemos delegar la responsabilidad junto con el clic. El modelo puede quedarse con la nota respecto a su productividad; la responsabilidad sobre el resultado sigue siendo nuestra.
Si tuvieras que resumirle en una sola frase a Doña María por qué la tecnología no hace magia, ¿qué le dirías?
“Doña María: la inteligencia artificial puede ser muy útil, pero necesita información correcta y contexto para responder bien. Si a usted le doy un libro de recetas, pero le doy los ingredientes equivocados… imagínese cómo le va a salir ese flan…”
