Imaginate una planilla de Ceibal con datos de estudiantes: nombre, cédula. Alguien quiere usar una herramienta de inteligencia artificial (IA) para analizarla y sacar conclusiones, por ejemplo para mejorar un servicio. El problema es que no conviene meter en una IA los datos que identifican a cada persona.
Para eso, Ceibal creó un "filtro" que se usa antes: un programa sencillo que corre en la computadora de quien lo usa y no depende de ninguna IA. Donde decía "Juan Pérez, cédula 1.234.567" pasa a decir algo como "ID 0001", un código sin significado.
Lo explicó Oriana Galland, delegada de Protección de Datos y jefa de la Unidad de Datos de Ceibal: la herramienta "quita los datos personales" y "los cambia por un ID". Lo dijo en el panel "Niños, niñas y adolescentes en el entorno digital", del evento anual de la Unidad Reguladora y de Control de Datos Personales (URCDP), junto a Matilde Casabó y Tania Da Rosa, de Agesic. Moderó Cecilia Montaña, del equipo jurídico de la URCDP.
Por qué Ceibal anonimiza antes de usar IA
Galland dijo que todas las áreas de Ceibal manejan datos, pero "no necesariamente esas áreas tienen gente capacitada o con perfil de análisis de datos" para anonimizarlos. Por eso, con apoyo del área de Tecnología de la Información, la institución desarrolló una herramienta para "anonimizar las bases de datos", en rigor planillas. Corre de forma local: "obviamente no está en una IA", aclaró.
Los datos, explicó, se usan para mejorar servicios y aportar evidencia a la política pública, y "no necesariamente tenemos que saber que Juan Pérez hizo tal cosa". Ceibal busca que sus equipos usen IA "sin usar datos personales".
Las políticas internas exigen minimizar y anonimizar los datos antes de entrenar o probar sistemas de IA. Todo desarrollo nuevo pasa por el Comité de Privacidad, que integran la asesora legal, el jefe de Seguridad de la Información y Galland, y "no tiene que usar datos personales para entrenar el modelo".
Con los docentes, Ceibal partió de una encuesta: "tres de cada cuatro docentes ya estaban haciendo uso de la IA". Ofrece licencias educativas de Gemini y Notebook, configuradas para que "no entrenan el modelo", y una guía que pide que "no usen información sensible de sus estudiantes".
Los otros debates del panel
Casabó identificó como primer desafío la "invisibilidad del tratamiento de datos": niños y adolescentes saben que suben una foto, pero no para qué se usa ni quién la usa. Rechazó que la carga sea solo de las familias: "No podemos depositar toda la responsabilidad en las familias" cuando las plataformas están diseñadas para captar atención y recolectar datos.
También planteó la autonomía progresiva: "no podemos hablar de la misma autonomía en un niño de 5 años que en un adolescente de 13". Y advirtió que "ninguna norma es suficiente" si las personas no desarrollan habilidades para ejercer sus derechos.
Da Rosa defendió el enfoque regulatorio. Consideró que la ley uruguaya, con responsabilidad proactiva y evaluación de impacto, "resulta insuficiente". Sobre la verificación de edad, dijo que la autodeclaración "no es un mecanismo efectivo para asegurar los derechos de los niños y niñas", y que ya hay tecnología para "identificar un atributo" –mayor o menor– sin "revelar la identidad".
Citó una investigación en España que detectó "más de 1.000 contenidos de abuso sexual infantil" en TikTok en 30 días, "incluso frente a denuncias". Para Da Rosa, "no es optativo intervenir", aunque pidió medidas proporcionadas que no perjudiquen a niños sin un referente adulto.
Uruguay cierra una consulta pública sobre niñez, entornos digitales e IA, impulsada por el Parlamento, Agesic, el Consejo Nacional Consultivo de los Derechos de Niñas, Niños y Adolescentes, Ceibal y el PNUD. Estuvo abierta de junio al 30 de octubre. Da Rosa subrayó que las políticas deben ser adecuadas al contexto: "No es cortar ni pegar".
Consultada por una asistente sobre los niños del INAU, Da Rosa dijo que las herramientas de supervisión parental "están disponibles" para cualquier adulto con vínculo con el menor, y que el punto abierto es acreditar "el vínculo y la representación legal" del referente.