Tecnología > INTELIGENCIA ARTIFICIAL
La UE estudia prohibir la Inteligencia Artificial para la vigilancia masiva: ¿y en Uruguay?
La Unión Europea (UE) prepara un borrador para regular los usos permitidos de los mecanismos de Inteligencia Artificial (IA), y en él establece prohibiciones para usos como los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva, mientras que los sistemas de alto riesgo pasarán a tener una mayor supervisión.
Así se extrae de un borrador elaborado por organismos comunitarios europeos al que ha tenido acceso The Verge, filtrado en Internet pero que se espera que sea anunciado oficialmente la próxima semana.
La nueva regulación contempla que los Estados miembros de la UE deberán constituir un consejo asesor común, integrado por expertos y dedicado a validar los sistemas de IA considerados de alto riesgo.
El borrador también establece que las compañías que comercialicen sistemas de IA prohibidos en la UE, aunque tengan su base en otras partes del mundo, podrán enfrentarse a multas que podrían llegar hasta el 4 por ciento de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD) en Europa.
Tipos de IA prohibidos y regulados
Entre los tipos de sistemas prohibidos por la UE se incluirán los de "vigilancia indiscriminada" de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistemas.
La Unión también estudia vetar las tecnologías de IA que hacen valoraciones sociales de las personas, y que por ejemplo realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.
Asimismo, la UE establece varios tipos de IA que pasan a estar sujetos a una mayor regulación, como es el caso de los sistemas considerados de "alto riesgo", entre los que se enmarcan todos aquellos que puedan suponer un riesgo para la seguridad física, como los sistemas de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros.
En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana y que los sistemas no se hayan entrenado con datos sesgados, según contempla el borrador.
De estar tarea se encargará un nuevo organismo, denominado 'Consejo Europeo de Inteligencia Artificial', que se espera que esté integrado por expertos en IA de todos los países miembros de la UE, que decidirán qué sistemas se consideran de alto riesgo y posibles cambios de regulación.
El borrador menciona también a los sistemas de reconocimiento facial en espacios públicos, para los que pasará a exigirse una autorización especial, mientras que también se requerirá que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte "obvio por el contexto de uso".
Inteligencia artificial en Uruguay
En 2020, el Ministerio del Interior adquirió un sistema de reconocimiento facial mediante IA para ser utilizado en imágenes de cámaras de videovigilancia del ministerio o privadas.
Tal como informó Cromo en noviembre del año pasado, el análisis realizado por el software no es en tiempo real como el que se utiliza en estadios de fútbol y que son propiedad de la AUF, Peñarol y Nacional.
El sistema fue adquirido a través de la empresa DDBA (representante de Herta en Uruguay) por un valor de US$ 638.913.
Para su implementación fueron aprobadas dos leyes en el presupuesto nacional.
Europa Press
