La Unión Europea (UE) será la primera región del mundo en regular de forma completa los usos de la Inteligencia Artificial (IA). Los Estados de los 27 miembros y el Parlamento Europeo lograron, después de tres días de negociaciones, un texto que define las obligaciones y establece las normas para regular estas tecnologías que conlleva riesgos, muchos de ellos desconocidos. Se trata de un acuerdo provisional que todavía debe ser ratificado antes de que entre en vigor.
Los parlamentarios negociaron una ley “a prueba de futuro”, con la flexibilidad suficiente como para poder adaptarse a funciones y tecnologías aún desconocidas y para amoldarse a los cambios que experimenten las ya existentes.
Las negociaciones comenzaron el miércoles y terminaron en la medianoche del viernes al sábado. Se alargaron debido a las diferencias entre Estados y eurodiputados respecto de cuáles pueden ser calificados de riesgos y qué salvaguardias tener para garantizar los derechos individuales, así como de las economías y de los Estados.
Los temas más debatidos fueron cómo regular la llamada IA generativa, en los que se basan herramientas como el ChatGPT así como los sistemas de vigilancia biométrica como el reconocimiento facial. El cuidado se debe a que son tecnologías que permiten un control estatal o de empresas privadas que pueden chocar con los derechos de los ciudadanos.
Aún no se dio a conocer la letra del acuerdo. Sin embargo, la secretaria de Estado de Digitalización e Inteligencia Artificial de la UE, Carme Artigas, dijo que “es una ley muy buena que impulsará la innovación y de forma compatible con los derechos fundamentales”.
La norma dará “certeza legal y técnica” a los ciudadanos y a las empresas, lo cual evitará muchos litigios legales, dice Artigas. Por eso se previó la creación de un ente regulador independiente. Será la Oficina de IA ligada a la Comisión Europea que contará con un panel científico y otro de la sociedad civil.
“La UE se convierte en el primer continente que pone reglas claras para el uso de la IA”, señaló el comisario de Mercado Interior, Thierry Breton, uno de los grandes impulsores de la normativa y para quien la ley propuesta es “mucho más que un paquete de normas, es un punto de apoyo para que las startups europeas y los investigadores lideren la carrera global por la IA”.
La presidenta de la Comisión, Ursula von der Leyen, afirmó en X que se trata de una normativa “pionera en el mundo. Un marco legal único para el desarrollo de una IA en el que se puede confiar”.
Quedarán prohibidos varios sistemas de vigilancia biométrica que consideraban inaceptables. Entre ellos, los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas, por orientación sexual o raza.
Tampoco estarán autorizados los sistemas de IA para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión.
La legislación tampoco permitirá el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas ni los sistemas que dan puntaje a las personas en función de su comportamiento social o características personales.
Otra de las limitaciones de la normativa es sobre los sistemas que manipulan el comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas, ya sea por cuestiones etarias –de adolescentes o adultos mayores en particular- o por la vulnerabilidad social.
Sí se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos solo utilizados por las fuerzas de seguridad y con protocolos para evitar invasión a la privacidad.
La vigilancia en tiempo real estará limitado en “tiempo y locación” y solo se permitirá para la búsqueda de víctimas de secuestro, tráfico humano o explotación sexual, para la prevención de una amenaza terrorista “genuina y previsible” o “genuina y presente”.
En cuanto a la regulación de los sistemas de IA generativa en los que se basan modelos como ChatGPT, tendrán que cumplir criterios de transparencia, como especificar si un texto, una canción o una fotografía se produjeron a través de la IA y respetar los derechos de autor.
Hasta el momento, si bien es tema de debate en todo el mundo, no hay legislaciones aprobadas en otros países o bloques de naciones. En Estados Unidos, el presidente Joe Biden firmó un octubre un decreto que obliga a las empresas tecnológicas a notificar al gobierno cualquier avance que suponga un “riesgo grave para la seguridad nacional”.
Días después, el primer ministro británico Rishi Sunak convocó a una cumbre de la que surgió el primer compromiso del Reino Unido y la UE sobre estos sistemas así como la creación de un grupo de expertos para el seguimiento de sus avances.
La ley de IA de la UE debería entrar en vigencia en 2026, aunque está previsto que la Oficina de IA empiece a funcionar en cuanto se ratifique el reglamento, en tanto que la prohibición de los sistemas prohibidos de IA estará vigente dentro de seis meses y los requisitos para los sistemas y modelos de IA generativa, en 12 meses.
(Con información de agencias)
