Ante el avance de la utilización de la inteligencia artificial (IA), el Senado de México tiene previsto debatir un proyecto de ley para regular el uso de la IA en el país. La legislación prevé la clasificación de faltas en tres niveles - leves, graves y gravísimas-, la creación de nuevas instituciones reguladoras y la prohibición de determinadas prácticas, que podrían conllevar una pena de prisión.
El proyecto de ley fue elaborado por senadores de diversos partidos políticos que forman parte de la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la Inteligencia Artificial, después de más de un año de trabajo, y será presentada próximamente para su debate en el cuerpo legislativo.
La iniciativa fue pensada para establecer mecanismos para que los mexicanos puedan defenderse de los usos indebidos de la IA, aunque algunos críticos advierten que el marco regulatorio podría cercenar la libertad de expresión y la innovación.
"Este proyecto de ninguna manera limita o coarta la libertad de expresión ni el debate político. No censura opiniones ni críticas, ni establece sanciones por expresarse", escribió el senador Rolando Zapata, que preside la comisión que elaboró la ley, ante las repercusiones que tuvo el proyecto en redes sociales.
Zapata, del opositor Partido Revolucionario Institucional (PRI), apuntó que la propuesta fue elaborada "a lo largo de 16 meses de escucha activa, con la participación de 72 especialistas de distintos sectores —academia, sector público, privado, organizaciones defensoras de derechos humanos y el ámbito diplomático—, así como con la participación de todas las fuerzas políticas representadas en el Senado".
"Sin duda, la elaboración de un marco normativo de este tipo es una tarea de enorme complejidad que continuará en los próximos meses, manteniendo su vocación de diálogo y apertura", señaló en su mensaje del lunes, en el que aseguró que será presentado "próximamente". En un principio estaba previsto que la iniciativa fuera llevada al pleno este miércoles, pero El Economista aseguró el martes que ya no figuraba en agenda.
Qué establece la nueva ley
Una de los aspectos clave de la ley son las prohibiciones que establece para el uso de la IA, en particular las referidas a la violencia digital de género. Esto refiere a las prácticas que "de manera intencional o como resultado previsible de su diseño, operación o falta de salvaguardas razonables, tengan por objeto o efecto causar daño grave a mujeres o niñas", señala el proyecto, según recoge Excelsior.
En particular, la propuesta se refiere a la generación de deepfakes o "contenidos sintéticos de carácter sexual o íntimo sin el consentimiento expreso de la persona afectada", así como de cualquier contenido de este tipo "que involucre a niñas, niños o adolescentes, en cuyo caso el consentimiento será nulo e irrelevante".
Pero también contempla que esté prohibido manipular imágenes, audios o videos para humillar, acosar, extorsionar o ejercer la violencia contra una mujer, así como la automatización deliberada de campañas de odio, difamación, desprestigio o agresiones basadas en género.
Violencia digital género - México - EFE
A la vez, clasifica las infracciones en "leves, graves y gravísimas", siendo estas últimas las que acarreen las penas más graves, como la cárcel.
Por ejemplo, una infracción "gravísima" sería el emplear la IA "para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada". Y aclara: "No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión de ideas realizadas de conformidad con la ley y los principios democráticos".
También entraría en esta categoría el operar sistemas autónomos "letales" o sistemas de IA "capaces de causar daño grave a la integridad de las personas, cuando se realice sin supervisión humana significativa o fuera de los supuestos expresamente previstos en la ley aplicable". Lo mismo ocurre si se utiliza la inteligencia artificial para vigilancia masiva sin base legal o sin garantías adecuadas.
consultores de inteligencia artificial.jpg
Trump busca prohibir la regulación estatal de la IA.
Entre las nuevas instituciones que define, el proyecto plantea la Autoridad Nacional de IA, encargada de supervisar el cumplimiento de la normativa, emitir resoluciones y establecer mecanismos adicionales para garantizar el uso responsable y ético de estas tecnologías.
Además contempla el establecimiento de la Estrategia Nacional de Inteligencia Artificial, el Fondo Nacional para el Desarrollo de la IA y el Sistema Nacional de Certificación, con el objetivo de orientar las políticas públicas en torno a esta tecnología, impulsar la innovación en el sector y validar el cumplimiento técnico y ético de los sistemas de IA, respectivamente, reveló Wired.
Qué dicen los especialistas
Una de las objeciones presentadas por los especialistas está la vinculada al poder que tendría la Autoridad Nacional de IA. María Solange Maqueo, directora de la Facultad de Derecho de la Universidad La Salle, advirtió que la iniciativa le daría "una amplia discrecionalidad" a esa autoridad y que incluso podría "definir nuevos riesgos más allá de los establecidos en la ley a través de lineamientos generales".
"Le estás dando el poder a la Autoridad Nacional de Inteligencia Artificial para que pueda incorporar nuevos supuestos que podrían ser objeto de sanción. Esto claramente contraviene el principio constitucional de reserva de ley", señaló a El Economista.
Maqueo consideró que la inteligencia artificial "potencia muchos riesgos" y mencionó entre ellos la suplantación de identidad, las vulneraciones a propiedad intelectual y la manipulación. Por eso, consideró que "el desarrollo y la utilización de los sistemas de inteligencia artificial no pueden quedar exclusivamente a la autorregulación" y "sí es necesario en ciertos casos la intervención del Estado".
A la vez, apuntó que el proyecto del Senado "tiene una referencia muy cercana" en la ley de inteligencia artificial que rige en la Unión Europea.
En tanto, algunos especialistas y legisladores consideraron que los conceptos y términos incluidos en el texto son vagos, lo que podría facilitar el uso del marco normativo como una herramienta de censura, abuso o control autoritario.
La investigadora y escritora Mariana Benavides manifestó que la propuesta constituye "un caballo de Troya autoritario", al buscar regular el uso de la IA mediante un método basado en "el control previo, la supervisión estatal omnímoda y definiciones ambiguas". "Eso es receta para el abuso", consideró.
