El Congreso del estado de California adoptó una ley para regular los modelos de inteligencia artificial (IA) generativa, a pesar de la oposición de empresas que temen que la nueva legislación asfixie las posibilidades de esa tecnología.
"Estoy orgulloso de la diversidad de la coalición que ha apoyado este proyecto de ley, una coalición que cree profundamente en la innovación y en la seguridad", escribió en la red social X Scott Wiener, representante demócrata en el Senado estatal y promotor del texto aprobado esta semana.
Embed - https://publish.twitter.com/oembed?url=https://x.com/Scott_Wiener/status/1829223848967057581&partner=&hide_thread=false
El gobernador de California, Gavin Newsom, tiene hasta el 30 de septiembre para firmarla o vetarla.
La norma ha enfrentado fuertes críticas, incluyendo las de miembros demócratas del Congreso, que argumentan que amenaza con medidas punitivas a los desarrolladores en un campo de innovación.
"La visión de muchos de nosotros en el Congreso es que la ley SB 1047 es bienintencionada, pero mal informada", dijo recientemente la demócrata Nancy Pelosi, senadora por California en Washington. "Queremos que California esté en la vanguardia de la IA de una forma que proteja a los consumidores, los datos, la propiedad intelectual y mucho más (...). La SB 1047 perjudica este fin más de lo que contribuye", agregó.
¿Qué permite la nueva ley? Permitirá al fiscal general de California demandar a las empresas si sus tecnologías causan daños graves.
Musk y otros apoyan la medida
Los defensores de esta ley creen que la iniciativa aportará a tomar recaudos a compañías que están demasiado enfocadas en las ganancias.
El texto también ha contado con apoyo de figuras de la tecnología como el magnate Elon Musk. Dijo que era una "decisión difícil", pero que "considerando todo", apoyaba la regulación de la IA y el proyecto de ley debido a los riesgos potenciales de la tecnología para el público.
Bautizada "Ley para una innovación segura en modelos pioneros de IA", busca impedir que estos algoritmos puedan causar daños que impliquen incidentes de ciberseguridad de gran escala e incluso la muerte de personas.
Wiener matizó que la ley obliga a los desarrolladores de modelos de IA a hacer pruebas de sus sistemas, simular ataques cibernéticos, instalar salvaguardias de ciberseguridad y brindar protección a denunciantes de fallos o de malas prácticas.
Críticas de OpenAI y otras empresas
Varias empresas de esta tecnología pionera, como OpenAI, se oponen a la norma. El motivo, publicó The New York Times, es que muchas de las principales empresas de IA, incluidas Google, Meta, Anthropic y OpenAI, hacen negocios en California.
OpenAI teme por una fuga de cerebros de Estados Unidos y de Silicon Valley, y dijo que prefiere que se establezca una legislación para todo el país. Argumentan que la amenaza de acciones legales por parte del fiscal general de California desalentará a los gigantes tecnológicos de compartir el código abierto de software, y eso impactará negativamente en la innovación.
"La IA es como un cuchillo de cocina", dijo Sebastian Thrun, un investigador de IA que trabajó en la implementación del sistema de autos sin conductor de Google. "No deberíamos intentar poner un interruptor de apagado a un cuchillo de cocina. Deberíamos intentar evitar que las personas lo usen mal", apuntó, según consignó el New York Times.
Al menos 40 estados han presentado este año proyectos de ley para regular la IA, y media docena han adoptado resoluciones o promulgado leyes que abordan esta tecnología.
La Unión Europea aprobó una ley que regula la IA, inédita a nivel mundial, que entró en vigor a principios de agosto y cuyo objetivo es fomentar la innovación y limitar los posibles abusos de esta nueva tecnología.
Con información de AFP
