Expertos alertan sobre los peligros del desarrollo descontrolado de la Inteligencia Artificial

"Estos sistemas demuestran capacidades en la respuesta a preguntas y la generación de texto, imagen y código inimaginables hace una década, y superan a lo más avanzado en muchos puntos de referencia, antiguos y nuevos", dice el informe sobre los resultados de la encuesta.

Pero advierte que "sin embargo, son propensos a las alucinaciones, habitualmente sesgadas y pueden ser engañados para que sirvan a objetivos nefastos, lo que resalta los complicados desafíos éticos asociados con su despliegue".

Este análisis -según la nota de Al Jazeera-, "se produce en medio de crecientes llamados a la regulación de la IA luego de controversias que van desde un suicidio vinculado a un chatbot hasta videos falsos del presidente ucraniano Volodymyr Zelenskyy que parece rendirse a las fuerzas invasoras rusas".

La encuesta midió las opiniones de 327 expertos en el procesamiento del lenguaje natural, una rama de la informática esencial para el desarrollo de los chatbots, en mayo y junio pasados, meses antes del lanzamiento en noviembre de ChatGPT de OpenAI. 

Hace solo tres semanas, Geoffrey Hinton, considerado el "padrino de la inteligencia artificial", le dijo a CBS News que los impactos potenciales de la tecnología que avanza rápidamente son comparables a "la Revolución Industrial, o la electricidad, o tal vez la rueda".

Cuando se le preguntó sobre las posibilidades de que la tecnología "aniquile a la humanidad", Hinton advirtió que "no es inconcebible".

Ese potencial alarmante no se encuentra necesariamente en las herramientas de inteligencia artificial existentes actualmente, como ChatGPT, sino en lo que se llama "inteligencia general artificial" (AGI), que abarcaría a las computadoras que se desarrollan y actúan según sus propias “ideas”.

Hinton le dijo a la cadena CBS News: "Hasta hace poco, pensé que pasarían de 20 a 50 años antes de que tuviéramos IA de propósito general, ahora creo que pueden ser 20 años o menos".

Antes la pregunta sobre si eso podría suceder antes de ese plazo, Hinton admitió que no descartaría la posibilidad de que AGI llegue dentro de cinco años, un cambio significativo con respecto a hace unos años cuando "habría dicho que de ninguna manera'".

El pionero de la IA está lejos de estar solo. Según la encuesta de informáticos realizada el año pasado, el 57 % dijo que "el progreso reciente nos está moviendo hacia AGI" y el 58 % estuvo de acuerdo en que "AGI es una preocupación importante".

En febrero, el CEO de OpenAI, Sam Altman, escribió en una publicación de blog de la empresa: "Los riesgos podrían ser extraordinarios. Una AGI superinteligente desalineada podría causar un daño grave al mundo".

A fines de marzo, más de 25.000 personas, entre ellas importantes ejecutivos, académicos, investigadores y científicos, firmaron una carta abierta que pide una moratoria de seis meses en el entrenamiento de sistemas de IA más allá del nivel del último chatbot de OpenAI, GPT-4, aunque Altman no se encuentra entre ellas.

"Los sistemas de inteligencia artificial potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables", dice la carta.

El Financial Times informó que Elon Musk, CEO de Tesla yTwitter, quien firmó la carta pidiendo una pausa, está "desarrollando planes para lanzar una nueva empresa de inteligencia artificial para competir con" OpenAI.

Con respecto a AGI, Hinton dijo también que "es muy razonable que la gente se preocupe por esos problemas ahora, aunque no sucederá en el próximo año o dos, la gente debería pensar en esos problemas".

Si bien aún faltan algunos años para el desarrollo pleno de AGI, ya aumentan los temores de que las herramientas de inteligencia artificial existentes, incluidos los chatbots que difunden fake news, las aplicaciones de intercambio de caras que generan videos falsos y las voces clonadas que emiten frases engañosas, estén ya preparadas para acelerar la propagación de información errónea y fraudulenta.

Según una encuesta de IPSOS de 2022 sobre el público en general, incluida en el nuevo informe de Stanford, las personas en Estados Unidos desconfían particularmente de la IA, y solo el 35 % está de acuerdo en que "los productos y servicios que usan IA tienen más beneficios que inconvenientes", en comparación con el 78 % de personas en China, 76% en Arabia Saudita y 71% en India.

En medio del interés regulatorio creciente por un "mecanismo de rendición de cuentas" de IA, la administración de Biden anunció esta semana que está buscando aportes públicos sobre las medidas que podrían implementarse para garantizar que "los sistemas de IA sean legales, efectivos, éticos, seguros y confiables".

El sitio de noticias Axios informó el jueves que el líder de la mayoría demócrata del Senado, Chuck Schumer, está "dando los primeros pasos hacia la legislación para regular la tecnología de inteligencia artificial”.

(CBS News, Al Jazeera, Common Dreams)