Demócratas estadounidenses alertan contra el uso masivo de fake news generadas con IA

La reunión fue organizada por el grupo progresista Arena y participaron más de 70 funcionarios de distintos niveles que debatieron sobre cómo la IA generativa podría producir información errónea y desinformación a un ritmo y una escala que las campañas políticas nunca antes se había experimentado en Estados Unidos.

“Estoy mucho más preocupado a corto plazo”, dijo Pat Dennis, presidente del grupo de investigación de la oposición liderado por los demócratas American Bridge 21st Century, señalando el hecho de que “no sabemos lo que viene”. Los “malos muchachos” tendrán un tiempo “exponencialmente más fácil escribiendo más cosas, inundando los medios", dijo.

La mayoría de los participantes tenía en claro la necesidad de capacitar al personal de la campaña sobre cómo usar la tecnología. Pero los operativos enfatizaron la necesidad de enseñar a los votantes cómo identificar la información errónea y la desinformación impulsada por IA.

“Las fuentes de información que esencialmente funcionan para tener información verdadera sobre el mundo pasarán de ser agradables a ser absolutamente indispensables”, agregó Dennis. “Espero que nos estemos preparando para eso a nivel de plataforma. Espero que los votantes se estén educando a sí mismos”.

A principios de este año, la junta directiva de la Asociación Estadounidense de Consultores Políticos condenó unánimemente el uso de falsificaciones en la publicidad política. “El uso de contenido generativo IA ‘falso profundo’ es una amenaza dramáticamente diferente y peligrosa para la democracia”, dijo en ese momento Becki Donatelli, consultora digital republicana y presidenta de la AAPC.

Para el ojo inexperto, no siempre es fácil saber si una imagen es falsa. Tomemos, por ejemplo, un video que la campaña de Ron DeSantis publicó en Twitter que muestra imágenes aparentemente fabricadas del expresidente Donald Trump abrazando a Anthony Fauci, el epidemiólogo que supervisó la campaña anti Covid y se enfrentó fuertemente con el expresidente.

Actualmente no existe un requisito federal para incluir un descargo de responsabilidad en los anuncios de campaña cuando se utiliza IA para crear imágenes, aunque se han presentado proyectos de ley de este tipo en el Congreso. El estado de Washington promulgó recientemente una legislación que requeriría hacer una aclaración cuando se use IA en anuncios de campaña.

El mes pasado en CampaignTech East, en una reunión informal de expertos en campañas digitales, los comisionados de la Comisión Federal de Elecciones (FEC) ofrecieron opiniones sobre la regulación de la IA en las campañas. La comisionada demócrata Shana Broussard sugirió que las reglas actuales de divulgación de anuncios políticos de la FEC podrían adaptarse para abarcar la IA, mientras que el comisionado republicano Trey Trainor dijo que estaba a favor de “la menor regulación posible”.

Los operativos demócratas en la reunión de Arena dijeron que son escépticos sobre la regulación de la industria antes de las elecciones de 2024. Betsy Hoover, cofundadora de Higher Ground Labs, un laboratorio de tecnología política progresista, lo calificó como un "movimiento estratégico" para que las campañas demócratas tomen la iniciativa en el establecimiento de pautas cuando se usa la IA en el alcance de los votantes.

Hoover dijo que la IA puede tener muchos usos prácticos, como automatizar algunas de las tareas más tediosas y lentas que se requieren en las campañas. Puede llenar los vacíos para operaciones más pequeñas que no cuentan con los recursos para, por ejemplo, generar múltiples versiones de un gráfico o analizar datos.

Por su parte, Ted Dennis de American Bridge dijo que, si las campañas están fabricando imágenes, eso podría abrir la puerta a demandas. Pero está menos preocupado por si están "usando IA para hacer el mismo tipo de ataque que siempre han hecho” que por el hecho de que ahora les resulta más rápido y más barato".

Pero el potencial de información errónea y desinformación subraya la necesidad de humanos en el personal, argumentó Hoover. Las campañas, dijo, deberían pensar en cómo se preparan sus programas para responder a un “entorno mediático menos estable”.

“La gente va a buscar mensajeros de confianza más que nunca”, dijo. "De la misma manera, en 2016 y 2020, comenzamos a decir: 'Está bien, debemos invertir para influir en los mensajes y la organización relacional', esas cosas se vuelven más importantes en este ciclo".

(Extractado de Político)