Cómo la inteligencia artificial está influyendo en la desinformación electoral en Brasil

Desde votantes irreales hasta imágenes de hechos inexistentes, el uso de la inteligencia artificial (IA) se consolidó como una de las principales herramientas de desinformación electoral en Brasil.

El país define este domingo, además de presidente y gobernadores de los estados, a los integrantes del Legislativo nacional y local. El escenario de la contienda presidencial apunta a un aumento de la polarización entre el presidente Luiz Inácio Lula da Silva (Partido de los Trabajadores) y Flávio Bolsonaro (Partido Liberal).

A pesar de que el Tribunal Superior Electoral (TSE) -órgano judicial que regula las elecciones- estableció reglas para mitigar los daños de la IA, distintos usuarios e incluso candidatos han publicado desinformación generada o editada con esta tecnología para intentar manipular al electorado.

El sitio de verificación Aos Fatos explica cómo se utiliza la IA para desinformar en la campaña electoral y qué medidas adoptaron el TSE y las empresas de tecnología.

¿Cuáles son las tendencias de desinformación con IA en la campaña de Brasil? 

El uso más frecuente de esta tecnología ha sido la creación de deepfakes -imágenes o audios sintéticos realistas- para simular falsos respaldos a uno u otro candidato. Un ejemplo son los videos o imágenes del presidente estadounidense Donald Trump en apoyo a Flávio Bolsonaro.

“Lo que llama mucho la atención es cómo se banalizó el uso de deepfakes. En las elecciones pasadas, por una mayor dificultad tecnológica para producir este tipo de imagen en video, era casi un acontecimiento electoral. Ahora hay una banalización de este tipo de uso de la inteligencia artificial”, señaló Marcelo Alves, director de Metodología de Democracia en Xeque, una organización de la sociedad civil dedicada al análisis de la comunicación digital y la desinformación.

Un relevamiento de Aos Fatos identificó decenas de videos —que juntos sumaban casi 8 millones de views en TikTok— de votantes artificiales declarando su apoyo a Lula o a Flávio.

Los deepfakes también han alcanzado a los propios candidatos a la presidencia para forjar promesas que nunca pronunciaron y escenas que nunca ocurrieron.

Según las normas electorales, la propaganda debe aclarar cuándo utiliza IA en su producción. Sin embargo, esto no se está cumpliendo: no solo usuarios en las redes, sino también los propios candidatos, han publicado contenidos sintéticos sin ningún tipo de etiqueta.

La IA también se utiliza para facilitar la edición y la presentación de la desinformación. Lo más habitual es la difusión de placas ilustradas con imágenes sintéticas o creadas íntegramente con estas herramientas.

Los informes del Democracia en Xeque con análisis de las publicaciones también señalan que la IA se utiliza para:

• Simular cercanía entre el candidato y el electorado, con videos de falso contacto y presencia en las calles;
• Crear piezas humorísticas y memes, tanto críticos como de apoyo;
• Crear presentadores de noticias, una tendencia que también aparece en los contenidos verificados por Aos Fatos. 

¿Qué hizo el TSE?

La propaganda electoral en Brasil está regulada por el TSE. El tribunal establece reglas específicas tanto para las campañas políticas como para las plataformas.

En relación con la campaña, la Corte dispuso, por ejemplo, que toda propaganda con IA debe estar etiquetada y no puede contener material desinformativo. Además, las campañas tienen prohibido usar chatbots para simular una comunicación con el candidato o realizar envíos masivos de mensajes.

En cuanto a las plataformas, el TSE prevé la responsabilidad civil y administrativa en caso de que se nieguen a retirar contenido irregular tras ser notificadas o si permiten la circulación de contenidos sintéticos sin las correspondientes etiquetas.

Este año, el TSE incorporó nuevas reglas:

• La prohibición de pagos en forma de premios por publicaciones con contenido político-electoral -un claro intento de evitar lo sucedido en 2024, cuando un candidato organizó “torneos de recortes”-;
• La prohibición de que los chatbots recomienden o prioricen candidatos -una medida que no demostró ser efectiva ni antes ni después del inicio de la campaña-;
• Y la obligación de que las plataformas elaboren planes de cumplimiento, que funcionarán como una hoja de ruta de rendición de cuentas sobre las medidas adoptadas para la contención de daños.

Las reglas para los deepfakes se establecieron a comienzos de septiembre, luego de que la campaña de Flávio difundiera un video generado con IA de Bolsonaro en un evento. El tribunal determinó que este tipo de material solo estaría prohibido si se encuadraba como propaganda electoral.

El tribunal también publicó una guía de buenas prácticas sobre el uso de la IA. Entre los principios se destacan la protección de la integridad de la información, el respeto por los datos personales y la privacidad, y la transparencia en el uso de esta tecnología.

¿Y qué hicieron las big techs?

Las principales empresas de tecnología firmaron acuerdos sin fuerza vinculante con el TSE para anunciar qué medidas prevén adoptar para prevenir o mitigar riesgos.

En cuanto a la identificación de la IA, las compañías prometieron un etiquetado automático y campos de autodeclaración. Sin embargo, este compromiso no se está cumpliendo y, hasta el momento, representa el problema más frecuente en los procesos electorales vinculados a las nuevas reglas.

Los chatbots también contarían con filtros de rechazo para impedir que recomienden votar por algún candidato. Asimismo, las big techs se comprometieron a evitar que sus API realicen envíos automatizados.

Las plataformas también deben respetar la veda entre las 72 horas previas a los comicios y hasta 24 horas después del cierre de la votación. La promesa es que aplicarán mecanismos de restricción temporal para bloquear nuevos contenidos sintéticos durante ese período.

Otro de los compromisos fue la implementación de trabas para impedir la generación de deepnudes (videos con imágenes de personas desnudas) para proteger a las candidatas y frenar la violencia política de género.

Tres empresas -Meta, Telegram y X-, sin embargo, dejaron en claro que se eximen de cualquier responsabilidad en caso de no cumplir con lo que ellas mismas propusieron.