Desinformación en TikTok: cómo se monetiza con videos sobre manifestaciones generados …

Si tenés sólo unos segundos, leé estas líneas:

En TikTok existen miles de videos de manifestaciones generados con inteligencia artificial que monetizan en esa plataforma. Así lo demostró el sitio de verificación español Maldita.es en una investigación que encontró 550 cuentas -entre las que se encuentran algunas argentinas- que publicaron más de 5.800 de videos sobre el tema.

El modelo de negocio consiste en acumular seguidores con contenido polarizante para monetizar en la red social o vender las cuentas, prácticas que violan las políticas de la plataforma.

Cuentas dedicadas a crear videos polarizantes

En Argentina, al menos 3 cuentas difundieron videos de manifestaciones ficticias hechos con inteligencia artificial. Tres de ellas tienen casi el mismo nombre de usuario: @torreeccsff, @torrecch5tg y @torreusecc5. Además de sus nombres, existe otra característica que indica una coordinación entre las cuentas: poseen una imagen de perfil similar: un Jesús con una Biblia en la mano.

Dentro de su contenido, las cuentas promocionan videos de marchas argentinas ficticias e invitan a los usuarios a comentar. “¿Apoyas a Javier Milei? Presiona el botón +”, “¿Qué piensas de Javier Milei? Opina abajo”, dicen algunos de los videos, musicalizados con la canción “Muchachos” del Mundial 2022 o con el himno nacional argentino.

Algunas de las piezas, con los hashtags “#argentina” y “#javiermilei”, superan las 40 mil visualizaciones.

Las cuentas tienen entre 400 y 4.000 seguidores, y en las 3 ocasiones su primer video data del 10 de febrero último.

Uno de los creadores de contenido en la investigación de Maldita -que pidió reserva de identidad- explicó que las personas detrás de estas cuentas buscan crear videos y contenido de marchas centrados en ese país para que la gente los vea más.

Además, este tipo de videos se viralizan rápidamente en TikTok porque apoyan causas reales que están en el debate público del momento e incorporan además una alta carga emocional.

Los usuarios relevados por Chequeado no sólo publicaron contenido sobre política: antes de las manifestaciones, también difundieron videos motivacionales de Jesucristo o mujeres en bikini. El idioma tampoco es el mismo: las mismas cuentas suelen publicar videos en español o portugués.

Esto va en línea con los hallazgos encontrados por Maldita: los perfiles que publican vídeos polarizadores generados con IA suelen probar también con otros tipos de contenido antes de hablar sobre manifestaciones, o regresan a estos temas no políticos cuando cambia el foco de las noticias.

En la investigación del sitio de verificación de datos español también se encontraron cuentas que no solamente publicaban videos de marchas a favor de Javier Milei, sino de otros presidentes, como el español Pedro Sánchez o del líder venezolano Nicolás Maduro, aunque actualmente no se encuentran disponibles.

Por su parte, otras de las cuentas investigadas se han reconvertido: con el mismo nombre de usuario, antes publicaban videos específicamente sobre Argentina, mientras que ahora brindan consejos sobre tarot en portugués. Pero tanto la cantidad de seguidores como de likes se duplicaron: de 12 mil a 29 mil, y de 43 mil a 106 mil, respectivamente.

Cómo buscan monetizar

Una de las personas contactadas por la organización española confirmó que su objetivo es ganar dinero: el primer paso es generar con IA desinformación emotiva y polarizante para “engordar” la cuenta aumentando el número de seguidores hasta llegar a 10 mil y cobrar aproximadamente entre US$ 1.000 y US$ 1.500 al mes.

El segundo, entrar a formar parte del “Programa de Recompensas para Creadores” de TikTok y que la plataforma pague por publicar videos como a un influencer más, o venderle a alguien la cuenta.

Aunque el programa sólo está disponible en Estados Unidos, Reino Unido, Alemania, Japón, Corea del Sur, Francia, México y Brasil, según Maldita es posible configurar las cuentas para hacer creer a TikTok que vivimos en esos países y poder cobrar. 

Además, existen servicios online de compraventa de cuentas en las que se anuncian poniendo su número de seguidores: cuántos más seguidores, más cara es la cuenta. 

Videos en contra de la política de TikTok

TikTok tiene normas que deberían cumplirse frente al problema de la desinformación. Sus reglas prohíben contenido generado con IA “que sea engañoso sobre asuntos de importancia pública” o que infrinja sus normas de comunidad sobre desinformación.

“Para garantizar que el contenido en TikTok es fiable y proporcionar a las personas un contexto importante sobre lo que están viendo, requerimos que los creadores etiqueten contenido generado por IA o editado significativamente que muestre escenas o personas de aspecto realista. El contenido sin etiquetar puede ser eliminado, restringido o etiquetado por nuestro equipo, dependiendo del daño que pueda causar”, dice la plataforma.

Las políticas de TikTok también prohíben otras de las prácticas habituales de estas cuentas que la plataforma considera comportamientos de spam, como “la automatización para gestionar muchas cuentas”, y también la venta de “la totalidad o sobre una parte de cualquiera de los Servicios”, como por ejemplo vender una cuenta. Además, TikTok detalla que no permite que cuentas que incumplen sus normas accedan al programa de monetización. Estas restricciones no se cumplen en el caso de la investigación de Maldita.

Chequeado contactó al equipo de TikTok en Argentina, desde donde respondieron: “La seguridad de nuestra comunidad es la principal prioridad de TikTok. Por ello, contamos con más de 50 configuraciones automáticas de seguridad, privacidad y protección para brindar una experiencia positiva y promover entornos digitales seguros. En este sentido, catalogamos y etiquetamos proactivamente contenidos generados con IA para alertar e informar a nuestra comunidad”.

Y sumaron: “En el Cono Sur, las marcas y creadores no tienen la posibilidad de monetizar a través de los contenidos generados. Sabemos que la tecnología evoluciona constantemente, y en línea con esto, es que seguimos perfeccionando nuestros sistemas de seguridad y moderación. Por ello, contamos con decenas de miles de personas en nuestro equipo de Trust & Safety a nivel global, a fin de mantener la seguridad en la plataforma y eliminar contenidos que no cumplan con nuestras normas”.

Luego de la consulta a TikTok, las cuentas virales fueron dadas de baja.