Por si te lo perdiste, el 2 de abril se celebró el décimo Día Internacional de la Verificación de Datos. La fecha elegida es intencionada: el día después del Día de los Inocentes, ese homenaje anual a la mentira, o al menos a las mentiras divertidas e inofensivas. (¡Disculpa si hiciste clic!). Tiene sentido que el día siguiente se dedique a activar nuestro detector interno de mentiras: una oportunidad para afinar nuestro pensamiento crítico y descubrir nuevos recursos y herramientas que nos ayuden en nuestra búsqueda por separar la verdad de la ficción.
Sin embargo, dado el extraordinario aumento del contenido digital generado por IA, un solo día parece insignificante, como un solo día de ejercicio después de meses de excesos alimenticios. Esto es especialmente cierto en el contexto de la guerra entre Estados Unidos, Israel e Irán, durante la cual se ha recurrido a la IA para generar grandes cantidades de desinformación, a menudo en forma de imágenes y vídeos, con el objetivo de ganar dinero a través de la “economía de la desinformación”. Desafortunadamente, este tipo de imágenes pueden ser herramientas de persuasión particularmente poderosas. Somos mucho menos escépticos cuando “vemos” algo con nuestros propios ojos, o al menos si creemos verlo (Seo, 2020).
Esto puede ser particularmente peligroso en situaciones de vida o muerte como la guerra. Tan solo en la última semana, diversos medios de comunicación, incluida la BBC, han calificado de “sin precedentes” la explosión de desinformación impulsada por IA relacionada con la guerra entre Estados Unidos, Israel e Irán. El experto en medios digitales Timothy Graham declaró a la BBC: “Lo que antes requería producción de vídeo profesional ahora se puede hacer en minutos con herramientas de IA. La barrera para crear imágenes sintéticas de conflicto convincentes prácticamente ha desaparecido”.
Un análisis de la realidad
Sofia Rubison, editora sénior de NewsGuard, una organización que evalúa la fiabilidad de las fuentes de noticias globales, parece coincidir con la descripción de “sin precedentes”. Recientemente, en el podcast Question Everything, Rubison expresó su opinión experta de que el “enorme volumen de videos y fotos falsas que se difunden en línea” representa un aumento con respecto al pasado. Al preguntársele si este nivel de videos con IA es nuevo, respondió: “Definitivamente creo que sí”.
Además de sus informes sobre la fiabilidad de las fuentes de noticias, NewsGuard publica semanalmente una afirmación falsa en su boletín Reality Check. Comparte afirmaciones que se han vuelto virales y que tienen una alta probabilidad de ser dañinas. Recientemente investigaron la afirmación de que un video del primer ministro israelí Benjamin Netanyahu tomando café en una cafetería era un deepfake. El video se publicó como “prueba de vida” en respuesta a afirmaciones falsas de su muerte; sin embargo, muchas personas, incluyendo a varios aficionados a la investigación en línea, pensaron que se trataba de un deepfake. Estas afirmaciones circularon ampliamente, lo que hizo que esta afirmación cumpliera con los criterios de NewsGuard: se viralizó y tenía la capacidad de causar daño.
Detectores de IA defectuosos
Existen herramientas que cualquiera puede usar para evaluar si los videos son reales o generados por IA, como Grok, integrado en X. Sin embargo, estas herramientas no siempre son precisas. Como afirma Rubison: “Grok, la cuenta de IA, es en realidad una de las mayores difusoras de afirmaciones falsas en esta plataforma”. Y añade: “X, la plataforma, no afirma que su modelo sea capaz de verificar con precisión la veracidad de las afirmaciones falsas ni de detectar con exactitud si algo ha sido generado por IA o no”. A pesar de ello, las respuestas de Grok pueden parecer un veredicto definitivo.
Un detector de IA más avanzado, de la empresa Hive, realiza pruebas en videos para determinar si han sido generados por IA. Hive es más preciso que muchos otros detectores, pero en el caso del video de Netanyahu, aun así determinó que existía una probabilidad superior al 95 % de que el video de Netanyahu hubiera sido generado por IA. Hive se equivocó en este caso: el video era real, lo que demuestra que incluso los mejores detectores de IA no son infalibles. Rubison afirma que NewsGuard utiliza Hive para realizar una evaluación inicial, pero nunca se basa únicamente en una plataforma para determinar si un vídeo es generado por IA o no.
Respecto al vídeo de Netanyahu, Rubinson explicó que su equipo en NewsGuard realizó una exhaustiva verificación de datos, más allá de las herramientas en línea, y confirmó su autenticidad. En primer lugar, señaló que Reuters, una agencia de noticias de prestigio, consultó imágenes de archivo del café, que coincidían con el fondo del vídeo. Además, el propio café publicó fotos y vídeos del evento en redes sociales, que también coincidían. Para que se tratara de un vídeo generado por IA, habría sido necesaria la connivencia de muchísimas personas.
Cada día es el Día de la Verificación de Datos
Dado el daño que puede causar el contenido generado por IA, especialmente en el contexto de la guerra, les instamos a que cada día sea el Día de la Verificación de Datos. Por ejemplo, pueden registrarse en Reality Check o seguir alguno de los muchos sitios web de verificación de datos dedicados a desmentir la desinformación. Incorporar un sitio web de verificación de datos a tu lectura habitual tiene dos ventajas: puede ayudarte a identificar mentiras que hayas encontrado en otras fuentes de información y, lo que es más importante, es un recordatorio constante para pensar críticamente sobre las imágenes y los vídeos que conforman el “ruido” constante de tus redes sociales.
—
