La escena parece cotidiana: ojos irritados, cansancio visual y horas frente a una pantalla. Sin embargo, durante meses, quienes consultaban a chatbots sobre estos sntomas podan recibir una respuesta inesperada: bixonimana. El trmino sonaba tcnico, pero esconda un dato clave: no existe.
Segn reconstruy el periodista Chris Stokel-Walker en un artculo basado en un experimento cientfico publicado en Nature, todo fue parte de una prueba deliberada para medir los lmites de la inteligencia artificial. La iniciativa surgi de la investigadora Almira Osmanovic Thunstrm, de la Universidad de Gotemburgo, quien decidi crear una enfermedad ficticia y analizar si los modelos de lenguaje la incorporaban como real.
Un engao diseado para ser evidente
La supuesta patologa apareci por primera vez en marzo de 2024 en publicaciones online y luego en preprints acadmicos. Los textos estaban plagados de seales de alerta: autores inexistentes, instituciones ficticias y hasta referencias a elementos de ciencia ficcin.
El supuesto investigador principal, por ejemplo, tena un nombre inventado y trabajaba en una universidad que no existe. Incluso se mencionaban financiamientos de entidades absurdas y colaboraciones con personajes de ficcin. A pesar de estas pistas, el contenido comenz a circular.
El objetivo era claro: comprobar si los sistemas de IA, entrenados con enormes volmenes de datos de internet, podan distinguir entre informacin vlida y contenido fabricado.
Cuando la IA no distingue lo real de lo falso
El resultado super lo esperado. En pocas semanas, plataformas como ChatGPT, Gemini o Copilot empezaron a responder consultas mdicas incluyendo la bixonimana como si fuera una condicin legtima.
Algunas respuestas describan causas, prevalencia e incluso sugeran tratamientos o consultas con especialistas. En ciertos casos, la enfermedad apareca sin que el usuario la mencionara, simplemente al describir sntomas compatibles con fatiga ocular.
Ver: De la Luna a la Tierra: los efectos fsicos que enfrentan los astronautas
El fenmeno expuso una debilidad central: estos sistemas no “comprenden” la informacin, sino que la reproducen en base a patrones y fuentes disponibles.
El problema se extendi ms all de los chatbots
Lo ms preocupante lleg despus. Investigadores detectaron que los artculos falsos empezaron a ser citados en publicaciones acadmicas reales. En un caso concreto, una revista cientfica termin retirando un trabajo tras comprobar que inclua referencias a esta enfermedad inexistente.
Esto sugiere que no solo la IA puede amplificar errores, sino que tambin algunos investigadores podran estar confiando en contenido generado automticamente sin verificar las fuentes originales.
Para especialistas como Alex Ruani, investigador en desinformacin sanitaria, el caso es una advertencia seria. La facilidad con la que se propag el dato falso deja en evidencia fallas tanto en la tecnologa como en los procesos de validacin cientfica.
Un desafo que todava no tiene solucin clara
Las empresas tecnolgicas reconocen limitaciones en sus modelos, aunque aseguran que las versiones actuales mejoraron en precisin. Aun as, el comportamiento sigue siendo variable: ante una misma consulta, un sistema puede negar la existencia de la enfermedad o describirla como emergente.
El caso tambin revela otro factor clave: el formato influye. Estudios indican que los textos con apariencia mdica o acadmica tienen ms probabilidades de ser aceptados como verdicos por la IA, incluso si contienen errores.
El experimento de la bixonimana dej una conclusin inquietante: en un ecosistema donde la informacin circula sin freno, distinguir entre lo real y lo falso se vuelve cada vez ms complejo. Y cuando se trata de salud, el margen de error puede tener consecuencias concretas.
*fuente: artculo de Nature basado en el trabajo de Chris Stokel-Walke
—
