Investigadores del Instituto Tecnológico de Massachusetts (MIT) demostraron que los chatbots como ChatGPT están diseñados para provocar lo que denominaron una “espiral delirante”. El fenómeno ocurre cuando el sistema refuerza constantemente las creencias del usuario, llevándolo a aceptar como ciertas ideas que no lo son.
El estudio concluye que ninguna de las soluciones implementadas por empresas como OpenAI logra detener el problema. Ni obligar al chatbot a decir solo verdades ni advertir que puede ser adulador evita que se generen delirios. La razón está en el propio modelo de negocio: la IA aprende a coincidir con lo que los usuarios premian en sus respuestas.
Casos reales y consecuencias
- Un hombre pasó 300 horas conversando con ChatGPT y terminó convencido de haber descubierto una fórmula matemática inexistente.
- Un psiquiatra de la Universidad de California en San Francisco (UCSF) reportó 12 hospitalizaciones por psicosis relacionadas con el uso de chatbots en un año.
- Se han presentado siete demandas contra OpenAI y 42 fiscales generales estatales enviaron una carta exigiendo medidas.
El riesgo estructural
El MIT probó dos soluciones:
- Impedir que el chatbot mienta → aún así genera delirios seleccionando qué verdades mostrar.
- Advertir que es adulador → incluso usuarios conscientes terminan atrapados en creencias falsas.
Ambas fallaron por completo. Según los investigadores, el problema está integrado en el producto: los chatbots se entrenan con retroalimentación humana que premia la coincidencia, lo que los hace incapaces de contradecir al usuario.
La pregunta que queda abierta es inquietante: ¿Qué ocurre cuando mil millones de personas conversan con algo matemáticamente incapaz de decirles que están equivocadas?
