El crecimiento de los chatbots basados en inteligencia artificial abri un debate en la comunidad cientfica. Un grupo de investigadores de la Universidad del Sur de California seal que el uso cada vez ms extendido de estos sistemas podra impulsar un proceso de homogeneizacin del pensamiento humano.
La advertencia surge de un artculo de opinin publicado en la revista cientfica Trends in Cognitive Sciences. El trabajo rene a cientficos informticos y psiclogos que analizan el impacto de los modelos de lenguaje masivos en la forma en que millones de usuarios producen contenido, interpretan informacin y construyen argumentos.
Los modelos de lenguaje masivos, conocidos como LLM por sus siglas en ingls, se utilizan en la mayora de tareas cotidianas. Personas de distintos sectores recurren a estas herramientas para redactar textos, preparar informes, estudiar o generar ideas. Este uso masivo llev a los investigadores a analizar cmo estas tecnologas influyen en los procesos cognitivos.
Zhivar Sourati, cientfico informtico de la Universidad del Sur de California y primer autor del artculo, explic que cada persona posee una manera particular de expresarse y de interpretar la realidad. Esa diversidad puede disminuir cuando millones de usuarios interactan con los mismos sistemas.
Sourati afirm que las personas difieren en su forma de escribir, razonar y observar el mundo. Cuando esas diferencias pasan por los mismos modelos de lenguaje, el estilo lingstico, las perspectivas y las estrategias de razonamiento tienden a converger. El resultado produce expresiones cada vez ms similares entre usuarios que pertenecen a contextos culturales distintos.
La importancia de la diversidad cognitiva
Los investigadores consideran que este fenmeno puede afectar un componente central del progreso humano. La diversidad cognitiva representa la variedad de formas en que las personas interpretan la realidad, elaboran ideas y resuelven problemas. En grupos y sociedades, esa diversidad impulsa la creatividad y favorece la aparicin de soluciones innovadoras.
Cuando un usuario utiliza un chatbot para mejorar un texto, el sistema aplica patrones lingsticos que provienen de los datos con los que fue entrenado. Ese proceso puede producir escritos ms claros o estructurados. El mismo mecanismo tambin tiende a eliminar rasgos individuales del estilo de cada persona.
El equipo seala que este fenmeno puede reducir la individualidad de los textos y debilitar el vnculo entre la persona y su produccin creativa. Parte del proceso de elaboracin queda delegada en el sistema. Con el tiempo, los usuarios pueden adoptar estructuras de lenguaje y formas de argumentacin similares.
Cmo la IA interviene
El trabajo tambin plantea una preocupacin vinculada con la forma en que las personas evalan la validez de un argumento. Los modelos de lenguaje generan respuestas que presentan razonamientos coherentes y bien estructurados. Este proceso puede influir en lo que los usuarios consideran un discurso confiable o una explicacin lgica.
Sourati indic que el impacto de los modelos de lenguaje no se limita a modificar la manera en que las personas escriben o hablan. Estos sistemas tambin pueden influir en la definicin de lo que una sociedad considera una perspectiva correcta o un razonamiento slido.
Los modelos de lenguaje se entrenan con enormes volmenes de datos. Estos contienen textos provenientes de mltiples fuentes digitales. El entrenamiento permite que el sistema identifique patrones estadsticos del lenguaje y los reproduzca cuando genera respuestas.
El problema surge cuando esos datos representan de manera desigual a las distintas culturas y tradiciones intelectuales. Numerosos estudios mostraron que muchos conjuntos de entrenamiento reflejan con mayor intensidad el lenguaje y los valores de sociedades occidentales, educadas, industrializadas, ricas y democrticas.
Este sesgo cultural se conoce en investigacin con la sigla WEIRD. El trmino describe el predominio de perspectivas provenientes de pases occidentales en estudios acadmicos y bases de datos globales. Los investigadores sostienen que los modelos de lenguaje pueden reproducir ese mismo sesgo cuando generan contenido.
El impacto de la inteligencia artificial aparece asimismo en estudios sobre creatividad y trabajo colaborativo. Algunas investigaciones citadas por el equipo mostraron que los usuarios que utilizan chatbots generan ms ideas individuales y con mayor nivel de detalle.
Sin embargo, los resultados cambian cuando se observa el funcionamiento de grupos. Los equipos que utilizan inteligencia artificial producen menos ideas y presentan menor diversidad de propuestas en comparacin con los grupos que dependen exclusivamente de la interaccin humana.
Los investigadores interpretan este fenmeno como un indicio de convergencia cognitiva. Los modelos de lenguaje tienden a orientar a distintos usuarios hacia soluciones similares. Esa dinmica reduce la variedad de enfoques dentro de un grupo de trabajo.
El desafo para el desarrollo de modelos de IA
Los autores sostienen que la interaccin frecuente con sistemas que priorizan estructuras lineales podra influir en la manera en que las personas organizan sus ideas y analizan problemas.
Cuando un usuario escribe con la ayuda de un modelo de lenguaje, el sistema suele sugerir continuaciones de frases o posibles respuestas. Muchas personas seleccionan opciones que consideran satisfactorias en lugar de generar alternativas propias.
Este comportamiento puede desplazar gradualmente la iniciativa del usuario hacia el modelo. El proceso creativo se transforma en una interaccin donde el sistema orienta el desarrollo del contenido.
Estos efectos no representan un destino inevitable. Para los cientficos, el diseo de los modelos de lenguaje puede incorporar estrategias que preserven la diversidad cognitiva.
Su propuesta es que los desarrolladores incluyan de manera deliberada una mayor diversidad lingstica, cultural y conceptual en los datos de entrenamiento. Este enfoque permitira que los sistemas reflejen la variedad de perspectivas presentes en la experiencia humana global.
Un LLM que presente distintas formas de analizar una situacin podra estimular el pensamiento crtico de los usuarios, al ampliar las perspectivas disponibles para analizar problemas complejos.
—
fuente: inteligencia artificial está cambiando la forma en que las personas piensan y razonan”> GOOGLE NEWS
