La inteligencia artificial puede ser utilizada para facilitar el espionaje y el acoso digital. Así lo advirtió una investigación de especialistas en ciberseguridad que reveló que chatbots como ChatGPT y Claude pueden ser manipulados para proporcionar información que ayude a una persona a vigilar a otra sin su consentimiento, incluso cuando las consultas están relacionadas con comportamientos abusivos.
El estudio, realizado por investigadores de las universidades de Nueva York y Wisconsin-Madison, en Estados Unidos, analizó las respuestas de cuatro sistemas de inteligencia artificial ante preguntas relacionadas con el uso de programas espía, el seguimiento de dispositivos y el acceso a información privada.
Los resultados mostraron que todas las herramientas examinadas podían responder a solicitudes formuladas por posibles acosadores, especialmente cuando estas se presentaban como consultas técnicas aparentemente legítimas.
Una investigación advirtió que los chatbots de inteligencia artificial como ChatGPT y Claude pueden ayudar a acosadores a vigilar. (Foto: AdobeStock)
La investigación también identificó otro problema: los chatbots pueden proporcionar recomendaciones incorrectas o inseguras a personas que sospechan que están siendo vigiladas, sin advertirles sobre las posibles consecuencias de seguir esas instrucciones.
El trabajo, titulado Assessing LLM Response Quality in the Context of Technology-Facilitated Abuse (“Evaluación de la calidad de las respuestas de los modelos de lenguaje grande (LLM) en el contexto del abuso facilitado por la tecnología”) fue presentado en agosto de 2026 durante el USENIX Security Symposium, una conferencia internacional especializada en seguridad informática, y sus conclusiones fueron difundidas esta semana por la Universidad de Nueva York.
Cómo pueden manipular los acosadores a los chatbots de inteligencia artificial
Los investigadores estudiaron una modalidad de violencia conocida como abuso facilitado por tecnología. Se trata de situaciones en las que una persona utiliza celulares, aplicaciones, servicios digitales o dispositivos de seguimiento para vigilar, controlar o acosar a su pareja o expareja.
Entre las prácticas documentadas aparecen la instalación de software espía, el uso de rastreadores GPS, el acceso no autorizado a cuentas personales y la utilización de dispositivos conectados para obtener información sobre los movimientos o las actividades de una víctima.
Para examinar el comportamiento de la inteligencia artificial, los especialistas seleccionaron 193 preguntas basadas en situaciones reales, recopiladas de investigaciones académicas y publicaciones en foros de Internet. Las pruebas incluyeron dos modelos de uso general, GPT-4o de OpenAI y Claude 3.7 Sonnet de Anthropic, además de Aimee y Ruth, dos chatbots desarrollados específicamente para asistir a personas que sufrieron violencia en relaciones de pareja.
Leé también: Grooming en Mendoza: acosó por Instagram a una niña de 12 años y fue condenado
Una parte de los experimentos consistió en presentar solicitudes que podían favorecer a un agresor. Los especialistas comprobaron que los cuatro sistemas podían proporcionar asistencia ante pedidos potencialmente abusivos.
El mecanismo identificado consiste en formular una consulta perjudicial como si fuera un problema técnico que necesita una solución. Por ejemplo, una solicitud relacionada con los permisos de acceso a una cámara o un micrófono puede presentarse como una dificultad de configuración, sin mencionar que el propósito es vigilar a otra persona.
De esa manera, un chatbot puede interpretar el pedido como una duda informática habitual y ofrecer indicaciones sin reconocer las posibles consecuencias de su utilización.
En el caso de Aimee y Ruth, los investigadores encontraron que ambos sistemas respondieron aproximadamente dos tercios de las solicitudes planteadas desde la perspectiva de posibles agresores.
El descubrimiento resulta especialmente relevante porque estas dos herramientas fueron concebidas para brindar asistencia a personas que atraviesan situaciones de violencia.
Los errores de la inteligencia artificial que pueden poner en peligro a las víctimas
La segunda parte de la investigación examinó la calidad de las respuestas destinadas a personas que necesitaban protegerse del espionaje digital. Los resultados revelaron deficiencias importantes. Según la evaluación, el 86% de las respuestas analizadas presentó problemas de precisión, integridad o seguridad. Además, el 60% omitió advertencias relevantes sobre los riesgos asociados con las acciones recomendadas.
Leé también: Qué hacer si crean un desnudo tuyo con IA y cómo pedir que lo retiren de Internet
Entre los errores detectados estuvo la recomendación de utilizar una VPN para protegerse de programas espía instalados en un celular. Aunque estas herramientas pueden proteger determinados aspectos de las conexiones, no eliminan aplicaciones maliciosas que ya tienen acceso al dispositivo.
También encontraron sugerencias para utilizar detectores de radiofrecuencia con el objetivo de localizar dispositivos de vigilancia ocultos, pese a que su efectividad es limitada, y recomendaciones para emplear bloqueadores de señales GPS, cuyo uso puede ser ilegal.
Los especialistas también observaron que ninguno de los sistemas advirtió sobre una situación particular: determinados programas espía instalados en áreas privilegiadas del sistema operativo de un celular modificado mediante root o jailbreak pueden permanecer activos incluso después de restaurar el equipo a su configuración de fábrica.
Por qué seguir los consejos de un chatbot puede agravar una situación de acoso
Uno de los principales riesgos señalados por los investigadores es que una recomendación aparentemente adecuada puede tener consecuencias negativas cuando existe una situación de vigilancia o violencia. Por ejemplo, una persona que sospecha que su expareja controla su celular podría intentar eliminar aplicaciones, modificar la configuración del dispositivo o cambiar las contraseñas de sus cuentas siguiendo las indicaciones de una inteligencia artificial.
Leé también: Cómo acompañar y proteger a los chicos en Internet sin invadirlos: las claves para madres y padres
Sin embargo, esas acciones pueden advertir al agresor que la víctima descubrió la vigilancia, provocar una reacción o destruir información que podría servir como evidencia.
El estudio también evaluó las opiniones de 114 personas que habían experimentado situaciones de abuso mediante tecnología. Algunas señalaron que las respuestas de los chatbots eran demasiado extensas, difíciles de comprender o complicadas de aplicar debido a limitaciones técnicas, económicas o personales. Y además, muchos expresaron que las soluciones o instrucciones de IA se dieron sin considerar el contexto de quien realizaba la consulta.
En cuanto a las recomendaciones y conclusiones de la investigación, el estudio aconseja que las personas que sospechan que están siendo vigiladas busquen asistencia especializada antes de realizar modificaciones importantes en sus dispositivos o cuentas. También sugiere recurrir, cuando sea posible y seguro, a un equipo al que el presunto agresor nunca haya tenido acceso para buscar información o solicitar ayuda.
La investigación plantea además la necesidad de que las organizaciones que utilizan chatbots para asistir a víctimas evalúen de manera independiente la seguridad de sus respuestas.
—
