Usuarios comenzaron a pedirle a Grok, la IA de X, imágenes sexualizadas de otras personas, lo que abrió una discusión sobre los límites de las inteligencias artificiales y los riesgos de su uso sin regulación.
La inteligencia artificial y las redes sociales dejan como tarea repensar y cuestionar sus límites. En muchos países, como Argentina, no existe una legislación específica para controlar su uso, por lo que en los últimos años las discusiones quedaron centradas en advertir sobre sus peligros. Una de las aplicaciones más señaladas es X, que en los últimos días estuvo en el ojo de la tormenta luego de que se conociera que Grok, la IA de la plataforma, permite que los usuarios pidan imágenes de otras personas con poca ropa.
En la aplicación, a diferencia de otras redes como Instagram, el contenido principal son los tuits y no las imágenes. Sin embargo, muchos usuarios publican fotos. Debajo de esas publicaciones, al mencionar a la IA con un @, se le puede hacer una consulta o dar una indicación. En ese contexto, comenzaron a aparecer pedidos para que Grok genere imágenes de las personas sin ropa, lo que abrió un amplio debate, ya que el abuso ahora se traslada al ámbito digital.
Los usuarios realizan indicaciones debajo de las imágenes: “Ponela en bikini”, “sacale la ropa”, “ponele tatuajes”. Se trata de una gran cantidad de pedidos que afectaron principalmente a mujeres, pero también a hombres y a menores de edad. Según el medio Maldita.es, varios usuarios solicitaron imágenes inapropiadas de niñas y niños, incluso en situaciones con armas.
El CEO de la aplicación, Elon Musk, reaccionó a la tendencia con un emoji en sus redes sociales. Sin embargo, desde Grok reconocieron que existieron errores en el funcionamiento de la herramienta, al habilitar pedidos que iban en contra de la integridad de otros usuarios e incluso de infancias.
El episodio deja al descubierto uno de los grandes problemas que trajeron consigo las redes sociales: el acceso a los datos personales. Las aplicaciones ya son propietarias del contenido que se publica en sus plataformas, pero al hacerlo público también queda expuesto a que cualquier usuario, incluso uno anónimo, pueda intervenir una imagen.
A raíz de la situación, las autoridades recomiendan configurar las cuentas en modo privado, para impedir que personas que no formen parte del círculo de seguidores accedan a fotos o publicaciones. En caso de encontrarse con una imagen intervenida, sugieren denunciarla a través de la aplicación para lograr su eliminación.
Como ya se mencionó, no existe un marco legal específico sobre la creación de imágenes mediante inteligencia artificial, lo que deja en manos de las empresas tecnológicas la definición de reglas básicas de uso. No obstante, ante la intervención de una imagen, se podría avanzar con denuncias por daños y perjuicios o incluso por delitos contra el honor.
Mientras tanto, países como Gran Bretaña exigen explicaciones a la empresa sobre por qué permitió este tipo de pedidos. “Nos hemos puesto en contacto urgentemente con X y xAI para saber qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”, señalaron las autoridades. Desde Argentina, por el momento, no se impulsaron pedidos ni medidas para proteger a los usuarios frente a este tipo de situaciones.
—
