La inteligencia artificial Grok, desarrollada por xAI de Elon Musk e integrada en la red social X (antes Twitter), se encuentra en el centro de una polémica global tras detectarse su uso para generar o modificar imágenes de personas sin su consentimiento, en algunos casos mostrando a mujeres y hasta menores como si estuvieran desnudas o en poses sexualizadas. Organismos de protección de derechos digitales, gobiernos y representantes de la Unión Europea calificaron la práctica como una violación de derechos básicos y una forma de acoso digital.
Los deepfakes y la privacidad
La polémica sobre Grok y los deepfakes surge porque usuarios pueden subir fotos reales y pedir a la IA que las edite para reducir o eliminar la ropa. Este tipo de práctica ha sido duramente criticada por vulnerar la privacidad y la dignidad de las personas afectadas, provocando una fuerte reacción de medios, incluso entre los mismos usuarios.
Embed – https://publish.x.com/oembed?url=https://x.com/Axel_Bosso/status/2007105189912924665?s=20&partner=&hide_thread=false
Si le pedís a Grok que desnude personas, sos basura. Si encima lo justificás con que “ya subiste foto, vale todo” o “no es real la foto, no te saca la ropa en serio” y similares, sos directamente sub-humano. Pedí ayuda, hermano.
— Axl (@Axel_Bosso) January 2, 2026
En respuesta, xAI, propietaria de Grok, limitó días atrás la creación y edición de imágenes únicamente a usuarios con suscripción de pago. Sin embargo, especialistas advierten que esta medida parcial no impide completamente la generación de deepfakes no consensuados, ya que la herramienta aún puede usarse fuera de la plataforma X.
Bloqueos y medidas en varios países
Hace tan solo unas horas, Indonesia se convirtió en el primer país del mundo en bloquear temporalmente el acceso a Grok. Las autoridades señalaron que estas prácticas podían violar la dignidad, los derechos humanos y la seguridad digital de las personas, especialmente de mujeres y menores de edad. Por su parte, Malasia se sumó a la medida y también restringió el acceso argumentando que la generación de imágenes obscenas, sexualmente explícitas e indecentes sin consentimiento representaba un riesgo para la población y que las salvaguardas técnicas existentes eran insuficientes para impedir abusos.
En el Reino Unido, por ejemplo, se prepara legislación para criminalizar la creación y difusión de imágenes íntimas no consensuadas, mientras que organismos europeos han exigido que la plataforma X retenga documentación interna relacionada con Grok para futuras investigaciones bajo la Ley de Servicios Digitales de la Unión Europea.
Embed – https://publish.x.com/oembed?url=https://x.com/Cloud_coffe13/status/2007225395754762335?s=20&partner=&hide_thread=false
“No suban fotos de sus hijos”, pues que tampoco ellos pidan a la IA que hagan a niños desnudos, no cuesta nada que no pidan a Grok algo así para calmar sus fetiches.
— Cloud (@Cloud_coffe13) January 2, 2026
La controversia ha generado reacciones también en países como Irlanda, Francia, India y Brasil, donde se han planteado advertencias legales, llamados a regulaciones más estrictas y quejas formales ante autoridades de protección de datos y seguridad en línea.
Elon Musk defiende a Grok y minimiza riesgos de deepfakes sexuales
Elon Musk ha defendido públicamente la posición de su plataforma frente a las críticas por el uso de Grok, calificando el rechazo de algunos gobiernos y reguladores como un “pretexto para la censura”. Musk argumenta que “casos aislados” de imágenes manipuladas no deberían llevar a restricciones amplias sobre la tecnología y ha comparado la reacción con intentos de limitar la libertad de expresión en plataformas tecnológicas.
Además, Musk aseguró a través de publicaciones en X que cualquier usuario que utilice Grok para generar contenido ilegal enfrentará consecuencias similares a las de subir ese material directamente a la plataforma, y señaló que herramientas similares de IA también pueden producir imágenes con poca ropa sin que ello sea necesariamente negativo. Estas respuestas han sido vistas por críticos como insuficientes, ya que no abordan directamente la preocupación de que Grok permita la creación de imágenes no consensuadas de mujeres y menores.
El caso de Grok pone en evidencia un dilema global: el rápido avance de la inteligencia artificial generativa supera la capacidad de los marcos legales actuales para regular su uso, especialmente en materia de privacidad, consentimiento y derechos digitales.
—
fuente: inteligencia artificial que permite crear deepfakes sexuales …”> GOOGLE NEWS
