El reciente caso de una escuela de Lomas de Zamora, donde 50 alumnas fueron víctimas de imágenes manipuladas con inteligencia artificial (IA) y difundidas en redes y sitios pornográficos, vuelve a poner el foco en un fenómeno creciente: los deepfakes sexuales.
Esta causa se suma a los casos ocurridos en agosto último en los colegios Nacional de Buenos Aires y Carlos Pellegrini, donde alumnos fueron denunciados por difundir y vender por WhatsApp imágenes manipuladas con IA de sus compañeras desnudas.
Frente a estos hechos, las familias se encuentran con distintas preguntas: ¿cómo acompañar a su hija o hijo si fue víctima?, ¿dónde denunciar?, ¿qué evidencia conviene conservar? y ¿qué dice la legislación argentina sobre las deepfake sexuales?
Una investigación de Unicef, ECPAT -una organización dedicada a combatir la explotación sexual infantil- e Interpol estima que al menos 1,2 millones de niños, niñas y adolescentes en el mundo fueron afectados en el último año por la manipulación de sus imágenes mediante deepfakes sexuales.
“Las imágenes sexualizadas de menores creadas o manipuladas por herramientas de IA constituyen imágenes de abusos sexuales de niños y niñas. Los abusos cometidos mediante deepfake siguen siendo abusos y, aunque las imágenes sean falsas, el daño que causan es absolutamente real”, señala la investigación.
Ante esta problemática, desde el Ministerio de Capital Humano de la Nación recomiendan en primer lugar realizar la denuncia al tratarse de un caso de abuso sexual contra niños y adolescentes. Las opciones son llamar a la Línea 102 o a la Línea 137, o hacer la denuncia en la fiscalía más cercana.
Desde la cartera remarcan también la importancia de no culpar ni responsabilizar al chico o chica. La recomendación oficial es escuchar, acompañar y dejar en claro que la responsabilidad es de quien cometió la conducta.
Además, señalan la relevancia de preservar la evidencia: guardar capturas, usuario, URL, fecha, plataforma, conversaciones y cualquier dato que permita identificar dónde circuló el contenido.
A su vez, aconsejan no bloquear, enfrentar ni reportar al perfil acosador antes de preservar las pruebas, ya que esto podría dificultar la investigación. Tampoco se recomienda hacerse pasar por la víctima para obtener nuevas pruebas, porque podría entorpecer la investigación.
Por su parte, el Ministerio Público de la provincia de Buenos Aires aconseja no compartir la imagen, ni siquiera para denunciarla. Recomienda no descargar, reenviar ni difundir el material y tampoco compartirlo en grupos de WhatsApp o redes.
Qué dice la legislación argentina sobre los deepfake sexuales
Argentina no tiene todavía una figura penal específica para los deepfakes sexuales de niñas, niños y adolescentes, pero en 2025 la Cámara de Apelación y Garantías en lo Penal de Zárate-Campana interpretó en el caso “D.O.P.”, un imputado por publicación y distribución de material pornográfico infantil, que el artículo 128 del Código Penal también alcanza las representaciones de abuso sexual infantil generadas o modificadas mediante IA.
El artículo 128 castiga la producción, publicación, distribución, divulgación y tenencia de representaciones de menores de 18 años en actividades sexuales explícitas o de sus genitales con fines predominantemente sexuales.
La Cámara de Zárate-Campana rechazó el argumento de la defensa de que las imágenes podían haber sido creadas con IA y que, por eso, no existía una víctima real. El tribunal sostuvo que el término “representación” del artículo 128 comprende imágenes reales y simuladas o generadas con IA.
Sin embargo, es sólo la interpretación de un tribunal. Por eso, hay proyectos de ley para modificar expresamente el artículo 128. En junio de 2026 ingresó al Congreso el proyecto del diputado nacional Marcelo Mango (Unión por la Patria) que propone modificar el artículo 128 por el uso de técnicas de IA para la difusión de imágenes de contenido sexual. Está girado a las comisiones de Legislación Penal y Familias, Niñez y Juventudes.
Otro proyecto presentado por la diputada nacional Gabriela Brouwer de Koning (Unión Cívica Radical) propone establecer penas para las “representaciones sexuales ficticias de menores” y también modificar el artículo 128. Fue presentado en julio de 2025.
También hay un proyecto de 2025 que busca modificar la Ley Olimpia (27.736) para incorporar expresamente el uso de IA en la difusión de imágenes de contenido sexual.
“La amenaza del contenido sexual generado por IA requiere una acción legislativa urgente. Las leyes penales nacionales deben actualizarse y aplicarse en la era digital. Esto incluye garantizar que las definiciones abarquen el material generado por IA, alinear los marcos nacionales con las normas internacionales y garantizar recursos para las víctimas infantiles”, señala el informe “Inteligencia artificial y abuso y explotación sexual infantil” de Unicef.
Deepfake sexual, un fenómeno creciente
Los hechos que ocurrieron en Lomas de Zamora no son aislados. Un estudio de 2026 de la Defensoría del Pueblo de la Ciudad muestra que, si bien solo el 1% de los adolescentes de entre 12 y 19 años reporta haber sido víctima directa de los deepfakes, al menos un 43% afirma haber recibido imágenes o videos manipulados con IA y un 13% conoce casos dentro de su entorno escolar.
Además, apenas el 35% de los adolescentes consultados afirma verificar si las imágenes que recibe son auténticas.
Ante esta problemática, desde la Defensoría del Pueblo de CABA advierten sobre la necesidad de mejorar los mecanismos de denuncia de las plataformas y de fortalecer las medidas de contención y reparación para las comunidades educativas afectadas. Y agregan que la respuesta frente a estos casos requiere combinar prevención, acompañamiento, denuncia y herramientas legales.
—
