Bienestar infantil
Educación y empleabilidad
Protección contra la violencia
Pueblos indígenas
La organización alerta sobre el uso de inteligencia artificial para manipular imágenes de menores.
¡Cuidado con la web! Save the Children advierte sobre deepfakes y presión en redes
16 Jul 2025 | 12:26 h
¿Qué tan peligroso puede ser la navegar en la web? Cuando la realidad supera la ficción —como en ParanoIA, cuando utilizan la imagen de la menor de la familia para colocarla en un video subido de tono—, las cosas se pueden salir de control. Más aún cuando se trata de jóvenes menores de edad.
Esta situación no solo se ha reflejado en un país o continente. Para el caso de España, casi el 97% de los jóvenes encuestados por Save the Children, reconocen haber sufrido algún tipo de violencia sexual digital. Así lo revela el informe Redes que atrapan. La explotación sexual de la infancia y la adolescencia en entornos digitales, elaborado junto a la Asociación Europea para la Transición Digital. En Perú, las cifras son igual de alarmantes. Desde la implementación de la plataforma "No al acoso virtual" el MIMP registró 5 305 alertas.
Entornos digitales y sus peligros
Dentro de las principales amenazas del contacto con personas adultas es el grooming; la difusión no consentida de imágenes íntimas; la sextorsión; la producción y distribución de material de abuso sexual infantil; el uso de inteligencia artificial para crear contenido ilegal, y la exposición involuntaria a material sexual.
“Se trata de un fenómeno complejo ya que las distintas formas de violencia o explotación que se analizan no constituyen fenómenos aislados: en muchos casos, están conectadas entre sí, forman parte de un mismo proceso o se dan al mismo tiempo, por lo que un niño o una niña puede ser víctima de varias de ellas a la vez ”, afirma Catalina Perazzo, directora de Influencia y Desarrollo Territorial de Save the Children.
Informe de Save the Children
Los contenidos proporcionados a través de las redes sociales o el entorno global de internet, pueden generarse a partir de abusos en entornos físicos o a través de la manipulación, engaños, amenazas o extorsión. Todo ello es lo que induce a la víctima a producir imágenes de contenido sexual.
Del mismo modo, la organización menciona otro tipo de materiales que incluye representaciones sexualizadas de niñas y niños en situaciones parciales o total de desnudez. Si bien es cierto que no muestra un acto explícito como tal, retrata a la infancia desde una mirada sexualizada.
“Estos materiales se encuentran en muchas ocasiones en zonas grises porque no alcanzan los umbrales legales para ser considerados delito en algunos países, pero plantean igualmente serias preocupaciones por su potencial para normalizar o trivializar la sexualización y la explotación de niños y niñas”, destaca Perazzo.
El uso de la inteligencia artificial
¡La inteligencia artificial no pasa desapercibido! En las redes abundan los materiales creados con herramientas digitales a partir de imágenes reales de niñas y niños: los deepfakes o utrafalsificaciones. Por sí mismos representan una forma de violencia, debido al daño que suponen para la dignidad, bienestar y la seguridad.
Lucía López, educadora de Save the Children en Alicante, detectó un caso de este tipo en los programas que la organización desarrolla en la ciudad: “Una adolescente de 12 años me comentó que estaba siendo amenazada por una persona que le decía que, si no reenviaba a todos sus contactos un vídeo con contenido sexual que le había llegado a su teléfono, publicaría unas fotos de la niña desnuda, creadas con inteligencia artificial. La niña aseguraba que nunca había reenviado fotos suyas con ese tipo de contenido, pero sentía que ella había propiciado esa situación y que era culpa suya”.
Material generado por los mismos niños o adolescentes
Un 27% de los chicos y chicas encuestadas en España revelaron haber enviado mensajes, fotos o vídeos íntimos voluntariamente durante la infancia. Cabe destacar que se desconoce si fue voluntario o por medio de la coacción o manipulación.
“Incluso cuando se realizan de forma voluntaria, estas conductas plantean riesgos, pues una vez compartido el contenido escapa al control de quien lo genera, abriendo la puerta a múltiples formas de victimización. Pueden ser redistribuidos sin consentimiento, utilizados por personas adultas con fines sexuales, utilizados para la sextorsión…”, advierte Perazzo.
El peligro existe. Y tomar conciencia sobre lo que está sucediendo puede ayudar a prevenir la vida de niños y adolescentes. La responsabilidad recae en los padres y la educación proveniente. Después de todo, cuidar la imagen de los menores es un desafío que todos deben aceptar.
