Un de cada cinc joves afirma haver estat víctima de "deepfakes" durant la seva infància o adolescència, segons un informe de Save the Children. El treball inclou una enquesta a més de 1.000 joves d'entre 18 i 21 anys de l'Estat i mostra que el 97% afirma haver patit algun tipus de violència sexual en entorns digitals quan eren menors.

L'informe titulat "Xarxes que atrapen: l'explotació sexual de la infància i l'adolescència en entorns digitals" analitza com Internet, les xarxes socials i les tecnologies faciliten la captació i l'exposició als riscos relacionats amb l'explotació sexual i poden ser el mitjà on es cometen aquestes violències contra infants i adolescents.

Segons dades facilitades pels Mossos d'Esquadra a l'entitat, el 2024 es van registrar a Catalunya 814 denúncies per delictes cibernètics contra infants i adolescents, de les quals 72 per delictes sexuals. La responsable de polítiques d'infància de Save the Children, Ona Lorda, ha afirmat que aquestes xifres "representen només la punta de l'iceberg, ja que la majoria dels casos no arriben a conèixer-se", per l'absència de denúncia i per les dificultats de detecció. Aquestes situacions s'agreugen quan els fets tenen lloc en l'entorn en línia.

L'organització assenyala entre les principals formes de violència sexual digital el contacte per part de persones adultes amb finalitats sexuals, el sèxting sense consentiment o la difusió no autoritzada de contingut íntim. D'altra banda, distingeix les formes d'abús i explotació sexual en línia, incloent-hi el consum, producció i difusió de material d'abús sexual infantil; la sextorsió, on infants i adolescents són coaccionats, sotmesos a xantatge o amenaçats per enviar material íntim sexual; l'ús d'eines d'intel·ligència artificial per crear aquest tipus de contingut i l'exposició involuntària a continguts sexuals.

Més de 19,8 milions de denúncies mundials

L'informe assenyala que el 2024 l'organització mundial líder en la prevenció i localització de menors víctimes d'explotació sexual digital (NCMEC) va registrar més de 19,8 milions de denúncies relacionades amb material d'abús sexual infantil. Aquests continguts poden generar-se a partir d'abusos en entorns físics o bé directament en l'entorn digital mitjançant manipulació, enganys, amenaces o extorsions que indueixen la víctima a produir imatges de contingut sexual.

D'altra banda, Save the Children ha advertit sobre un altre tipus de material d'explotació sexual infantil que inclou representacions sexualitzades d'infants o situacions de nuesa parcial o total que, tot i no mostrar actes sexuals explícits, presenten la infància des d'una mirada sexualitzada. Lorda ha apuntat que aquests materials es troben en zones grises, perquè no arriben als llindars legals per ser considerats delicte en alguns països, però plantegen preocupacions serioses pel potencial de normalitzar o banalitzar la sexualització i l'explotació d'infants.

En molts casos, poden ser fotografies de la vida quotidiana sense intenció sexual, com imatges a la platja o en activitats esportives, que són manipulades o recontextualitzades amb finalitats d'explotació o gratificació sexual per part d'adults.

Material creat amb IA

L'entitat ha alertat també que aquests materials es poden crear amb IA, són els anomenats "deepfakes" o ultrafalsificacions. En aquest sentit, un de cada cinc joves afirma que algú va compartir amb tercers imatges creades amb IA que els mostraven nus quan eren menors d'edat i sense el seu consentiment.

Aquests continguts són produïts pels mateixos infants i adolescents, de manera voluntària o per manipulació, mostrant-se en postures sexualitzades o en conductes més explícites (sèxting). Un 27% dels enquestats va enviar voluntàriament missatges, fotos o vídeos íntims o sexuals durant la infància o l'adolescència.

D'altra banda, més del 65% no percep com a risc reenviar imatges sense consentiment del menor representat. Pel que fa als motius per compartir imatges o vídeos íntims propis, gairebé la meitat no sap que pot ser perillós (48 %); el 46 % ho veu com quelcom normal o sense conseqüències; el 42 % busca atenció o validació; i quatre de cada deu espera obtenir algun benefici a canvi.

D'altra banda, l'informe analitza les principals formes de captació amb finalitats d'explotació sexual. Així, el 33% dels joves enquestats havia tingut contacte amb un adult amb finalitats sexuals a l'entorn digital. Hi havia més noies (36%) que nois (26%). L'enquesta també confirma la varietat de vies de contacte que utilitzen els explotadors: xarxes socials com Instagram (68 %) o X (44 %), i aplicacions de missatgeria com WhatsApp (48 %). Cal destacar igualment el contacte a través de jocs en línia i plataformes d'streaming (44 %).

Pel que fa als perfils dels agressors, Save the Children assenyala que la majoria són homes d'entre 18 als 25 anys (amb una mitjana de 28 anys); poden actuar només en l'entorn digital i no oculten la seva identitat, cosa que pot generar una falsa sensació de confiança. Moltes vegades, no són desconeguts, de fet el 35 % dels casos pertany a l'entorn proper. També s'ha detectat que la motivació no sempre és sexual, ja que hi ha casos de "grooming" i extorsió amb finalitats econòmiques.

Mesures per evitar aquestes situacions

Davant d'aquestes dades, Save the Children ha demanat desplegar totes les mesures que recull la llei de protecció a la infància i l'adolescència i reforçar la protecció en línia dels drets dels infants i adolescents en la futura llei de protecció dels menors d'edat en entorns digitals. Ha demanat també incorporar de manera transversal al currículum educatiu l'educació digital sobre l'ús segur i responsables de les tecnologies, juntament amb l'educació afectiva i sexual integral. També reclama campanyes per a infants, adolescents i famílies per sensibilitzar sobre els riscos associats a l'explotació en l'entorn digital.