Questo trend preoccupante solleva serie questioni sulla sicurezza online dei minori e sulla capacità delle autorità di distinguere tra immagini reali e generate artificialmente. Derek Ray-Hill, amministratore delegato ad interim dell'IWF, ha dichiarato: "I mesi recenti mostrano che questo problema non sta scomparendo, ma anzi sta peggiorando".
La sofisticazione delle immagini generate dall'IA suggerisce che gli strumenti utilizzati siano stati addestrati su immagini e video di vittime reali. Ciò rende sempre più difficile per le autorità identificare i casi in cui è necessario intervenire per proteggere un minore realmente in pericolo.
Dati allarmanti e tipologie di contenuti
L'IWF ha preso provvedimenti contro 74 segnalazioni di materiale di abuso sessuale su minori generato dall'IA nei sei mesi fino a settembre 2023, superando i 70 casi registrati nei 12 mesi precedenti. Questi contenuti includono:
- Video "deepfake" che manipolano materiale pornografico per adulti
- Immagini di celebrità "ringiovanite" in scenari di abuso
- Foto di bambini vestiti trasformate in immagini di nudo tramite IA
Oltre la metà di questi contenuti è ospitata su server in Russia e Stati Uniti, con Giappone e Paesi Bassi che seguono. L'IWF condivide gli URL di questi siti con l'industria tecnologica per consentirne il blocco.
Misure di contrasto su Instagram
In risposta a questa emergenza, Instagram ha annunciato nuove misure per contrastare il fenomeno del "sextortion", ovvero il ricatto sessuale online. La piattaforma introdurrà:
- Una funzione che sfoca automaticamente le immagini di nudo nei messaggi diretti
- Avvisi agli utenti sulla cautela nell'invio di immagini intime
- Opzioni per bloccare e segnalare i mittenti di tali contenuti
Queste funzionalità saranno attivate di default per gli account degli adolescenti a livello globale e saranno disponibili anche per i messaggi criptati. Per gli adulti, sarà necessario attivarle manualmente.
Instagram nasconderà inoltre le liste di follower e seguiti dai potenziali truffatori, limitando la loro capacità di minacciare la diffusione di immagini intime.
Queste misure rappresentano un passo importante nella lotta contro l'abuso sessuale online dei minori, ma evidenziano anche la necessità di una continua vigilanza e di sforzi coordinati tra piattaforme, autorità e società civile per contrastare questa minaccia in evoluzione.