Sfruttano l'IA per creare immagini sessualizzate delle celebrità

Sfruttano l'IA per creare immagini sessualizzate delle celebrità

> Gruppi di sicurezza segnalano un aumento delle discussioni sulla creazione di immagini basate su materiale di abusi sessuali su minori del passato

Gruppi di protezione dell'infanzia stanno segnalando un incremento nell'uso della intelligenza artificiale (IA) per la creazione di immagini sessualmente esplicite di minori, particolarmente incentrate sui cosiddetti "star", ovvero vittime particolarmente note all'interno delle comunità predatorie online. Secondo Sarah Gardner, CEO di Heat Initiative, un'organizzazione no profit di Los Angeles focalizzata sulla protezione dell'infanzia, "queste comunità sono ossessionate da singoli bambini e desiderano nuovi contenuti di queste vittime, cosa ora possibile grazie all'IA."

I sopravvissuti all'abuso, seppur oggi adulti, sono sottoposti a nuovo stress sapendo che il loro materiale potrebbe essere ancora visibile online. Megan, sopravvissuta che ha richiesto l'anonimato, riporta come l'uso dell'IA nella manipolazione delle sue immagini abbia reso la situazione ancora più travagliata.

I criminali si avvantaggiano dell'anonimato garantito dai browser del dark web per condividere e discutere su come utilizzare l'IA per rigenerare e creare nuove immagini di abuso, riducendo vecchi materiali di bassa qualità o creando situazioni inedite. Jacques Marcoux, del Canadian Centre for Child Protection, illustra come vi siano vittime designate come "celebrità" all'interno di queste macabre piattaforme. Usa di esempio, "Si possono prendere immagini di una vittima e modificarle, cambiando pose o stati di abbigliamento grazie ad IA."

L'impatto dei materiali AI-generati sul comportamento dei predatori

I rischi associati alla diffusione di materiale generato via IA sono ampi, e possono persino accrescere la probabilità che un individuo passi dall'abuso virtuale a quello fisico. Tom Squire, dalla Lucy Faithfull Foundation del Regno Unito, evidenzia come il comportamento online possa potenziare un interesse deviato e portare a conseguenze reali molto gravi.

La lotta alla proliferazione di immagini tramite IA

Nonostante le leggi esistenti in molti paesi contro il materiale di abuso sui minori, l'applicazione resta problematica data la facile accessibilità e privatizzazione degli strumenti IA. Juliett, sopravvissuta e attivista, chiede una riforma legislativa per contrastare meglio l'abuso: "Abbiamo bisogno di una riforma legislativa che assicuri che questi abusi non trovino terreno fertile." Tuttavia, la capacità di monitorare e prevenire la creazione e distribuzione di questo materiale rimane una sfida enorme.

L'ascesa del materiale AI-generato rafforza la necessità di una vigilanza continua e di una maggiore collaborazione internazionale per combattere efficacemente questo fenomeno inquietante e dannoso.

Logo AiBay