Revenge porn: nuovi rischi con l'IA generativa

Un team di ricercatori dell'Università di Londra ha scoperto gravi vulnerabilità negli strumenti progettati per rimuovere contenuti di abuso sessuale basati su immagini da internet. Lo studio, pubblicato su IEEE Security & Privacy, evidenzia come le tecniche attuali per identificare e eliminare materiale abusivo possano essere attaccate utilizzando l'intelligenza artificiale generativa, mettendo potenzialmente a rischio gli utenti vulnerabili. La ricerca si è concentrata sul "perceptual hashing", un metodo che crea "impronte digitali" delle immagini per rilevare contenuti dannosi senza memorizzare i file originali. La maggior parte delle piattaforme online utilizza liste di hash di immagini abusive note per rilevare e prevenire il ricaricamento di copie.

Tuttavia, il team guidato da Sophie Hawkes ha dimostrato che questi hash percettivi non sono irreversibili come si pensava, minando le garanzie di privacy dichiarate dagli strumenti di rimozione. In particolare, l'uso avversario di AI generativa potrebbe ricostruire approssimativamente il materiale originale.

Rischi per la privacy degli utenti vulnerabili

Questa scoperta è particolarmente preoccupante data la natura sensibile dei contenuti di abuso sessuale e i gruppi di utenti vulnerabili che questi strumenti mirano a proteggere. I ricercatori sottolineano la necessità di misure di protezione dei dati più robuste, come l'utilizzo di protocolli crittografici.

Sophie Hawkes spiega: "I nostri risultati mettono in discussione l'assunzione che gli hash percettivi da soli siano sufficienti a garantire la privacy delle immagini. Piuttosto, gli hash percettivi dovrebbero essere trattati in modo sicuro quanto le immagini originali".

Raccomandazioni e prospettive future

I ricercatori consigliano agli utenti di considerare attentamente i rischi del perceptual hashing prima di inviare una segnalazione. Hanno inoltre allertato il National Center for Missing and Exploited Children (NCMEC) riguardo ai loro risultati, esortando i fornitori di servizi a implementare soluzioni più sicure.

Il team sostiene inoltre la necessità di una maggiore trasparenza, affinché gli utenti possano prendere decisioni informate sul compromesso tra privacy e sicurezza quando decidono se utilizzare questi strumenti di segnalazione.

Il Dr. Christian Weinert, co-autore dello studio, conclude: "Il lavoro futuro in questo ambito richiederà sforzi collaborativi che coinvolgano progettisti di tecnologie, politici, forze dell'ordine, educatori e, soprattutto, vittime e sopravvissuti di abusi sessuali basati su immagini per creare soluzioni migliori per tutti".

Lo studio evidenzia l'importanza di sviluppare tecnologie più sicure per proteggere le vittime di abusi online, bilanciando la necessità di rimuovere contenuti dannosi con la tutela della privacy degli utenti. La ricerca apre nuove prospettive sul complesso rapporto tra innovazione tecnologica, sicurezza digitale e diritti individuali nell'era dell'intelligenza artificiale.