Il fenomeno sta assumendo dimensioni preoccupanti, con repository su GitHub esplicitamente dedicati alla creazione di deepfake pornografici. Questi strumenti vengono utilizzati per generare video che sovrappongono i volti di celebrità come Emma Watson, Taylor Swift e Anya Taylor-Joy, ma anche di donne comuni, in situazioni sessualmente esplicite. La facilità di accesso a questi modelli AI sta alimentando comunità online dedicate all'abuso di immagini, con richieste esplicite di creazione di deepfake che coinvolgono persone reali.
La difficoltà nel contrastare il fenomeno
Nonostante gli sforzi di piattaforme come GitHub nel rimuovere repository problematici, il contrasto a questo fenomeno risulta estremamente complesso. Elizabeth Seger, direttrice delle politiche digitali del think tank Demos, spiega: "Una volta che un modello viene reso open source e pubblicamente disponibile per il download, non c'è modo di effettuare un rollback pubblico".
La proliferazione di versioni e varianti dei modelli rende difficile tracciare e eliminare tutti gli strumenti potenzialmente dannosi. Inoltre, anche quando un repository viene rimosso, copie e versioni modificate possono rapidamente riemergere in altre parti del web.
Implicazioni e rischi
L'impatto di questo fenomeno va oltre il danno psicologico immediato per le vittime. Seger sottolinea come i deepfake pornografici possano essere utilizzati per intimidire e manipolare donne, minoranze e politici. Casi di deepfake politici che colpiscono politiche donne sono già stati osservati a livello globale, evidenziando il potenziale destabilizzante di questa tecnologia.
Possibili soluzioni e interventi legislativi
Nonostante la situazione sia critica, gli esperti ritengono che non sia troppo tardi per intervenire. Seger suggerisce che le piattaforme di hosting potrebbero implementare controlli più rigorosi al momento del caricamento dei modelli. "Se tutte le piattaforme di hosting dicessero no, per una persona normale diventerebbe più difficile ottenere quel modello", afferma.
Sul fronte legislativo, almeno 30 stati degli USA hanno introdotto leggi che affrontano il problema dei deepfake pornografici, sebbene con definizioni e politiche non uniformi. Nel Regno Unito, il governo ha recentemente annunciato la criminalizzazione sia della creazione che della condivisione di deepfake sessualmente espliciti.
La lotta contro l'abuso di immagini intime tramite deepfake richiede un approccio coordinato che coinvolga legislatori, aziende tecnologiche, sviluppatori e, naturalmente, gli stessi creatori di contenuti abusivi. Solo attraverso uno sforzo congiunto sarà possibile limitare la diffusione di questi strumenti dannosi e proteggere le potenziali vittime.