Il sindacato della polizia federale australiana (Afpa) ha proposto l'istituzione di un portale unico per consentire alle vittime di deepfake di denunciare più facilmente questi casi alle forze dell'ordine. L'Afpa lamenta infatti che attualmente gli agenti sono costretti a "improvvisare" utilizzando leggi non specifiche per perseguire chi diffonde immagini deepfake di donne.
Il procuratore generale Mark Dreyfus ha presentato a giugno in Parlamento una proposta di legge che introdurrebbe un nuovo reato penale per la condivisione non consensuale di immagini sessualmente esplicite create digitalmente tramite intelligenza artificiale o altre tecnologie.
L'Afpa sostiene questa proposta, affermando in una memoria presentata a un'indagine parlamentare che l'attuale quadro normativo è troppo difficile da applicare per gli agenti di polizia.
Il caso del primo arresto per deepfake in Australia
Il sindacato ha citato il caso di un uomo arrestato nell'ottobre 2022 con l'accusa di aver inviato immagini deepfake a scuole e associazioni sportive di Brisbane. Separatamente, il commissario per la eSafety ha avviato un procedimento contro l'uomo per non aver rimosso "immagini intime" di diversi australiani famosi da un sito di pornografia deepfake.
L'uomo è stato multato per 15.000 dollari australiani per oltraggio alla corte nell'ambito della causa civile. I procedimenti penali e civili sono ancora in corso, con la prossima udienza civile prevista per agosto.
L'Afpa ha sottolineato che gli investigatori hanno dovuto "mettere insieme" diversi reati per poter incriminare il sospettato, vista la mancanza di leggi dedicate al materiale deepfake sessualmente esplicito. Sono state formulate sei ulteriori accuse relative a "pubblicazioni e spettacoli osceni".
Le difficoltà nelle indagini sui deepfake
Il sindacato ha evidenziato diverse criticità nelle indagini su questi casi:
- È spesso impossibile determinare chi ha distribuito le immagini, poiché i colpevoli sono solitamente esperti di tecnologia e abili nel coprire le proprie tracce.
- È difficile identificare la vittima, capire se sia una persona reale e dove si trovi.
- Con l'aumento di materiale pedopornografico deepfake, diventa sempre più complicato per le forze dell'ordine identificare le vittime, che potrebbero non esistere o essere state solo "prese in prestito" come modello.
- È problematico determinare dove l'immagine sia stata creata originariamente, dato l'uso diffuso di VPN per mascherare la posizione.
La proposta di un nuovo sistema di segnalazione
L'Afpa ha proposto di rivedere l'attuale modello che prevede la segnalazione al commissario per la eSafety, suggerendo invece un sistema che consenta alle vittime di riportare direttamente i casi alle forze dell'ordine.
Secondo la proposta, l'Australian Centre to Counter Child Exploitation, guidato dalla polizia federale, potrebbe valutare le segnalazioni iniziali per poi condividerle con le forze di polizia statali o territoriali competenti per ulteriori indagini.
Questo approccio aiuterebbe anche le vittime nella denuncia, poiché molte trovano traumatico e difficile recarsi di persona in una stazione di polizia con le immagini sessualmente esplicite da mostrare agli agenti.
Campagna educativa e sensibilizzazione
Il sindacato ha sottolineato l'importanza di affiancare alla nuova legislazione una campagna educativa per:
- Ridurre lo stigma legato alla denuncia di questi casi
- Educare il pubblico sul fenomeno dei deepfake
- Promuovere l'utilizzo del portale di segnalazione proposto
La commissione parlamentare terrà la prima audizione sulla proposta di legge la prossima settimana, aprendo il dibattito su come affrontare al meglio questa crescente minaccia tecnologica alla privacy e alla dignità delle persone.
L'argomento centrale di cui si parla è il fenomeno dei deepfake, in particolare in relazione alle proposte legislative e alle sfide investigative in Australia. I deepfake rappresentano una delle più recenti e preoccupanti applicazioni dell'intelligenza artificiale nel campo della manipolazione delle immagini e dei video.
La storia dei deepfake ha radici che risalgono agli albori del cinema e della fotografia, con i primi tentativi di alterare le immagini per creare illusioni o inganni. Tuttavia, è solo con l'avvento delle moderne tecnologie di intelligenza artificiale che il fenomeno ha raggiunto livelli di sofisticazione tali da rendere quasi impossibile distinguere il falso dal vero.
Il termine "deepfake" è stato coniato nel 2017, combinando le parole "deep learning" (apprendimento profondo) e "fake" (falso). Da allora, la tecnologia ha fatto passi da gigante, permettendo di creare video e immagini false incredibilmente realistiche.
La tecnologia deepfake rappresenta una delle sfide più complesse per la sicurezza e la privacy nell'era digitale, mettendo in discussione il concetto stesso di verità visiva.
Una curiosità interessante riguarda il primo caso di deepfake diventato virale: nel 2017, un utente di Reddit creò un video falso di celebrità in scene pornografiche, scatenando un dibattito etico e legale che continua ancora oggi. Questo episodio ha evidenziato il potenziale dannoso di questa tecnologia, soprattutto in termini di violazione della privacy e della dignità personale.
Dal punto di vista tecnico, i deepfake utilizzano reti neurali artificiali chiamate autoencoders o Generative Adversarial Networks (GANs). Queste reti sono in grado di analizzare migliaia di immagini di un volto e poi ricreare quel volto su un altro corpo o in un contesto completamente diverso.
Un aspetto meno noto dei deepfake è il loro potenziale uso positivo. Ad esempio, nel campo dell'intrattenimento, questa tecnologia potrebbe permettere di "resuscitare" attori scomparsi per completare film o creare nuove opere. Nel settore educativo, i deepfake potrebbero essere utilizzati per creare esperienze di apprendimento immersive, come lezioni tenute da figure storiche ricreate digitalmente.
Tuttavia, le preoccupazioni etiche e legali superano di gran lunga i potenziali benefici. La facilità con cui si possono creare deepfake ha portato a una proliferazione di contenuti falsi online, minando la fiducia nelle informazioni visive e creando nuove forme di crimini digitali.
In risposta a questa minaccia, diversi paesi, oltre all'Australia, stanno lavorando a leggi specifiche. La Cina, ad esempio, ha introdotto nel 2020 una legge che richiede che i deepfake siano chiaramente etichettati come tali. Negli Stati Uniti, alcuni stati come la California hanno approvato leggi che vietano l'uso di deepfake in campagne politiche.
La lotta contro i deepfake non si limita all'ambito legislativo. Molte aziende tecnologiche stanno sviluppando strumenti di rilevamento basati sull'IA per identificare i contenuti manipolati. Tuttavia, si tratta di una corsa continua tra creatori e rilevatori, con tecnologie in costante evoluzione da entrambe le parti.
In conclusione, il fenomeno dei deepfake rappresenta una sfida complessa che richiede un approccio multidisciplinare, coinvolgendo legislatori, tecnologi, educatori e la società nel suo complesso. La proposta australiana di un portale unico per le denunce potrebbe rappresentare un passo importante in questa direzione, offrendo un modello potenzialmente replicabile in altri paesi.