Un giovane è stato arrestato e successivamente rilasciato in seguito alla circolazione di immagini esplicite falsificate, che mostravano l'aspetto di circa 50 studentesse di una scuola privata in Victoria. Queste immagini, descritte come "mutilate" e "incredibilmente grafiche", sembrano essere state create tramite intelligenza artificiale aggiungendo i volti delle ragazze, presi dai social media, e poi diffuse online. Andrew Neal, preside della Bacchus Marsh Grammar, ha riferito alla ABC che le immagini interessavano circa 50 alunne.
Una madre, Emily, anch'essa terapista della trauma e genitrice di una studentessa della Bacchus Marsh Grammar, ha raccontato di essere rimasta scioccata quando ha visto le foto, tanto da sentirsi male. Ha raccontato che sua figlia era angosciata e si sentiva male durante il viaggio di ritorno da un pernottamento con amici. "Le foto erano così grafiche. Ho quasi vomitato quando le ho viste," ha detto Emily durante un'intervista con ABC Radio Melbourne.
La preoccupazione maggiore è l'incertezza su eventuali future ricorrenze di questi episodi, aggiunge Emily, la cui figlia non era tra le ragazze rappresentate nelle immagini manipolate. La scuola ha risposto prontamente alla situazione, come sottolineato dal vicepreside Kevin Richardson. "La Bacchus Marsh Grammar ha preso molto seriamente l'accaduto, contattando la polizia di Victoria e assicurando il supporto del personale di benessere agli studenti colpiti," ha affermato Richardson.
La polizia ha dichiarato di aver ricevuto segnalazioni che alcune immagini erano state inviate ad una persona nella zona di Melton, vicino a Bacchus Marsh, il 7 giugno. Un ragazzo adolescente è stato arrestato in relazione all'incidente, ma è stato poi rilasciato in attesa di ulteriori indagini, mentre la polizia ha confermato che l'investigazione è ancora in corso.
Questo caso segue l'espulsione di uno studente da Salesian College, Chadstone, dopo che aveva usato l'intelligenza artificiale per creare immagini esplicite di un'insegnante. A giugno, il governo federale ha introdotto una legislazione per vietare la creazione e condivisione di pornografia deepfake, come parte delle misure per combattere la violenza contro le donne. Il senatore Matt Canavan ha commentato che esiste un problema culturale più ampio da affrontare nell'educazione dei giovani.
Mary-Anne Thomas, ministro della salute di Victoria, ha espresso profonda preoccupazione per l'incidente, enfatizzando la necessità di un ambiente sicuro nelle scuole e dicendosi speranzosa che questo incidente possa servire da monito sui rischi delle immagini sessualmente esplicite generate da AI e sui social media. "Dobbiamo parlare apertamente e realisticamente con i giovani del rispetto," ha insistito Thomas, aggiungendo che il comportamento in questioni va molto oltre le aspettative della comunità, causando danni reali.
Il servizio di eSafety offre la possibilità di segnalare abusi basati sull'immagine, dichiarando di avere un tasso di successo del 90% nel rimuovere questi contenuti perturbanti. Questo sottolinea l'importanza delle risorse disponibili per affrontare situazioni così difficili e disturbanti.
