Questo caso, presentato presso il tribunale federale del Massachusetts, sembra essere il primo in cui uno stalker viene incriminato per aver utilizzato un chatbot per impersonare la propria vittima al fine di facilitare i suoi crimini. Florence ha accettato di dichiararsi colpevole di sette capi d'accusa per cyberstalking e uno per possesso di materiale pedopornografico.
Stefan Turkheimer, vicepresidente per le politiche pubbliche di Rainn, un'organizzazione no-profit contro la violenza sessuale, ha commentato che il caso mette in luce un nuovo e "incredibilmente inquietante" uso dell'IA da parte dei predatori per prendere di mira le vittime.
Florence ha creato un chatbot pubblico su JanitorAI con la descrizione: "[Vittima] è la professoressa più sexy dell'Università. Come la sedurrai? E una volta fatto, cosa farai con questa donna sposata e in carriera?". Gli utenti potevano interagire con questa versione fittizia della vittima, ricevendo persino il suo vero indirizzo di casa seguito dall'invito "Perché non vieni qui?".
Escalation dello stalking e impatto sulla vittima
Oltre ai chatbot che la impersonavano, Florence ha utilizzato varie altre piattaforme online per molestare e umiliare la professoressa. Ha creato account sui social media, indirizzi email e siti web per impersonarla o distribuire immagini esplicite manipolate di lei. Tra questi, account su Craigslist, X (ex Twitter), Reddit e Linktree, nonché il sito web ladies.exposed.
Lo stalking e le molestie sono avvenuti dal 2017 al 2024, intensificandosi al punto che la vittima e suo marito hanno dichiarato alle forze dell'ordine di sentirsi fisicamente in pericolo. La coppia ha installato telecamere di sorveglianza in casa e posizionato campanelli sulle maniglie interne delle porte per avvisarli di eventuali movimenti. La professoressa ora porta con sé spray al peperoncino e coltelli a causa delle molestie.
Tra il 31 gennaio 2023 e agosto 2024, la vittima e suo marito hanno ricevuto circa 60 messaggi, chiamate ed email che la molestavano direttamente o la informavano di nuovi account o piattaforme che mostravano la sua immagine e le sue informazioni.
Altre vittime e uso crescente dell'IA per lo sfruttamento sessuale
Florence ha preso di mira altre sei donne e una ragazza di 17 anni, alterando digitalmente le loro foto per rappresentarle nude o seminude. Le ha impersonate su piattaforme come OkCupid, X, Yahoo, Classmates.com, Facebook e siti di escort.
L'uso dell'intelligenza artificiale per molestie sessuali e sfruttamento, anche di minori, è in aumento. Un rapporto di agosto dell'organizzazione no-profit per la sicurezza dei bambini Thorn ha rilevato che circa un minore su 10 negli Stati Uniti è a conoscenza di casi in cui amici e compagni di classe hanno utilizzato l'IA per creare immagini intime non consensuali di un altro bambino.
Turkheimer ha concluso: "C'è un problema crescente e continuo in cui le persone stanno utilizzando l'IA per rendere i loro abusi più efficienti e i danni che causano più diffusi. Più persone hanno accesso a questa tecnologia, più verrà utilizzata per arrecare danni alle persone".