L'intelligenza artificiale di Google diventa strumento involontario per la creazione di contenuti terroristici e pedopornografici. È quanto emerge da un rapporto presentato alle autorità australiane, che mette in luce un fenomeno preoccupante sull'utilizzo distorto delle nuove tecnologie AI generative. Nell'arco di dieci mesi, tra aprile 2023 e febbraio 2024, Google ha ricevuto oltre 250 segnalazioni globali relative all'uso improprio del suo software Gemini per la creazione di deepfake legati al terrorismo, oltre a decine di alert riguardanti materiale pedopornografico generato con la stessa tecnologia.
L'Australia in prima linea nel monitoraggio dell'AI
Il rapporto è stato reso pubblico grazie alla normativa australiana che obbliga le aziende tecnologiche a fornire periodicamente informazioni sulle misure adottate per ridurre i danni potenziali delle proprie tecnologie. La Commissaria australiana per la sicurezza online (eSafety Commissioner), Julie Inman Grant, ha definito queste rivelazioni "un'intuizione mondiale senza precedenti" su come gli utenti possano sfruttare l'AI per produrre contenuti dannosi e illegali.
"Questo sottolinea quanto sia fondamentale per le aziende che sviluppano prodotti di intelligenza artificiale integrare e testare l'efficacia delle misure di salvaguardia per prevenire la generazione di questo tipo di materiale", ha dichiarato Inman Grant in un comunicato ufficiale.
I numeri di un fenomeno allarmante
Secondo quanto comunicato al regolatore australiano, Google ha ricevuto specificamente 258 segnalazioni relative a sospetti deepfake di contenuti terroristici o estremisti violenti creati utilizzando Gemini. Parallelamente, sono pervenute altre 86 segnalazioni riguardanti presunti contenuti di sfruttamento o abuso di minori generati con la stessa tecnologia AI.
Questi dati rappresentano "il volume totale globale delle segnalazioni degli utenti, non le violazioni confermate delle policy", come precisato da un portavoce di Google. L'azienda non ha fornito dettagli sul numero di segnalazioni effettivamente verificate.
Sistemi di protezione differenziati
Un elemento che ha attirato l'attenzione del regolatore australiano riguarda le diverse metodologie applicate da Google per filtrare i contenuti illegali. L'azienda di Mountain View utilizza il sistema hatch-matching per identificare e rimuovere automaticamente materiale pedopornografico generato con Gemini. Questo meccanismo consente di confrontare le immagini appena caricate con quelle già note e classificate come illegali.
Tuttavia, lo stesso sistema non viene applicato per individuare contenuti terroristici o estremisti violenti creati con la stessa tecnologia, evidenziando una disparità nelle misure preventive adottate per diverse tipologie di contenuti dannosi.
Le conseguenze normative nell'era dell'AI
Dal lancio di ChatGPT alla fine del 2022, i regolatori di tutto il mondo hanno invocato l'introduzione di protezioni più efficaci per impedire che l'intelligenza artificiale possa essere utilizzata per facilitare terrorismo, frodi, pornografia deepfake e altri abusi. L'Australia si è dimostrata particolarmente attiva in questo ambito, con un'autorità di regolamentazione che non esita a imporre sanzioni.
La Commissione australiana per la sicurezza online ha già multato Telegram e Twitter (ora X) per presunte carenze nei loro rapporti sulla sicurezza. X ha perso un primo ricorso contro la sua multa di 610.500 dollari australiani (circa 515.200 dollari di Singapore), ma prevede di presentare un nuovo appello. Anche Telegram ha annunciato l'intenzione di contestare la sanzione ricevuta.
La posizione di Google
Un portavoce di Google ha ribadito che l'azienda non consente la generazione o distribuzione di contenuti relativi al terrorismo, all'estremismo violento, allo sfruttamento minorile o ad altre attività illegali attraverso i propri strumenti di intelligenza artificiale.
"Siamo impegnati ad ampliare i nostri sforzi per contribuire a mantenere gli australiani al sicuro online", ha dichiarato il portavoce via email, sottolineando l'impegno dell'azienda nel migliorare costantemente i sistemi di protezione.
Il caso australiano rappresenta un importante precedente nella regolamentazione globale dell'intelligenza artificiale generativa, evidenziando la necessità di trovare un equilibrio tra innovazione tecnologica e tutela della sicurezza pubblica in un contesto digitale in rapida evoluzione.