In una mossa significativa, Google ha deciso di espandere le sue restrizioni pubblicitarie contro i contenuti espliciti, prendendo di mira i servizi che facilitano la crezione di porn deepfake e nudi generati. Fino ad ora, la politica dell'azienda vietava gli annunci pubblicitari che promuovevano contenuti sessualmente espliciti, ma non si estendeva ai servizi che permettevano di generare tali contenuti. La nuova normativa cambierà questa condizione.
La definizione di contenuto sessualmente esplicito da parte di Google comprende testi, immagini, audio o video che ritraggono atti sessuali grafici con l'intento di suscitare eccitazione. La politica aggiornata Include ora il divieto di pubblicizzare servizi che alterano o generano contenuti sessualmente espliciti o nudi. Questo cambio di direzione ha l'obiettivo di contrastare siti web e app che offrono guide su come creare pornografia deepfake.
L'entrata in vigore di questa nuova politica è prevista per il 30 maggio, segnando un passo importante nella lotta contro la diffusione di materiali inappropriati online. "Questo aggiornamento mira a vietare esplicitamente la pubblicità per i servizi che offrono di creare pornografia deepfake o contenuti nudi sintetici," ha dichiarato Michael Aciman, portavoce di Google, sottolineando l'impegno dell'azienda nell'assicurare un ambiente digitale sicuro.
Google adotterà un mix di revisioni umane e sistemi automatizzati per garantire il rispetto delle nuove regole, eliminando gli annunci che ne violano i termini. Nel corso del 2023, l'azienda ha rimosso oltre 1,8 miliardi di annunci per violazione delle sue politiche relative ai contenuti sessuali, testimoniando l'estensiva portata delle sue iniziative di moderazione.
Il problema della pornografia deepfake non consensuale è emerso negli ultimi anni come una minaccia significativa, con casi di estorsione e violazione della privacy. Recentemente, due studenti delle scuole medie in Florida sono stati arrestati per aver presumibilmente creato foto nude generate dall'intelligenza artificiale dei loro compagni di classe, evidenziando la gravità e l'urgenza del problema.
Alcune app, pur non presentandosi come esplicitamente sessuali su piattaforme come il Google Play Store, pubblicizzavano tali contenuti su siti pornografici, beneficiando di una lacuna nelle precedenti politiche pubblicitarie di Google. La nuova regolamentazione intende colmare proprio questo vuoto, assicurando una maggiore protezione contro l'abuso delle tecnologie di generazione di immagini.
La questione ha anche attirato l'attenzione legislativa; di recente, sia la Camera che il Senato degli Stati Uniti hanno introdotto il DEFIANCE Act, una proposta di legge che mira a stabilire un processo attraverso il quale le vittime di "falsificazioni digitali" possono citare in giudizio coloro che producono o distribuiscono deepfake non consensuali.
La decisione di Google di aggiornare le sue politiche pubblicitarie rappresenta un importante passo avanti nella lotta alla distribuzione di contenuti nocivi e non consensuali online, offrendo ulteriori strumenti per proteggere l'integrità e la privacy degli utenti nel vasto e complesso panorama digitale.
