Le nuove funzionalità si concentrano sulla protezione degli utenti da immagini esplicite non consensuali create artificialmente. Quando un utente richiede con successo la rimozione di questo tipo di contenuto falso che lo raffigura, i sistemi di Google ora filtreranno automaticamente tutti i risultati espliciti simili nelle ricerche correlate e rimuoveranno eventuali immagini duplicate.
Emma Higham, product manager di Google, ha dichiarato: "Queste protezioni si sono già dimostrate efficaci nell'affrontare altri tipi di immagini non consensuali, e ora abbiamo sviluppato le stesse capacità anche per le immagini esplicite false".
Google sta anche modificando gli algoritmi di ranking per gestire meglio le query che presentano un rischio elevato di mostrare contenuti falsi espliciti. Ad esempio, le ricerche che cercano intenzionalmente deepfake di persone reali dovrebbero invece mostrare "contenuti di alta qualità e non espliciti" come notizie pertinenti.
Impatto e misure aggiuntive
L'azienda afferma che gli aggiornamenti precedenti hanno già ridotto di oltre il 70% l'esposizione a risultati di immagini esplicite per le query che cercano specificamente questo tipo di deepfake. Inoltre, i siti web che ricevono un numero sostanziale di richieste di rimozione per immagini esplicite false verranno penalizzati nel ranking di Google Search.
Google sta anche lavorando a un sistema per distinguere tra contenuti espliciti reali (come scene di nudo consensuali di attori) e contenuti espliciti falsi, in modo da poter continuare a mostrare le immagini legittime pur penalizzando i deepfake.
Queste novità si aggiungono ad altre misure recenti di Google per contrastare la diffusione di contenuti pericolosi o espliciti online, come il divieto per gli inserzionisti di promuovere servizi di deepfake pornografici e l'espansione delle tipologie di informazioni personali che possono essere rimosse dai risultati di ricerca.
La crescente preoccupazione per i deepfake espliciti ha radici profonde nella storia della manipolazione delle immagini. Già nell'Ottocento, con l'avvento della fotografia, si iniziarono a creare fotomontaggi e ritocchi, spesso per scopi satirici o politici. Tuttavia, l'era digitale ha portato questa pratica a un livello completamente nuovo.
Nel 1997, il video musicale "Bittersweet Symphony" dei The Verve utilizzò una delle prime tecniche di morphing digitale su larga scala, anticipando le possibilità future di manipolazione video. Ma è solo negli ultimi anni che l'intelligenza artificiale ha reso possibile la creazione di deepfake convincenti e accessibili a un vasto pubblico.
Una curiosità interessante riguarda il termine "deepfake" stesso: fu coniato nel 2017 da un utente di Reddit che utilizzava questo pseudonimo per pubblicare video pornografici falsi di celebrità. Da allora, il termine è entrato nel lessico comune, simboleggiando sia il potenziale creativo che i rischi etici di questa tecnologia.
La tecnologia deepfake è come un coltello a doppio taglio: può essere uno strumento creativo straordinario, ma anche un'arma pericolosa nelle mani sbagliate.
Le implicazioni etiche e legali dei deepfake sono oggetto di accesi dibattiti. Alcuni paesi hanno già iniziato a legiferare in merito: la California, ad esempio, ha approvato nel 2019 una legge che vieta l'uso di deepfake nei 60 giorni precedenti un'elezione. Questo dimostra come la tecnologia stia sfidando i confini tradizionali della privacy e del consenso.
Un aspetto meno noto è che la tecnologia deepfake non si limita solo alle immagini e ai video. Esistono anche deepfake audio, capaci di clonare voci umane con un realismo sorprendente. Questo solleva ulteriori preoccupazioni sulla possibilità di frodi vocali e manipolazione dell'opinione pubblica.
Nonostante i rischi, è importante ricordare che la tecnologia dietro i deepfake ha anche applicazioni positive. Nel cinema, ad esempio, sta rivoluzionando gli effetti speciali e permettendo di "resuscitare" attori defunti per completare film incompiuti. Nel campo medico, i deepfake possono essere utilizzati per creare immagini sintetiche per la formazione di sistemi di diagnosi automatica, preservando la privacy dei pazienti reali.
La sfida per il futuro sarà trovare un equilibrio tra l'innovazione tecnologica e la protezione dei diritti individuali, un compito in cui aziende come Google giocheranno un ruolo cruciale.
