Il Dr. Dominic Lees, esperto di IA nel settore cinematografico e televisivo, ha dichiarato al Guardian: "Le nostre leggi sulla privacy e sul copyright non sono aggiornate rispetto a ciò che questa nuova tecnologia presenta, quindi c'è ben poco che David Attenborough possa fare".
Lees sta consigliando la commissione parlamentare britannica per la cultura, i media e lo sport in un'indagine sull'uso etico dell'IA nella produzione cinematografica. È anche coordinatore del Synthetic Media Research Network, che include aziende impegnate in progetti di clonazione vocale autorizzati, come quello per ricreare la voce del defunto conduttore Michael Parkinson.
Crescita delle truffe basate su clonazione vocale
Le frodi che sfruttano voci clonate tramite IA sono in aumento. Secondo una ricerca della banca NatWest, nel Regno Unito sono cresciute del 30% nell'ultimo anno. Un altro istituto, Starling Bank, ha rilevato che il 28% delle persone è stato preso di mira da una truffa di questo tipo almeno una volta negli ultimi 12 mesi.I truffatori stanno anche utilizzando la clonazione vocale per perpetrare una versione della cosiddetta truffa "ciao mamma", in cui si fingono figli in difficoltà che chiedono urgentemente denaro ai genitori. Su linee telefoniche già poco chiare, può essere difficile distinguere se la voce implorante sia davvero quella del proprio figlio o una clonazione.
Reazioni delle celebrità colpite
David Attenborough non è l'unica celebrità ad essere stata vittima di clonazione vocale non autorizzata. Jennifer Aniston, Oprah Winfrey e Kylie Jenner hanno tutte subito la clonazione delle loro voci da parte di truffatori. Anche Martin Lewis, noto consulente finanziario televisivo, è stato preso di mira.L'attrice Scarlett Johansson si è detta scioccata e arrabbiata quando ha scoperto che una nuova opzione vocale del modello IA ChatGPT-4o suonava incredibilmente simile alla sua voce: "Era così inquietantemente simile alla mia che i miei amici più stretti e le testate giornalistiche non riuscivano a distinguerla".
Sfide tecniche e limiti attuali
Nonostante i rapidi progressi, la clonazione vocale tramite IA presenta ancora alcune limitazioni. Il Dr. Lees spiega: "Il grande problema è che l'IA non comprende l'emozione e come questa modifichi l'impatto emotivo di una parola o di una frase, e come si vari la voce per rappresentarla".Joe Lewis, responsabile audio presso la Voiceover Gallery di Londra, ha notato che l'IA sembra funzionare meglio con le voci maschili inglesi, forse a causa di un bias nei dati di addestramento degli algoritmi. Ha inoltre osservato che le voci generate artificialmente tendono a essere meno coinvolgenti: "Quando l'IA respira, è un respiro molto ripetitivo. I respiri sono nel posto giusto, ma non sembrano naturali".
Prospettive future e necessità di regolamentazione
Gli esperti concordano sulla necessità di una regolamentazione governativa per affrontare le sfide poste dalla clonazione vocale. Il Dr. Lees afferma: "Il governo deve sicuramente esaminare [la clonazione vocale], perché è un problema importante per le frodi. È necessario il bastone della regolamentazione governativa per scoraggiare [l'uso improprio] ... non possiamo permettere che sia un far west".Mentre la tecnologia continua a evolversi rapidamente, il dibattito su come bilanciare innovazione e protezione dei diritti individuali rimane aperto. La sfida per i legislatori sarà quella di creare un quadro normativo flessibile che possa adattarsi ai rapidi cambiamenti tecnologici, garantendo al contempo la tutela della privacy e dei diritti d'autore.