TikTok ha recentemente introdotto un nuovo strumento AI denominato Symphony Digital Avatars, concepito per permettere alle aziende di creare annunci pubblicitari utilizzando le sembianze di attori pagati. Questo strumento, equipaggiato con doppiaggio alimentato da intelligenza artificiale, permette agli inserzionisti di inserire uno script affinché gli avatar dicano ciò che desiderano, rispettando però le linee guida di TikTok.
Tuttavia, a causa di un errore tecnico, è stata accidentalmente pubblicata una versione interna di questo strumento senza le dovute restrizioni, scoperta per prima da CNN. Questa versione permetteva agli utenti di generare video con contenuti inappropriati, inclusi citazioni di Hitler e messaggi pericolosi come l'incitamento a bere candeggina. Tra gli altri video generati erroneamente vi erano anche uno recitante la "Lettera all'America" di Osama bin Laden, uno con uno slogan di supremazia bianca, e un altro incitante le persone a votare il giorno sbagliato. Significativamente, i video prodotti non avevano un watermark che indicasse la natura AI del contenuto, contrariamente a quanto avviene nella versione corretta dello strumento.
La portavoce di TikTok, Laura Perez, ha dichiarato a The Verge che il problema è stato risolto rapidamente, sottolineando che la versione interna di test era stata accessibile solo da "un numero estremamente ridotto di utenti" e per pochi giorni. Ha anche enfatizzato che, se i video fossero stati pubblicati, sarebbero stati rifiutati per violazione delle policy di TikTok.
Pur essendo stata rimossa la versione problematica dello strumento, resta la questione su come TikTok gestirà potenziali abusi futuri del creatore di avatar digitali. La versione che TikTok intendeva lanciare rimane comunque disponibile, ristretta agli utenti con un account TikTok Ads Manager, chiedendosi se la piattaforma sia preparata ad affrontare simili sfide in futuro.
