In un recente incidente, truffatori hanno indotto un dipendente di una multinazionale a trasferire 25 milioni di dollari, fornendo istruzioni che sembravano provenire dal CFO dell'azienda. In realtà, i criminali avevano usato un programma di intelligenza artificiale per generare video realistici del CFO e di altri colleghi, ingannando il dipendente. Di fronte alla crescente difficoltà di distinguere tra video reali e quelli generati da AI, i ricercatori della Columbia Engineering, guidati dal professore di informatica Junfeng Yang, hanno sviluppato uno strumento chiamato DIVID (DIffusion-generated VIdeo Detector)
DIVID si basa su tecniche preesistenti per rilevare video generati tramite modelli di AI come le reti generative avversarie (GAN). Tuttavia, DIVID introduce l'uso di un modello a diffusione, un metodo avanzato che produce immagini e video altamente realistici partendo da rumore casuale. Attraverso il nuovo metodo, chiamato DIRE (DIffusion Reconstruction Error), DIVID misura le differenze tra un'immagine iniziale e la sua ricostruzione per identificare i video generati da AI.
Questo innovativo strumento analizza i video ricostruiti e li confronta con i video originali. Se i video ricostruiti differiscono significativamente dall'originale, è probabile che il video sia stato generato da un umano; altrimenti, è probabile che sia stato generato da AI. DIVID ha raggiunto un'accuratezza nella rilevazione del 93,7% nei video generati da AI.
Al giorno d'oggi, la capacità di scovare video generati da AI è fondamentale, data la facilità con cui possono essere utilizzati per scopi fraudolenti. Gli strumenti come DIVID sono quindi essenziali per proteggere la società da truffatori che sfruttano tecnologie avanzate per ingannare gli individui.
Oltre all'ambito della sicurezza digitale, DIVID ha il potenziale per essere integrato come plugin in piattaforme di videoconferenza come Zoom per rilevare le cosiddette "deepfake calls" in tempo reale. I ricercatori stanno considerando anche lo sviluppo di un sito web o un plugin per browser che renderebbe DIVID accessibile a un pubblico più ampio.
Prossimi passi per i ricercatori includono il miglioramento del framework di DIVID per gestire diversi tipi di video sintetici provenienti da strumenti di generazione video open-source e l'uso di DIVID per raccogliere video per il dataset DIVID, ampliando ulteriormente le sue capacità di rilevazione.
Per ulteriori informazioni, si può consultare il documento di Qingyuan Liu et al denominato "Turns Out I'm Not Real: Towards Robust Detection of AI-Generated Videos", disponibile su arXiv.
La capacità di distinguere con precisione tra contenuti generati da intelligenze artificiali e quelli creati umanamente diventa ogni giorno più cruciale, e strumenti come DIVID sono fondamentali per mantenere l'integrità e la sicurezza nell'era digitale.
