I deepfake, ovvero contenuti multimediali falsi creati con l'intelligenza artificiale, rappresentano una crescente minaccia per la società in quanto possono essere utilizzati per diffondere disinformazione. Le tecniche convenzionali di rilevamento spesso mostrano limiti nel rendere comprensibili i processi decisionali dei modelli AI.
Il team guidato dal Prof. Dr. Alexander I. Iliev, con il contributo chiave della ricercatrice Nazneen Mansoor, ha condotto test approfonditi su diversi modelli AI per valutarne la capacità di identificare in modo affidabile i deepfake. L'attenzione si è concentrata sull'utilizzo di tecniche di XAI per presentare le basi decisionali dei modelli in modo trasparente e comprensibile.
Visualizzazioni e analisi delle caratteristiche
I ricercatori hanno impiegato tecniche di visualizzazione come le "mappe di calore", che evidenziano con colori le aree dell'immagine ritenute rilevanti dall'AI per la sua decisione. Inoltre, i modelli analizzano caratteristiche specifiche come trame o schemi di movimento che possono indicare manipolazioni.
Il Prof. Dr. Iliev, responsabile del programma di Master in Computer Science - Big Data & Artificial Intelligence, ha spiegato: "La capacità di rendere trasparente il processo decisionale dell'AI sta diventando sempre più importante, che si tratti di forze dell'ordine, industria dei media o scienza".
Lo studio dimostra che l'AI spiegabile non solo migliora l'accuratezza del riconoscimento, ma promuove anche la comprensione e la fiducia nelle tecnologie AI. Mostrando come vengono prese le decisioni, è possibile identificare debolezze nei modelli e ottimizzare i sistemi futuri in modo mirato.
Questo approccio rappresenta un passo cruciale per rafforzare l'uso responsabile dell'AI nella società. Rendendo trasparenti i processi decisionali, si può aumentare la fiducia del pubblico e degli esperti nell'utilizzo di queste tecnologie per contrastare la diffusione di contenuti manipolati.
L'implementazione di sistemi AI spiegabili per il rilevamento dei deepfake potrebbe avere importanti applicazioni in diversi settori, dalla verifica delle notizie alla sicurezza informatica, contribuendo a contrastare la disinformazione e proteggere l'integrità dell'informazione nell'era digitale.