🏗️ Il sito è in costruzione.

Più deepfake politici di quanto si pensi, allarme degli esperti IA

Più deepfake politici di quanto si pensi, allarme degli esperti IA

> "Con così tante elezioni in corso a livello globale quest'anno, il fondatore di TrueMedia Oren Etzioni spera che lo strumento di rilevazione dei deepfake dell'azienda possa contribuire a ridurre la disinformazione. Ecco come.".

In vista delle elezioni presidenziali negli Stati Uniti a novembre, gli esperti avvertono su un possibile aumento nell'uso di deepfake politici. Secondo Oren Etzioni, fondatore di TrueMedia e professore presso l'Università di Washington, è probabile che vedremo un incremento senza precedenti di questi contenuti sintetici. Sebbene al momento i deepfake non sembrino particolarmente diffusi, Etzioni suggerisce che molti di essi potrebbero non essere ancora stati individuati dal grande pubblico.

TrueMedia, organizzazione non profit sostenuta dalla fondazione benefica di Garrett Camp, co-fondatore di Uber, si occupa di verificare l'autenticità delle immagini attraverso l'utilizzo di programmi classificatori AI. Quando un'immagine viene caricata sulla piattaforma, il sistema può etichettarla come "incerta", "altamente sospetta" o "autentica" a seconda delle analisi effettuate. Etzioni descrive come il team di TrueMedia, preparandosi per le elezioni, stia osservando una crescente produzione di deepfake e sperimentando per affinare le tecniche di riconoscimento.

Per rafforzare l'efficacia del loro sistema, TrueMedia ha avviato collaborazioni con startup come Reality Defender e Sensity, unendo i loro algoritmi per una verifica incrociata più affidabile. La piattaforma ha visto una precisone oltre il 90% nelle sue valutazioni, grazie all'utilizzo di un insieme di modelli open-source.

Nonostante la complessità e le sfide legate alla sicurezza, - sottolinea Etzioni -, l'obiettivo rimane quello di gestire un volume elevato di richieste conforme ci si avvicina alle elezioni. Luis Ceze, fondatore di OctoAI e collaboratore nell'iniziativa, conferma che l'accresciuta richiesta dei modelli predittivi richiede una strategia scalabile e rapida per evitare ritardi o sovraccarichi del sistema.

TrueMedia mira a diventare uno strumento fondamentale per salvaguardare l'integrità dei processi elettorali, consentendo agli organi di stampa e agli utenti un facile accesso alle verifiche di autenticità delle immagini. L'introduzione di uno standard di trasparenza e la possibilità di discutere pubblicamente i risultati rende questa tecnologia un presidio importante contro le manipolazioni informative.

Mentre TrueMedia continua a sviluppare e perfezionare le sue tecnologie, si prevede una pubblicazione imminente che analizzerà lo stato attuale dei deepfake, spingendo il pubblico a una maggiore consapevolezza critica. Etzioni enfatizza l'importanza di un approccio aperto e verificabile, a differenza di altri strumenti che mantengono i loro processi nascosti o commerciali, puntando a un impatto significativo sulla fiducia e sulla veridicità delle informazioni condivise in rete.

Logo AiBay