Il mondo della disinformazione russa sta vivendo una trasformazione senza precedenti grazie all'intelligenza artificiale. Nel giro di pochi mesi, gli operatori di una vasta campagna propagandistica hanno moltiplicato per tre la produzione di contenuti falsi, sfruttando strumenti AI gratuiti e facilmente accessibili per alimentare tensioni su elezioni, immigrazione e conflitti internazionali. Quello che un tempo richiedeva settimane di lavoro manuale, oggi viene realizzato in poche ore con un semplice prompt.
L'esplosione dei contenuti artificiali
I numeri parlano chiaro: se tra luglio 2023 e giugno 2024 la campagna nota come Operation Overload aveva prodotto 230 contenuti unici, negli ultimi otto mesi il conteggio è schizzato a 587 pezzi. La maggior parte di questi materiali è stata creata utilizzando generatori di immagini e voci basati su AI, secondo quanto emerso da una ricerca congiunta di Reset Tech e Check First pubblicata la scorsa settimana.
Aleksandra Atanasova, ricercatrice specializzata in intelligence open-source presso Reset Tech, ha espresso sorpresa per la diversificazione delle tecniche utilizzate. "È come se avessero ampliato la loro tavolozza per catturare diversi angoli delle stesse storie", spiega la studiosa. "Stanno stratificando diversi tipi di contenuto, uno dopo l'altro".
Il caso Flux AI e le immagini della discordia
Tra gli strumenti identificati, spicca Flux AI, un generatore text-to-image sviluppato da Black Forest Labs. Utilizzando il tool di analisi SightEngine, i ricercatori hanno stabilito con una probabilità del 99% che numerose immagini false diffuse dalla campagna sono state create con questo sistema. Alcune di queste mostravano presunte rivolte di migranti musulmani a Berlino e Parigi, generate attraverso prompt contenenti linguaggio discriminatorio.
L'azienda tedesca ha risposto alle accuse sottolineando di aver implementato "molteplici livelli di protezione per prevenire l'uso illecito", includendo metadati di provenienza che dovrebbero permettere alle piattaforme di identificare i contenuti generati da AI. Tuttavia, le immagini analizzate dai ricercatori non contenevano alcun metadata identificativo.
Voci clonate e personalità manipolate
La produzione video ha registrato un'escalation ancora più impressionante, passando da 150 contenuti nel periodo giugno 2023-luglio 2024 a ben 367 tra settembre 2024 e maggio 2025. La tecnologia di clonazione vocale ha permesso agli operatori di far sembrare che figure pubbliche pronunciassero dichiarazioni mai rilasciate.
Un caso emblematico riguarda Isabelle Bourdon, docente dell'Università di Montpellier, la cui immagine è stata manipolata per far credere che incitasse i cittadini tedeschi a rivolte di massa e al voto per il partito di estrema destra Alternative für Deutschland. Il video originale, prelevato dal canale YouTube ufficiale dell'ateneo, mostrava in realtà la ricercatrice mentre parlava di un premio scientifico ricevuto.
La strategia del feedback negativo
Una delle tattiche più sorprendenti di Operation Overload consiste nell'inviare email ai media e alle organizzazioni di fact-checking di tutto il mondo, segnalando i propri contenuti falsi e chiedendo verifiche sulla loro autenticità. Secondo i ricercatori, dal settembre 2024 sono stati spediti fino a 170.000 messaggi a oltre 240 destinatari.
Questa strategia apparentemente controproducente ha in realtà un obiettivo preciso: ottenere visibilità anche attraverso smentite. Per gli operatori russi, vedere i propri contenuti pubblicati da testate legittime, seppur marcati come "FAKE", rappresenta comunque un successo in termini di diffusione del messaggio.
Piattaforme sotto pressione
I contenuti di Operation Overload circolano su oltre 600 canali Telegram e attraverso account bot su X e Bluesky. Di recente, la campagna ha fatto il suo debutto anche su TikTok, dove 13 account hanno ottenuto 3 milioni di visualizzazioni prima di essere penalizzati dalla piattaforma.
Le reazioni delle piattaforme sono state disomogenee: mentre Bluesky ha sospeso il 65% degli account falsi identificati, secondo i ricercatori "X ha intrapreso azioni minime nonostante numerose segnalazioni sull'operazione e prove crescenti di coordinamento". TikTok ha confermato la rimozione degli account segnalati, dichiarando di essere "altamente vigile contro gli attori che cercano di manipolare la nostra piattaforma".
L'operazione Overload, legata al governo russo secondo analisi di Microsoft e dell'Institute for Strategic Dialogue, rappresenta un'evoluzione significativa nelle tattiche di propaganda digitale. Come osserva Atanasova: "Hanno già la ricetta che funziona. Sanno quello che stanno facendo". E con l'AI che rende sempre più difficile distinguere il vero dal falso, questa ricetta rischia di diventare sempre più efficace.