La disinformazione online si evolve costantemente, adattandosi alle nuove tecnologie per diventare sempre più sofisticata e difficile da rilevare. Un recente studio pubblicato su PNAS Nexus ha identificato una nuova minaccia digitale chiamata "AIPasta", che combina l'intelligenza artificiale generativa con le tattiche tradizionali di propaganda per creare campagne di disinformazione particolarmente insidiose. Questa tecnica rappresenta un'evoluzione significativa rispetto ai metodi precedenti, sfruttando la capacità dell'IA di produrre contenuti convincenti e variati.
L'evoluzione delle campagne CopyPasta tradizionali
Per comprendere l'innovazione rappresentata dall'AIPasta, è necessario partire dalle campagne CopyPasta tradizionali. Queste strategie si basano sul cosiddetto "effetto verità ripetitiva", un fenomeno psicologico per cui un messaggio ripetuto identicamente più volte finisce per apparire più credibile a chi lo incontra frequentemente. Il principio è semplice ma efficace: la familiarità genera fiducia, anche quando il contenuto è falso.
Tuttavia, le piattaforme social media hanno sviluppato sistemi sempre più sofisticati per identificare e rimuovere questi contenuti duplicati. La ripetizione letterale dello stesso testo rappresenta infatti un segnale d'allarme facilmente riconoscibile dai sistemi di moderazione automatica.
La nuova frontiera della manipolazione digitale
È qui che entra in gioco l'AIPasta, studiata dal team di ricerca guidato da Saloni Dash. Questa tecnica utilizza l'intelligenza artificiale per generare molteplici versioni leggermente diverse dello stesso messaggio disinformativo. Il risultato è una campagna che mantiene l'efficacia dell'effetto ripetitivo ma aggira i sistemi di rilevamento automatico delle piattaforme social.
L'aspetto più preoccupante di questa strategia è la sua capacità di creare l'illusione di un consenso diffuso. Quando gli utenti incontrano versioni apparentemente diverse dello stesso concetto, sviluppano la percezione che si tratti di opinioni indipendenti condivise da persone diverse, aumentando così la credibilità percepita del messaggio.
I risultati della ricerca sperimentale
Per testare l'efficacia di queste tecniche, i ricercatori hanno condotto un esperimento su 1.200 cittadini americani, utilizzando come argomenti due teorie cospirative particolarmente diffuse: le false affermazioni sui brogli elettorali nelle elezioni presidenziali del 2020 e l'idea che la pandemia di COVID-19 sia stata intenzionale. I risultati hanno rivelato dinamiche complesse e in parte sorprendenti.
Considerando l'intero campione, né le campagne CopyPasta tradizionali né quelle AIPasta sono riuscite a convincere significativamente i partecipanti della veridicità delle teorie cospirative presentate. Tuttavia, quando i ricercatori hanno analizzato specificamente le risposte dei partecipanti repubblicani - potenzialmente più predisposti a credere alle particolari cospiracioni utilizzate nello studio - l'AIPasta ha mostrato una maggiore efficacia persuasiva rispetto alle tecniche tradizionali.
L'illusione del consenso sociale
Il dato più significativo emerso dalla ricerca riguarda la percezione del consenso sociale. Indipendentemente dall'orientamento politico, i partecipanti esposti alle campagne AIPasta hanno sviluppato una maggiore convinzione che esistesse un ampio consenso sulla veridicità delle affermazioni presentate. Questo effetto non si è verificato con le campagne CopyPasta tradizionali, suggerendo che la variazione artificiale dei messaggi sia particolarmente efficace nel simulare un dibattito pubblico autentico.
La capacità dell'AIPasta di eludere i sistemi di rilevamento automatico rappresenta una sfida tecnica significativa per le piattaforme social media. Durante lo studio, i contenuti generati dall'intelligenza artificiale non sono stati identificati dai detector di testo AI attualmente disponibili, il che significa che potrebbero rimanere online più a lungo rispetto ai contenuti CopyPasta tradizionali.
Implicazioni per il futuro dell'informazione digitale
La ricerca evidenzia come l'evoluzione dell'intelligenza artificiale stia creando nuove vulnerabilità nell'ecosistema informativo digitale. La democratizzazione degli strumenti di IA generativa rende queste tecniche accessibili anche a attori malintenzionati con risorse limitate, amplificando potenzialmente l'impatto delle campagne di disinformazione.
Le implicazioni si estendono oltre la semplice identificazione di una nuova tecnica di manipolazione. L'AIPasta rappresenta un esempio di come le tecnologie emergenti possano essere weaponizzate per influenzare l'opinione pubblica in modi sempre più sottili e difficili da contrastare. Questo solleva questioni fondamentali sulla necessità di sviluppare contromisure tecnologiche e normative adeguate per proteggere l'integrità del dibattito democratico nell'era digitale.