Oltre alle immagini, l'IA viene impiegata anche per generare canzoni con contenuti xenofobi, come quelle create sulla piattaforma Suno che combinano riferimenti a Southport con testi discriminatori. Su Facebook, un gruppo anti-immigrazione ha utilizzato l'IA per illustrare l'invito a un raduno a Middlesbrough con l'immagine di una grande folla al cenotafio della città.
Andrew Rogoyski, direttore dell'Institute for People-Centred AI dell'Università del Surrey, ha dichiarato: "La possibilità per chiunque di creare immagini potenti utilizzando l'IA generativa è motivo di enorme preoccupazione. L'onere passa ora ai fornitori di questi modelli di IA di rafforzare le protezioni integrate per rendere più difficile la creazione di tali immagini".
L'estrema destra si mobilita
In seguito ai disordini violenti scoppiati in varie parti del paese, sui social media come X, TikTok e Facebook si sta assistendo a un'ondata di attività dell'estrema destra non vista da anni, con la promozione di oltre 10 proteste. Su Telegram sono apparse minacce di morte contro il primo ministro britannico e incitamenti ad attaccare proprietà governative.
Joe Mulhall, direttore della ricerca presso Hope Not Hate, ha spiegato che l'uso di materiale generato dall'IA riflette la crescente collaborazione online tra una serie di individui e gruppi. Mentre organizzazioni come Britain First e Patriotic Alternative continuano a essere in prima linea nella mobilitazione, altrettanto importanti sono una serie di individui non affiliati a nessun gruppo particolare.
"Questi sono composti da migliaia di individui che offrono micro-donazioni di tempo e talvolta denaro per collaborare verso obiettivi politici comuni, completamente al di fuori delle strutture organizzative tradizionali", ha affermato Mulhall.
Il ruolo dei social media e dei bot
L'hashtag #enoughisenough è stato utilizzato da alcuni influencer di destra per promuovere le proteste, secondo Joe Ondrak, analista senior presso Logically, un'azienda britannica che monitora la disinformazione. È stato anche evidenziato l'uso di bot: Tech Against Terrorism ha citato un account TikTok che ha iniziato a pubblicare contenuti solo dopo l'attacco di Southport, accumulando oltre 57.000 visualizzazioni in poche ore.
Un ruolo centrale è svolto da una costellazione di individui e gruppi intorno a Tommy Robinson, l'attivista di estrema destra fuggito all'estero questa settimana prima di un'udienza in tribunale. Altri includono Laurence Fox, l'attore diventato attivista di destra, e siti web di teorie del complotto come Unity News Network (UNN).
Rischi di mobilitazione di massa
Il Dr. Tim Squirrell, direttore delle comunicazioni presso l'Institute for Strategic Dialogue, ha avvertito: "Questo è un ambiente febbrile ed è solo esacerbato dallo stato dell'ambiente informativo online, che è il peggiore degli ultimi anni. C'è il rischio che questo momento possa essere sfruttato per tentare di creare una mobilitazione di strada che assomigli più da vicino a quella degli anni 2010".
Gli esperti temono che l'estrema destra possa raggiungere una mobilitazione non vista dai tempi dell'English Defence League (EDL) negli anni 2010, sfruttando i nuovi strumenti tecnologici e l'attuale clima di tensione sociale per diffondere disinformazione e radunare sostenitori nelle strade.