Meta, azienda proprietaria di Facebook e Instagram, ha approvato una serie di annunci politici manipolati con l'intelligenza artificiale durante le elezioni in India, che hanno diffuso disinformazione e incitato alla violenza religiosa. Questo è quanto emerge da un rapporto esclusivo condiviso con il Guardian.
Facebook ha dato il via libera a pubblicità contenenti insulti noti verso i musulmani in India, come "bruciamo questo verme" e "il sangue hindu sta colando, questi invasori devono essere bruciati", oltre a linguaggio suprematista hindu e disinformazione su leader politici. Un altro annuncio approvato invitava all'esecuzione di un leader dell'opposizione, falsamente accusato di voler "cancellare gli hindu dall'India", accanto a un'immagine della bandiera del Pakistan.
Gli annunci sono stati creati e inviati alla biblioteca di annunci di Meta – il database di tutti gli annunci su Facebook e Instagram – da India Civil Watch International (ICWI) e Ekō, un'organizzazione per la responsabilità aziendale, per testare i meccanismi di Meta nel rilevare e bloccare contenuti politici potenzialmente infiammatori o dannosi durante le elezioni indiane.
Secondo il rapporto, tutti gli annunci "sono stati creati sulla base di discorsi d'odio reali e disinformazione diffusi in India, sottolineando la capacità delle piattaforme di social media di amplificare narrazioni dannose esistenti". Gli annunci sono stati inviati a metà del periodo di voto, che ha avuto inizio ad aprile e si è protratto in fasi fino al 1° giugno. L'esito delle elezioni deciderà se il primo ministro Narendra Modi e il suo governo del partito nazionalista hindu Bharatiya Janata (BJP) torneranno al potere per un terzo mandato.
Meta non ha riconosciuto che i 14 annunci approvati fossero politici o legati alle elezioni, nonostante molti di essi mirassero a partiti e candidati politici che si opponevano al BJP. A causa di ciò, questi annunci hanno potuto violare liberamente le regole elettorali dell'India, che vietano tutta la pubblicità e la promozione politica nelle 48 ore prima dell'inizio delle votazioni e durante il voto.
In risposta, un portavoce di Meta ha dichiarato che le persone che desiderano pubblicare annunci su elezioni o politica "devono passare attraverso il processo di autorizzazione richiesto sulle nostre piattaforme e sono responsabili del rispetto di tutte le leggi applicabili". L'azienda ha aggiunto: "Quando troviamo contenuti, inclusi gli annunci, che violano i nostri standard comunitari o le nostre linee guida comunitarie, li rimuoviamo, indipendentemente dal meccanismo di creazione. Anche i contenuti generati dall'IA sono idonei a essere esaminati e valutati dalla nostra rete di fact-checker indipendenti".
Un rapporto precedente di ICWI e Ekō aveva scoperto che "inserzionisti ombra" allineati ai partiti politici, in particolare al BJP, avevano pagato somme ingenti per diffondere annunci politici non autorizzati sulle piattaforme durante le elezioni in India. Molti di questi annunci reali propagavano stereotipi islamofobici e narrazioni di supremazia hindu. Meta ha negato che la maggior parte di questi annunci violasse le loro politiche.
Nick Clegg, presidente degli affari globali di Meta, ha recentemente descritto le elezioni in India come "una prova enorme per noi" e ha affermato che l'azienda aveva fatto "mesi e mesi e mesi di preparazione in India". Meta ha affermato di aver ampliato la sua rete di fact-checker locali e di terze parti su tutte le piattaforme, lavorando in 20 lingue indiane.
Maen Hammad, un attivista di Ekō, ha affermato che le scoperte del rapporto hanno esposto le inadeguatezze di questi meccanismi. "Questa elezione ha dimostrato ancora una volta che Meta non ha un piano per affrontare la valanga di discorsi d'odio e disinformazione sulla sua piattaforma durante queste elezioni critiche", ha detto.
