La mancata registrazione dei sistemi IA da parte dei dipartimenti di Whitehall, in contrasto con l'obbligo annunciato a febbraio, solleva preoccupazioni sulla trasparenza nell'uso di tecnologie algoritmiche che influenzano milioni di vite. Esperti avvertono che il settore pubblico sta "volando alla cieca" nell'adozione dell'IA, con potenziali rischi se non adeguatamente regolamentata.
Attualmente, solo 9 sistemi algoritmici risultano registrati pubblicamente, nonostante decine di contratti per servizi IA siano stati assegnati da enti pubblici. Tra questi, nessuno riguarda i programmi IA utilizzati nel sistema di welfare, dal Ministero dell'Interno o dalla polizia. Un recente bando da 20 milioni di sterline per software di riconoscimento facciale da parte della polizia ha riacceso i timori sulla "sorveglianza biometrica di massa".
Mancanza di trasparenza e rischi potenziali
Peter Kyle, segretario di Stato per la scienza e la tecnologia, ha ammesso che il settore pubblico "non ha preso abbastanza sul serio la necessità di essere trasparente nel modo in cui il governo usa gli algoritmi". Ha dichiarato: "Accetto che se il governo usa algoritmi per conto del pubblico, il pubblico ha il diritto di saperlo. Il pubblico deve sentire che gli algoritmi sono lì per servirli e non il contrario."
L'Ada Lovelace Institute ha recentemente avvertito che i sistemi IA potrebbero sembrare ridurre gli oneri amministrativi, "ma possono danneggiare gravemente la fiducia del pubblico e ridurre i benefici pubblici se le previsioni o i risultati che producono sono discriminatori, dannosi o semplicemente inefficaci".
Imogen Parker, dell'Ada Lovelace Institute, ha sottolineato: "La mancata pubblicazione dei registri di trasparenza algoritmica sta limitando la capacità del settore pubblico di determinare se questi strumenti funzionano, imparare da ciò che non funziona e monitorare i diversi impatti sociali di questi strumenti."
Utilizzo attuale dell'IA nel governo britannico
Nonostante la mancanza di trasparenza, l'IA è già ampiamente utilizzata in vari dipartimenti governativi:
Dipartimento per il Lavoro e le Pensioni (DWP): Utilizza l'IA generativa per elaborare oltre 20.000 documenti al giorno, riassumendo la corrispondenza per i funzionari. Sistemi automatizzati rilevano frodi ed errori nelle richieste di credito universale. L'IA assiste gli agenti nelle richieste di pagamento per l'indipendenza personale, riassumendo le prove. Nei centri per l'impiego, strumenti IA di base aiutano i coach del lavoro nelle conversazioni con i disoccupati.
Ministero dell'Interno: Impiega un sistema di applicazione dell'immigrazione basato sull'IA, soprannominato "robo-caseworker". Un algoritmo contribuisce a plasmare le decisioni, incluso il rimpatrio delle persone. Il governo lo descrive come un sistema "basato su regole" piuttosto che IA, poiché non coinvolge l'apprendimento automatico dai dati.
Forze di polizia: Diverse forze di polizia, tra cui la Metropolitan Police, la South Wales Police e l'Essex Police, utilizzano software di riconoscimento facciale per rintracciare sospetti criminali con l'aiuto dell'IA. I critici avvertono che tale software "trasformerà le strade della Gran Bretagna in file di identificazione hi-tech della polizia".
NHS England: Ha un contratto da 330 milioni di sterline con Palantir per creare una nuova piattaforma dati. L'accordo con l'azienda statunitense guidata dal sostenitore di Donald Trump, Peter Thiel, ha suscitato preoccupazioni sulla privacy dei pazienti.
Servizi digitali governativi: Un chatbot IA è in fase di sperimentazione per aiutare le persone a navigare nel sito web gov.uk. Un altro chatbot IA, Redbox, è stato implementato per l'uso da parte dei funzionari pubblici a Downing Street e in altri dipartimenti governativi, consentendo di accedere rapidamente a documenti governativi riservati e ottenere riepiloghi e briefing su misura.
La crescente adozione dell'IA nel settore pubblico, combinata con la mancanza di trasparenza, solleva importanti questioni sulla responsabilità, l'equità e la protezione dei dati dei cittadini. È evidente la necessità di un maggiore controllo e di una regolamentazione più rigorosa per garantire che l'uso dell'IA da parte del governo sia etico, efficace e nell'interesse pubblico.