Il sistema Textio, ospitato su Amazon Web Services (AWS) negli Stati Uniti, analizza i dati personali dei militari, inclusi nomi, ruoli ed email, per migliorare la stesura degli annunci di lavoro e attrarre candidati più diversificati. Secondo la valutazione, "una violazione dei dati potrebbe avere conseguenze preoccupanti, ovvero l'identificazione del personale della difesa". Il Ministero della Difesa ha dichiarato che sono state messe in atto "solide misure di salvaguardia" da parte dei fornitori.
Questa rivelazione fa parte di un'iniziativa più ampia del governo britannico per aumentare la trasparenza sull'uso dell'IA nel settore pubblico. I documenti pubblicati evidenziano sia i rischi che i potenziali benefici di vari sistemi di IA utilizzati dalle agenzie governative.
Altri sistemi di IA nel settore pubblico britannico
Tra gli altri esempi di IA nel settore pubblico britannico citati nei documenti troviamo:
- Uno strumento di pianificazione delle lezioni per insegnanti basato su GPT-4 di OpenAI, che potrebbe generare materiale didattico inappropriato ma consente di personalizzare rapidamente i piani di lezione
- Un chatbot per rispondere alle domande sul benessere dei bambini nei tribunali della famiglia, che rischia "allucinazioni" ma offre informazioni 24 ore su 24
- Il PolicyEngine del Tesoro che utilizza il machine learning per modellare i cambiamenti fiscali e previdenziali con maggiore precisione
- Un sistema di IA per dare priorità alle ispezioni igieniche alimentari, che potrebbe portare a un "degrado del ragionamento umano" se gli utenti diventano troppo dipendenti dal sistema
Il ministro della Tecnologia Peter Kyle ha dichiarato: "La tecnologia ha un enorme potenziale per trasformare i servizi pubblici in meglio. La useremo per ridurre gli arretrati, risparmiare denaro e migliorare i risultati per i cittadini in tutto il paese."
Nuove regole per la trasparenza algoritmica
Il governo britannico ha annunciato che le organizzazioni governative centrali saranno tenute a pubblicare un registro per qualsiasi strumento algoritmico che interagisce direttamente con i cittadini o influenza in modo significativo le decisioni prese sulle persone, a meno che non si applichino alcune limitate esenzioni come la sicurezza nazionale.
I registri saranno pubblicati per gli strumenti una volta che vengono testati pubblicamente o sono operativi. Questa mossa mira a migliorare la trasparenza e la responsabilità nell'uso dell'IA nel settore pubblico.
Altri esempi di IA nel governo britannico
Il registro ampliato include anche:
- Un chatbot IA che gestisce le richieste dei clienti per Network Rail, addestrato su casi storici del sistema di gestione delle relazioni con i clienti dell'ente ferroviario
- Aila, un assistente IA per le lezioni utilizzato dal Dipartimento dell'Istruzione, basato sul modello GPT-4o di OpenAI
- Un bot di elaborazione del linguaggio naturale utilizzato dal Children and Family Court Advisory and Support Service per gestire circa 2.500 richieste al mese tramite un servizio di chat sul sito web
Questi esempi mostrano la crescente adozione dell'IA in vari settori del governo britannico, con l'obiettivo di migliorare l'efficienza e il servizio ai cittadini. Tuttavia, sollevano anche importanti questioni sulla privacy, la sicurezza e l'accuratezza dei sistemi basati sull'IA nel contesto dei servizi pubblici.
La pubblicazione di questi dettagli rappresenta un passo importante verso una maggiore trasparenza nell'uso dell'IA da parte del governo. Tuttavia, alcuni critici notano che alcuni algoritmi controversi, come quelli utilizzati nel sistema previdenziale dal Dipartimento del Lavoro e delle Pensioni, non sono ancora registrati.
Mentre il governo britannico spinge per un maggiore utilizzo dell'IA per aumentare la produttività e migliorare i servizi pubblici, sarà fondamentale bilanciare l'innovazione con la protezione dei diritti e della privacy dei cittadini. Il nuovo registro algoritmico ampliato è un passo in questa direzione, ma probabilmente seguiranno ulteriori discussioni e regolamentazioni sull'uso responsabile dell'IA nel settore pubblico.