L'iniziativa, realizzata in collaborazione con l'Engineering and Physical Sciences Research Council (EPSRC) e Innovate UK, mira a sostenere la ricerca per mitigare le minacce dell'IA e potenziali malfunzionamenti sistemici critici. L'obiettivo è identificare i rischi più significativi dell'adozione dell'IA avanzata in settori chiave come sanità, energia e servizi finanziari, sviluppando al contempo soluzioni pratiche per mitigarli.
Il segretario per la scienza, l'innovazione e la tecnologia, Peter Kyle, ha dichiarato: "Il nostro focus è accelerare l'adozione dell'IA per stimolare la crescita e migliorare i servizi pubblici. Centrale in questo piano è aumentare la fiducia del pubblico nelle innovazioni che stanno già portando cambiamenti concreti. È qui che entra in gioco questo programma di sovvenzioni."
Il programma finanzierà circa 20 progetti con un massimo di 200.000 sterline ciascuno in questa prima fase, utilizzando circa la metà degli 8,5 milioni di sterline annunciati dal precedente governo al Summit sull'IA di Seoul a maggio. Ulteriori finanziamenti saranno disponibili nelle fasi successive.
Costruire una base di ricerca sull'IA per il bene pubblico globale
Ian Hogarth, presidente dell'AI Safety Institute, ha sottolineato l'importanza di riunire ricercatori provenienti da diverse discipline e background: "Stiamo costruendo prove empiriche su dove i modelli di IA potrebbero presentare rischi, in modo da sviluppare un approccio completo alla sicurezza dell'IA per il bene pubblico globale."
La necessità di tale ricerca è evidenziata da uno studio pubblicato a maggio, che ha rivelato come il 30% dei professionisti della sicurezza informatica abbia sperimentato un incidente legato ai deepfake negli ultimi 12 mesi, seconda solo alle infezioni da malware come tipologia di minaccia più comune.