Faculty AI si è affermata come una delle aziende più attive nella vendita di servizi di AI nel Regno Unito. A differenza di realtà come OpenAI, DeepMind o Anthropic, non sviluppa modelli propri, ma si concentra sulla rivendita di modelli, in particolare di OpenAI, e sulla consulenza per il loro utilizzo nel governo e nell'industria.
L'azienda ha acquisito particolare notorietà nel Regno Unito dopo aver lavorato all'analisi dei dati per la campagna Vote Leave prima del referendum sulla Brexit. Successivamente, l'ex consigliere di Boris Johnson, Dominic Cummings, ha assegnato a Faculty dei lavori governativi durante la pandemia, includendo il suo amministratore delegato Marc Warner nelle riunioni del panel consultivo scientifico del governo.
Il ruolo di Faculty AI nella sicurezza dell'AI
Recentemente, Faculty AI ha condotto test su modelli di AI per l'AI Safety Institute (AISI) del Regno Unito, istituito nel 2023 sotto l'ex primo ministro Rishi Sunak. L'azienda continua a lavorare a stretto contatto con l'AISI, mettendola in una posizione in cui i suoi giudizi potrebbero influenzare la politica del governo britannico.
A novembre, l'AISI ha incaricato Faculty di esaminare come i grandi modelli linguistici "vengono utilizzati per facilitare comportamenti criminali o altrimenti indesiderabili". L'AISI ha dichiarato che il vincitore del contratto - Faculty - "sarà un importante collaboratore strategico del team di salvaguardia dell'AISI, contribuendo direttamente con informazioni chiave ai modelli di sicurezza del sistema dell'AISI".
Preoccupazioni etiche e potenziali conflitti di interesse
Lo sviluppo di AI per droni militari da parte di Faculty solleva questioni etiche. Le aziende produttrici di armi sono interessate a implementare l'AI sui droni, dai "loyal wingmen" che potrebbero volare insieme ai jet da combattimento, alle munizioni vaganti già in grado di attendere l'apparizione dei bersagli prima di colpirli.
Gli ultimi sviluppi tecnologici hanno sollevato la prospettiva di droni in grado di tracciare e uccidere senza un essere umano "nel loop" che prenda la decisione finale. Molti esperti e politici hanno invitato alla cautela prima di introdurre tecnologie più autonome nell'ambito militare.
Un portavoce di Faculty ha dichiarato: "Aiutiamo a sviluppare nuovi modelli di AI che aiuteranno i nostri partner della difesa a creare soluzioni più sicure e robuste", aggiungendo che l'azienda ha "rigorose politiche etiche e processi interni" e segue le linee guida etiche sull'AI del Ministero della Difesa.
Tuttavia, alcuni esperti hanno sollevato preoccupazioni su un potenziale conflitto di interessi nel lavoro svolto da Faculty con l'AISI. L'azienda non ha fornito dettagli su quali modelli di altre aziende abbia testato, anche se ha testato il modello o1 di OpenAI prima del suo rilascio.
Impatto e reazioni
La notizia ha suscitato reazioni nel mondo politico e accademico. Natalie Bennett, membro del partito dei Verdi, ha espresso "grave preoccupazione" per la "porta girevole" tra industria e governo, sottolineando che una singola azienda che assume sia contratti governativi per lavorare sull'AI che collabora con l'AI Safety Institute per testare grandi modelli linguistici rappresenta "una seria preoccupazione".
Albert Sanchez-Graells, professore di diritto economico all'Università di Bristol, ha avvertito che il Regno Unito sta facendo affidamento sull'"autocontrollo e responsabilità delle aziende tecnologiche nello sviluppo dell'AI". Ha sottolineato che le aziende che supportano il lavoro dell'AISI devono evitare conflitti di interesse organizzativi derivanti dal loro lavoro per altre parti del governo e dall'attività di mercato basata sull'AI in generale.
Faculty AI ha vinto contratti governativi per un valore di almeno 26,6 milioni di sterline, secondo le divulgazioni del governo. Questi contratti rappresentano una fonte significativa di entrate per un'azienda che ha realizzato vendite per 32 milioni di sterline nell'anno fino al 31 marzo, registrando una perdita di 4,4 milioni di sterline in quel periodo.
Il Dipartimento per la Scienza, l'Innovazione e la Tecnologia ha rifiutato di commentare, affermando che non entrerebbe nei dettagli dei singoli contratti commerciali.
La situazione di Faculty AI evidenzia le sfide etiche e normative che emergono con il rapido sviluppo dell'intelligenza artificiale, in particolare quando si tratta di applicazioni militari e di sicurezza nazionale. Il caso solleva importanti questioni sulla supervisione e la regolamentazione delle aziende tecnologiche che operano in settori sensibili, nonché sulla necessità di una maggiore trasparenza nei rapporti tra governo e industria nel campo dell'AI.