La possibile ristrutturazione di OpenAI solleva interrogativi sulla governance delle decisioni in materia di sicurezza nell'ambito dello sviluppo dell'intelligenza artificiale. Il passaggio a un modello for-profit potrebbe creare incentivi per accelerare lo sviluppo tecnologico a scapito delle precauzioni necessarie, soprattutto considerando il potenziale impatto dell'intelligenza artificiale generale (AGI) sulla società.
Le preoccupazioni di Saunders
Saunders, che ha recentemente testimoniato davanti al Senato degli Stati Uniti, si è detto particolarmente preoccupato per le indiscrezioni secondo cui l'amministratore delegato di OpenAI, Sam Altman, potrebbe detenere una quota nella nuova struttura aziendale."Se il consiglio di amministrazione no-profit non è più responsabile di queste decisioni e Sam Altman detiene una quota azionaria significativa, questo crea maggiori incentivi a correre e tagliare gli angoli", ha dichiarato Saunders.
La missione originale di OpenAI
OpenAI è stata fondata originariamente come entità no-profit, con l'obiettivo di sviluppare un'intelligenza artificiale generale (AGI) a beneficio dell'intera umanità. La carta costitutiva dell'azienda la impegna a costruire "sistemi generalmente più intelligenti degli esseri umani" che possano portare vantaggi a tutti.Tuttavia, il potenziale impatto di un sistema AGI ha allarmato esperti e professionisti del settore, tra cui lo stesso Saunders. Il timore è che la corsa competitiva per costruire tale tecnologia possa portare a trascurare importanti considerazioni sulla sicurezza.
Implicazioni della ristrutturazione
Saunders ha sottolineato che il passaggio a un'entità a scopo di lucro potrebbe minare gli obiettivi dell'attuale struttura di OpenAI. Attualmente, l'azienda dispone di un'entità che genera profitti ma con un tetto massimo per gli investitori e i dipendenti. Tutti i profitti generati oltre tale limite vengono restituiti all'organizzazione no-profit "a beneficio dell'umanità".Un'entità puramente a scopo di lucro potrebbe non distribuire i propri proventi alla società se, ad esempio, sviluppasse una tecnologia che rendesse obsoleto un numero significativo di posti di lavoro. Saunders ha dichiarato: "Il passaggio a un modello for-profit suggerisce che questo non è più una priorità".
La risposta di OpenAI
OpenAI non ha commentato direttamente le specifiche della ristrutturazione, ma ha affermato che l'organizzazione no-profit continuerà ad esistere. In una dichiarazione rilasciata giovedì, il presidente di OpenAI, Bret Taylor, ha affermato che il consiglio di amministrazione ha discusso la possibilità di dare ad Altman una partecipazione nell'azienda, ma non sono state discusse cifre specifiche né sono state prese decisioni definitive.Secondo quanto riportato, OpenAI sta valutando la possibilità di ristrutturarsi come società di pubblica utilità, che non avrebbe limiti ai propri profitti ma sarebbe impegnata a generare un impatto positivo sulla società. Reuters ha anche riferito che l'entità no-profit deterrebbe una partecipazione nella nuova attività.
Impegno per la sicurezza
OpenAI ha ribadito il proprio impegno per la sicurezza dell'AGI, come stabilito nella sua carta costitutiva. L'azienda ha recentemente reso indipendente il proprio comitato per la sicurezza e la protezione, una mossa che ha comportato anche le dimissioni di Altman da membro del comitato stesso.Nonostante queste rassicurazioni, le preoccupazioni sollevate da Saunders e altri esperti del settore sottolineano l'importanza di mantenere un equilibrio tra progresso tecnologico e considerazioni etiche nello sviluppo dell'intelligenza artificiale. La ristrutturazione di OpenAI sarà probabilmente seguita con attenzione dalla comunità tecnologica e dai responsabili politici, dato il ruolo cruciale dell'azienda nel plasmare il futuro dell'IA.