Nel mezzo di una corsa frenetica all'ottimizzazione dei propri Large Language Models, OpenAI si trova a dover fare scelte difficili su cosa mettere al centro della propria roadmap di prodotto. La società fondata da Sam Altman, che conta oggi oltre 900 milioni di utenti attivi su ChatGPT, ha annunciato il rinvio a tempo indeterminato del cosiddetto "adult mode" — una modalità che avrebbe consentito la generazione di contenuti espliciti per adulti — per concentrare le risorse su priorità ritenute più urgenti e strutturali per la base utenti globale. La decisione arriva in un momento di pressione competitiva crescente da parte di rivali come Google e Anthropic, e si intreccia con una ben più delicata controversia interna legata a un contratto militare con il Pentagono.
L'annuncio del rinvio è stato comunicato direttamente dall'azienda con una nota che chiarisce le priorità tecnologiche in campo: miglioramenti alle capacità cognitive del modello, interventi sulla personalità del sistema conversazionale, avanzamenti nella personalizzazione dell'esperienza utente e sviluppo di interazioni più proattive. In termini tecnici, si tratta di interventi che toccano tanto l'architettura di inferenza quanto le pipeline di fine-tuning e reinforcement learning from human feedback (RLHF), con l'obiettivo dichiarato di rendere ChatGPT più competitivo rispetto ai benchmark di intelligenza raggiunti dai modelli concorrenti.
Sam Altman aveva annunciato lo scorso ottobre l'intenzione di rilassare le restrizioni sui contenuti, subordinando l'abilitazione di materiale per adulti all'introduzione di sistemi di verifica dell'età. Quella promessa era stata letta da molti osservatori come un segnale di apertura verso una piattaforma più permissiva, ma anche come un banco di prova per i meccanismi di controllo dell'identità digitale richiesti da normative sempre più stringenti, incluso il regime regolatorio imposto dall'Online Safety Act nel Regno Unito. Nel frattempo, OpenAI sta comunque implementando strumenti di age prediction basati su machine learning capaci di stimare se un utente è minorenne, attivando in tal caso filtri rafforzati su violenza grafica e contenuti sessuali nei roleplay.
Nel contesto europeo, la questione si inserisce nel quadro normativo dell'AI Act e delle direttive sulla protezione dei minori online, che impongono requisiti tecnici precisi per qualsiasi sistema che generi o distribuisca contenuti potenzialmente dannosi. La decisione di posticipare il lancio, pur motivata con argomenti di priorità di prodotto, riduce quindi temporaneamente anche l'esposizione regolatoria dell'azienda su un terreno particolarmente scivoloso.
Ben più complessa e divisiva è invece la vicenda del contratto con il Dipartimento della Difesa degli Stati Uniti, che ha provocato le dimissioni di una delle figure più senior dell'azienda. Caitlin Kalinowski, responsabile dell'hardware nella divisione robotica di OpenAI, ha lasciato il proprio incarico citando preoccupazioni etiche fondamentali legate all'accordo: in particolare, il rischio di sorveglianza di massa dei cittadini americani senza supervisione giudiziaria e lo sviluppo di macchine a guida autonoma capaci di eseguire operazioni letali senza autorizzazione umana esplicita.
Kalinowski ha chiarito pubblicamente su X che la sua obiezione non riguardava il principio dell'applicazione dell'AI alla sicurezza nazionale, bensì la velocità con cui il contratto è stato siglato e annunciato, senza che fossero preventivamente definiti i guardrail etici e le linee di governance necessarie. "Queste questioni sono troppo importanti per accordi o annunci affrettati", ha scritto, sottolineando che si trattava anzitutto di una preoccupazione di governance. L'accordo con il Pentagono era stato concluso in modo quasi immediato dopo che il contratto precedente con Anthropic, il principale competitor di OpenAI nel segmento enterprise e sicurezza, era stato rescisso.
Lo stesso Altman aveva ammesso che la gestione dell'accordo era apparsa "opportunistica e sciatta", e OpenAI ha successivamente annunciato l'intenzione di emendare il contratto per escludere esplicitamente l'utilizzo della propria tecnologia per la sorveglianza domestica di massa. Un portavoce della società ha ribadito che l'accordo è pensato per "usi responsabili dell'AI nella sicurezza nazionale", definendo due red line inviolabili: nessuna sorveglianza interna e nessuna arma autonoma. La tensione, tuttavia, rimane alta, sia internamente sia nell'ecosistema più ampio della ricerca AI.
Le dimissioni di Kalinowski si inseriscono in un dibattito più ampio sull'uso dei sistemi di deep learning in contesti militari e di intelligence, un tema che attraversa trasversalmente tutta la comunità di ricerca AI, dal dibattito sui sistemi ad alto rischio nell'AI Act europeo fino alle linee guida dell'IEEE e alle posizioni di organizzazioni come il Future of Life Institute. La rapidità con cui i modelli fondazionali vengono integrati in catene decisionali ad alto impatto solleva interrogativi seri sulla maturità dei framework di accountability e sulla capacità delle aziende di autogovernarsi in assenza di supervisione esterna.
Guardando avanti, OpenAI si trova a dover bilanciare spinte contrastanti: la pressione competitiva che impone aggiornamenti continui ai propri modelli, le aspettative di una base utenti enorme e diversificata, le richieste di clienti istituzionali come la Difesa americana, e una comunità interna sempre più attenta ai rischi etici delle applicazioni dell'AI. La questione di come costruire meccanismi di governance robusti prima di firmare contratti ad alto impatto — e non dopo — si pone ormai come una delle sfide strutturali più urgenti per i grandi laboratori di AI nel prossimo ciclo di sviluppo.