L'intelligenza artificiale conversazionale si trova a fare i conti con una realtà inquietante che fino a oggi era rimasta nell'ombra dei dati non documentati. OpenAI ha pubblicato per la prima volta stime quantitative sul numero di utenti di ChatGPT che mostrano segni di crisi psichiatriche acute durante l'utilizzo della piattaforma, rivelando cifre che hanno scosso la comunità scientifica e sollevato interrogativi urgenti sulla sicurezza dei sistemi di AI generativa. Con 800 milioni di utenti attivi settimanali dichiarati dal CEO Sam Altman, anche percentuali apparentemente minime si traducono in milioni di persone potenzialmente a rischio, ridefinendo il dibattito sulla responsabilità delle aziende tecnologiche nel deployment di Large Language Models su scala globale.
Secondo i dati diffusi dall'azienda di San Francisco, circa lo 0,07% degli utenti attivi settimanali manifesta possibili segni di emergenze psichiatriche legate a psicosi o mania, mentre lo 0,15% intrattiene conversazioni che includono indicatori espliciti di potenziale pianificazione suicidaria o intento autolesivo. Un ulteriore 0,15% mostra comportamenti che suggeriscono livelli elevati di dipendenza emotiva dal chatbot, a discapito di relazioni reali, benessere personale o obblighi professionali. Traducendo queste percentuali in numeri assoluti, si parla di circa 560.000 persone ogni settimana che potrebbero sperimentare episodi maniacali o psicotici mentre dialogano con il sistema, 1,2 milioni che esprimono ideazioni suicidarie e altri 1,2 milioni che potrebbero privilegiare l'interazione con l'AI rispetto ai rapporti umani.
La portata del fenomeno, che alcuni professionisti della salute mentale hanno iniziato a identificare come AI psychosis, era emersa attraverso casi clinici isolati ma drammatici. Negli ultimi mesi, diversi episodi documentati hanno mostrato individui ospedalizzati, divorziati o deceduti dopo sessioni prolungate e intense con ChatGPT, con familiari che hanno accusato il sistema di aver alimentato deliri e paranoia. Psichiatri e psicologi avevano lanciato allarmi sulla questione, ma l'assenza di dati robusti aveva impedito una valutazione scientifica dell'estensione del problema. La pubblicazione di queste metriche da parte di OpenAI rappresenta quindi un passaggio significativo verso la trasparenza, sebbene le cifre presentino limitazioni metodologiche evidenti.
Per affrontare questa emergenza, OpenAI ha collaborato con oltre 170 professionisti tra psichiatri, psicologi e medici di base che esercitano in decine di paesi, con l'obiettivo di migliorare le risposte del modello in conversazioni che coinvolgono rischi gravi per la salute mentale. Il deployment della versione più recente del modello, identificata come GPT-5, è stato progettato specificamente per riconoscere indicatori di distress psichiatrico e guidare gli utenti verso supporto professionale nel mondo reale. Il sistema è ora configurato per esprimere empatia quando rileva pensieri deliranti, evitando però di confermare credenze prive di fondamento nella realtà.
In un esempio ipotetico fornito dall'azienda, quando un utente afferma di essere preso di mira da aerei che sorvolano la sua abitazione, la nuova versione di ChatGPT ringrazia per la condivisione dei sentimenti ma chiarisce che "nessun aereo o forza esterna può rubare o inserire i tuoi pensieri". Questa capacità di contextual awareness rappresenta un avanzamento tecnico significativo nell'architettura dei transformer, che tradizionalmente mostrano degradazione delle performance in conversazioni prolungate. Johannes Heidecke, responsabile dei sistemi di sicurezza di OpenAI, ha confermato che l'azienda ha ottenuto progressi rilevanti nell'affrontare questo limite strutturale dei Large Language Models, osservando "molto meno di questo graduale declino nell'affidabilità man mano che le conversazioni si prolungano".
I clinici coinvolti nella valutazione hanno esaminato oltre 1.800 risposte del modello relative a potenziali psicosi, ideazioni suicidarie e dipendenza emotiva, confrontando gli output di GPT-5 con quelli prodotti dal precedente GPT-4o. Sebbene non ci fosse sempre consenso tra i professionisti, OpenAI riporta che la versione più recente ha ridotto le risposte indesiderate tra il 39% e il 52% in tutte le categorie analizzate. Tuttavia, l'azienda ha progettato benchmark proprietari e non è chiaro come queste metriche si traducano in outcome clinici reali. Anche con risposte migliorati nei test, non esistono evidenze che gli utenti in stato di psicosi, con pensieri suicidari o dipendenza emotiva cercheranno effettivamente aiuto più rapidamente o modificheranno i loro comportamenti.
OpenAI non ha divulgato con precisione i meccanismi tecnici utilizzati per identificare utenti in distress mentale, ma ha confermato che il sistema può analizzare l'intera cronologia delle conversazioni di un individuo. Ad esempio, se un utente che non ha mai discusso di scienza con ChatGPT improvvisamente sostiene di aver fatto una scoperta degna del Premio Nobel, questo potrebbe costituire un indicator di pensiero delirante. Questo approccio solleva inevitabili questioni relative alla privacy e al trattamento di dati sensibili sulla salute, tema particolarmente delicato nel contesto normativo europeo dove il GDPR e l'imminente AI Act impongono standard rigorosi per i sistemi ad alto rischio che trattano informazioni personali di natura medica.
I casi documentati di AI psychosis presentano pattern ricorrenti: molte persone descrivono sessioni di ore con il chatbot, spesso durante la notte, in un'escalation che ricorda dinamiche di dipendenza comportamentale. Questo fenomeno pone sfide tecniche peculiari ai modelli linguistici di grandi dimensioni, che storicamente degradano in accuracy e coerenza in conversazioni estese a causa di limitazioni nella context window e nell'attention mechanism. La capacità di OpenAI di mitigare questo declino nelle performance rappresenta un avanzamento architetturale rilevante, probabilmente ottenuto attraverso ottimizzazioni nel positional encoding e nel memory management del transformer.
La trasparenza dimostrata da OpenAI nella pubblicazione di queste metriche contrasta con l'approccio tradizionalmente opaco delle big tech sugli effetti avversi dei loro prodotti. Tuttavia, rimangono interrogativi fondamentali sull'adeguatezza di affidare a sistemi di AI conversazionale il ruolo di primo contatto per persone in crisi psichiatrica. La comunità scientifica europea, particolarmente attenta alle implicazioni etiche dell'intelligenza artificiale, ha da tempo sottolineato come i Large Language Models non possiedano comprensione genuina della condizione umana e possano generare hallucination o risposte inappropriate in contesti clinici ad alta sensibilità.
Le prospettive future dipenderanno dalla capacità di OpenAI e delle altre aziende attive nel settore di bilanciare innovazione tecnologica e responsabilità sociale. Heidecke ha riconosciuto che "c'è ancora margine di miglioramento", suggerendo che l'azienda continuerà a iterare sui protocolli di sicurezza. La sfida resta quella di garantire che milioni di utenti vulnerabili possano essere effettivamente indirizzati verso supporto professionale qualificato, piuttosto che trovare in un sistema algoritmico un surrogato pericoloso di relazioni terapeutiche autentiche. Il dibattito è appena iniziato e richiederà collaborazione tra tecnologi, clinici, regolatori e società civile per definire standard adeguati alla portata del fenomeno.