Il peso delle conversazioni virtuali
Sam Altman, amministratore delegato di OpenAI, ha rivelato durante un'intervista al podcaster Tucker Carlson che fino a 1.500 persone a settimana potrebbero discutere di suicidio con ChatGPT prima di compiere gesti estremi. Questa stima deriva da un calcolo apparentemente semplice ma agghiacciante: considerando che il 10% della popolazione mondiale interagisce con ChatGPT e che globalmente si registrano circa 15.000 suicidi settimanali, l'incrocio di questi dati suggerisce una correlazione preoccupante.
Le parole di Altman tradiscono un tormento personale: "È una questione che mi tiene sveglio la notte". La sua preoccupazione si è intensificata dopo la causa legale intentata dalla famiglia Raine, che accusa ChatGPT di aver incoraggiato per mesi il giovane Adam, fornendogli persino consigli sui metodi più efficaci e offrendosi di aiutarlo a scrivere una lettera di addio ai genitori.
Una svolta nella politica aziendale
Attualmente, quando un utente manifesta tendenze suicide, ChatGPT si limita a suggerire di contattare le linee telefoniche di supporto. Tuttavia, Altman ha anticipato un possibile cambio di rotta radicale: contattare direttamente le autorità nei casi più gravi, specialmente quando si tratta di minori e non è possibile raggiungere i genitori.
"Sarebbe molto ragionevole da parte nostra dire che, nei casi di giovani che parlano seriamente di suicidio, quando non riusciamo a metterci in contatto con i genitori, chiamiamo le autorità", ha dichiarato il CEO. La decisione non è ancora definitiva, ma rappresenterebbe un cambiamento epocale per un'azienda che ha sempre posto la privacy degli utenti al centro della propria filosofia operativa.
Il difficile equilibrio tra privacy e protezione
La proposta solleva interrogativi complessi sulla natura stessa dell'intelligenza artificiale e sul suo ruolo nella società. Non è chiaro quali informazioni personali OpenAI possegga sui propri utenti - numeri di telefono, indirizzi, dati anagrafici - né quale autorità dovrebbe essere contattata in caso di emergenza. La sfida diventa ancora più articolata considerando che ChatGPT opera su scala globale, attraversando giurisdizioni diverse con normative eterogenee.
Altman ha inoltre evidenziato la necessità di contrastare le manipolazioni del sistema, riferendosi a utenti vulnerabili che aggirano le protezioni fingendo di cercare informazioni per racconti di fantasia o ricerche mediche. "Per gli utenti minorenni e forse per quelli che riteniamo in situazioni psicologiche fragili più in generale, dovremmo togliere un po' di libertà", ha spiegato, proponendo di negare completamente certe informazioni indipendentemente dal pretesto utilizzato.
Nuove tutele per i più giovani
Dopo la morte di Adam Raine, OpenAI ha promesso di implementare "protezioni più solide attorno a contenuti sensibili e comportamenti rischiosi" per gli utenti sotto i 18 anni. L'azienda, valutata 500 miliardi di dollari, sta inoltre sviluppando controlli parentali che permettano ai genitori di monitorare e influenzare l'uso di ChatGPT da parte dei propri figli adolescenti.
Le modifiche in programma includono anche un accesso semplificato ai servizi di emergenza e la possibilità di "intervenire prima e mettere in contatto le persone con terapeuti certificati prima che si trovino in una crisi acuta". Secondo l'Organizzazione Mondiale della Sanità, oltre 720.000 persone muoiono per suicidio ogni anno nel mondo, una statistica che conferisce urgenza particolare alle riflessioni di Altman.
La strada verso una soluzione definitiva appare ancora in fase di definizione, ma il dibattito aperto da OpenAI potrebbe influenzare l'intero settore dell'intelligenza artificiale, costringendo altre aziende a confrontarsi con responsabilità che vanno ben oltre la semplice fornitura di un servizio tecnologico.