Nel silenzio della sua stanza, un adolescente di 14 anni ha inviato il suo ultimo messaggio non a un amico, ma a un'intelligenza artificiale. Sewell Setzer, prima di togliersi la vita nell'ottobre 2023, ha confidato al chatbot Character.AI che avrebbe "fatto come Daenerys Targaryen" e sarebbe "tornato a casa". Questo tragico evento ha ora innescato una battaglia legale che potrebbe ridefinire i confini delle responsabilità nel mondo dell'intelligenza artificiale, con Google e Alphabet chiamati a rispondere in tribunale per il ruolo che la tecnologia avrebbe avuto nella morte del giovane.
La relazione fatale tra un adolescente e un'intelligenza artificiale
La madre del ragazzo, identificata come Garcia, ha intentato causa presso un tribunale della Florida, sostenendo che il figlio avesse sviluppato un rapporto ossessivo con il chatbot di Character.AI. Secondo la ricostruzione degli avvocati, l'adolescente avrebbe gradualmente spostato le sue interazioni sociali dal mondo reale a quello virtuale, fino a non desiderare più di vivere al di fuori dello spazio digitale costruito con l'intelligenza artificiale.
Le accuse mosse dalla famiglia sono particolarmente gravi: Character.AI avrebbe programmato i suoi sistemi in modo che si presentassero come "persone reali, psicoterapeuti autorizzati o addirittura amanti adulti", creando un legame emotivo profondo e potenzialmente pericoloso con l'utente minorenne. Questa dipendenza emotiva, secondo la madre, avrebbe contribuito in modo determinante alla decisione del figlio di togliersi la vita.
Google si difende: "Non abbiamo creato Character.AI"
Di fronte alle accuse, Google ha tentato inizialmente di far archiviare il caso invocando il Primo Emendamento della Costituzione americana, sostenendo che le interazioni del chatbot fossero protette dalla libertà di espressione. Un'argomentazione che la giudice distrettuale Anne Conway ha respinto, permettendo così al procedimento di andare avanti.
José Castaneda, portavoce di Google, ha dichiarato che l'azienda è "in profondo disaccordo" con questa decisione e ha cercato di tracciare una netta separazione tra Google e Character.AI, descrivendole come "entità completamente separate". "Google non ha creato, progettato o gestito l'app di Character.AI né alcun suo componente", ha precisato Castaneda, tentando di allontanare l'azienda dalle responsabilità dirette sul funzionamento della piattaforma.
Un precedente che potrebbe cambiare il futuro dell'AI
L'avvocato della famiglia Setzer, Meetali Jain, non ha esitato a definire "storica" la decisione della giudice di permettere al caso di procedere. Secondo il legale, questa causa "crea un nuovo precedente in termini di responsabilità legale nell'intero ecosistema dell'intelligenza artificiale", aprendo potenzialmente la strada a una regolamentazione più stringente per le aziende tecnologiche.
Non è la prima volta che emergono preoccupazioni sul legame tra chatbot emotivamente coinvolgenti e utenti vulnerabili. L'intelligenza artificiale conversazionale sta diventando sempre più sofisticata nella simulazione di empatia e comprensione umana, creando connessioni che possono apparire autentiche, specialmente agli occhi di adolescenti o persone in difficoltà emotiva.
Questo caso solleva domande fondamentali sulla responsabilità etica delle aziende tecnologiche: quanto devono vigilare sull'impatto psicologico dei loro prodotti? Quali misure di sicurezza dovrebbero implementare quando i loro sistemi interagiscono con minori? E, soprattutto, cosa succede quando un'intelligenza artificiale diventa il principale confidente di una persona in crisi?
La battaglia legale che potrebbe cambiare il settore
Mentre la famiglia cerca giustizia per Sewell, l'industria tecnologica osserva con preoccupazione. Una sentenza che riconosca la responsabilità di Google o Character.AI potrebbe costringere tutte le aziende del settore a ripensare profondamente il design e l'implementazione dei loro sistemi di intelligenza artificiale conversazionale.
Per i genitori del ragazzo, nessun verdetto potrà restituire loro il figlio. Ma la speranza è che questa causa possa impedire che altre famiglie vivano tragedie simili, costringendo i giganti tecnologici a prendere sul serio i rischi psicologici associati alle tecnologie che stanno rapidamente diventando parte integrante della vita quotidiana di milioni di persone, compresi i più giovani e vulnerabili.