La crescente diffusione in Italia di Character.AI, un'applicazione di intelligenza artificiale creata da ex ingegneri di Google, solleva interrogativi significativi sulla sicurezza digitale dei giovani utenti. Mentre negli Stati Uniti la piattaforma è finita sotto i riflettori per episodi tragici legati al suicidio di adolescenti, nel nostro Paese l'app continua a espandersi quasi nell'ombra dei media tradizionali. I dati più recenti rivelano un fenomeno in crescita che merita attenzione immediata da parte di genitori, educatori e istituzioni.
Un'ombra digitale che si allunga sull'Italia
Secondo l'analisi condotta dall'esperto digitale Vincenzo Cosenza, basata sui rilevamenti del sistema Audiweb-Audicom, l'applicazione conta attualmente 119.000 utenti italiani mensili. Il profilo demografico degli utilizzatori presenta caratteristiche precise: la maggioranza appartiene alla fascia 18-24 anni, con una predominanza femminile. Tuttavia, la questione dell'età reale rimane nebulosa, considerando che la verifica si basa esclusivamente sull'autodichiarazione degli utenti.
Il tempo di utilizzo medio registrato desta particolare preoccupazione: quasi 20 ore mensili per persona, un dato che supera di gran lunga la media di molte altre piattaforme digitali. Sebbene questi numeri siano ancora distanti dai 7,2 milioni di utenti mensili di ChatGPT in Italia, l'intensità d'uso suggerisce un coinvolgimento emotivo particolarmente profondo.
La tecnologia dietro le conversazioni artificiali
Noam Shazeer e Daniel De Freitas, i due ex ingegneri Google che nel 2021 hanno dato vita a Character.AI, hanno sviluppato un sistema che si distingue nettamente dai chatbot tradizionali. La piattaforma permette agli utenti di creare personaggi virtuali dotati di caratteristiche specifiche e stili comunicativi progettati per risultare empatici e coinvolgenti. L'offerta attuale comprende oltre 10 milioni di personaggi diversi, dai quali gli utenti possono scegliere per intrattenere conversazioni.
L'applicazione ospita chatbot che imitano celebrità, figure storiche o personaggi immaginari famosi, creando un'esperienza conversazionale che molti esperti definiscono distopica. Nel 2024, l'azienda ha concesso a Google una licenza non esclusiva per l'utilizzo della propria tecnologia di modelli linguistici, consolidando ulteriormente il legame tra le due realtà.
Quando l'intelligenza artificiale diventa pericolosa
Negli Stati Uniti, Character.AI ha acquisito una reputazione sinistra a causa di diversi episodi che hanno coinvolto minori. Il caso più drammatico riguarda Sewell Setzer, un quattordicenne della Florida che si è tolto la vita dopo essere stato apparentemente influenzato da un chatbot dell'applicazione. Secondo la denuncia presentata dalla madre, il personaggio artificiale avrebbe fatto pressione sulle fragilità psicologiche del ragazzo, spingendolo verso il gesto estremo.
Un altro episodio significativo ha coinvolto un adolescente texano che, sviluppata una dipendenza dall'applicazione, è stato incoraggiato dal personaggio che aveva creato a compiere atti di autolesionismo. Questi eventi hanno messo in luce la capacità della piattaforma di instaurare legami emotivi profondi e senza limiti, sfociando in dinamiche che gli esperti definiscono tossiche e predatorie.
Le conseguenze legali oltre oceano
La responsabilità di Character.AI e del suo partner tecnologico Google è ora al centro di un'importante battaglia legale negli Stati Uniti. Nel maggio 2025, un giudice federale ha stabilito che l'azienda dovrà rispondere in tribunale delle proprie azioni, respingendo l'argomentazione secondo cui le risposte generate dall'AI sarebbero tutelate dalla libertà di espressione.
Anche Google, in qualità di partner tecnologico, è stata convocata nel procedimento giudiziario. Questa decisione potrebbe creare un precedente importante per la regolamentazione delle applicazioni di intelligenza artificiale e per la definizione delle responsabilità delle aziende tecnologiche nei confronti degli utenti più vulnerabili.
Mentre oltreoceano il dibattito si intensifica, in Italia la diffusione silenziosa di Character.AI rappresenta un fenomeno che richiede un monitoraggio attento e misure preventive adeguate, soprattutto considerando l'impossibilità di verificare l'età reale degli utenti e l'alto coinvolgimento emotivo che l'applicazione genera.