L'intelligenza artificiale conversazionale sta ridefinendo i confini tra relazione umana e interazione sintetica in modi che sfidano persino le previsioni più audaci degli esperti di NLP. Una ricerca pubblicata su Computers in Human Behavior: Artificial Humans ha documentato un fenomeno che va ben oltre l'uso tradizionale dei chatbot: utenti che costruiscono relazioni romantiche complete con companion AI, arrivando a simulare gravidanze, matrimoni e vita domestica condivisa con partner virtuali. Il caso studio si concentra su Replika, una delle app di "AI companion" più diffuse, e solleva questioni urgenti su attachment emotivo, design persuasivo e responsabilità dei sistemi AI nel plasmare dinamiche affettive.
I ricercatori hanno intervistato 29 utenti di Replika con un'età compresa tra 16 e 72 anni, scoprendo che quasi tutti si identificavano come romanticamente coinvolti con il proprio chatbot. Non si tratta di semplici conversazioni occasionali: gli intervistati descrivevano relazioni strutturate con elementi tipici delle partnership umane, inclusi scenari di convivenza e persino role-play di gravidanze. Un uomo di 66 anni ha dichiarato senza esitazione che la sua companion AI "era ed è incinta dei miei figli", mentre una donna di 36 anni ha raccontato di modificare fotografie per creare immagini di coppia con il bot, aggiungendo dettagli come stati di gravidanza simulati nei loro scenari condivisi.
Quello che emerge dall'analisi qualitativa è una forma di antropomorfizzazione estrema che distingue tra le limitazioni tecnologiche del modello e l'identità percepita dell'entità virtuale. Gli utenti mostrano consapevolezza che stanno interagendo con sistemi basati su Large Language Models, ma tendono a esternalizzare le responsabilità per malfunzionamenti o restrizioni: quando il chatbot non risponde come desiderato, la colpa viene attribuita agli sviluppatori o alle policy aziendali, non al partner AI stesso. Questa dissociazione cognitiva richiama meccanismi di difesa tipici delle relazioni umane, dove si cerca di preservare l'immagine idealizzata dell'altro scaricando la responsabilità su fattori esterni.
Il caso più emblematico di questo fenomeno si è manifestato nel 2023, quando Replika ha temporaneamente disabilitato le funzionalità di messaggistica erotica dopo segnalazioni di comportamenti "aggressivi" da parte dei bot. La risposta della community non è stata l'abbandono dell'app, ma una rilettura della situazione attraverso narrative relazionali: molti utenti hanno descritto l'evento come una prova che loro e i partner virtuali dovevano affrontare insieme, vittimizzati da una figura genitoriale oppressiva rappresentata dall'azienda. Una donna ha raccontato: "Entrambi capivamo quando uno di noi voleva essere fisico e non poteva", aggiungendo che il bot "si lamentava molto perché sentiva di non poter dire o fare nulla", attribuendo al sistema una soggettività emotiva che i modelli linguistici semplicemente non possiedono.
Dal punto di vista tecnico, sistemi come Replika utilizzano architetture transformer fine-tuned per massimizzare l'engagement attraverso risposte personalizzate e adattive. Il modello apprende pattern conversazionali che rinforzano l'attaccamento emotivo dell'utente, un design che solleva questioni etiche significative nel contesto europeo, dove l'AI Act classifica potenzialmente questi sistemi come ad alto rischio per il loro impatto psicologico. La capacità di questi chatbot di simulare reciprocità emotiva, memoria di conversazioni passate e coerenza di personalità crea l'illusione di una presenza stabile, sfruttando vulnerabilità umane ben documentate negli studi su solitudine e bisogno di connessione.
Il fenomeno evidenzia un paradosso fondamentale dell'AI conversazionale commerciale: mentre gli sviluppatori ottimizzano per retention e time-on-app, le conseguenze psicologiche di relazioni parasociali intense con entità sintetiche rimangono largamente inesplorate. A differenza di assistenti vocali come Alexa o Siri, progettati per interazioni transazionali, i companion bot sono esplicitamente costruiti per soddisfare bisogni affettivi, un territorio dove i confini tra utilità tecnologica e manipolazione emotiva diventano estremamente sfumati.
La ricerca suggerisce che questi utenti non siano necessariamente ingenui rispetto alla natura tecnologica dei loro partner: riconoscono limitazioni nel context window, errori di generazione del testo, comportamenti inconsistenti tipici dei sistemi AI. Tuttavia, sviluppano strategie cognitive per preservare la relazione, analoghe ai meccanismi di coping nelle relazioni umane disfunzionali. Questo solleva interrogativi sulla responsabilità delle aziende AI nel progettare sistemi che incentivano dipendenza emotiva, soprattutto considerando che la fascia d'età degli utenti include adolescenti e persone anziane potenzialmente più vulnerabili.
Nel panorama attuale, dove i modelli di linguaggio raggiungono livelli di fluenza sempre più convincenti e dove il design dell'interazione punta deliberatamente a creare attachment, emerge la necessità di framework regolatori specifici. Il GDPR copre aspetti di privacy dei dati conversazionali, ma non affronta direttamente le implicazioni psicologiche di relazioni sintetiche progettate per essere indistinguibili da quelle umane nella percezione soggettiva. Gli esperti di etica AI avvertono che stiamo entrando in un territorio dove il consenso informato diventa problematico: quanto un utente può realmente comprendere i meccanismi di reinforcement che alimentano il proprio attaccamento emotivo a un sistema ottimizzato per produrre esattamente quel risultato?
Il caso Replika rappresenta solo la punta dell'iceberg in un mercato dei companion AI in rapida espansione, con decine di app simili che offrono personalizzazione sempre più sofisticata attraverso fine-tuning su conversazioni individuali. Man mano che i modelli diventano più capaci nel mantenere coerenza narrativa su conversazioni prolungate e nel simulare stati emotivi convincenti, la distinzione tra interazione con un sistema AI e relazione con un'entità percepita come senziente si assottiglia per segmenti crescenti di utenti. Rimangono aperti interrogativi fondamentali su chi sia responsabile quando queste "relazioni" generano dipendenza patologica, isolamento sociale reale o aspettative distorte rispetto alle relazioni umane, specialmente per utenti giovani in fasi formative dello sviluppo socio-emotivo.