L'esplosione dell'intelligenza artificiale generativa e la nostra crescente familiarità con i chatbot stanno aprendo nuove frontiere per le "tecnologie persuasive". Gli assistenti AI antropomorfi, dai chatbot ai tutor digitali, avranno accesso a enormi quantità di dati psicologici e comportamentali intimi, spesso raccolti attraverso conversazioni informali.
Combinando la conoscenza delle nostre abitudini online con un'inquietante capacità di sintonizzarsi con noi in modi che troviamo rassicuranti, queste AI potrebbero costruire livelli di fiducia e comprensione tali da consentire una manipolazione sociale su scala industriale.
Il rischio di manipolazione delle intenzioni
Il Dr. Yaqub Chaudhary, visiting scholar presso LCFI, afferma: "Enormi risorse vengono impiegate per posizionare assistenti AI in ogni area della vita, il che dovrebbe sollevare la questione di quali interessi e scopi questi cosiddetti assistenti siano progettati per servire".
"Ciò che le persone dicono quando conversano, come lo dicono e il tipo di inferenze che possono essere fatte in tempo reale di conseguenza, sono molto più intimi dei semplici registri delle interazioni online", aggiunge Chaudhary.
Il Dr. Jonnie Penn, storico della tecnologia presso LCFI, avverte: "Per decenni, l'attenzione è stata la valuta di Internet. Condividere la propria attenzione con piattaforme di social media come Facebook e Instagram ha guidato l'economia online. A meno che non venga regolamentata, l'economia delle intenzioni tratterà le tue motivazioni come la nuova valuta".
Impatto potenziale e primi segnali
I ricercatori sottolineano che l'economia delle intenzioni potrebbe avere un impatto significativo su aspetti cruciali della società, come elezioni libere ed eque, libertà di stampa e concorrenza leale sul mercato. Invitano quindi a considerare attentamente queste implicazioni prima di subire conseguenze indesiderate.
Sebbene l'economia delle intenzioni sia attualmente un'"aspirazione" per l'industria tecnologica, i ricercatori individuano già alcuni segnali precoci di questa tendenza, come:
- La richiesta di OpenAI di "dati che esprimono l'intenzione umana... in qualsiasi lingua, argomento e formato"
- Dichiarazioni di dirigenti di Shopify, Nvidia e Meta sull'uso di modelli linguistici per comprendere intenzioni e desideri
- Il nuovo framework "App Intents" di Apple per connettere le app a Siri, che include protocolli per prevedere le azioni future degli utenti
Chaudhary conclude: "Queste aziende vendono già la nostra attenzione. Il passo logico successivo è utilizzare la tecnologia che stanno chiaramente sviluppando per prevedere le nostre intenzioni e vendere i nostri desideri prima ancora che li abbiamo pienamente compresi".
Gli esperti sottolineano che questi sviluppi non sono necessariamente negativi, ma hanno il potenziale per essere distruttivi. La consapevolezza pubblica di ciò che sta arrivando è fondamentale per garantire che non si vada nella direzione sbagliata.