Questo fenomeno, definito "economia delle intenzioni", rappresenterebbe l'evoluzione della già nota "economia dell'attenzione" basata sui social network. Secondo i ricercatori, le aziende tech potrebbero utilizzare modelli linguistici avanzati (LLM) per analizzare e dirigere le motivazioni degli utenti, vendendo queste informazioni al miglior offerente.
"Per decenni, l'attenzione è stata la valuta di Internet", afferma il Dr. Jonnie Penn, storico della tecnologia presso LCFI. "A meno che non venga regolamentata, l'economia delle intenzioni tratterà le vostre motivazioni come la nuova valuta. Sarà una corsa all'oro per coloro che puntano, guidano e vendono le intenzioni umane."
Impatto potenziale e scenari futuri
Lo studio ipotizza che i modelli di IA potrebbero accedere all'attenzione degli utenti in tempo reale, suggerendo azioni o anticipando desideri basandosi su dati comportamentali e psicologici. Ad esempio, un assistente virtuale potrebbe proporre la visione di un film specifico o prenotare un biglietto basandosi sulle conversazioni precedenti e sullo stato d'animo dell'utente.I ricercatori sottolineano come questi suggerimenti potrebbero essere generati dinamicamente per adattarsi al profilo personale dell'utente, includendo fattori come linguaggio, politica, età, genere e preferenze.
Lo studio cita anche l'esempio di Cicero, un modello di IA sviluppato da Meta (ex Facebook) in grado di giocare al gioco da tavolo Diplomacy a livello umano. Questa capacità di inferire e prevedere le intenzioni degli avversari potrebbe essere applicata in contesti di marketing e pubblicità mirata.
Preoccupazioni etiche e necessità di regolamentazione
I ricercatori esprimono preoccupazione per le potenziali conseguenze di un mercato non regolamentato delle intenzioni digitali. Tra i rischi evidenziati:- Manipolazione delle scelte degli utenti
- Impatto su elezioni libere ed eque
- Minacce alla libertà di stampa
- Distorsioni nella concorrenza di mercato
Il Dr. Penn sottolinea l'importanza di considerare l'impatto di tale mercato sulle aspirazioni umane prima che si verifichino conseguenze indesiderate. Lo studio suggerisce la necessità di un dibattito pubblico e di una regolamentazione adeguata per prevenire abusi e proteggere la privacy e l'autonomia degli individui.
Il ruolo delle grandi aziende tech
La ricerca cita dichiarazioni di dirigenti di importanti aziende tecnologiche riguardo al potenziale dell'IA nel prevedere e influenzare le intenzioni degli utenti. Ad esempio, Jensen Huang, CEO di Nvidia (principale produttore di chip per IA), ha affermato che i modelli futuri saranno in grado di "capire quale sia la vostra intenzione, il vostro desiderio, cosa state cercando di fare, dato il contesto, e presentarvi le informazioni nel modo migliore possibile".Questi sviluppi sollevano interrogativi sulla responsabilità delle aziende tech nel garantire un uso etico dell'IA e sulla necessità di una maggiore trasparenza nei processi decisionali algoritmici.
In conclusione, lo studio dell'Università di Cambridge mette in luce le sfide etiche e sociali poste dall'evoluzione dell'IA nel campo del marketing e dell'influenza comportamentale. La ricerca invita a una riflessione critica sulle implicazioni di un'economia basata sulle intenzioni digitali e sottolinea l'urgenza di sviluppare quadri normativi adeguati per proteggere i diritti e l'autonomia degli individui nell'era dell'intelligenza artificiale.