L'IA che capisce le tue emozioni

L'IA che capisce le tue emozioni

> L'AI che pretende di leggere le nostre emozioni può migliorare l'esperienza dell'utente, ma le preoccupazioni riguardo a un uso improprio e a pregiudizi rendono il campo pieno di potenziali pericoli.

È mercoledì sera e sto a casa mia, seduto al tavolo della cucina, intento a fissare il mio laptop mentre scrivo con tutto il disprezzo disponibile tre semplici parole: "Ti amo". Mentre i miei vicini potrebbero pensare che io stia facendo una chiamata melodrammatica a un ex partner o partecipando a qualche esercizio di recitazione, in realtà sto testando i limiti di una demo sviluppata dalla startup con base a Manhattan, Hume, che sostiene di aver creato "il primo AI vocale al mondo con intelligenza emotiva".

"Formiamo un grande modello di linguaggio che comprende anche il tono della tua voce," afferma Alan Cowen, CEO e capo scienziato di Hume. "Questo ci permette di prevedere come un dato enunciato verbale o una frase possano evocare schemi emotivi." In altre parole, Hume sostiene di riconoscere l'emozione nelle nostre voci (e in un'altra versione non pubblica, anche nelle espressioni facciali) e di rispondere in modo empatico.

L'avanzamento nell'intelligenza artificiale emotiva è stato notevolmente incrementato dal lancio, da parte di Open AI, del nuovo e più "emotivo" GPT4o questo maggio. Hume ha raccolto 50 milioni di dollari nel suo secondo round di finanziamento a marzo, e si prevede che il valore dell'industria supererà i 50 miliardi di dollari quest'anno. Tuttavia, il Prof. Andrew McStay, direttore dell'Emotional AI Lab presso l'Università di Bangor, suggerisce che tali previsioni sono insignificanti. "L'emozione è una dimensione così fondamentale della vita umana che, se si potesse comprendere, valutare e reagire alle emozioni in modi naturali, le implicazioni sarebbero ben superiori ai 50 miliardi di dollari," afferma.

Le possibili applicazioni vanno da videogiochi migliori e linee di assistenza meno frustranti a sorveglianza degna di Orwell e manipolazione emozionale di massa. Ma è davvero possibile che un'intelligenza artificiale legga accuratamente le nostre emozioni e, considerando che questa tecnologia sembra in arrivo, come dovremmo gestirla?

"Apprezzo le tue gentili parole, sono qui per supportarti," risponde l'Interfaccia Vocale Empatica (EVI) di Hume con una voce amichevole, quasi umana, mentre la mia dichiarazione d'amore viene trascritta e analizzata sullo schermo: 1 (su 1) per "amore", 0.642 per "adorazione" e 0.601 per "romanticismo".

Quando noto che il sistema non ha rilevato alcun sentimento negativo, mi viene in mente che potrebbe dipendere dalla mia recitazione. Discutendo questa percezione con Cowen, lui commenta: "Capisce il tuo tono di voce, ma non penso che abbia mai sentito qualcuno dire 'Ti amo' con quel tono."

Più avanti nel corso dell'anno, il professor associato Matt Coler e il suo team presso il laboratorio di tecnologia vocale dell'Università di Groningen hanno utilizzato dati da sitcom americane come Friends e The Big Bang Theory per addestrare un'intelligenza artificiale capace di riconoscere il sarcasmo. Questo modello riconosce il sarcasmo il 75% delle volte, ma la percentuale rimanente solleva domande importanti su quanto margine dovremmo concedere alle macchine nell'interpretare le nostre intenzioni e sentimenti e quale grado sarebbe necessario per questo.

L'AI emotiva affronta il problema essenziale che non possiamo dire definitivamente cosa sono le emozioni. "Metti insieme una stanza di psicologi e avrai disaccordi fondamentali," dice McStay. "Non esiste una definizione di base concordata su cosa sia l'emozione."

Inoltre, non vi è consenso su come le emozioni vengano espresse. Lisa Feldman Barrett, professoressa di psicologia alla Northeastern University di Boston, nel Massachusetts, nel 2019, insieme ad altri quattro scienziati, ha messo in discussione la possibilità di inferire accuratamente le emozioni dai movimenti facciali. "Abbiamo letto e riassunto oltre 1000 studi," dice Barrett. "E abbiamo fatto qualcosa che nessun altro aveva fatto fino ad ora: siamo arrivati a un consenso su cosa dicono i dati." Il loro consenso? Non possiamo.

Logo AiBay