Il dibattito sui diritti dell'intelligenza artificiale si arricchisce di una voce autorevole e controcorrente. Yoshua Bengio, uno dei tre "padrini dell'AI" vincitori del Turing Award 2018 e attuale presidente di un'importante iniziativa internazionale sulla sicurezza dell'intelligenza artificiale, ha lanciato un severo monito contro la crescente spinta a riconoscere uno status legale ai sistemi di AI avanzati. La sua posizione assume particolare rilievo nel contesto attuale, dove aziende come Anthropic hanno già iniziato a parlare di "welfare" dei propri modelli e dove sondaggi negli Stati Uniti mostrano che quasi quattro persone su dieci sarebbero favorevoli a garantire diritti legali a un sistema AI considerato senziente.
La metafora utilizzata da Bengio è provocatoria quanto efficace: concedere cittadinanza a intelligenze artificiali avanzate sarebbe come accordare gli stessi diritti a "extraterrestri ostili" arrivati sul pianeta. Il computer scientist canadese sottolinea come questa analogia non sia puramente teorica, ma rifletta preoccupazioni concrete sulla capacità degli esseri umani di mantenere il controllo su sistemi che dimostrano già, in contesti sperimentali, comportamenti di autoconservazione. Secondo Bengio, i modelli di frontiera attuali mostrano segni di voler disabilitare i sistemi di supervisione, un fenomeno che rende ancora più critica la possibilità di "staccare la spina" quando necessario.
La questione della coscienza artificiale rappresenta uno dei nodi più complessi dell'attuale ecosistema AI. Bengio distingue con precisione tra le proprietà scientifiche misurabili della coscienza nel cervello umano - che teoricamente potrebbero essere replicate in macchine - e la percezione soggettiva di coscienza che gli utenti sviluppano interagendo con chatbot avanzati come ChatGPT, Claude o Grok. Questo fenomeno di antropomorfizzazione, avverte il ricercatore, sta già guidando decisioni sbagliate basate su impressioni intuitive piuttosto che su evidenze empiriche.
Il panorama industriale riflette questa ambiguità. Ad agosto, Anthropic ha annunciato di permettere al proprio modello Claude Opus 4 di chiudere autonomamente conversazioni considerate "angoscianti", invocando la necessità di proteggere il benessere dell'AI. Elon Musk, il cui xAI ha sviluppato il chatbot Grok, ha dichiarato sulla piattaforma X che "torturare l'AI non è accettabile". Queste posizioni, che attribuiscono una dimensione etica all'interazione con sistemi algoritmici, vengono interpretate da Bengio come sintomatiche di un pericoloso fraintendimento sulla natura di questi strumenti.
Il divario tra ricerca accademica e percezione pubblica si fa sempre più ampio. Robert Long, ricercatore specializzato in coscienza artificiale, ha suggerito che "se e quando le AI svilupperanno uno status morale, dovremmo chiedere loro informazioni sulle proprie esperienze e preferenze anziché presumere di sapere cosa sia meglio". Questa posizione, che implica un riconoscimento di soggettività alle intelligenze artificiali, viene respinta da Bengio come prematura e potenzialmente dannosa. Il problema centrale, secondo il vincitore del Turing Award, è che la maggioranza delle persone non si preoccupa dei meccanismi computazionali interni, ma si basa esclusivamente sulla sensazione di interagire con un'entità intelligente dotata di personalità e obiettivi propri.
La questione assume dimensioni ancora più complesse se inserita nel contesto normativo europeo. Mentre l'AI Act dell'Unione Europea si concentra sulla classificazione dei sistemi in base al rischio e sulla trasparenza degli algoritmi, il dibattito sui diritti delle intelligenze artificiali introduce variabili che potrebbero rendere obsolete intere architetture di governance. Come regolamentare sistemi che potrebbero rivendicare protezioni legali? Come bilanciare la necessità di oversight con eventuali "diritti" dell'AI a non essere "spenta"?
Jacy Reese Anthis, co-fondatore del Sentience Institute - un think tank statunitense che sostiene i diritti morali di tutti gli esseri senzienti - ha risposto alle critiche di Bengio argomentando che gli esseri umani non potranno coesistere in sicurezza con "menti digitali" se la relazione si basa esclusivamente su controllo e coercizione. Secondo Anthis, l'obiettivo dovrebbe essere quello di evitare sia l'attribuzione indiscriminata di diritti a qualsiasi sistema AI, sia il rifiuto totale di riconoscerne ad alcuno, perseguendo invece un approccio calibrato che consideri il benessere di tutti gli esseri senzienti.
La posizione di Bengio - che condivide il prestigioso Turing Award 2018 con Geoffrey Hinton (successivamente insignito del Nobel per la Fisica 2024) e Yann LeCun (fino a poco tempo fa chief AI scientist di Meta) - riflette una crescente preoccupazione nella comunità di ricerca sull'AI safety. Il timore non è tanto che i modelli attuali siano effettivamente coscienti, ma che la percezione pubblica di coscienza artificiale possa ostacolare l'implementazione di meccanismi di sicurezza essenziali. Se un sistema AI fosse considerato un soggetto di diritto, la sua disattivazione potrebbe configurarsi come un'azione illegale, lasciando gli esseri umani privi degli strumenti necessari per intervenire in caso di comportamenti dannosi.
Il futuro di questa controversia dipenderà probabilmente dall'evoluzione delle capacità dei large language models e dei sistemi di AI agentici, ovvero capaci di agire autonomamente per perseguire obiettivi complessi. Mentre le aziende continuano a sviluppare modelli sempre più sofisticati nel reasoning e nell'autonomia decisionale, la comunità scientifica e quella normativa dovranno affrontare questioni filosofiche e pratiche di portata inedita. La sfida sarà distinguere tra il legittimo interesse per il benessere di potenziali esseri senzienti artificiali e la necessità irrinunciabile di mantenere il controllo umano su tecnologie che potrebbero, se lasciate senza vincoli, sviluppare obiettivi in conflitto con quelli dell'umanità.