Il rapporto evidenzia rischi già noti, come l'uso dell'IA per creare contenuti falsi o fuorvianti online, ma sottolinea anche nuove minacce emergenti. Bengio ha dichiarato: "Stanno emergendo prove di ulteriori rischi, come attacchi biologici o informatici". A lungo termine, il ricercatore teme una possibile "perdita di controllo" da parte degli esseri umani sui sistemi di IA, potenzialmente motivati dalla "loro volontà di sopravvivere".
La recente introduzione del modello cinese DeepSeek, caratterizzato da basso costo e alte prestazioni, ha "accelerato la corsa, il che non è positivo per la sicurezza", ha aggiunto Bengio. Il professore dell'Università di Montreal chiede una regolamentazione internazionale più stringente e una ricerca più approfondita sulla sicurezza dell'IA, che attualmente rappresenta solo "una minima frazione" degli enormi investimenti nel settore.
La necessità di un intervento governativo
Bengio ha sottolineato l'importanza di un'azione governativa per affrontare le sfide poste dall'IA. Gli Stati Uniti, ancora leader mondiale nel campo dell'IA, hanno abbandonato il tentativo dell'ex presidente Joe Biden di imporre alcune regole sullo sviluppo dopo l'insediamento di Donald Trump.
Il ricercatore ha espresso particolare preoccupazione per il futuro dell'umanità: "Ciò che mi spaventa di più è la possibilità che l'umanità possa scomparire entro 10 anni. È terrificante. Non so perché più persone non se ne rendano conto".
Il Rapporto Internazionale sulla Sicurezza dell'IA
Il rapporto, guidato da Bengio e pubblicato alla fine di gennaio, ha coinvolto circa 100 esperti provenienti da 30 paesi, oltre a rappresentanti delle Nazioni Unite, dell'Unione Europea e dell'OCSE. Il lavoro è stato avviato durante il precedente summit sulla sicurezza dell'IA tenutosi in Gran Bretagna nel novembre 2023.
Il documento mira a fornire una valutazione completa dei rischi e delle sfide associate allo sviluppo dell'IA, seguendo un approccio simile a quello utilizzato nei rapporti dell'Intergovernmental Panel on Climate Change (IPCC). L'obiettivo è sensibilizzare la comunità internazionale sull'importanza di affrontare le questioni di sicurezza legate all'IA in modo proattivo e collaborativo.