Secondo Russell, i sistemi di IA devono essere dotati di "garanzie inattaccabili" contro danni di massa agli esseri umani, soprattutto considerando la crescente probabilità di integrazione dell'IA negli armamenti. L'esperto ha espresso preoccupazione per il cambio di politica di Google, che ora si dice disposta a sviluppare IA per scopi militari nonostante l'opposizione dei propri dipendenti e dell'opinione pubblica.
I rischi delle armi autonome
Russell ha evidenziato i pericoli delle armi autonome di piccole dimensioni, definendole "le più pericolose" in quanto economiche e potenzialmente acquistabili in grandi quantità anche da gruppi terroristici. Ha avvertito che tali armi potrebbero essere usate per "uccidere chiunque corrisponda a una certa descrizione", come età, genere, gruppo etnico o affiliazione religiosa.
L'esperto ha sottolineato come circa 75 paesi stiano già sviluppando o utilizzando armi pilotate a distanza, con molti che stanno valutando la conversione in sistemi completamente autonomi. Il conflitto in Ucraina ha accelerato questa evoluzione, spingendo Russell a ipotizzare che "il prossimo grande conflitto dopo l'Ucraina potrebbe essere combattuto in gran parte con armi autonome in un modo attualmente non regolamentato".
La necessità di regolamentazione
Nonostante i rischi, Russell ha evidenziato che oltre 100 paesi si sono già dichiarati contrari alle armi autonome. Ha espresso speranza che si possa raggiungere la maggioranza necessaria all'Assemblea Generale delle Nazioni Unite per una risoluzione che ne chieda il bando.
L'esperto ha messo in guardia sul fatto che l'estinzione umana potrebbe derivare da sistemi di IA molto più intelligenti degli esseri umani, e quindi molto più capaci di influenzare il mondo. Per questo motivo, Russell ha esortato i governi a richiedere "garanzie inattaccabili sotto forma di prove statistiche o matematiche che possano essere ispezionate e controllate attentamente". Ha concluso affermando che "qualsiasi cosa al di sotto di questo standard equivale a chiedere il disastro".