Nel cuore del sistema giudiziario britannico si sta sviluppando un esperimento tanto ambizioso quanto controverso. Il Ministero della Giustizia del Regno Unito ha avviato un progetto basato sull'intelligenza artificiale che mira a identificare potenziali autori di omicidi prima che possano agire. Inizialmente chiamato "Homicide Prediction Project", è stato successivamente rinominato con il più discreto "Sharing Data to Improve Risk Assessment". Dietro questo cambio di nome si nasconde una questione fondamentale che attraversa il dibattito contemporaneo: è eticamente accettabile utilizzare algoritmi predittivi per anticipare comportamenti criminali estremi?
Quando l'algoritmo diventa giudice
L'iniziativa britannica si basa su un sistema di analisi predittiva che elabora informazioni provenienti da diverse fonti istituzionali. La polizia di Greater Manchester ha fornito archivi precedenti al 2015, mentre i servizi di libertà vigilata hanno contribuito con i propri database. Questi dati vengono processati da modelli di machine learning che cercano correlazioni e pattern ricorrenti, con l'obiettivo di identificare indicatori di rischio per comportamenti violenti futuri.
A differenza di quanto comunicato ufficialmente, però, il sistema non si limita a valutare soggetti con precedenti penali. Documenti ottenuti dall'organizzazione Statewatch rivelano un quadro ben più ampio: l'algoritmo analizza anche dati relativi a persone che sono state semplici vittime o addirittura solo segnalate alle autorità, senza alcuna condanna a loro carico.
Il labirinto dei dati sensibili
La natura delle informazioni elaborate rappresenta uno degli aspetti più problematici. Nel database confluiscono dati estremamente personali: diagnosi psichiatriche, dipendenze, disabilità, episodi di autolesionismo e situazioni di violenza domestica. L'algoritmo trasforma queste informazioni, originariamente raccolte per fornire assistenza e supporto, in indicatori di potenziale pericolosità sociale.
Questo solleva interrogativi profondi sulla tutela della privacy e sul diritto all'autodeterminazione. In che misura è legittimo che informazioni così intime vengano utilizzate per etichettare una persona come potenziale criminale? La domanda diventa ancora più rilevante considerando che molti dei fattori analizzati sono fortemente influenzati dal contesto socioeconomico di provenienza.
La scatola nera della predizione
Un aspetto particolarmente critico dell'iniziativa britannica è la totale opacità sui metodi utilizzati. Non sono stati resi pubblici né gli algoritmi impiegati né i criteri di selezione e ponderazione dei dati. Anche il processo di validazione del sistema rimane avvolto nel mistero, rendendo impossibile valutarne l'affidabilità e l'accuratezza predittiva.
Questa mancanza di trasparenza contrasta con le esigenze fondamentali di un sistema giudiziario democratico. In Italia, dove vige il principio costituzionale del giusto processo, uno strumento simile incontrerebbe ostacoli significativi: come potrebbe un imputato difendersi da una valutazione algoritmica di cui non conosce i parametri? Come potrebbe un giudice motivare adeguatamente una decisione basata su previsioni generate da una "scatola nera"?
Il rischio di discriminazione automatizzata
L'esperienza internazionale con sistemi predittivi nel settore penale ha evidenziato un problema ricorrente: la tendenza a perpetuare e amplificare pregiudizi già presenti nelle pratiche di polizia e nei sistemi giudiziari. Nel contesto italiano, un simile approccio potrebbe rafforzare stereotipi discriminatori verso determinati gruppi sociali, dalle comunità immigrate alle persone con disagio mentale.
Il sistema britannico, analizzando anche persone mai condannate, rischia di creare una sorta di "predestinazione algoritmica" che contraddice il principio di presunzione d'innocenza. In assenza di meccanismi di controllo indipendenti e di una valutazione rigorosa dell'impatto sociale, questi strumenti possono trasformarsi in tecnologie di sorveglianza selettiva e discriminazione sistematica.
Verso un'intelligenza artificiale responsabile nella giustizia
Il dibattito non riguarda tanto la legittimità dell'uso dell'intelligenza artificiale nell'ambito giudiziario, quanto le modalità con cui questa viene implementata. Un sistema di supporto alle decisioni in questo settore dovrebbe rispettare alcuni requisiti fondamentali: completa trasparenza sui modelli utilizzati, verificabilità indipendente, supervisione umana significativa e meccanismi chiari di responsabilità istituzionale.
Nel contesto italiano, dove il dibattito su tecnologia e giustizia si sta intensificando anche alla luce del PNRR, l'esperienza britannica offre importanti spunti di riflessione. L'innovazione tecnologica nei sistemi giudiziari non può prescindere da una valutazione approfondita delle implicazioni etiche, sociali e giuridiche. La vera sfida consiste nel trovare un equilibrio tra efficienza algoritmica e garanzie individuali.
Il caso del Regno Unito ci ricorda che, quando si parla di algoritmi predittivi nella giustizia, non è sufficiente chiedersi se funzionano. La domanda più importante è se siano compatibili con i principi fondamentali di un sistema giuridico democratico e con la visione di società che vogliamo costruire.