Quando l'AI trasforma le aule di tribunale in teatro dell'assurdo
Due casi emblematici hanno sollevato il velo su una pratica che rischia di diventare endemica. Nel primo, una controversia da 89 milioni di sterline contro la Qatar National Bank si è trasformata in un caso di studio sui pericoli dell'intelligenza artificiale applicata al diritto. Su 45 citazioni giuridiche presentate dai ricorrenti, ben 18 si sono rivelate completamente inventate, mentre molte altre contenevano passaggi falsificati. Il ricorrente ha ammesso candidamente di aver utilizzato strumenti AI pubblicamente disponibili, e il suo avvocato ha riconosciuto di aver citato le autorità fasulle.
Il secondo episodio ha coinvolto l'Haringey Law Centre in una disputa con il comune londinese di Haringey riguardo alla mancata fornitura di alloggi temporanei. L'avvocato del centro legale ha citato per cinque volte giurisprudenza fantasma, sollevando i sospetti del legale della controparte che non riusciva a rintracciare alcuna fonte delle presunte autorità citate. La vicenda si è conclusa con un'azione legale per costi processuali sprecati e la condanna per negligenza sia del centro legale che del suo avvocato, un praticante barrister.
L'effetto domino globale delle "allucinazioni" artificiali
Il fenomeno non si limita ai tribunali britannici. Nel 2023, un tribunale fiscale del Regno Unito ha dovuto confrontarsi con nove decisioni storiche completamente inventate, presentate da un ricorrente che sosteneva di essere stato aiutato da "un amico in uno studio legale". La donna ha ammesso che era "possibile" avesse utilizzato ChatGPT, ma ha minimizzato sostenendo che dovevano esistere altri casi simili a supporto della sua tesi.
Oltreoceano, la situazione non è migliore. Un caso da 5,8 milioni di euro in Danimarca ha quasi portato i ricorrenti davanti a procedimenti per oltraggio alla corte quando hanno fatto affidamento su una sentenza inventata che il giudice ha prontamente identificato come falsa. Negli Stati Uniti, un tribunale distrettuale di New York ha vissuto momenti di autentico caos quando un avvocato è stato sfidato a produrre sette casi apparentemente fittizi che aveva citato. La sua risposta è stata chiedere a ChatGPT di riassumere i casi che aveva già inventato, producendo quello che il giudice ha definito "un nonsenso incomprensibile". Il risultato: una multa di 5.000 dollari per i due avvocati e il loro studio.
L'intervento dell'Alta Corte: sanzioni severe in arrivo
Dame Victoria Sharp, presidente della divisione King's Bench, ha risposto a questa escalation con una decisione normativa che non lascia spazio a interpretazioni ambigue. Le sue parole sono un monito severo: l'uso improprio dell'intelligenza artificiale ha "serie implicazioni per l'amministrazione della giustizia e la fiducia pubblica nel sistema giudiziario". Gli avvocati che utilizzano scorrettamente l'AI rischiano sanzioni che vanno dal rimprovero pubblico ai procedimenti per oltraggio alla corte, fino al deferimento alle autorità di polizia.
La magistrata ha sottolineato come questi strumenti possano "produrre risposte apparentemente coerenti e plausibili ai prompt, ma quelle risposte coerenti e plausibili potrebbero rivelarsi completamente errate". Le AI possono fare "affermazioni sicure che sono semplicemente false", citare fonti inesistenti o "fingere di citare passaggi da una fonte genuina che non appaiono in quella fonte".
La risposta delle istituzioni professionali
L'appello di Dame Sharp al Bar Council e alla Law Society per considerare misure correttive "con carattere di urgenza" ha trovato immediata risposta. Ian Jeffery, amministratore delegato della Law Society d'Inghilterra e Galles, ha dichiarato che la decisione "mette a nudo i pericoli dell'uso dell'AI nel lavoro legale". Pur riconoscendo che gli strumenti di intelligenza artificiale sono sempre più utilizzati per supportare la fornitura di servizi legali, Jeffery ha enfatizzato come "il rischio reale di output errati prodotti dall'AI generativa richiede agli avvocati di controllare, rivedere e garantire l'accuratezza del loro lavoro".
La questione solleva interrogativi fondamentali sulla formazione professionale e sull'etica forense nell'era digitale. Come nel caso del medico che deve sempre verificare una diagnosi suggerita da un sistema esperto, gli avvocati si trovano ora nella posizione di dover sviluppare nuove competenze per distinguere tra informazioni genuine e allucinazioni algoritmiche, termine tecnico che descrive la tendenza dell'AI a generare contenuti apparentemente plausibili ma completamente inventati.