L'universo dell'intelligenza artificiale si trova di fronte a una nuova minaccia che potrebbe rivoluzionare il modo in cui pensiamo alla sicurezza dei sistemi di visione computerizzata. Un gruppo di ricercatori della North Carolina State University ha sviluppato una tecnica chiamata RisingAttacK che permette di manipolare qualsiasi sistema di IA facendogli "vedere" esattamente ciò che l'attaccante desidera. La scoperta solleva interrogativi cruciali sulla vulnerabilità delle tecnologie che già utilizziamo quotidianamente, dalle automobili autonome ai sistemi diagnostici medici.
La minaccia invisibile agli occhi umani
Il principio alla base di questa nuova forma di attacco è tanto elegante quanto inquietante. Due immagini apparentemente identiche all'occhio umano possono essere percepite in modo completamente diverso da un sistema di intelligenza artificiale. Mentre una persona riconoscerebbe chiaramente un'automobile in entrambe le fotografie, l'IA manipolata potrebbe identificarla solo in una delle due.
Tianfu Wu, professore associato di ingegneria elettrica e informatica e co-autore della ricerca, spiega che l'obiettivo del progetto era proprio quello di identificare le vulnerabilità dei sistemi di visione artificiale utilizzati in contesti critici per la sicurezza umana. "Dai veicoli autonomi alle tecnologie sanitarie fino alle applicazioni di sicurezza", sottolinea Wu, "è fondamentale che questi sistemi siano sicuri".
Il meccanismo di una rivoluzione tecnologica
RisingAttacK opera attraverso una serie di operazioni sofisticate che mirano a minimizzare le modifiche necessarie per ingannare l'intelligenza artificiale. Il processo inizia con l'identificazione di tutte le caratteristiche visive presenti nell'immagine, seguito da un'analisi per determinare quali elementi siano più rilevanti per raggiungere l'obiettivo dell'attacco.
Il sistema calcola poi la sensibilità dell'IA ai cambiamenti nei dati, concentrandosi specificamente sulle caratteristiche chiave identificate. Questa fase richiede una notevole potenza computazionale, ma permette di apportare modifiche mirate e quasi impercettibili che rendono l'attacco efficace.
Quattro giganti sotto attacco
La portata della scoperta diventa evidente quando si considerano i risultati dei test condotti sui quattro sistemi di visione artificiale più utilizzati al mondo: ResNet-50, DenseNet-121, ViTB e DEiT-B. RisingAttacK si è dimostrato efficace nel manipolare tutti e quattro i programmi, evidenziando una vulnerabilità sistemica che attraversa le diverse architetture di IA attualmente in uso.
Questa universalità dell'attacco rappresenta un aspetto particolarmente preoccupante, considerando che questi sistemi costituiscono la spina dorsale di numerose applicazioni commerciali e industriali. La capacità di influenzare il riconoscimento di automobili, pedoni, biciclette, segnali di stop e altri oggetti critici apre scenari inquietanti per la sicurezza stradale e non solo.
Scenari di rischio nella vita reale
Le implicazioni pratiche di questa tecnologia si estendono ben oltre l'ambito accademico. Un malintenzionato potrebbe teoricamente manipolare la capacità di un veicolo autonomo di rilevare segnali stradali, pedoni o altre automobili, creando situazioni di pericolo potenzialmente fatali. Altrettanto allarmante è la possibilità che un hacker installi codice su una macchina per raggi X, causando diagnosi errate da parte dei sistemi di IA medica.
Questi attacchi avversari, come vengono tecnicamente definiti, rappresentano una forma sofisticata di manipolazione che sfrutta il modo in cui le reti neurali elaborano le informazioni visive. La sottile alterazione dei dati in ingresso può portare a interpretazioni completamente sbagliate da parte del sistema, pur mantenendo l'immagine apparentemente inalterata per l'osservatore umano.
Verso nuove frontiere di difesa
Wu e il suo team non si fermano alla dimostrazione della vulnerabilità. I ricercatori stanno già esplorando l'efficacia di RisingAttacK contro altri tipi di sistemi di intelligenza artificiale, inclusi i modelli linguistici di grandi dimensioni che stanno rivoluzionando il settore tecnologico.
L'obiettivo finale della ricerca è lo sviluppo di tecniche difensive capaci di contrastare efficacemente questi attacchi. Come sottolinea Wu, identificare una vulnerabilità rappresenta il primo passo fondamentale per potersi difendere da essa. La presentazione dei risultati alla Conferenza Internazionale sull'Apprendimento Automatico (ICML 2025) di Vancouver segna un momento cruciale nella comprensione delle sfide di sicurezza dell'era dell'intelligenza artificiale.
La ricerca, intitolata "Adversarial Perturbations Are Formed by Iteratively Learning Linear Combinations of the Right Singular Vectors of the Adversarial Jacobian", apre nuovi orizzonti tanto nelle minacce quanto nelle opportunità di protezione per i sistemi di IA del futuro.