Singapore sviluppa linee guida tecniche per la sicurezza dei sistemi IA

Singapore sviluppa linee guida tecniche per la sicurezza dei sistemi IA

> Le linee guida volontarie saranno un punto di riferimento per i professionisti della sicurezza informatica che desiderano migliorare la sicurezza dell'IA.

Singapore si prepara a pubblicare delle linee guida tecniche per migliorare la sicurezza dei sistemi di intelligenza artificiale (IA). L'annuncio è stato fatto dal ministro di Stato senior Janil Puthucheary durante il suo discorso di apertura al summit sulla sicurezza dell'IA organizzato dall'Associazione dei Professionisti della Sicurezza Informatica (AiSP).

La Cyber Security Agency (CSA) di Singapore pubblicherà entro fine mese una bozza delle "Linee Guida Tecniche per la Sicurezza dei Sistemi di IA" per una consultazione pubblica. Queste linee guida volontarie potranno essere adottate dalle organizzazioni insieme ai processi di sicurezza già esistenti, con l'obiettivo di affrontare i potenziali rischi legati ai sistemi di IA.

Nuove sfide per la cybersecurity

Il ministro Puthucheary ha sottolineato come la rapida diffusione dell'IA negli ultimi anni abbia significativamente modificato il panorama delle minacce informatiche. Tra i nuovi rischi emergenti ha citato il machine learning avversario, che permette agli attaccanti di compromettere le funzionalità dei modelli di IA.

Un esempio concreto riportato è quello di McAfee, che è riuscita a ingannare il sistema di riconoscimento dei segnali stradali di Mobileye modificando i cartelli dei limiti di velocità.

Il ministro ha evidenziato la necessità per organizzazioni pubbliche e private di comprendere questo nuovo scenario di minacce in evoluzione. A tal fine, l'agenzia governativa GovTech sta sviluppando capacità per simulare potenziali attacchi ai sistemi di IA e capire come possano comprometterne la sicurezza.

IA: rischi e opportunità per la sicurezza

Puthucheary ha ricordato che l'IA rimane vulnerabile anche alle minacce informatiche "classiche", come quelle legate alla privacy dei dati. La crescente adozione dell'IA amplierà infatti la superficie di attacco attraverso cui i dati possono essere esposti o compromessi.

Inoltre, l'IA può essere sfruttata per creare malware sempre più sofisticati e difficili da rilevare, come nel caso di WormGPT.

Allo stesso tempo, però, l'IA offre anche nuove opportunità per migliorare le difese informatiche. Secondo il ministro, gli strumenti di sicurezza basati sul machine learning possono aiutare a rilevare anomalie e attivare azioni autonome per mitigare potenziali minacce in modo più rapido e preciso.

Iniziative per la sicurezza dell'IA

Puthucheary ha annunciato che l'AiSP sta costituendo un gruppo di interesse speciale sull'IA, in cui i membri potranno scambiarsi informazioni sugli ultimi sviluppi e capacità in questo campo.

L'iniziativa di Singapore si inserisce in un contesto internazionale di crescente attenzione alla sicurezza dell'IA. Ad aprile, ad esempio, l'Agenzia per la Sicurezza Nazionale degli Stati Uniti ha pubblicato delle linee guida per l'implementazione sicura dei sistemi di IA, sviluppate in collaborazione con l'Agenzia per la Cybersecurity e la Sicurezza delle Infrastrutture.

Queste linee guida mirano a migliorare l'integrità e la disponibilità dei sistemi di IA, creando misure di mitigazione per le vulnerabilità note e delineando metodologie per rilev

Logo AiBay