L'analisi rivela che l'AI è utile per velocizzare attacchi e campagne propagandistiche, senza però rivoluzionare il settore. Il suo impatto principale è rendere più accessibili e rapide alcune pratiche già consolidate, abbassando la barriera d'ingresso nel cybercrimine.
Utilizzo dell'AI da parte di attori statali
Il report evidenzia come alcuni governi, tra cui Iran, Cina, Corea del Nord e Russia, abbiano sperimentato l'uso di Gemini per attività illecite:- I gruppi iraniani sfruttano il modello per analizzare vulnerabilità, generare contenuti di phishing e raccogliere informazioni su infrastrutture critiche.
- Hacker cinesi e nordcoreani si concentrano su ricognizione, creazione di script dannosi e sviluppo di strumenti offensivi.
- I gruppi russi sembrano meno coinvolti, forse per ragioni di sicurezza operativa o preferenza verso soluzioni di AI interne.
AI nella disinformazione
Anche nel campo della disinformazione, l'AI generativa viene impiegata per:- Produrre contenuti propagandistici
- Tradurre e localizzare messaggi in diverse lingue
- Affinare strategie di diffusione sui social media
Il vantaggio principale risiede nella rapidità con cui l'AI permette di creare testi, accelerando il ciclo di pubblicazione e amplificando la diffusione di narrative manipolative.Impatto dell'AI sulle tattiche di attacco
L'indagine di Google evidenzia che l'AI generativa non ha introdotto tattiche di attacco radicalmente nuove. I criminali informatici la utilizzano principalmente per:- Scrivere codice
- Adattare exploit noti a nuovi contesti
- Migliorare la qualità delle email di phishing
- Affinare tecniche di ingegneria sociale
Per gli attaccanti più esperti, l'AI si rivela un supporto per rendere le operazioni più efficienti, senza però sostituire competenze specifiche. Per i meno esperti, rappresenta invece un accesso facilitato a conoscenze tecniche avanzate.Efficacia delle difese di Google
Il report sottolinea che i sistemi di sicurezza implementati in Gemini sono riusciti a contenere gran parte dei tentativi di utilizzo malevolo. Le tecniche di jailbreak e prompt injection adottate dagli attaccanti non hanno portato a risultati rilevanti:- Il modello si è rifiutato di generare codice dannoso
- Non ha fornito informazioni sensibili
Questo suggerisce che, almeno per ora, i meccanismi di protezione funzionano, limitando l'uso diretto dell'AI per scopi offensivi.Sfide future: AI senza vincoli?
Nonostante i limiti attuali nell'uso di AI generative come Gemini, la situazione potrebbe evolvere. La tendenza sembra muoversi verso lo sviluppo di modelli privi di filtri di sicurezza, progettati appositamente per scopi illeciti:- Strumenti come FraudGPT e WormGPT, venduti nel dark web, dimostrano un crescente interesse per LLM ottimizzati per il cybercrimine.
- La vera sfida per l'industria sarà arginare la diffusione di AI personalizzate, sviluppate senza controlli.
Conclusioni
Il report di Google suggerisce che, nel breve termine, l'intelligenza artificiale generativa non sconvolgerà il panorama delle minacce informatiche. Tuttavia, ignorare la possibilità che emergano modelli senza restrizioni significherebbe sottovalutare un problema con il potenziale di espandersi rapidamente.L'industria della sicurezza informatica ha la responsabilità di muoversi con lungimiranza, rafforzando le regolamentazioni, sviluppando nuove capacità di rilevamento delle minacce basate sull'AI e collaborando con le istituzioni per prevenire scenari critici.