La vulnerabilità sfrutta il funzionamento dell'AI di Slack, progettata per attingere informazioni sia da canali pubblici che privati per rispondere alle richieste degli utenti. Un attaccante potrebbe inserire istruzioni malevole in un canale pubblico, che verrebbero poi eseguite inconsapevolmente dall'AI quando interrogata da un utente con accesso a canali privati.
Meccanismo dell'attacco
Il processo si articola in tre fasi principali: 1. L'attaccante crea un canale pubblico con istruzioni malevole per l'AI 2. La vittima inconsapevole interroga l'AI su informazioni presenti nel suo canale privato 3. L'AI incorpora le istruzioni malevole nella risposta, fornendo un link di phishing che, se cliccato, invierebbe i dati sensibili all'attaccanteSlack ha prontamente rilasciato una patch per risolvere la vulnerabilità, affermando che al momento non ci sono evidenze di accessi non autorizzati ai dati dei clienti. Tuttavia, l'episodio mette in luce la necessità di implementare robuste misure di protezione per gli strumenti basati sull'intelligenza artificiale, soprattutto considerando la loro crescente diffusione negli ambienti lavorativi.
Gli esperti di cybersecurity hanno espresso serie preoccupazioni sulle implicazioni di questa vulnerabilità. Akhil Mittal, senior manager presso il Synopsys Software Integrity Group, ha sottolineato: "Questo incidente evidenzia la necessità per le organizzazioni di garantire che gli strumenti AI gestiscano i dati in modo sicuro ed etico".
La scoperta serve come monito: con l'evoluzione degli strumenti AI, devono evolversi parallelamente anche le misure di sicurezza a protezione delle informazioni sensibili. Le aziende che utilizzano sistemi basati sull'intelligenza artificiale dovranno prestare sempre maggiore attenzione alla gestione sicura dei dati e all'implementazione di protocolli di sicurezza adeguati.
