🏗️ Il sito è in costruzione.

Esperti di sicurezza nazionale USA avvertono: i giganti dell'IA non fanno abbastanza per proteggere i loro segreti

Esperti di sicurezza nazionale USA avvertono: i giganti dell'IA non fanno abbastanza per proteggere i loro segreti

> Susan Rice, che ha contribuito all'accordo sulla sicurezza dell'IA tra la Casa Bianca, OpenAI e altre aziende tecnologiche, esprime preoccupazione per il rischio che la Cina possa rubare i segreti americani sull'IA..

In un intervento agli enti regolatori statunitensi, Google ha evidenziato aspettative pessimistiche per quanto riguarda la sicurezza delle proprie tecnologie, prevedendo un aumento degli attacchi volti a "disturbare, degradare, ingannare e rubare" i propri modelli di intelligenza artificiale. L'azienda ha tuttavia rassicurato sulle misure di sicurezza adottate, sottolineando di avere un'organizzazione dedicata alla sicurezza, affidabilità e protezione, composta da ingegneri e ricercatori di prim'ordine. Google ha anche annunciato di essere al lavoro su un nuovo framework di governance che prevede la costituzione di un comitato di esperti per gestire l'accesso ai modelli e ai loro pesi.

Analogamente, OpenAI, noto per lo sviluppo di modelli come GPT-4 e applicazioni basate su questi, come ChatGPT, ha recentemente istituito un proprio comitato di sicurezza e pubblicato sul suo blog ulteriori dettagli sulla sicurezza delle tecnologie impiegate per l'addestramento dei modelli. L'obiettivo dichiarato è aumentare la trasparenza per incoraggiare altri laboratori a adottare misure protettive, pur non specificando chiaramente chi rappresenti una minaccia per queste tecnologie.

Il CEO di RAND, Jason Matheny, intervenendo a Stanford insieme a Rice, ha riconfermato la necessità di colmare le lacune nella sicurezza. Ha citato l'uso dei controlli all'esportazione per limitare l'accesso della Cina a chip informatici avanzati, influenzando così la capacità dei suoi sviluppatori di creare propri modelli. Matheny ha suggerito che ciò ha aumentato la necessità per la Cina di appropriarsi indebitamente del software AI, affermando che spendere alcuni milioni in un attacco informatico per rubare i pesi dei modelli di IA potrebbe essere molto conveniente, considerato il costo elevato per le aziende americane per crearli.

L'ambasciata cinese a Washington non ha ancora risposto alle accuse di furto, anche se in passato ha descritto simili imputazioni come calunnie infondate da parte di funzionari occidentali. Google ha comunicato di aver informato le autorità giudiziarie riguardo un episodio che poi è diventato un caso giudiziario negli USA, legato al furto di segreti sui chip per l'IA attribuito alla Cina. Sebbene Google affermi di mantenere severe misure di sicurezza per proteggere i suoi dati proprietari, le carte del tribunale rivelano che ci è voluto molto tempo per individuare il presunto colpevole, Linwei Ding, cittadino cinese che ha dichiarato di non essere colpevole delle accuse federali.

Ding è stato assunto da Google nel 2019 per lavorare sui software dei suoi supercomputer e, a partire dal 2022, avrebbe copiato oltre 500 file contenenti informazioni riservate su un account personale di Google. Secondo gli atti della corte, il meccanismo usato comprendeva l'utilizzo dell'app Note di Apple sul laptop aziendale per convertire i file in PDF e caricarli su altre piattaforme, eludendo le misure di sicurezza di Google. Durante questo periodo, Ding era presumibilmente in contatto con il CEO di una startup di intelligenza artificiale in Cina e aveva avviato una sua azienda AI nel paese. Se condannato, potrebbe affrontare fino a 10 anni di carcere.

Logo AiBay