🏗️ Il sito è in costruzione.

Il mondo dell'AI si riunisce a Seoul: l'industria in accelerazione può bilanciare progresso e sicurezza?

Il mondo dell'AI si riunisce a Seoul: l'industria in accelerazione può bilanciare progresso e sicurezza?

> Aziende come OpenAI e Meta avanzano, ma è evidente che i maggiori cambiamenti devono ancora arrivare.

Questa settimana, l'intelligenza artificiale ha fatto passi da gigante verso il futuro, o almeno verso l'idea che Hollywood ne aveva un decennio fa. "Sembra l'AI dei film," ha scritto Sam Altman, amministratore delegato di OpenAI, a proposito del suo ultimo sistema, un assistente virtuale impressionante. Per sottolineare il suo punto di vista, ha pubblicato una parola su X – "her" – riferendosi al film del 2013 con Joaquin Phoenix, che si innamora di una versione futuristica di Siri o Alexa, doppiata da Scarlett Johansson.

Per alcuni esperti, il nuovo AI, GPT-4o, sarà un inquietante promemoria delle loro preoccupazioni riguardo ai rapidi avanzamenti della tecnologia, con un importante ricercatore sulla sicurezza di OpenAI che ha lasciato l'azienda questa settimana a causa di divergenze sulla direzione da prendere. Per altri, il rilascio di GPT-4o sarà la conferma che l'innovazione continua in un campo che promette benefici per tutti. Il summit globale sull'IA della prossima settimana a Seoul, a cui parteciperanno ministri, esperti ed esecutivi del settore tecnologico, esaminerà entrambe le prospettive, come sottolinea un rapporto sulla sicurezza rilasciato prima dell'incontro che menziona sia potenziali vantaggi che numerosi rischi.

Il primo vertice sulla sicurezza dell'IA a Bletchley Park nel Regno Unito l'anno scorso ha annunciato un quadro di test internazionale per i modelli di IA, dopo le richieste di alcuni esperti e professionisti del settore per una pausa di sei mesi nello sviluppo di sistemi potenti. Nonostante queste richieste, non ci sono state pause. La dichiarazione di Bletchley, firmata da Regno Unito, USA, UE, Cina e altri, ha elogiato le "enormi opportunità globali" offerte dall'IA, ma ha anche avvertito del suo potenziale di causare danni "catastrofici". Questo accordo ha inoltre garantito l'impegno delle grandi aziende tecnologiche, inclusi OpenAI, Google e la Meta di Mark Zuckerberg, a cooperare con i governi nel testare i loro modelli prima del rilascio.

Mentre nel Regno Unito e negli Stati Uniti sono stati istituiti istituti nazionali per la sicurezza dell'IA, lo sviluppo dell'IA da parte dell'industria è continuato. Le grandi aziende tecnologiche e altre hanno annunciato di recente nuovi prodotti di IA: OpenAI ha rilasciato GPT-4o (dove "o" sta per "omni") gratuitamente online; un giorno dopo, Google ha presentato in anteprima un nuovo assistente IA chiamato Project Astra, oltre ad aggiornamenti al suo modello Gemini...

Il mercato per la GenAI è effervescente, come sottolinea Andrew Rogoyski, direttore dell'Istituto per l'IA Centrata sulle Persone presso l'Università di Surrey. "Lo sviluppo dei modelli di linguaggio di grande dimensione è così costoso che solo le aziende più grandi, o quelle con investitori eccezionalmente generosi, possono partecipare."

Nonostante ciò, alcuni esperti ritengono che la sicurezza non sia la priorità che dovrebbe essere, a causa della fretta. "I governi e gli istituti di sicurezza dicono di pianificare la regolamentazione e le aziende dicono di essere preoccupate anche loro," afferma Dame Wendy Hall, professore di informatica all'Università di Southampton e membro del comitato consultivo delle Nazioni Unite sull'IA. "Ma i progressi sono lenti perché le aziende devono reagire alle forze di mercato."

Le più grandi evoluzioni sono ancora all'orizzonte. "Gli ultimi 12 mesi di progressi nell'IA sono stati i più lenti che saranno per il futuro prevedibile," ha scritto l'economista Samuel Hammond all'inizio di maggio. Finora, i sistemi di IA di "frontiera", i più potenti sul mercato, sono stati in gran parte limitati alla sola gestione del testo. Microsoft e Google hanno incorporato le loro offerte nei loro prodotti per ufficio, dandogli l'autorità di svolgere funzioni amministrative semplici su richiesta. Ma il prossimo passo dello sviluppo è l'IA "agente": sistemi in grado di agire realmente per influenzare il mondo intorno a loro, dal navigare nel web, scrivere ed eseguire codici.

Laboratori di IA più piccoli hanno sperimentato tali approcci, con successi misti, mettendo pressione commerciale sulle aziende più grandi per dare ai loro modelli di IA lo stesso potere. Entro la fine dell'anno, aspettatevi che i migliori sistemi di IA non solo offrano di pianificare una vacanza per voi, ma prenotino voli, hotel e ristoranti, organizzino il vostro visto e preparino e conducano un tour a piedi della vostra destinazione.

Ma un'IA che può fare qualsiasi cosa offerta dall'internet è anche un'IA con una capacità di far male molto maggiore di qualsiasi cosa precedente. Il meeting a Seoul potrebbe essere l'ultima possibilità per discutere cosa significa questo per il mondo prima che arrivi.

Logo AiBay