Google amplia il campo d'azione della sua tecnologia di watermarking e rilevamento di contenuti generati dall'intelligenza artificiale, annuncia l'integrazione di nuovi media nella sua piattaforma SynthID. La notizia è stata rivelata durante la conferenza per sviluppatori Google I/O, dove Demis Hassabis, CEO di DeepMind, ha presentato l'aggiornamento significativo nel sistema di marcatura digitale.
Il nuovo sistema SynthID è ora in grado di applicare watermark invisibili non solo a immagini e audio AI-generati, ma anche a video e testi, aumentando così le misure di sicurezza contro l'uso improprio delle tecnologie AI. Queste funzionalità si rivelano cruciali all'epoca di crescente diffusione dell'intelligenza artificiale, specialmente in scenari dove può essere sfruttata per scopi dannosi come la diffusione di informazioni politiche false, l'attribuzione di dichiarazioni inesistenti a persone o la creazione di contenuti sessuali non consensuali.
Originariamente lanciato nell'agosto dello scorso anno, SynthID ha iniziato come uno strumento per imprimere immagini generate dall'IA in modi non riconoscibili ad occhio umano, ma rilevabili dal sistema stesso. Questa tecnica si discosta da altri standard di watermarking come il C2PA, che incorpora metadati crittografici nei contenuti generati dall'IA.
Oltre alle immagini e ai video, Google ha anche utilizzato SynthID per introdurre watermark inudibili nella musica generata dall'intelligenza artificiale, specificamente nelle tracce prodotte dal modello Lyria di DeepMind. Queste innovazioni rappresentano solo una parte degli sforzi continui di Google nella creazione di safeguard AI, strategie che rientrano anche nelle direttive dell'amministrazione Biden per la costruzione di linee guida federali contro l'abuso di tecnologie avanzate.
L'adozione di SynthID potrebbe segnare un passo fondamentale nella gestione dei contenuti generati dall'IA, fornendo agli utenti strumenti più efficaci per identificare e verificare l'origine del materiale digitale in un'epoca caratterizzata dall'ubiquità della tecnologia AI.
