John Fisher, direttore ingegneristico di Google Photos, ha spiegato in un post sul blog aziendale: "Le foto modificate con strumenti come Magic Editor, Magic Eraser e Zoom Enhance includono già metadati basati sugli standard tecnici dell'International Press Telecommunications Council (IPTC) per indicare che sono state elaborate utilizzando l'IA generativa. Ora stiamo facendo un ulteriore passo avanti, rendendo queste informazioni visibili insieme ad altri dettagli come il nome del file, la posizione e lo stato del backup nell'app Photos".
Le nuove etichette "AI info" saranno visibili nella sezione dei dettagli dell'immagine, sia nella versione web che nell'app mobile di Google Photos. Non si limiteranno solo all'IA generativa, ma indicheranno anche quando una foto contiene elementi provenienti da diverse immagini, come nel caso delle funzioni Best Take e Add Me dei telefoni Pixel.
Limiti e prospettive future
Nonostante rappresenti un miglioramento rispetto alla situazione attuale, questa soluzione presenta alcuni limiti. I metadati possono essere facilmente eliminati da chi intende nascondere deliberatamente l'uso dell'IA. Google è consapevole di questo problema e Fisher ha dichiarato: "Questo lavoro non è finito e continueremo a raccogliere feedback e valutare soluzioni aggiuntive per aggiungere maggiore trasparenza alle modifiche AI".
Finora, i metadati associati agli strumenti AI di Google erano praticamente invisibili agli utenti finali. La mancanza di etichette evidenti che indicassero l'uso dell'IA in Google Photos aveva sollevato preoccupazioni, specialmente con funzioni come il tool Reimagine di Magic Editor, che consente di aggiungere oggetti generati dall'IA mai presenti nella scena originale.
Il dibattito sull'IA nella fotografia
Mentre Google e Samsung permettono agli utenti di manipolare le immagini con strumenti AI avanzati, Apple ha adottato un approccio più cauto. Craig Federighi, dirigente di Apple, ha dichiarato che l'azienda è "preoccupata" per il fatto che l'IA possa mettere in dubbio l'autenticità delle foto come "indicative della realtà".
Il ritocco fotografico non è certo una novità, ma gli attuali strumenti di IA generativa rendono possibile creare falsificazioni convincenti con pochissimo sforzo o competenza. Questo solleva importanti questioni etiche e pratiche sulla veridicità delle immagini digitali.
L'iniziativa di Google di etichettare le modifiche AI rappresenta un tentativo di bilanciare l'innovazione tecnologica con la necessità di trasparenza e affidabilità nell'era digitale. Resta da vedere come questa pratica si evolverà e se verrà adottata più ampiamente nell'industria tecnologica.