Recenti errori generati dal nuovo strumento AI Overview di Google hanno catturato l'attenzione dei social media, portando la compagnia a riconoscere le necessità di miglioramento. Liz Reid, responsabile del settore ricerca di Google, ha ammesso che alcune risposte fuorvianti, diventate virali, hanno messo in luce criticità nell'algoritmo, tra cui consigli di mangiare pietre o usare colla non tossica per addensare la salsa di pizza.
Secondo Reid, l'algoritmo ha estratto informazioni errate da una pagina satirica di The Onion, interpretando quindi il contenuto come veritiero. Inoltre, ha spiegato che alcuni risultati bizzarri derivano da contenuti sarcastici nelle forum discussioni, posti dai quali il sistema preleva automaticamente informazioni che spesso possono risultare inadeguate.
Reid ha inoltre evidenziato che non è adeguato giudicare la qualità di AI Overview basandosi solo su screenshot virali. Ha sottolineato che Google ha condotto test approfonditi prima del lancio e che i dati indicano un apprezzamento degli utenti per la nuova funzionalità, mostrando che tendono a permanere più a lungo sulle pagine trovate tramite AI Overview.
Tuttavia, non tutti gli screenshot diffusi erano autentici. Reid ha menzionato che alcune immagini di AI Overview errate che circolavano erano falsificate, come dimostrato dai test effettuati da WIRED. Per esempio, una falsa risposta riguardante la possibile convivenza di una blatta nell'organo genitale maschile, che non ha trovato riscontri nei test reali.
Questi errori hanno spinto Google a realizzare oltre una dozzina di miglioramenti tecnici al servizio di AI Overview. Tra questi, vi è il miglioramento nella rilevazione di query nonsensicali, una ridotta dipendenza da contenuti generati dagli utenti e una minore frequenza di offerta delle sintesi AI in casi dove non sono state trovate utili. Reid ha anche affermato che sono stati rafforzati i protocolli di sicurezza relativi all'uso di AI Overview per temi importanti come la salute.
Reid ha concluso indicando che Google continuerà a monitorare il feedback degli utenti e ad apportare le modifiche necessarie all'IA di AI Overview, senza però annunciare un ritirata significativa dalle sintesi IA. La trasparenza e l'aggiustamento continuo sembrano essere i pilastri su cui Google intende basare il miglioramento continuo del servizio.
