Questa scoperta mette in discussione l'affidabilità di uno degli strumenti di IA più popolari al mondo, sollevando preoccupazioni sulla diffusione di disinformazione e sulla capacità degli utenti di distinguere tra fatti e finzione nelle risposte generate dall'intelligenza artificiale.
Metodologia e risultati dello studio
I ricercatori hanno sottoposto a ChatGPT duecento citazioni provenienti da venti diverse pubblicazioni, chiedendo al chatbot di identificarne le fonti. Sorprendentemente, ChatGPT ha fornito risposte parzialmente o completamente errate in 153 casi su 200, ammettendo la propria incapacità di rispondere accuratamente solo in 7 occasioni.Ancora più preoccupante è il fatto che il chatbot abbia mostrato un'elevata sicurezza anche quando forniva informazioni false, utilizzando raramente espressioni di incertezza come "sembra", "è possibile" o "potrebbe".
Esempi concreti di errori
Tra gli errori più eclatanti rilevati dallo studio:1. La citazione errata di una lettera all'editore dell'Orlando Sentinel, attribuita invece a un articolo pubblicato su Time.
2. L'identificazione sbagliata della fonte di una citazione proveniente da un articolo del New York Times sulle balene in pericolo, per la quale ChatGPT ha fornito il link a un sito web diverso che aveva completamente plagiato l'articolo originale.
La risposta di OpenAI
OpenAI, l'azienda creatrice di ChatGPT, ha commentato i risultati dello studio affermando: "L'attribuzione errata è difficile da affrontare senza i dati e la metodologia che il Tow Center ha trattenuto, e lo studio rappresenta un test atipico del nostro prodotto". L'azienda ha inoltre promesso di "continuare a migliorare i risultati di ricerca".Questa dichiarazione, tuttavia, non sembra affrontare direttamente le preoccupazioni sollevate dalla ricerca, lasciando aperte molte domande sull'affidabilità dello strumento di ricerca di ChatGPT.
Implicazioni per il giornalismo e l'informazione
Le scoperte del Tow Center sollevano importanti questioni sull'uso dell'intelligenza artificiale nel campo dell'informazione e del giornalismo:1. Affidabilità delle fonti: Come possono gli utenti fidarsi delle informazioni fornite da un sistema che dimostra un'alta percentuale di errori?
2. Disinformazione: Il rischio di diffusione di notizie false o imprecise attraverso strumenti di IA ampiamente utilizzati come ChatGPT.
3. Verifica delle fonti: L'importanza crescente di un approccio critico e di una verifica indipendente delle informazioni, anche quando provengono da fonti apparentemente autorevoli come ChatGPT.
Conclusioni e prospettive future
Lo studio del Tow Center mette in luce la necessità di ulteriori ricerche e miglioramenti nel campo dell'intelligenza artificiale applicata alla ricerca e all'informazione. Mentre le potenzialità di strumenti come ChatGPT rimangono enormi, è evidente che c'è ancora molta strada da fare per garantire l'accuratezza e l'affidabilità delle informazioni fornite.Per il futuro, sarà cruciale per aziende come OpenAI lavorare a stretto contatto con esperti di giornalismo e fact-checking per migliorare i loro algoritmi e implementare sistemi più robusti di verifica delle fonti. Allo stesso tempo, gli utenti dovranno sviluppare una maggiore consapevolezza critica nell'utilizzo di questi strumenti, ricordando sempre l'importanza della verifica incrociata delle informazioni.
In un'epoca in cui l'informazione digitale gioca un ruolo sempre più centrale nella formazione dell'opinione pubblica, la sfida di bilanciare innovazione tecnologica e accuratezza informativa rimane più rilevante che mai.