La funzione di correzione è disponibile in anteprima come parte di Azure AI Studio, una suite di strumenti di sicurezza progettati per rilevare vulnerabilità, individuare "allucinazioni" e bloccare prompt dannosi. Una volta attivato, il sistema di correzione scansiona e identifica le imprecisioni nell'output dell'IA confrontandolo con il materiale di origine del cliente.
Il sistema evidenzia l'errore, fornisce informazioni sul motivo per cui è sbagliato e riscrive il contenuto in questione, tutto "prima che l'utente possa vedere" l'imprecisione. Questa funzionalità mira a migliorare l'affidabilità e l'accuratezza dei sistemi AI, riducendo il rischio di diffusione di informazioni errate.
Tuttavia, la soluzione potrebbe non essere completamente affidabile. Un portavoce di Microsoft ha dichiarato a TechCrunch che il sistema di "correzione" utilizza "modelli linguistici piccoli e grandi per allineare gli output con i documenti di riferimento", il che significa che non è immune da errori.
Confronto con altre soluzioni
Vertex AI, la piattaforma cloud di Google per le aziende che sviluppano sistemi AI, offre una funzionalità simile che "àncora" i modelli AI verificando gli output rispetto a Google Search, ai dati propri dell'azienda e (presto) a dataset di terze parti.
È importante notare che la rilevazione della fondatezza non risolve completamente il problema dell'"accuratezza", ma aiuta ad allineare gli output dell'IA generativa con i documenti di riferimento. Questa nuova funzionalità rappresenta un passo avanti significativo negli sforzi per migliorare l'affidabilità dell'IA, pur riconoscendo che ci sono ancora sfide da affrontare.