Il sistema di filigrana di OpenAI modifica il modo in cui il modello prevede le parole e le frasi più probabili, creando un pattern rilevabile. Secondo quanto riportato dal Wall Street Journal, la compagnia ha riscontrato che questa tecnica non influisce sulla qualità dei testi prodotti dal chatbot.
L'implementazione di un tale strumento potrebbe essere particolarmente utile per gli insegnanti che cercano di scoraggiare gli studenti dall'utilizzare l'IA per i compiti scritti. Un sondaggio commissionato da OpenAI ha rivelato che le persone in tutto il mondo supportano l'idea di uno strumento di rilevamento dell'IA con un rapporto di quattro a uno.
Tuttavia, OpenAI ha espresso preoccupazioni riguardo alla potenziale stigmatizzazione dell'uso di strumenti di IA da parte di persone non madrelingua. Inoltre, l'azienda teme che l'implementazione della filigrana possa ridurre l'utilizzo di ChatGPT: quasi il 30% degli utenti intervistati ha dichiarato che userebbe meno il software se fosse implementata questa funzione.
Dibattito interno e possibili alternative
Nonostante alcuni dipendenti ritengano che la filigrana sia efficace, il Wall Street Journal riporta che alcuni hanno suggerito di esplorare metodi "potenzialmente meno controversi tra gli utenti ma non ancora provati".
In un aggiornamento del suo blog, OpenAI ha confermato di essere nelle "fasi iniziali" dell'esplorazione dell'incorporazione di metadati come alternativa. L'azienda afferma che è ancora troppo presto per valutarne l'efficacia, ma sottolinea che, essendo firmati crittograficamente, non ci sarebbero falsi positivi.
La decisione di OpenAI riguardo al rilascio di questa tecnologia rimane incerta, bilanciando la responsabilità etica con le potenziali implicazioni commerciali. L'azienda dovrà valutare attentamente i pro e i contro prima di prendere una decisione definitiva su come procedere con l'identificazione dei testi generati dall'IA.
