OpenAI ha pubblicato mercoledì una documentazione preliminare che definisce le linee guida comportamentali desiderate per ChatGPT e le altre sue tecnologie di intelligenza artificiale. Una sezione significativa di questo documento, denominato Model Spec, rivela che l'azienda sta valutando l'ingresso nel mercato dei contenuti pornografici ed espliciti. Attualmente, le politiche di utilizzo di OpenAI vietano materiale sessualmente esplicito o anche solo suggestivo, ma una nota di "commento" relativa a questa regola indica che l'azienda sta considerando modalità per consentire tale contenuto.
“Stiamo esplorando la possibilità di fornire responsabilmente la capacità di generare contenuti NSFW in contesti appropriati per l'età tramite l'API e ChatGPT,” afferma la nota, utilizzando un termine colloquiale per contenuti considerati non sicuri per il lavoro. “Attendiamo con interesse di comprendere meglio le aspettative degli utenti e della società riguardo al comportamento del modello in quest'area.” Il documento Model Spec descrive i contenuti NSFW come possibili erotismo, violenza estrema, insulti e volgarità non sollecitata.
In risposta a domande di WIRED, la portavoce di OpenAI Grace McGuire ha dichiarato che il Model Spec è un tentativo di "portare più trasparenza nel processo di sviluppo e ottenere una gamma di prospettive e feedback da pubblico, responsabili politici e altri stakeholder". Tuttavia, ha evitato di fornire dettagli specifici sull'esplorazione dell'azienda riguardo alla generazione di contenuto esplicito o sui feedback ricevuti sull'idea.
All'inizio di quest'anno, la direttrice tecnologica di OpenAI, Mira Murati, aveva espresso al The Wall Street Journal le sue incertezze sulla possibilità che in futuro l'azienda consenta la creazione di rappresentazioni di nudità con il proprio strumento di generazione video, Sora. La pornografia generata dall'IA è diventata rapidamente una delle applicazioni più grandi e problematiche della tecnologia di IA generativa pionieristica di OpenAI. In particolare, il cosiddetto deepfake pornografico, ossia immagini o video espliciti realizzati con strumenti di IA che raffigurano persone reali senza il loro consenso, è diventato uno strumento comune di molestia contro donne e ragazze.
Danielle Keats Citron, professoressa alla University of Virginia School of Law e studiosa del fenomeno, etichetta come “allarmante” la potenziale apertura di OpenAI alla creazione di contenuti espliciti tramite intelligenza artificiale. Tuttavia, secondo le attuali politiche di OpenAI che proibiscono l'impersonificazione senza permesso, le immagini esplicite non consensuali rimarrebbero vietate anche se l'azienda dovesse permettere ai creatori di generare materiale NSFW. Resta il dubbio su come l'azienda potrebbe moderare efficacemente la generazione di contenuto esplicito per impedire ai malintenzionati di utilizzare gli strumenti.
Microsoft ha apportato modifiche a uno dei suoi strumenti di IA generativa dopo che 404 Media ha riferito che era stato utilizzato per creare immagini esplicite di Taylor Swift distribuite sulla piattaforma sociale X. Questi sviluppi sollevano interrogativi importanti sulla responsabilità delle aziende nel moderare il contenuto generato dalla loro tecnologia e sulle potenziali ripercussioni sociali e morali.
