Il professor Naveen Kumar, coautore dello studio, avverte che con la crescente disponibilità di piattaforme IA gratuite o a basso costo, c'è il rischio che le questioni etiche passino in secondo piano rispetto alla corsa al ribasso dei prezzi. "Quando il prezzo è la priorità, ci sarà ancora attenzione alle questioni etiche e alle regolamentazioni sui pregiudizi?", si chiede Kumar.
La ricerca citata nello studio rivela che quasi un terzo degli intervistati ritiene di aver perso opportunità, come prospettive finanziarie o lavorative, a causa di algoritmi IA distorti. Mentre i sistemi si sono concentrati sulla rimozione dei pregiudizi espliciti, quelli impliciti rimangono un problema difficile da rilevare man mano che i modelli diventano più sofisticati.
Kumar sottolinea che "con l'IA che gioca un ruolo sempre più importante in settori come finanza, marketing, risorse umane e sanità, è fondamentale che si allinei alle preferenze umane per evitare decisioni inique". Ad esempio, algoritmi di reclutamento distorti potrebbero favorire un genere o una razza, mentre modelli pubblicitari prevenuti rischierebbero di perpetuare stereotipi.
La necessità di soluzioni proattive
I ricercatori invitano la comunità scientifica a sviluppare soluzioni tecniche e organizzative proattive per monitorare e mitigare i pregiudizi nei modelli linguistici di grandi dimensioni. Suggeriscono inoltre un approccio equilibrato per garantire che le applicazioni IA rimangano efficienti, eque e trasparenti.
"Trovare il giusto equilibrio tra le esigenze dei diversi attori - sviluppatori, dirigenti aziendali, esperti di etica, regolatori - sarà la chiave del successo nell'affrontare i pregiudizi in questi modelli", afferma Kumar. "Considerando la rapida evoluzione del settore, ci sarà molta tensione tra stakeholder con obiettivi divergenti."
Lo studio, condotto in collaborazione con ricercatori dell'Università di Washington, del Georgia Institute of Technology e della Hong Kong Baptist University, sottolinea l'importanza di politiche etiche e di una maggiore regolamentazione per garantire che l'IA generativa venga sviluppata e utilizzata in modo responsabile, minimizzando i rischi di discriminazione e decisioni inique.