L'industria dell'intelligenza artificiale sta avendo un impatto sempre maggiore sulla società, ma non mancano le voci critiche che ne mettono in discussione i valori fondanti e le pratiche. Tra queste spicca quella di Abeba Birhane, esperta di IA della Mozilla Foundation, che da anni sfida il settore con le sue ricerche.
Birhane, consulente senior per la responsabilità dell'IA presso Mozilla e professoressa aggiunta al Trinity College di Dublino, ha recentemente condotto uno studio sui rischi legati al cosiddetto "scaling up" dei dati utilizzati per addestrare i sistemi di IA.
I rischi dello "scaling up" dei dati
Lo "scaling up", ovvero l'aumento esponenziale della quantità di dati usati per addestrare i modelli di IA, è considerato dall'industria tech come la chiave per migliorare le prestazioni dei sistemi. Tuttavia, secondo Birhane, questa pratica può portare a risultati discriminatori, soprattutto nei confronti delle minoranze.
La sua ricerca ha evidenziato come l'aumento della scala dei dataset utilizzati per addestrare i generatori di immagini IA stia producendo output sempre più razzisti, in particolare contro gli uomini di colore.
Contrariamente a quanto sostengono le grandi aziende tech, lo studio di Birhane dimostra che aumentare la quantità di dati non porta necessariamente a risultati più equilibrati, ma può anzi amplificare i problemi e i pregiudizi presenti nei dataset originali.
L'importanza dei valori etici nell'IA
Birhane sottolinea come l'IA non sia una tecnologia neutra e puramente matematica, ma incorpori i valori di chi la sviluppa. La sua analisi di 100 tra i più influenti paper sul machine learning ha rivelato come il settore tenda a trascurare aspetti fondamentali come giustizia, equità e privacy.
Secondo la ricercatrice, è necessario un cambiamento di paradigma che porti l'industria dell'IA a considerare seriamente le implicazioni sociali ed etiche delle proprie tecnologie, non limitandosi a perseguire il mero miglioramento delle prestazioni tecniche.
La necessità di una regolamentazione efficace
Birhane si dice pessimista sulla possibilità che l'industria dell'IA adotti spontaneamente pratiche più responsabili. A suo avviso, sono necessarie normative forti ed efficaci per spingere le aziende a prendere sul serio le questioni etiche e sociali legate all'intelligenza artificiale.
Oltre alla regolamentazione, anche la pressione dell'opinione pubblica può giocare un ruolo importante nel sensibilizzare le aziende tech sulle problematiche evidenziate dalla ricerca di Birhane e di altri studiosi critici verso le attuali pratiche del settore.
Il lavoro di Birhane rappresenta un importante contributo al dibattito sull'impatto sociale dell'IA, mettendo in luce rischi spesso sottovalutati dall'industria e sottolineando la necessità di un approccio più consapevole e responsabile allo sviluppo di queste tecnologie sempre più influenti sulla nostra società.
L'intelligenza artificiale ha radici profonde nella storia del pensiero umano, risalenti all'antichità classica. Già nell'VIII secolo a.C., Omero descriveva nell'Iliade automi d'oro creati da Efesto, il dio greco della tecnologia. Secoli dopo, nel XIII secolo, il filosofo catalano Ramon Llull concepì una macchina logica in grado di combinare concetti fondamentali per generare nuove idee.
Il termine "intelligenza artificiale" fu coniato solo nel 1956 durante la conferenza di Dartmouth, considerata l'atto di nascita di questa disciplina. Tra i pionieri dell'IA troviamo Alan Turing, che nel 1950 propose il celebre "Test di Turing" per valutare l'intelligenza delle macchine.
Una curiosità interessante riguarda il primo chatbot della storia: ELIZA, creato nel 1966 da Joseph Weizenbaum del MIT. Questo programma simulava un terapeuta rogersiano e fu così convincente che alcuni utenti svilupparono un attaccamento emotivo, nonostante Weizenbaum avesse concepito ELIZA come una critica all'IA.
I had not realized [...] that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people.
Negli anni '80, l'IA conobbe una fase di stallo nota come "inverno dell'IA", dovuta alle aspettative troppo alte e ai limitati progressi. Tuttavia, dagli anni '90 in poi, grazie all'aumento della potenza di calcolo e alla disponibilità di grandi quantità di dati, l'IA ha conosciuto una rinascita che perdura ancora oggi.
Un aspetto poco noto dell'IA moderna è il suo impatto ambientale. L'addestramento di modelli linguistici di grandi dimensioni può produrre emissioni di CO2 paragonabili a quelle di cinque auto nell'arco della loro vita utile. Questo ha portato alcuni ricercatori a proporre l'idea di "IA verde", più efficiente e sostenibile.
Infine, è interessante notare come l'IA stia influenzando anche il mondo dell'arte. Nel 2018, il dipinto "Edmond de Belamy", creato da un algoritmo di apprendimento automatico, è stato venduto all'asta per 432.500 dollari, sollevando dibattiti sulla natura dell'arte e sulla creatività delle macchine.
Questi cenni storici e curiosità ci ricordano che l'IA, lungi dall'essere una novità assoluta, è il risultato di secoli di riflessioni e sperimentazioni sull'intelligenza e sulla possibilità di replicarla artificialmente. Allo stesso tempo, ci invitano a riflettere sulle implicazioni etiche, ambientali e culturali di questa tecnologia in rapida evoluzione.
