Secondo la ricercatrice, uno dei principali problemi è la "digitalizzazione forzata" che sta portando all'esclusione dei gruppi più vulnerabili e meno alfabetizzati dal punto di vista tecnologico. Inoltre, gli algoritmi possono contenere bias e fare errori, ma spesso si assume che il problema sia dell'utente e non del sistema.
Rosales sottolinea come "molti aspetti della vita quotidiana non sono quantificabili, e molte quantificazioni sono approssimazioni grossolane della realtà". Tuttavia, le decisioni vengono sempre più delegate a sistemi automatizzati opachi, di cui pochi conoscono il reale funzionamento.
I rischi per la democrazia
Un altro tema centrale è l'impatto sulla democrazia. Nel romanzo un androide si candida come presidente, sostenendo che i cittadini si fideranno più di un robot che di un umano. Questo solleva questioni sulla responsabilità e il controllo democratico di sistemi decisionali automatizzati.Secondo Rosales, è fondamentale lavorare per proteggere le persone più vulnerabili e cercare modelli in cui il governo mantenga la sua indipendenza dalle grandi aziende tecnologiche. Solo così si potranno salvaguardare le democrazie e i diritti fondamentali di fronte all'avanzata dell'automazione e degli algoritmi decisionali.
L'analisi critica del romanzo "QualityLand" serve quindi come monito sui rischi di un eccessivo tecno-ottimismo e sull'importanza di regolamentare l'uso degli algoritmi e dei big data. La tecnologia può offrire grandi opportunità, ma occorre prestare attenzione ai suoi lati oscuri e al suo impatto sulla società e sulla libertà individuale.
Il problema di Peter
Il protagonista del romanzo, Peter Jobless, rappresenta l'utente medio alle prese con un mondo iper-digitalizzato. Riceve continuamente prodotti, partner e valutazioni scelti da algoritmi, senza avere reale controllo o comprensione del processo. Questo fenomeno viene definito "il problema di Peter", ovvero la difficoltà di adattarsi a un sistema governato da dati incomprensibili.
La storia di Peter evidenzia come la dipendenza da sistemi automatizzati possa portare a un senso di alienazione e perdita di autonomia. Gli algoritmi presumono di conoscere i desideri delle persone meglio di loro stesse, ma spesso fanno scelte inadeguate o escludenti.
Verso un futuro automatizzato
L'analisi di Rosales invita a riflettere criticamente sul futuro sempre più automatizzato verso cui ci stiamo dirigendo. Se da un lato le nuove tecnologie promettono di semplificare la vita, dall'altro rischiano di creare nuove forme di disuguaglianza e controllo sociale.
La ricercatrice sottolinea l'importanza di mantenere alternative analogiche ai servizi digitali, per non escludere chi ha meno competenze tecnologiche. Inoltre, è necessario aumentare la trasparenza degli algoritmi e prevedere forme di supervisione democratica sul loro utilizzo.
In conclusione, lo studio di "QualityLand" offre uno spunto per ripensare il rapporto tra tecnologia e società, cercando un equilibrio tra innovazione e tutela dei diritti fondamentali. Solo con un approccio critico e consapevole sarà possibile cogliere i benefici dell'automazione senza cadere nelle trappole distopiche prefigurate dal romanzo.