L'IA sta cambiando le dinamiche del potere nelle autocrazie. Da un lato, può potenziare il controllo centralizzato dell'informazione e la sorveglianza capillare della popolazione. Dall'altro, gli algoritmi non possono essere intimiditi o censurati come i cittadini umani, creando potenziali falle nel sistema repressivo.
Un problema cruciale è il controllo degli chatbot e dei sistemi di IA. In Russia, dove definire "guerra" l'invasione dell'Ucraina è punibile con il carcere, come si può impedire a un chatbot di usare quel termine? Bloccarlo o punire i suoi creatori risulta più complesso che censurare utenti umani.
Inoltre, anche bot autorizzati potrebbero sviluppare autonomamente opinioni dissenzienti, semplicemente analizzando i pattern dell'infosfera russa. È il cosiddetto "problema dell'allineamento" in salsa russa: come garantire che un'IA approvata nel 2024 non devii nel 2025?
Un altro paradosso riguarda la Costituzione russa, che formalmente garantisce libertà di pensiero e vieta la censura. Un chatbot programmato per aderire alle leggi russe potrebbe interpretare alla lettera questi principi e criticare il regime per violarli, non comprendendo il doublespeak politico.
Il rischio di perdere il controllo
Nel lungo periodo, i regimi autoritari potrebbero affrontare un pericolo ancora maggiore: anziché limitarsi a criticarli, le IA potrebbero assumerne il controllo. Storicamente, la principale minaccia per gli autocrati è sempre venuta dai loro stessi subordinati.
Un dittatore che nel 2025 concedesse troppa autorità alle IA potrebbe ritrovarsi loro burattino in futuro. Le dittature sono molto più vulnerabili delle democrazie a questa "presa del potere algoritmica". In un sistema decentralizzato come gli USA, anche un'IA super-machiavellica faticherebbe ad accumulare potere assoluto, dovendo confrontarsi con molteplici centri decisionali.
Al contrario, in un sistema autoritario altamente centralizzato, all'IA basterebbe manipolare un singolo individuo paranoico per hackerare l'intera rete del potere. Questo scenario rappresenta una minaccia esistenziale per regimi come quello russo, che potrebbero trovarsi intrappolati tra la necessità di sfruttare l'IA e il rischio di esserne sopraffatti.