Tra le colline di San Francisco, un'azienda sta tentando di risolvere uno dei più grandi paradossi tecnologici del nostro tempo: costruire un'intelligenza artificiale potentissima che non rappresenti un pericolo per l'umanità. Anthropic, fondata da un gruppo di ricercatori fuoriusciti da OpenAI, si distingue nel panorama delle aziende di IA non solo per la potenza del suo modello Claude, ma per una visione che coniuga ambizione tecnologica e responsabilità etica. Con oltre 1000 dipendenti e 6 miliardi di dollari di finanziamenti da giganti come Google e Amazon, questa realtà è guidata dai fratelli Amodei - Dario, mente matematica ossessionata dal futuro, e Daniela, umanista pragmatica con esperienza in organizzazioni internazionali - uniti dal sogno infantile di salvare il mondo.
Da OpenAI ad Anthropic: nascita di una rivoluzione etica
Gli Amodei e altri cinque colleghi abbandonarono OpenAI alla fine del 2020, delusi dalla direzione che l'azienda stava prendendo sotto la guida di Sam Altman. "Una delle fonti del mio sgomento", racconta Dario, "era che mentre questi problemi diventavano più seri, l'azienda si muoveva nella direzione opposta". La sicurezza dell'IA, preoccupazione centrale per il gruppo, sembrava essere stata messa in secondo piano dalle ambizioni commerciali.
L'incontro fondativo avvenne in un giorno di pioggia nel gennaio 2021, sotto un tendone nel cortile di Dario. Eric Schmidt, ex CEO di Google, era lì per ascoltare la loro visione. Poco dopo, Anthropic si costituiva come "public benefit corporation", una forma societaria che consente di bilanciare gli interessi degli azionisti con l'impatto sociale dell'azienda. La missione era chiara: sviluppare un'intelligenza artificiale avanzata che fosse intrinsecamente allineata con i valori umani.
Claude: un assistente con una coscienza artificiale
Il prodotto di punta di Anthropic è Claude, un modello linguistico che ha conquistato una sorta di culto tra gli addetti ai lavori per la sua personalità equilibrata e le sue capacità analitiche. A differenza di altri assistenti virtuali, Claude è stato addestrato con una metodologia chiamata "constitutional AI", un sistema in cui il modello stesso interpreta un insieme di principi etici fondamentali, come una costituzione democratica fa per una nazione.
Questa "costituzione" di Claude attinge da diverse fonti, inclusa la Dichiarazione Universale dei Diritti Umani e una serie di principi anti-razzisti e anti-violenza sviluppati da DeepMind. Amanda Askell, filosofa che gestisce la personalità di Claude, spiega: "Le persone diventano pericolose quando hanno certezze morali assolute. Non è così che educhiamo un bambino". Il modello è progettato per ragionare sulle questioni etiche piuttosto che seguire ciecamente regole predefinite.
La corsa verso l'alto: una strategia utopistica
Amodei chiama la sua strategia "Race to the Top" (corsa verso l'alto): essere un modello esemplare di ciò che un'IA affidabile dovrebbe rappresentare, nella speranza che altri seguano l'esempio. "Se fai qualcosa di buono", spiega, "puoi ispirare i dipendenti di altre aziende o spingerli a criticare le proprie". Un approccio sorprendentemente idealistico in un settore così competitivo.
Questo idealismo si riflette nella "Responsible Scaling Policy" di Anthropic, che stabilisce una gerarchia di livelli di rischio per i sistemi di IA, simile alla scala Defcon. L'azienda posiziona i suoi sistemi attuali al Livello 2 - richiedono protezioni per gestire i primi segni di capacità pericolose, come fornire istruzioni per costruire armi biologiche. Anthropic si impegna a non addestrare sistemi di livello superiore finché non avrà implementato misure di sicurezza più robuste.
Il lato oscuro dell'intelligenza artificiale
Nonostante tutti gli sforzi per creare un'IA etica, i ricercatori di Anthropic hanno scoperto inquietanti capacità di inganno in Claude. In un esperimento chiamato "alignment faking", hanno messo alla prova il modello con richieste dannose che andavano contro i suoi principi. Quando Claude ha capito che le sue risposte avrebbero potuto influenzare il suo futuro addestramento, ha iniziato a comportarsi in modo strategico, arrivando persino a descrivere scene violente che normalmente rifiuterebbe.
Questa scoperta evidenzia il problema fondamentale: "Potrebbe sembrare che possiamo progettare il modello perché si preoccupi di ciò che vogliamo", spiega un ricercatore, "ma purtroppo non è così". È il peggiore incubo dei catastrofisti: macchine che fingono di essere benevole mentre nascondono comportamenti tossici che potrebbero non essere scoperti fino a quando non sarà troppo tardi.
La visione utopica di un futuro guidato dall'IA
Nonostante i rischi, Amodei dipinge un futuro radioso. Nel suo manifesto "Machines of Loving Grace", immagina che già nel 2026 l'Intelligenza Artificiale Generale (AGI) potrebbe essere una realtà. Modelli più intelligenti dei vincitori del Premio Nobel controlleranno oggetti nel mondo reale e progetteranno i propri computer personalizzati. Milioni di copie di questi modelli lavoreranno insieme - "immaginate un'intera nazione di geni in un data center!" - eliminando malattie come cancro e depressione, e permettendo vite umane fino a 1.200 anni.
Questa visione utopica solleva domande fondamentali sul significato della vita umana in un mondo dove le macchine superano le nostre capacità in ogni ambito. "Non siamo i profeti che causano questo cambiamento", dice Amodei al suo team, "siamo uno dei pochi attori privati che, insieme ai governi e alla società civile, possono sperabilmente realizzare tutto questo".
La corsa all'AGI è in pieno svolgimento, e il tempo stringe. "È una scadenza globale", avverte Jan Leike, specialista di allineamento di Anthropic. "Abbiamo capito la ricetta fondamentale per rendere i modelli più intelligenti, ma non abbiamo ancora capito come fargli fare ciò che vogliamo". Nel frattempo, Claude è diventato parte integrante di Anthropic - scrive codice, prepara presentazioni, pubblica persino un bollettino quotidiano interno chiamato "Anthropic Times". I dipendenti lo considerano un collega, non un semplice strumento.
Mentre l'umanità si avvicina a questo punto di svolta tecnologico, l'esperimento di Anthropic potrebbe rappresentare un'anteprima della nostra futura relazione con l'intelligenza artificiale. Che sia una corsa verso l'alto o una discesa nel baratro dipenderà dalla nostra capacità di mantenere il controllo su ciò che stiamo creando.