Lo scontro tra il Pentagono e Anthropic segna un momento di svolta nel dibattito globale sull'uso militare dell'intelligenza artificiale, mettendo in luce una tensione strutturale che attraversa l'intero ecosistema AI: fino a che punto le aziende che sviluppano modelli fondazionali possono — o devono — imporre limiti etici sull'utilizzo dei propri sistemi, anche quando il cliente è il governo degli Stati Uniti? La disputa, che si trascina da diversi mesi, è esplosa questa settimana con un ultimatum formale del Segretario alla Difesa Pete Hegseth al CEO di Anthropic, Dario Amodei: adeguarsi alle richieste entro venerdì alle 17:01 o perdere un contratto da 200 milioni di dollari. In gioco non c'è solo un accordo commerciale, ma la definizione stessa dei confini etici accettabili nell'impiego degli LLM (Large Language Models) in contesti ad alto rischio.
Al centro del contenzioso ci sono le restrizioni che Anthropic ha integrato nel proprio modello Claude, progettato fin dalla sua architettura per operare all'interno di precisi vincoli di sicurezza. Il Pentagono richiede che tali guardrail vengano rimossi per consentire un utilizzo del modello per "tutti gli usi leciti", formula che Anthropic interpreta come una finestra aperta su scenari che la società considera inaccettabili: il controllo autonomo di sistemi d'arma e la sorveglianza di massa dei cittadini americani. Secondo fonti a conoscenza delle trattative, Anthropic ritiene che i modelli di AI generativa non siano ancora sufficientemente affidabili per operare in autonomia su sistemi d'arma, e che non esista ancora un quadro normativo adeguato a disciplinare l'impiego dell'AI nella sorveglianza di massa su scala nazionale.
La minaccia del Pentagono va ben oltre la semplice rescissione contrattuale. L'amministrazione Hegseth ha prospettato l'attivazione del Defense Production Act (DPA), una legge che conferisce al governo federale poteri straordinari di indirizzo sulle imprese private in nome della sicurezza nazionale — uno strumento invocato, tra l'altro, durante la pandemia da Covid-19. Ma è la seconda misura a preoccupare maggiormente l'ecosistema tech: classificare Anthropic come "rischio nella supply chain", una designazione normalmente riservata a entità considerate propaggini di potenze straniere ostili come Russia o Cina, che impedirebbe alle aziende con contratti militari di utilizzare i prodotti Anthropic in qualsiasi attività per la difesa.
È proprio la coerenza logica di questa doppia minaccia a sollevare perplessità tra gli esperti legali. Katie Sweeten, ex coordinatrice tra il Dipartimento di Giustizia e il Dipartimento della Difesa e attualmente partner dello studio legale Scale, ha evidenziato la contraddizione intrinseca: "Non avrebbe senso voler usare una tecnologia che al contempo si designa come rischio per la supply chain. Sembra più una misura punitiva nei confronti di chi non si adegua alle richieste che una valutazione tecnica genuina." La questione legale è tutt'altro che risolta, e potrebbe trascinarsi in sede giudiziaria qualora il Pentagono procedesse nelle sue intenzioni.
Nonostante i toni della riunione di martedì siano stati descritti come cordiali — con Hegseth che avrebbe elogiato i prodotti Anthropic — Amodei ha ribadito con fermezza le proprie linee rosse sulle armi autonome e sulla sorveglianza di massa. In risposta, un portavoce di Anthropic ha definito l'incontro una conversazione in "buona fede" sulle politiche d'uso della tecnologia, sottolineando come la società sia stata la prima azienda di AI di frontiera a rendere i propri modelli disponibili su reti classificate e a sviluppare versioni personalizzate per clienti nel settore della sicurezza nazionale. Il Pentagono, dal canto suo, ha respinto la tesi che le sue richieste riguardassero armi autonome o sorveglianza di massa, affermando che "la legalità è responsabilità del Pentagono in quanto utente finale".
La crisi apre spazi significativi per i competitor di Anthropic. Un funzionario del Pentagono ha confermato che xAI, la società di intelligenza artificiale fondata da Elon Musk, è già "a bordo" per operare in ambienti classificati, mentre altri operatori sarebbero in fase avanzata di negoziazione. Questa dinamica rischia di creare un incentivo perverso nel mercato: le aziende AI più permissive sul fronte della safety potrebbero ottenere vantaggi competitivi nei contratti governativi rispetto a quelle che mantengono standard etici più elevati.
La vicenda acquista ulteriore rilievo considerando il posizionamento storico di Anthropic nel panorama dell'AI safety. Fondata da Dario Amodei, sua sorella Daniela e altri ex ricercatori di OpenAI che lasciarono la società a causa di disaccordi sull'approccio alla sicurezza e sulla velocità dello sviluppo, Anthropic ha costruito la propria identità proprio attorno al concetto di "AI costituzionale" — un approccio al fine-tuning che integra principi etici direttamente nel processo di addestramento del modello. Non a caso, la società ha recentemente annunciato una donazione di 20 milioni di dollari a un gruppo politico che sostiene una maggiore regolamentazione del settore AI.
Nel contesto europeo, la questione rimanda direttamente alle previsioni dell'AI Act, che classifica come ad alto rischio i sistemi AI destinati a usi militari e di sicurezza critica, prevedendo obblighi stringenti di trasparenza, robustezza e supervisione umana. Il caso Anthropic-Pentagono dimostra che, anche in assenza di normative vincolanti come quelle europee, le aziende AI si trovano a dover negoziare i confini applicativi dei propri modelli in modo tutt'altro che teorico. La domanda aperta per il settore è se, alla luce di queste pressioni, sarà possibile mantenere standard di sicurezza coerenti nell'utilizzo militare dell'AI, o se il mercato della difesa finirà per premiare sistematicamente i modelli con meno restrizioni incorporate.