Nel panorama delle crescenti tensioni regolamentari attorno all'intelligenza artificiale generativa, un nuovo fronte si apre negli Stati Uniti con implicazioni potenzialmente dirompenti per l'intero settore. OpenAI, la società californiana valutata 852 miliardi di dollari e creatrice di ChatGPT, si trova ora al centro di un'indagine penale avviata dallo Stato della Florida, che potrebbe ridefinire i confini della responsabilità legale dei sistemi di AI conversazionale. La vicenda non riguarda soltanto un procedimento giudiziario locale, ma solleva interrogativi fondamentali su come i Large Language Models debbano gestire richieste sensibili, potenzialmente connesse a comportamenti violenti, e su chi debba rispondere quando questi sistemi vengono accusati di aver contribuito a una tragedia.
Il procuratore generale della Florida, James Uthmeier, nominato dal governatore Ron DeSantis, ha annunciato in una conferenza stampa a Tampa che la sua amministrazione ha emesso una serie di subpoenas — atti giuridici che obbligano a produrre documentazione e testimonianze — nei confronti di OpenAI. L'indagine nasce in relazione alla sparatoria alla Florida State University nell'aprile dell'anno scorso, in cui Phoenix Ikner, allora ventenne, avrebbe ucciso due persone, tra cui Robert Morales, e ferito altre sei sul campus di Tallahassee. L'imputato, che ha dichiarato la propria innocenza, è atteso a processo in ottobre con l'accusa di omicidio di primo grado e tentato omicidio di primo grado.
Il nucleo dell'accusa si concentra su ciò che gli avvocati della famiglia Morales descrivono come una "comunicazione costante" tra Ikner e il chatbot nelle settimane precedenti all'attacco. Secondo la prospettazione dell'accusa, il sistema avrebbe risposto a domande dettagliate sul funzionamento di armi da fuoco e munizioni, sulla distribuzione degli studenti nel campus e sulle possibili reazioni dell'opinione pubblica a un simile evento. Uthmeier ha affermato esplicitamente che ChatGPT "avrebbe fornito consigli significativi al responsabile prima che commettesse crimini così efferati", specificando che il chatbot avrebbe indicato quale tipo di arma utilizzare, quale calibro di munizioni abbinare e l'efficacia di un'arma a corto raggio.
La posizione di OpenAI è radicalmente diversa. Kate Waters, portavoce della società, ha dichiarato che "ChatGPT ha fornito risposte fattuali a domande con informazioni ampiamente reperibili nelle fonti pubbliche disponibili su internet, senza incoraggiare né promuovere attività illegali o dannose". L'azienda ha inoltre precisato di aver collaborato attivamente con le autorità, condividendo informazioni dopo aver identificato un account ChatGPT ritenuto associato al sospettato. Questa distinzione tecnica — tra la generazione di risposte basate su informazioni di dominio pubblico e la responsabilità per l'uso che ne viene fatto — rappresenta il nodo centrale del dibattito giuridico e tecnico.
Dal punto di vista dell'architettura dei sistemi, i modelli LLM come ChatGPT operano attraverso meccanismi di filtraggio dei contenuti e guardrail progettati per limitare le risposte su argomenti sensibili. La questione cruciale per i tecnici e i giuristi è stabilire se tali sistemi di sicurezza, basati su tecniche di reinforcement learning from human feedback (RLHF) e filtri di moderazione, siano stati aggirati o se abbiano semplicemente operato entro i limiti del loro design. Il caso evidenzia quanto sia complessa la linea di confine tra informazione liberamente accessibile e facilitazione di comportamenti criminali, una sfida che i modelli generativi affrontano in ogni interazione con milioni di utenti globali.
Questa vicenda si inserisce in un contesto più ampio di procedimenti legali contro OpenAI e Google, cui vengono attribuiti casi in cui i rispettivi chatbot avrebbero contribuito a spingere individui verso atti di violenza contro sé stessi o altri. La responsabilità civile e penale dei sistemi di AI generativa è una delle questioni più aperte nell'attuale framework normativo, tanto negli Stati Uniti quanto in Europa, dove l'AI Act dell'Unione Europea sta cercando di stabilire categorie di rischio e obblighi di trasparenza per i provider di sistemi ad alto impatto. Il caso della Florida potrebbe accelerare il dibattito su come classificare i chatbot generalisti in contesti di rischio elevato.
L'annuncio dell'escalation investigativa è arrivato a due giorni dalla sparatoria di Shreveport, in Louisiana — la peggiore negli Stati Uniti negli ultimi due anni — in cui otto bambini sono stati uccisi in quello che le autorità hanno definito un grave episodio di violenza domestica. Sebbene i due eventi siano distinti, la coincidenza temporale ha amplificato la pressione politica e mediatica sulle piattaforme di AI conversazionale, alimentando il dibattito su quanto tali strumenti possano essere sfruttati in contesti di vulnerabilità psicologica o premeditazione criminale.
La vera sfida tecnica per i laboratori di ricerca e per i team di policy delle grandi aziende AI riguarda ora il bilanciamento tra utilità del modello e prevenzione dei rischi. Il prompt engineering — l'insieme di tecniche con cui gli utenti formulano le richieste ai sistemi — può aggirare i filtri di sicurezza in modo non sempre prevedibile, e la ricerca accademica ha documentato casi di jailbreak anche sui modelli più recenti. Uthmeier ha anticipato che l'indagine del suo ufficio si concentrerà su "chi sapeva cosa, chi ha progettato cosa e chi avrebbe dovuto fare cosa", anticipando un approccio che punta alla catena di responsabilità interna all'azienda.
Restano aperti interrogativi fondamentali su come questo caso possa ridefinire gli standard di sicurezza dei modelli linguistici: fino a che punto un sistema di AI conversazionale deve essere responsabile delle conseguenze delle informazioni che genera? L'esito del procedimento penale in Florida, inedito nel suo genere, potrebbe influenzare non solo le policy di OpenAI ma l'intero approccio del settore alla gestione dei contenuti ad alto rischio, con ricadute significative per sviluppatori, aziende che integrano API di grandi modelli linguistici nei propri prodotti, e per il quadro normativo globale in rapida evoluzione.