Quando chi costruisce l’intelligenza artificiale decide di chiamarsi fuori

È difficile considerare le dimissioni di Jacob Coxon da Anthropic un normale cambio di lavoro. Non soltanto per la durezza delle sue dichiarazioni, ma per il punto di osservazione dal quale arrivano: Coxon ha lavorato anche in OpenAI e ha contribuito allo sviluppo di alcuni dei modelli più avanzati.

Uscendo da Anthropic, ha accusato le principali aziende del settore di partecipare a una corsa verso sistemi sempre più autonomi senza disporre di garanzie sufficienti per controllarli. La formula scelta è particolarmente forte: le aziende starebbero «scommettendo con le nostre vite».

Non è possibile stabilire che una previsione sia corretta soltanto perché viene formulata da una persona informata. Ma è altrettanto difficile ignorare ciò che accade quando uno specialista decide di rinunciare a un ruolo prestigioso e ben retribuito perché non ritiene più responsabile continuare quel lavoro.

Una dimissione resta una scelta individuale. Il quadro cambia, però, quando episodi simili iniziano a ripetersi.

Non è più soltanto il caso Coxon

Prima di Coxon, altri ricercatori impegnati nella sicurezza dell’intelligenza artificiale avevano lasciato alcune delle aziende più importanti del settore sollevando problemi analoghi.

Nel 2024 Jan Leike, allora responsabile congiunto del gruppo Superalignment di OpenAI, spiegò che la cultura e i processi dedicati alla sicurezza erano stati progressivamente messi in secondo piano rispetto allo sviluppo dei prodotti. Nel febbraio 2026 Mrinank Sharma lasciò invece la guida del team Safeguards Research di Anthropic, richiamando la distanza crescente tra i valori dichiarati e le decisioni effettivamente assunte.

Le vicende sono diverse e non devono essere sovrapposte. Non tutte le dimissioni hanno le stesse motivazioni e non tutti i ricercatori condividono le previsioni più pessimistiche sul futuro dell’AI. La loro successione pone comunque una domanda: quale capacità di incidere hanno davvero le persone incaricate di studiare i rischi?

Il problema non riguarda necessariamente la buona o la cattiva fede delle aziende. OpenAI, Anthropic e gli altri grandi laboratori investono risorse rilevanti nella sicurezza e sanno che un incidente grave potrebbe produrre conseguenze economiche e reputazionali enormi. Ma operano anche in un mercato nel quale ogni rallentamento può trasformarsi in un vantaggio per un concorrente.

È questo il nodo più difficile. Anche un’azienda convinta della necessità di procedere con cautela può temere che altri sviluppino per primi modelli più potenti. Ogni attore ha quindi un incentivo a continuare la corsa, confidando di riuscire a gestirne i rischi meglio degli altri.

In un contesto simile, l’autoregolamentazione mostra inevitabilmente i propri limiti. Chi sviluppa i sistemi valuta anche la loro sicurezza, stabilisce quali rischi siano accettabili e decide quando un modello possa essere distribuito. Non si tratta di sostenere che queste valutazioni siano necessariamente inattendibili. Il conflitto di interessi, però, esiste.

La regolamentazione internazionale può essere una risposta

Se nessuna azienda può permettersi di rallentare da sola, servono regole comuni. Il principio appare semplice; la sua applicazione lo è molto meno.

L’Unione europea ha costruito con l’AI Act il sistema normativo più articolato oggi disponibile. Le regole europee introducono obblighi differenziati in base al livello di rischio e prevedono requisiti specifici anche per i modelli di intelligenza artificiale di uso generale. È un passaggio importante, ma resta legato principalmente all’accesso e all’impiego dei sistemi nel mercato europeo.

La ricerca sui modelli più avanzati è invece globale. Le aziende possono operare in più Paesi, distribuire servizi oltre confine e spostare risorse verso gli ordinamenti considerati più favorevoli.

La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale prova ad ampliare questo perimetro. È il primo trattato internazionale giuridicamente vincolante dedicato all’AI, ai diritti umani, alla democrazia e allo Stato di diritto. Rappresenta una base comune, ma la sua efficacia dipende dalle ratifiche e soprattutto dal modo in cui gli Stati ne traducono i principi nelle rispettive legislazioni.

Anche le Nazioni Unite hanno avviato un dialogo globale sulla governance dell’AI, affiancato da un panel scientifico internazionale. Il G7 e l’OCSE hanno sviluppato codici di condotta e strumenti di trasparenza per le organizzazioni che realizzano sistemi avanzati. Si sta formando, quindi, un linguaggio condiviso. Non esiste ancora, però, un’autorità sovranazionale capace di entrare nei laboratori, verificare autonomamente i test e imporre a tutti le stesse soglie di sicurezza.

La regolamentazione internazionale è dunque parte della risposta, ma non una soluzione automatica. Un nuovo documento di principi servirebbe a poco senza controlli indipendenti, obblighi di comunicazione degli incidenti e tutele concrete per i dipendenti che segnalano problemi documentati. Sarebbe inoltre necessario stabilire quali modelli debbano essere sottoposti a verifiche più rigorose, evitando di applicare le stesse regole a sistemi profondamente diversi.

Non è necessario accettare gli scenari più estremi evocati da Coxon per riconoscere il problema. Le sue dimissioni non dimostrano che i sistemi di AI diventeranno incontrollabili, né che le aziende stiano deliberatamente trascurando ogni cautela. Mostrano però quanto sia fragile un sistema nel quale la valutazione dei rischi dipende in gran parte dagli stessi soggetti impegnati a vincere la competizione.

La questione non è scegliere se credere alle aziende oppure ai ricercatori che le lasciano. È creare soggetti indipendenti capaci di verificare le affermazioni di entrambi. Quando chi conosce dall’interno una tecnologia decide che l’unica scelta responsabile è chiamarsi fuori, almeno una verifica esterna diventa necessaria.