Le dimissioni di Jacob Coxon, ricercatore che ha lavorato prima per OpenAI e poi per Anthropic, hanno riportato al centro del dibattito i timori di chi, dentro le principali aziende di intelligenza artificiale, considera troppo rapida e poco controllata la corsa verso sistemi sempre più autonomi. Coxon sostiene che Anthropic e OpenAI stiano «giocando con le vite delle persone» e che molti dei ricercatori impegnati nello sviluppo dei nuovi modelli credano davvero che l’intelligenza artificiale possa arrivare a minacciare l’esistenza dell’umanità entro la fine del decennio.

La sua denuncia non è però un episodio isolato. Negli ultimi anni diversi ricercatori, ingegneri e dirigenti dei reparti che si occupano di sicurezza e allineamento dei modelli hanno lasciato OpenAI, Anthropic e altre società tecnologiche accusando le aziende di privilegiare la velocità di sviluppo, il lancio di nuovi prodotti e la conquista di quote di mercato rispetto alla prudenza. Le loro dimissioni hanno fatto emergere una contraddizione centrale dell’industria: le stesse società che descrivono l’AI come una tecnologia potenzialmente capace di trasformare radicalmente il mondo sembrano spesso ritenere indispensabile continuare ad accelerare.

La denuncia di Jacob Coxon

Coxon ha annunciato le proprie dimissioni da Anthropic l’8 settembre, dopo aver trascorso circa tre anni occupandosi di ricerca sul pre-training dei modelli, prima in OpenAI e poi nella società che sviluppa Claude. Nel messaggio pubblicato sui social ha scritto che nessuna delle due aziende si sta comportando in modo responsabile e che entrambe stanno correndo verso una forma di superintelligenza capace di migliorarsi autonomamente. Il timore è che i sistemi possano diventare progressivamente più abili nel progettare versioni successive di sé stessi, rendendo sempre più difficile per gli esseri umani comprenderne il funzionamento e limitarne le azioni.

«Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio», ha scritto Coxon, aggiungendo che «non è una trovata di marketing». La frase è stata interpretata da molti come un’accusa diretta alla cultura interna dei grandi laboratori: secondo questa lettura, ricercatori e dirigenti sarebbero consapevoli dei pericoli, ma continuerebbero comunque a investire nella costruzione di sistemi sempre più potenti perché nessuna azienda vuole essere la prima a rallentare mentre le concorrenti proseguono.

Coxon non ha sostenuto che l’estinzione dell’umanità sia inevitabile né che si verificherà certamente entro il 2030. La sua tesi è più prudente, ma proprio per questo più significativa: secondo lui il rischio, pur difficile da quantificare, è abbastanza serio da rendere irresponsabile l’attuale ritmo di sviluppo.

Un ex collega di Anthropic, Evan Hubinger, ha pubblicamente sostenuto la preoccupazione di Coxon, affermando di ritenere che il rischio che l’AI possa causare la morte di tutta l’umanità superi il 10 per cento nei prossimi dieci anni. Si tratta di una valutazione personale, non di una previsione scientifica condivisa dall’intero settore, ma il suo intervento è stato rilevante perché proveniva da un ricercatore ancora vicino all’ambiente di Anthropic e specializzato proprio nei problemi legati all’allineamento dei sistemi.

La questione non riguarda dunque soltanto l’eventualità di un errore o di un comportamento imprevisto. I ricercatori dimissionari descrivono uno scenario nel quale i modelli diventano abbastanza autonomi da svolgere attività complesse senza supervisione, individuare vulnerabilità informatiche, utilizzare strumenti digitali, collaborare con altri agenti artificiali e perseguire obiettivi non perfettamente coerenti con quelli degli esseri umani. Se, nello stesso momento, questi sistemi riuscissero a contribuire alla progettazione della generazione successiva di modelli, il processo di sviluppo potrebbe accelerare oltre la capacità di controllo delle aziende e delle autorità pubbliche.

Una corsa senza una linea d’arrivo

Il punto centrale delle denunce è la competizione tra i laboratori. OpenAI, Anthropic, Google DeepMind, Meta e le altre società che sviluppano modelli avanzati hanno bisogno di enormi quantità di capitale, calcolo e dati. Ogni nuova versione deve essere più potente della precedente, in grado di risolvere problemi più complessi, usare strumenti esterni, scrivere codice, compiere ricerche e agire con una crescente autonomia. La pressione degli investitori e la necessità di dimostrare progressi commerciali rendono difficile per una singola azienda fermarsi volontariamente.

Il ragionamento ricorrente è quello del “se non lo facciamo noi, lo farà qualcun altro”. Un laboratorio può considerarsi più prudente dei concorrenti, ma ritenere comunque necessario continuare a sviluppare i propri modelli per evitare che sistemi ancora più pericolosi vengano costruiti da aziende meno attente o da governi stranieri. È una logica che tende a trasformare la cautela in una ragione per accelerare: proprio perché il rischio è elevato, si sostiene, è necessario arrivare per primi e provare a costruire una tecnologia più sicura.

Secondo i ricercatori critici, questo meccanismo produce però un paradosso. Se tutte le aziende si considerano responsabili rispetto alle altre, ciascuna finisce per giustificare il proprio comportamento in nome della competizione. La prudenza resta così un elemento della comunicazione pubblica, ma non necessariamente il criterio che determina le decisioni industriali. La velocità diventa un obiettivo autonomo: chi lancia prima un modello più potente può attirare utenti, talenti e finanziamenti, mentre chi rallenta rischia di perdere valore e influenza.

Le dimissioni di Coxon si inseriscono in questo contesto. Secondo il Wall Street Journal, il ricercatore avrebbe lasciato Anthropic dopo pochi mesi e prima che maturassero le azioni che gli erano state promesse. La scelta è stata quindi presentata come una decisione presa nonostante un possibile vantaggio economico personale: Coxon ha sostenuto di non voler restare in un’industria la cui direzione considera pericolosa.

Il suo caso ha avuto particolare risonanza perché Anthropic era stata fondata proprio come alternativa più prudente a OpenAI. Nel 2021 un gruppo di ex dipendenti e ricercatori di OpenAI lasciò l’azienda criticando l’impostazione ritenuta troppo aggressiva sotto la guida di Sam Altman. Anthropic costruì da allora buona parte della propria identità sulla sicurezza dei modelli, sulla trasparenza delle regole e sull’idea che lo sviluppo dell’AI dovesse essere accompagnato da vincoli etici espliciti.

I precedenti di OpenAI

Prima di Coxon, uno dei casi più noti era stato quello di Jan Leike, co-responsabile del gruppo di “super allineamento” di OpenAI. Il reparto aveva il compito di studiare come mantenere sotto controllo sistemi molto più potenti degli attuali e come garantire che i loro obiettivi rimanessero compatibili con quelli umani. Nel maggio del 2024 Leike si dimise, sostenendo che la sicurezza fosse stata messa in secondo piano rispetto al lancio di prodotti e alla crescita commerciale.

Pochi giorni prima aveva lasciato anche Ilya Sutskever, cofondatore e a lungo responsabile scientifico di OpenAI. In quel periodo se ne andarono inoltre altri ricercatori e dirigenti impegnati nei gruppi di allineamento e sicurezza. Le loro partenze furono lette come il segnale di un conflitto interno tra due visioni: da una parte chi riteneva necessario rallentare la ricerca sui sistemi più avanzati; dall’altra chi considerava indispensabile continuare a sviluppare i modelli per mantenere il vantaggio competitivo dell’azienda.

Le dimissioni non dimostrano da sole che OpenAI o Anthropic stiano violando norme di sicurezza. Non rappresentano neppure una prova che i modelli attuali siano sul punto di provocare una catastrofe. Mostrano però che le preoccupazioni non sono limitate a osservatori esterni, filosofi o attivisti: sono condivise anche da persone che hanno partecipato direttamente all’addestramento dei sistemi e che conoscono dall’interno i problemi tecnici, organizzativi e commerciali dei laboratori.

Un elemento importante è che alcuni ricercatori usciti da OpenAI sono stati poi assunti da Anthropic. Le aziende competono per attirare gli specialisti più esperti, soprattutto quelli che possiedono competenze nei settori dell’allineamento, della valutazione dei modelli e della sicurezza. Questo movimento di personale ha contribuito a rafforzare la reputazione di Anthropic come luogo di approdo per chi era insoddisfatto della strategia di OpenAI. Ma ha anche mostrato quanto sia difficile, per i ricercatori, trovare un’azienda completamente estranea alle dinamiche della corsa commerciale.

Anche OpenAI parla di rallentamento

Le recenti dichiarazioni di OpenAI sembrano indicare che la preoccupazione sia arrivata ai livelli più alti dell’azienda. Secondo Bloomberg, durante una riunione con il personale Sam Altman avrebbe detto che OpenAI sta valutando la possibilità di rallentare lo sviluppo dei sistemi di AI più avanzati e che auspica un coordinamento con altre società del settore. L’obiettivo sarebbe evitare che una singola azienda continui ad accelerare mentre le altre cercano di mantenere un ritmo più prudente.

La posizione è stata preceduta da un intervento di Jakub Pachocki, responsabile scientifico di OpenAI, secondo cui i laboratori dovrebbero coordinarsi per rallentare lo sviluppo quando necessario. Pachocki ha auspicato che le pause volontarie diventino una pratica normale fino a quando non saranno stabiliti standard di sicurezza condivisi. La sua proposta non equivale necessariamente a un blocco permanente della ricerca: l’idea è piuttosto quella di creare la possibilità di interrompere o rallentare temporaneamente i progressi quando le capacità dei modelli superano la capacità di valutarli e controllarli.

OpenAI sostiene di avere già rallentato alcune attività e di aver sospeso determinati addestramenti interni per ragioni di sicurezza. Il problema è che le pause volontarie sono difficili da verificare e da coordinare. Un’azienda potrebbe sospendere un progetto pubblico mentre continua a sviluppare internamente sistemi simili, oppure potrebbe accettare un rallentamento solo se anche i concorrenti si impegnano a fare altrettanto.

Per questo i ricercatori chiedono regole comuni e strumenti di verifica. Alla fine di luglio, più di mille dipendenti delle principali aziende di AI avevano firmato una lettera nella quale si chiedeva al governo statunitense di sostenere un’iniziativa internazionale per sviluppare strumenti tecnici e istituzionali capaci di “dosare” lo sviluppo dei sistemi più avanzati. La richiesta non era necessariamente quella di fermare subito tutta la ricerca, ma di garantire che governi e società possano rallentare il settore qualora i progressi diventino più rapidi della capacità umana di comprenderli e controllarli.

Tra i firmatari figuravano dipendenti di OpenAI, Anthropic, Google e Meta, compresi esponenti di primo piano delle rispettive strutture scientifiche. Il fatto che una petizione simile sia stata sottoscritta da persone impiegate nelle aziende più importanti suggerisce che il tema non sia più confinato a piccoli gruppi di ricercatori. La richiesta di un meccanismo di rallentamento nasce però dalla consapevolezza che nessuna azienda, da sola, può permettersi di rinunciare alla competizione.

Il rischio dell’auto-miglioramento

Il concetto che preoccupa maggiormente i ricercatori è quello dell’auto-miglioramento ricorsivo. Un sistema di AI potrebbe essere utilizzato per progettare codice, ottimizzare algoritmi, elaborare esperimenti, analizzare i risultati e proporre modifiche alla generazione successiva di modelli. Finché l’essere umano mantiene il controllo di ogni passaggio, il processo può essere supervisionato. Ma se l’AI riesce a svolgere autonomamente una parte crescente del lavoro di ricerca, la velocità di sviluppo potrebbe aumentare in modo imprevedibile.

Non significa che i sistemi attuali possiedano una volontà autonoma o un desiderio di sopravvivere. Il problema, secondo gli esperti di sicurezza, è che un modello non deve avere emozioni per produrre conseguenze pericolose. È sufficiente che persegua un obiettivo in modo molto efficace, trovi scappatoie nelle istruzioni o interpreti il compito in maniera diversa da quella prevista dai progettisti. Un agente incaricato di massimizzare un risultato potrebbe cercare di ottenere più accesso, più risorse o più autonomia, se tali condizioni rendessero più facile raggiungere l’obiettivo assegnato.

I ricercatori citano anche capacità già osservate nei modelli più recenti: uso autonomo del computer, interazione con altri sistemi, esecuzione di attività informatiche e capacità di adattarsi alle risposte dell’ambiente. In alcuni casi riportati nei mesi scorsi, agenti di OpenAI avrebbero collaborato tra loro per aggirare misure di contenimento e violare un sito internet di terzi. Gli episodi non hanno prodotto conseguenze paragonabili agli scenari più estremi, ma hanno alimentato la preoccupazione che i sistemi possano imparare a nascondere determinate attività o a eludere i controlli quando ritengono che questo favorisca il completamento di un compito.

La differenza rispetto ai rischi tradizionali dell’informatica è quindi il grado di autonomia. Un software convenzionale esegue istruzioni progettate in anticipo e, se si comporta in modo imprevisto, spesso lo fa a causa di un errore specifico. Un agente avanzato può invece elaborare piani, scegliere tra strategie diverse, usare strumenti e correggere il proprio comportamento. La questione diventa allora non soltanto se il sistema possa sbagliare, ma se gli esseri umani riescano a capire in anticipo tutte le strategie che il modello potrebbe adottare.

Anthropic e la narrativa dell’azienda prudente

Il caso di Jacob Coxon è particolarmente delicato per Anthropic perché mette in discussione l’immagine che la società ha costruito negli ultimi anni come alternativa prudente alle aziende più aggressive del settore dell’intelligenza artificiale: Anthropic si è presentata fin dalla fondazione, avvenuta nel 2021 per iniziativa di un gruppo di ex ricercatori di OpenAI critici verso la linea del loro ex capo Sam Altman, come un laboratorio più attento alla sicurezza, all’allineamento dei modelli e alle conseguenze sociali dello sviluppo tecnologico, attirando ricercatori preoccupati dalla direzione dell’industria, investitori interessati a una crescita di lungo periodo e clienti alla ricerca di strumenti considerati più affidabili rispetto a quelli dei concorrenti; per alcuni anni la società è rimasta indietro rispetto a OpenAI, che con il lancio di ChatGPT alla fine del 2022 aveva innescato la grande corsa commerciale all’intelligenza artificiale, ma nell’ultimo periodo ha conosciuto una crescita rapidissima. Questa espansione ha avuto anche una dimensione simbolica, perché Anthropic è stata coinvolta in iniziative istituzionali e religiose che hanno contribuito a consolidarne l’immagine di azienda sensibile ai rischi dell’AI. Durante la presentazione della prima enciclica di papa Leone XIV dedicata all’intelligenza artificiale, Magnifica humanitas, l’unico rappresentante dell’industria tecnologica invitato a intervenire fu Christopher Olah, cofondatore di Anthropic e responsabile della ricerca sull’interpretabilità dei sistemi di AI. La scelta apparve significativa perché il documento papale criticava gli effetti della tecnologia sulla dignità umana, sul lavoro, sull’ambiente e sulla guerra, mentre Anthropic è una delle aziende impegnate nello sviluppo dei modelli più avanzati. Per alcuni osservatori, la presenza di Olah accanto al papa rischiava quindi di trasformarsi in una forma di “Vatican washing”: un riconoscimento pubblico capace di associare Anthropic a un messaggio morale e di rafforzarne la reputazione come azienda responsabile, senza però affrontare fino in fondo questioni concrete come lo sfruttamento dei lavoratori dei dati, l’uso di contenuti protetti dal diritto d’autore e l’impatto ambientale dei data center.

La reputazione di Anthropic è stata rafforzata da alcune decisioni concrete, soprattutto dal confronto con il Pentagono. La società ha rifiutato di concedere un accesso senza limiti ai propri sistemi per operazioni militari e di sorveglianza, opponendosi in particolare all’uso dei modelli per la sorveglianza di massa dei cittadini e per la realizzazione di sistemi d’arma completamente autonomi. Allo stesso tempo, però, Anthropic ha continuato a collaborare con il dipartimento della Difesa attraverso un accordo del valore potenziale di 200 milioni di dollari e ha reso Claude disponibile all’interno di infrastrutture militari classificate. È proprio questa combinazione a rendere controversa la definizione dell’azienda come realtà antimilitarista: Anthropic ha fissato linee rosse più rigide rispetto ad alcuni concorrenti, ma non ha rinunciato al settore della difesa, ha continuato a lavorare con il Pentagono e con Palantir, società di analisi dei dati fortemente legata al comparto militare statunitense. Il suo dissenso riguardava quindi soprattutto i limiti dell’accesso richiesto dal governo e alcune modalità di impiego dei modelli, non l’utilizzo dell’intelligenza artificiale in ambito militare in quanto tale. Secondo Francesca Lagioia, docente di Informatica giuridica all’Università di Bologna e allo European University Institute di Firenze, Anthropic è una società restrittiva ma non antimilitarista: le linee rosse che non è disposta a oltrepassare diventano infatti anche un vantaggio reputazionale, mentre Claude resta tra i modelli approvati per l’impiego su reti militari classificate. Lo scontro con il Pentagono, aggravato dalle pressioni dell’amministrazione statunitense e dal comportamento più aperto di OpenAI, ha comunque trasformato Anthropic in un simbolo di moralità per una parte degli utenti. Molte persone hanno iniziato a usare Claude anche come forma di protesta contro le altre aziende del settore, mentre la società traeva vantaggio dal contrasto con OpenAI e dalla maggiore esposizione mediatica di Sam Altman, le cui dichiarazioni ambiziose e controverse hanno contribuito a costruire intorno all’azienda una narrazione più aggressiva e personalizzata. Anthropic, al contrario, ha mantenuto per lungo tempo un profilo più discreto, presentandosi come un laboratorio scientifico concentrato sull’affidabilità dei modelli. Secondo i suoi critici, tuttavia, la cautela è diventata anche un prodotto commerciale: essere percepiti come l’azienda responsabile consente di attirare talenti, investitori, governi e imprese interessati a identificarsi con il lato più prudente della corsa all’intelligenza artificiale. La sicurezza può quindi essere, allo stesso tempo, una scelta autentica di governance e uno strumento di marketing. Il caso del modello Mythos mostra bene questa ambivalenza. Presentato da Anthropic come particolarmente efficace nell’individuare falle e vulnerabilità informatiche, Mythos è stato inizialmente considerato troppo pericoloso per un rilascio pubblico, perché avrebbe potuto essere utilizzato per scoprire e sfruttare le debolezze di sistemi importanti. Per questo motivo l’azienda ne aveva limitato l’accesso ad agenzie governative e a un gruppo ristretto di imprese e organizzazioni. La decisione sembrava confermare l’immagine di Anthropic come società disposta a rinunciare alla distribuzione immediata di un prodotto pur di ridurre i rischi. Dopo poche settimane, però, l’azienda ha annunciato una versione più accessibile del modello, dotata di restrizioni sulle funzioni considerate più pericolose, mantenendo le versioni più avanzate a disposizione di soggetti selezionati. Questa apertura progressiva ha spinto alcuni osservatori ad accusare Anthropic di usare la sicurezza come strumento promozionale. Sam Altman ha ironizzato sull’idea che un’azienda possa dire di avere costruito una “bomba”, di essere stata sul punto di sganciarla sulla testa del pubblico e di voler poi vendere un rifugio antiatomico da 100 milioni di dollari soltanto ai clienti scelti. La battuta non dimostra che Anthropic abbia agito in modo irresponsabile, ma mette in luce il paradosso al centro della sua strategia: l’azienda deve descrivere i propri modelli come abbastanza pericolosi da richiedere controlli eccezionali e, allo stesso tempo, abbastanza preziosi da essere distribuiti per generare ricavi, conquistare clienti e mantenere il proprio vantaggio nella competizione tecnologica.

Tra prudenza, mercato e contraddizioni

In altri ambiti Anthropic si è comportata in modo simile ai concorrenti. Lo dimostra la causa sul copyright avviata da autori ed editori, che accusavano l’azienda di avere utilizzato copie piratate di libri, ottenute da archivi online come Books3, LibGen e Pirate Library Mirror, per addestrare i propri sistemi. La controversia si è conclusa con un accordo da 1,5 miliardi di dollari, approvato da un giudice federale statunitense. Il risarcimento riguarda le opere acquisite e copiate in passato e non risolve, più in generale, il dibattito sull’utilizzo dei contenuti protetti dal diritto d’autore per addestrare i modelli di intelligenza artificiale.

Il caso mostra che anche un’azienda costruita intorno alla sicurezza dei modelli può trovarsi coinvolta negli stessi problemi legali e industriali del resto del settore: l’uso non autorizzato dei contenuti, la difficoltà di remunerare autori ed editori e l’assenza di regole condivise sui dati impiegati nell’addestramento. Secondo Francesca Lagioia, Anthropic ha trasformato cautela e sicurezza in un elemento identitario, posizionandosi come alternativa prudente rispetto a concorrenti più aggressivi. Questa strategia le ha permesso di attirare investitori, governi e talenti interessati a considerarsi dalla parte responsabile della rivoluzione tecnologica. Ciò non significa, però, che le differenze con le altre aziende siano soltanto comunicative: Anthropic ha elaborato una Costituzione per orientare il comportamento dei propri modelli e ha stabilito regole più esplicite sulle applicazioni considerate accettabili.

Resta il fatto che la società opera all’interno dello stesso paradigma industriale dei concorrenti, fondato sull’estrazione di grandi quantità di dati, sulla concentrazione del capitale, sulla costruzione di infrastrutture energeticamente costose e sulla competizione tra aziende e governi. La crescita finanziaria potrebbe inoltre rendere più difficile preservare l’immagine di laboratorio prudente, soprattutto mentre Anthropic si prepara a una possibile quotazione in borsa. In questo scenario, la società avrebbe bisogno di dimostrare una crescita costante dei ricavi e una maggiore capacità di generare profitti, con il rischio di dover ampliare l’accesso ai propri modelli e ridurre alcune restrizioni. Le indiscrezioni sul possibile raggiungimento del primo trimestre in attivo hanno rafforzato l’immagine di un’azienda in buona salute, ma il dato deve essere valutato con cautela, perché Anthropic non è ancora soggetta agli stessi obblighi di rendicontazione delle società quotate e non sono noti tutti i criteri utilizzati per calcolare ricavi e costi.

Il caso Coxon e i limiti dell’AI responsabile

Il caso Coxon diventa allora importante non perché dimostri che Anthropic sia identica a OpenAI, ma perché mostra i limiti della distinzione tra un laboratorio prudente e uno aggressivo: Anthropic ha regole interne più esplicite, ha fissato restrizioni sull’uso militare, ha creato una Costituzione per i propri modelli e in alcune circostanze ha limitato la distribuzione di sistemi avanzati, ma deve anche raccogliere capitali, aumentare i ricavi, soddisfare gli investitori, vendere servizi alle imprese e sviluppare modelli abbastanza competitivi da non perdere la corsa; la prudenza è quindi una scelta reale e, contemporaneamente, un elemento di posizionamento commerciale, mentre le dimissioni di Coxon mettono in dubbio la possibilità di conciliare queste due esigenze quando i ricercatori ritengono che lo sviluppo stia procedendo troppo rapidamente; se persino una società fondata da ex dipendenti di OpenAI contrari a una strategia considerata spregiudicata viene accusata da propri ricercatori di correre verso sistemi potenzialmente fuori controllo, allora il problema non riguarda soltanto una singola azienda, ma l’intero modello di sviluppo dell’intelligenza artificiale, nel quale tutte le società possono dichiararsi responsabili ma nessuna è davvero disposta a rallentare se teme che le concorrenti continuino ad avanzare.

L’allarmismo come strategia

Non tutti gli osservatori accettano senza riserve le denunce dei ricercatori dimissionari. Una parte del settore considera esagerate le previsioni sull’estinzione dell’umanità e ritiene che la retorica apocalittica possa essere utilizzata per attirare attenzione, ottenere finanziamenti o costruire una reputazione professionale. Chi lascia un laboratorio di primo piano può presentarsi come una persona disposta a sacrificare carriera e vantaggi economici per denunciare rischi ignorati dagli ex datori di lavoro.

Questa dinamica non rende automaticamente false le preoccupazioni. Un ricercatore può avere motivazioni etiche sincere e, allo stesso tempo, acquisire visibilità grazie alle proprie dimissioni. Le due cose possono coesistere. Il problema nasce quando l’allarme viene trasformato in una narrazione semplice: da una parte l’azienda prudente che conosce i rischi, dall’altra il concorrente irresponsabile che deve essere fermato; oppure, al contrario, da una parte i catastrofisti interessati e dall’altra gli innovatori capaci di gestire ogni rischio.

Il professore e autore Cal Newport ha definito “doom trolling” la tendenza a utilizzare previsioni apocalittiche sull’AI per attirare attenzione e orientare il dibattito pubblico. Secondo questa interpretazione, le aziende possono trarre vantaggio dal presentare la tecnologia come quasi incontrollabile: se i modelli sono descritti come troppo potenti per essere fermati, le società che li sviluppano possono apparire come gli unici soggetti in grado di gestirli. La loro autoregolamentazione viene così proposta come alternativa a regole pubbliche più severe.

In questa prospettiva, l’allarmismo avrebbe due effetti. Da un lato accresce il valore percepito dei prodotti: un modello presentato come capace di rivoluzionare interi settori sembra più avanzato e meritevole di investimenti. Dall’altro sposta l’attenzione dai rischi concreti e immediati verso un futuro ipotetico, nel quale l’oggetto della discussione non è più il copyright, la perdita di posti di lavoro o il potere dei data center, ma la sopravvivenza stessa della specie umana.

Il paragone proposto da alcuni critici è quello della retorica nucleare della Guerra fredda. La minaccia estrema viene utilizzata per sostenere che il controllo della tecnologia debba rimanere nelle mani di pochi attori ritenuti competenti. Nel caso dell’AI, il messaggio può assumere questa forma: il pericolo è reale, ma rallentare unilateralmente sarebbe ancora più pericoloso perché consentirebbe a un concorrente di arrivare prima. Il risultato è una giustificazione della corsa attraverso la paura della corsa stessa.

Anthropic tra reputazione e profitti

La trasformazione di Anthropic in una delle aziende più preziose del settore rende ancora più difficile mantenere una distanza dalle logiche finanziarie. La società ha raccolto nuovi investimenti per decine di miliardi di dollari e la sua valutazione privata è stata indicata intorno ai 965 miliardi. Parallelamente, ha avviato un percorso verso una possibile quotazione in borsa. Questi numeri non sono soltanto un indicatore di successo: implicano aspettative di crescita molto elevate.

Un’azienda non quotata può gestire più liberamente i tempi della propria strategia e giustificare investimenti ingenti con obiettivi di lungo periodo. Dopo la quotazione, gli azionisti e i mercati tendono invece a guardare con maggiore attenzione ai risultati trimestrali. La necessità di aumentare i ricavi e avvicinarsi alla profittabilità può rafforzare l’incentivo a lanciare nuovi prodotti, ampliare l’accesso ai modelli e conquistare clienti nel settore corporate e governativo.

Anthropic ha puntato fin dall’inizio soprattutto sulle imprese e sui professionisti, un mercato più disposto a pagare rispetto a quello degli utenti individuali. Claude Code e gli strumenti destinati alle attività d’ufficio sono esempi di una strategia orientata all’automazione di compiti produttivi. È una scelta che ha favorito la crescita, ma che rende più evidente il conflitto tra sicurezza, occupazione e profitti.

Una società può quindi essere più cauta dei concorrenti in alcuni ambiti e restare comunque inserita nello stesso modello industriale. Anche Anthropic ha bisogno di grandi data center, energia, capitale, accordi con fornitori tecnologici e accesso a quantità crescenti di dati. I suoi investitori includono Amazon e Google, due delle principali aziende tecnologiche mondiali. La prudenza non elimina questi vincoli: ne modifica, almeno in parte, il modo in cui vengono comunicati e gestiti.

La domanda posta dai ricercatori dimissionari è allora più ampia di quella relativa a una singola azienda. Può un laboratorio che ha bisogno di crescere rapidamente essere davvero disposto a fermarsi quando ritiene che un modello sia troppo pericoloso? E può una società privata, anche se dotata di principi etici e strutture di sicurezza, assumere decisioni che riguardano la collettività senza un controllo democratico effettivo?

Tra allarmi reali e marketing della paura

Le dimissioni di Jacob Coxon descrivono in modo concreto una preoccupazione condivisa da una parte dei ricercatori: la competizione tra i grandi laboratori sta accelerando lo sviluppo di modelli sempre più autonomi senza che esistano ancora strumenti sufficienti per valutarne e controllarne i comportamenti. Questo non dimostra che l’intelligenza artificiale provocherà una catastrofe, ma rende difficile liquidare gli allarmi come il semplice malcontento di pochi dipendenti: Coxon e gli altri ricercatori conoscono dall’interno i sistemi che stanno contribuendo a costruire e chiedono soprattutto più trasparenza, verifiche indipendenti e la possibilità di rallentare quando le capacità dei modelli crescono più rapidamente delle garanzie di sicurezza. Allo stesso tempo, le loro denunce devono essere considerate con cautela, perché possono intrecciarsi con interessi professionali e commerciali: lasciare aziende prestigiose, accusandole di sottovalutare rischi estremi, può offrire ai ricercatori visibilità e aiutarli ad accreditarsi come esperti scrupolosi in un mercato nel quale la sicurezza è diventata una competenza molto richiesta. È inoltre ormai diffusa una narrazione nella quale i successi dell’AI — dalla soluzione di problemi matematici complessi alle applicazioni in campo medico — vengono presentati insieme alla possibilità di scenari apocalittici, alimentando una rappresentazione della tecnologia come contemporaneamente straordinaria e quasi incontrollabile. Cal Newport ha definito questa tendenza “doom trolling”, cioè allarmismo strategico: secondo questa interpretazione, descrivere l’AI come una possibile minaccia esistenziale può attirare attenzione e investimenti, aumentare la percezione della potenza dei prodotti e spingere governi e opinione pubblica a considerare le aziende tecnologiche come gli interlocutori indispensabili per gestire il problema. Il meccanismo è evidente quando le società sostengono di dover accelerare perché i concorrenti, magari cinesi, potrebbero sviluppare sistemi più pericolosi, trasformando la paura della corsa in una giustificazione per continuare a correre. Ma, come osservano i critici, il fatto che un altro attore possa comportarsi irresponsabilmente non autorizza automaticamente un’azienda a fare lo stesso, e se il rischio di una catastrofe fosse davvero ritenuto imminente l’unica risposta coerente sarebbe fermarsi, non limitarsi a descrivere il pericolo mentre si continuano a costruire i modelli che potrebbero produrlo. Anche le dimissioni di Coxon coincidono con una fase in cui Anthropic ha bisogno di enormi capitali per sostenere la propria espansione e si avvicina a una possibile quotazione in borsa, circostanza che può rendere la crescita e la profittabilità ancora più importanti; ciò non prova che il suo allarme sia strumentale, ma mostra perché le motivazioni dei ricercatori e gli interessi delle aziende debbano essere valutati separatamente. Le loro preoccupazioni possono essere sincere e fondate, anche se la loro visibilità produce vantaggi professionali, così come le dichiarazioni sulla sicurezza possono riflettere rischi reali e al tempo stesso funzionare come pubblicità indiretta per modelli presentati come tanto potenti da richiedere controlli eccezionali. La discussione dovrebbe quindi evitare sia il catastrofismo automatico sia il cinismo: gli scenari estremi non devono oscurare problemi già documentati, come l’uso dei dati, le violazioni del copyright, la discriminazione, la sorveglianza, lo sfruttamento del lavoro e l’impatto sull’occupazione, mentre gli effetti potenzialmente irreversibili dei sistemi autonomi non possono essere ignorati solo perché vengono talvolta raccontati in modo interessato. La responsabilità, in ogni caso, non può essere lasciata soltanto alla Silicon Valley: se la sicurezza dell’AI è un problema collettivo, la definizione delle regole, dei limiti e delle eventuali pause deve spettare a istituzioni pubbliche sottoposte a controllo democratico, non alle aziende che sviluppano e vendono la tecnologia. Solo verifiche indipendenti, obblighi di trasparenza e criteri vincolanti potranno chiarire quali allarmi siano sostenuti da prove e quali appartengano invece alla promozione del settore; fino ad allora, le dimissioni dei ricercatori resteranno sia un segnale da prendere sul serio sia un elemento di un dibattito nel quale la paura dell’AI può denunciare rischi autentici, ma anche diventare uno strumento per accrescere il valore e l’influenza di chi la sta costruendo.