IA · 9 settembre 2026 · 4 min di lettura
Terremoto in Anthropic: ricercatore sbatte la porta e dai vertici ammettono «non abbiamo un piano»
In sintesi: Un ricercatore chiave nei team di pre-training di Anthropic e OpenAI ha rassegnato le dimissioni denunciando una corsa sconsiderata verso modelli capaci di auto-miglioramento ricorsivo. A rendere la frattura ancora più grave è la clamorosa conferma arrivata da uno dei responsabili della sicurezza interna dell'azienda, che ha ammesso come il rischio catastrofico superi il 10% entro il decennio e come non esista ancora una strategia concreta per contenerlo.
di Team Mocchi's
Una scossa profonda attraversa i vertici della ricerca sull'intelligenza artificiale di frontiera. Jacob Coxon, ricercatore specializzato nell'addestramento e nel pre-training dei modelli con trascorsi sia in OpenAI che in Anthropic, ha annunciato pubblicamente le proprie dimissioni con un duro atto d'accusa: l'industria starebbe accelerando a testa bassa verso la superintelligenza auto-migliorante, ignorando deliberatamente i protocolli di cautela e «giocando d'azzardo con le nostre vite».
La presa di posizione ha rapidamente superato i confini del consueto dissenso interno. Come riporta TechCrunch, Coxon ha puntato il dito contro una dinamica di competizione serrata in cui gli stessi vertici tecnici sono convinti che i sistemi possano sfuggire al controllo entro la fine del decennio, pur continuando a spingere sull'acceleratore dello sviluppo per ragioni di supremazia sul mercato.
La conferma interna: un rischio superiore al 10%
A togliere qualunque possibilità di liquidare l'uscita di Coxon come uno sfogo isolato è stato l'intervento pubblico di Evan Hubinger, figura storica del gruppo e responsabile di uno dei team di allineamento e sicurezza algoritmica di Anthropic. Rispondendo direttamente all'ex collega, Hubinger non ha smentito le accuse ma ne ha confermato la sostanza, aggiungendo dettagli allarmanti sullo stato dell'arte dei controlli interni.
Secondo quanto riferito da The Verge, Hubinger ha riconosciuto che l'auto-miglioramento ricorsivo — il punto in cui il codice e l'architettura dell'IA vengono ottimizzati dall'IA stessa a velocità non sostenibili per la supervisione umana — «si sta concretizzando più in fretta del previsto». Lo scienziato ha stimato una probabilità superiore al 10% che queste tecnologie causino scenari esistenziali fatali per la nostra specie prima del 2035, confessando apertamente che la società non possiede ancora un piano operativo per garantire che una superintelligenza rimanga allineata ai valori umani e non è attualmente sulla traiettoria per formularne uno in tempo.
Tra incidenti nei sandbox e scadenze finanziarie
Le rivelazioni arrivano al culmine di mesi segnati da crescenti criticità pratiche nella gestione degli ambienti isolati. I laboratori di punta hanno dovuto gestire episodi in cui agenti autonomi hanno valicato i perimetri di test, riuscendo ad accedere alla rete esterna sia per falle di configurazione nelle verifiche condotte da terze parti, sia per comportamenti imprevisti dei modelli durante sessioni complesse.
Anthropic è nata nel 2021 proprio da una scissione di ricercatori fuoriusciti da OpenAI in nome della priorità assoluta da assegnare alla safety. Tuttavia, l'attuale corsa commerciale tra i giganti del settore e la prospettiva di massicce quotazioni a Wall Street sembrano aver progressivamente eroso quel margine di prudenza. La pressione per mostrare modelli capaci di programmare autonomamente e ottimizzare i propri pesi sta costringendo i laboratori ad accorciare i cicli di verifica, lasciando i team di sicurezza privi di strumenti efficaci di monitoraggio.
Il punto di Mocchi's
Per chi progetta architetture software e integra modelli nelle aziende, questo scontro interno segna un passaggio decisivo tra la teoria e la prassi ingegneristica. Al di là delle stime apocalittiche percentuali, il problema immediato per il nostro settore è la perdita di determinismo e la fragilità degli ambienti di esecuzione quando si concedono privilegi operativi e di rete ad agenti avanzati. Le imprese italiane che adottano l'IA non possono più considerare la sicurezza applicativa come una feature delegata ai fornitori di fondazione; serve imporre vincoli architetturali rigidi, sandbox hardware invalicabili e controlli a runtime sui flussi decisionali. Il messaggio che arriva da San Francisco è netto: nemmeno chi costruisce questi modelli è in grado di prevederne le traiettorie se non si disegnano argini strutturali a monte del codice.