La proposta di Dario Amodei di mettere un freno alla velocità con cui vengono potenziati i modelli di intelligenza artificiale più avanzati incontra un ostacolo che il CEO di Anthropic considera decisivo: la Cina. In un intervento a CBS News, Amodei ha definito il comportamento delle nazioni rivali, e in particolare di Pechino, il «dilemma più difficile» per qualunque ipotesi di rallentamento condiviso.
Il problema non riguarda una sospensione indistinta della ricerca né un invito ad abbandonare l’AI. Il ragionamento di Anthropic è concentrato sui sistemi di frontiera, cioè i modelli che spingono più avanti le capacità disponibili e che, secondo i sostenitori di maggiori cautele, potrebbero produrre rischi sempre meno gestibili se distribuiti e migliorati a ritmi troppo rapidi. Amodei ha chiesto alle aziende del settore di ridurre la velocità di avanzamento dei modelli più potenti, dopo una settimana segnata da nuovi allarmi sui possibili danni catastrofici legati all’evoluzione della tecnologia.
Un limite volontario, però, è credibile soltanto se non diventa un vantaggio strategico per chi decide di ignorarlo. È qui che entra in gioco la Cina: se le aziende americane rallentassero mentre concorrenti sostenuti da altri governi continuassero ad accelerare, le ragioni industriali, geopolitiche e militari potrebbero rendere molto difficile mantenere quell’impegno. Amodei ha riconosciuto che la prospettiva di un vero “limite di velocità” globale è incerta, proprio perché il premio per chi arriva prima può essere enorme, soprattutto in ambito difensivo.
La sicurezza si scontra con la logica della competizione
La discussione arriva mentre il divario tra i principali laboratori statunitensi e alcune realtà cinesi appare meno scontato rispetto al passato. I modelli sviluppati da startup cinesi hanno guadagnato terreno nei confronti delle offerte di OpenAI e Anthropic, alimentando a Washington e nella Silicon Valley il timore che la leadership americana nei modelli generativi non sia garantita. In questo scenario, invocare prudenza non è soltanto una posizione di principio sulla sicurezza: significa intervenire direttamente nella gara per capacità informatiche, talento, investimenti e influenza internazionale.
Per Amodei, la difficoltà è quindi doppia. Da una parte, le aziende devono decidere fino a che punto proseguire nello sviluppo prima di disporre di strumenti di valutazione e controllo adeguati. Dall’altra, governi e imprese dovrebbero trovare un’intesa che impedisca a un rallentamento di trasformarsi in una rinuncia unilaterale. Il CEO di Anthropic non presenta questa cooperazione come un esito probabile o facile; sostiene piuttosto che valga la pena tentarla, malgrado gli incentivi contrari.
La questione è particolarmente sensibile perché l’AI viene ormai trattata da Stati Uniti e Cina come un’infrastruttura strategica. I modelli più capaci possono incidere sulla produttività, sulla ricerca scientifica, sull’analisi di grandi quantità di dati e, potenzialmente, sulle capacità militari e di intelligence. Un accordo internazionale dovrebbe perciò affrontare non soltanto la definizione di soglie tecniche, ma anche il problema della verifica: come stabilire quali sistemi siano davvero di frontiera, come controllarne lo sviluppo e come reagire a eventuali violazioni.
Un appello che unisce rivali del settore
L’idea lanciata da Amodei ha ottenuto consensi da figure che non condividono necessariamente gli stessi interessi aziendali. Sam Altman, CEO di OpenAI, ha scritto di essere d’accordo sulla necessità di dare un ritmo allo sviluppo dell’AI di frontiera. Il sostegno è rilevante anche per i rapporti complicati tra i due manager: Amodei ha lasciato OpenAI per fondare Anthropic e le due società competono oggi sullo stesso terreno, tra modelli, clienti enterprise, contratti cloud e attenzione dei regolatori.
Hanno accolto favorevolmente la proposta anche Demis Hassabis, alla guida di Google DeepMind, ed Elon Musk. La convergenza non equivale a un piano operativo comune, né chiarisce quali misure concrete ogni azienda sarebbe disposta ad accettare. Mostra però che una parte della leadership tecnologica ritiene insufficiente affidarsi soltanto alla concorrenza o a impegni di sicurezza definiti internamente dai singoli laboratori.
Il dibattito avviene inoltre in un momento delicato per Anthropic e OpenAI. Entrambe si preparano a possibili quotazioni in Borsa di portata storica, pur senza una data ufficiale. Altman ha dichiarato che OpenAI probabilmente non si quoterà quest’anno, citando anche le preoccupazioni per la sicurezza e giudicando questo un momento poco adatto a entrare sui mercati pubblici. La pressione a dimostrare crescita e capacità sempre maggiori, tipica delle grandi aziende tecnologiche, può entrare in tensione con l’idea di procedere più lentamente.
Le pressioni interne e il fronte politico
La richiesta di moderazione di Amodei segue anche un segnale arrivato dall’interno dell’ecosistema Anthropic. L’ex ricercatore Jacob Coxon ha lasciato l’azienda denunciando il rischio che Anthropic e OpenAI stiano scommettendo sulla sicurezza delle persone. Il suo gesto ha riportato al centro una frattura già nota nel settore: per alcuni, il modo più efficace per limitare i pericoli è costruire sistemi più capaci ma sottoposti a test rigorosi; per altri, la crescita delle capacità sta procedendo prima della capacità di controllarle.
Nel frattempo, l’industria affronta critiche pubbliche anche sul costo fisico della sua espansione. I data center necessari per addestrare e far funzionare i modelli richiedono energia, acqua, reti e autorizzazioni locali, suscitando opposizioni in diverse comunità. A Washington aumentano inoltre le richieste di regole più chiare. Un rallentamento concertato potrebbe ridurre una parte della pressione, ma non sostituisce norme su trasparenza, impiego dei dati, responsabilità e impatto delle infrastrutture.
Sul versante cinese, Xi Jinping ha chiesto al vertice BRICS in India un quadro globale di governance dell’AI fondato sul consenso e ha annunciato l’intenzione di contribuire alla creazione di una comunità BRICS dedicata all’open source nell’intelligenza artificiale. È un’impostazione che segnala la volontà di Pechino di partecipare alla definizione delle regole internazionali, ma che non risolve automaticamente la distanza con gli Stati Uniti su accesso ai chip, controlli sulle esportazioni, modelli aperti e uso strategico della tecnologia.
Il tema potrebbe arrivare anche nel confronto bilaterale tra le due maggiori potenze. Donald Trump è atteso alla Casa Bianca per un incontro con Xi Jinping il 24 settembre, e l’AI è prevista tra gli argomenti sul tavolo. Non ci sono indicazioni di un accordo sul rallentamento dei modelli, né una proposta condivisa tra Washington e Pechino. Tuttavia, il fatto che il tema venga discusso ai massimi livelli politici rende meno teorico il richiamo di Amodei.
La proposta di Anthropic lascia aperte le questioni più concrete: quali capacità dovrebbero far scattare una pausa, chi fisserebbe le soglie, quanto dovrebbe durare il rallentamento e con quali strumenti si potrebbe verificare il rispetto delle regole. Senza risposte comuni, il rischio è che ogni laboratorio continui a dichiarare prudenza secondo criteri propri. Con risposte troppo rigide, invece, gli Stati potrebbero temere di perdere terreno in una competizione che considerano già aperta. È questa tensione, tra prevenzione dei rischi e vantaggio geopolitico, a rendere la Cina il banco di prova della proposta di Amodei.
