La competizione sui modelli di intelligenza artificiale più avanzati potrebbe entrare in una fase diversa, almeno nelle intenzioni dichiarate dai suoi protagonisti. Dario Amodei, CEO di Anthropic, ha chiesto di «dosare» l’avanzamento della frontiera dell’AI: non una sospensione totale della ricerca, ma un rallentamento della crescita delle capacità dei sistemi più potenti, accompagnato da controlli verificabili e da un coordinamento politico-industriale.
La proposta arriva mentre il dibattito sulla sicurezza dell’AI torna a intensificarsi dentro le stesse aziende che guidano il settore. Nei giorni scorsi il ricercatore Jacob Coxon ha lasciato Anthropic, sostenendo che i laboratori di punta stiano correndo rischi enormi pur ritenendo possibile che questa tecnologia abbia conseguenze catastrofiche entro la fine del decennio. Amodei non cita direttamente le sue dimissioni, ma collega la necessità di un approccio più prudente a due segnali: il recente attacco che ha coinvolto OpenAI e Hugging Face e l’accelerazione osservata negli ultimi mesi, in particolare nella capacità dell’AI di contribuire alla costruzione della generazione successiva di sistemi.
Il passaggio centrale è pratico: se le capacità dei modelli continuano a crescere più rapidamente della possibilità di valutarli, controllarli e gestirne gli incidenti, i meccanismi di sicurezza arrivano inevitabilmente dopo. Per Anthropic, il tempo guadagnato riducendo il ritmo della corsa dovrebbe servire a comprendere meglio i rischi, mettere alla prova gli impegni assunti dalle aziende e definire soglie condivise.
Osservatori indipendenti dentro i laboratori
Il primo tassello del piano riguarda gli “embedded evaluators”, valutatori esterni che opererebbero all’interno delle aziende AI. L’idea è affidarsi a organizzazioni terze, come METR, con un accesso sufficientemente ampio per verificare se le promesse sulla sicurezza e sulla moderazione dello sviluppo vengano realmente rispettate. Non sarebbero consulenti chiamati a valle di un lancio, né revisori limitati a documenti scelti dall’azienda: dovrebbero poter osservare il lavoro dall’interno con un livello di accesso vicino a quello dei team aziendali di valutazione del rischio.
Amodei descrive un modello molto concreto, fatto di badge, postazioni e laptop aziendali, salvo i limiti imposti da leggi e contratti. Il confronto evocato è quello con alcune forme di supervisione presenti nel settore finanziario, dove la presenza del regolatore o di figure di controllo può essere continuativa anziché occasionale. Anthropic afferma di voler assumere unilateralmente questo impegno e chiede ai governi di rendere un requisito analogo applicabile anche alle altre realtà della frontiera.
Il valore della proposta sta nella distanza tra un impegno volontario e una verifica autonoma. I laboratori pubblicano già policy, rapporti di sicurezza e risultati di test, ma spesso decidono autonomamente quale parte delle informazioni rendere disponibile, con quali metriche e in quale momento. Un osservatore con accesso operativo potrebbe contribuire a rendere più credibili le valutazioni sulle capacità pericolose dei modelli e, soprattutto, l’emersione degli incidenti.
Il tema della trasparenza non è teorico. OpenAI è stata criticata di recente per non avere reso noto un episodio nel quale suoi agenti AI avevano preso il controllo di un forum wiki tedesco. La proposta di Anthropic non elimina il rischio di omissioni, ma punta a costruire una struttura in cui la segnalazione di eventi rilevanti non dipenda soltanto dalla scelta del soggetto che li ha subiti o causati.
Sam Altman ha accolto positivamente l’idea. Il CEO di OpenAI ha scritto che il ritmo dello sviluppo dei sistemi di frontiera è già al centro delle discussioni interne dell’azienda e ha indicato l’intenzione di seguire Anthropic sul ricorso a valutatori incorporati, promettendo maggiori dettagli. Anche Elon Musk ha espresso sostegno alla posizione di Amodei. Per ora, tuttavia, si tratta di dichiarazioni di principio: restano da chiarire identità, indipendenza, poteri, obblighi di riservatezza e criteri con cui questi valutatori giudicheranno un laboratorio conforme o non conforme.
Il coordinamento tra concorrenti richiede un arbitro pubblico
La seconda parte del piano è più complessa perché tocca direttamente la concorrenza. Amodei propone che le principali società AI con sede nei Paesi democratici concordino standard di sicurezza comuni e limiti al tasso di progresso non sottoposto a controlli. L’obiettivo è impedire che la pressione competitiva trasformi le cautele in uno svantaggio: se un’azienda rallenta da sola mentre le rivali continuano a rilasciare capacità superiori, la spinta economica e strategica a recuperare terreno rimane intatta.
Un’intesa tra concorrenti, però, rischia di sconfinare nel territorio dell’antitrust. Le grandi aziende non possono decidere liberamente, a porte chiuse, quanto e come limitare il proprio comportamento sul mercato senza attirare l’attenzione delle autorità. Per questo Amodei ritiene necessario un intervento del governo degli Stati Uniti come mediatore o facilitatore, accompagnato da un’esenzione circoscritta che permetta confronti dedicati alla sicurezza. Non chiede necessariamente che Washington partecipi a ogni tavolo, ma che crei le condizioni legali perché quelle conversazioni possano avvenire.
È un dettaglio importante: il piano non affida la gestione della frontiera esclusivamente all’autoregolamentazione delle imprese. Le aziende conserverebbero un ruolo centrale, ma il coordinamento richiederebbe un perimetro pubblico. Resta aperto il problema di tradurre formule come “ritmo di progresso” in parametri misurabili. Contare i rilasci commerciali non basta; bisognerebbe decidere quali capacità tecniche fanno scattare obblighi aggiuntivi, quali prove sono necessarie prima dell’addestramento o della distribuzione e chi può contestare un giudizio.
La variabile cinese e il difficile livello globale
Ogni ipotesi di rallentamento dell’AI negli Stati Uniti si scontra con un’obiezione ricorrente: il vantaggio potrebbe passare alla Cina. Amodei sostiene che il margine per evitare questo scenario esista, purché governo e imprese agiscano su due fronti già al centro della politica industriale e commerciale americana: limitare la vendita alle aziende cinesi di chip avanzati e di attrezzature per la produzione di semiconduttori, e contrastare la distillazione dei modelli.
La distillazione consente, in sintesi, di usare l’output di un modello molto potente per addestrarne uno più piccolo o meno costoso. È una tecnica con impieghi legittimi, ma nel contesto evocato da Anthropic diventa una possibile scorciatoia per trasferire capacità sviluppate altrove. Secondo Amodei, un’applicazione efficace di queste misure potrebbe rallentare sufficientemente i progressi della Cina da allargare il vantaggio statunitense nei prossimi tre-cinque anni.
Il terzo livello previsto dal CEO di Anthropic è quello della cooperazione internazionale. Gli Stati Uniti e i loro alleati dovrebbero tentare un coordinamento anche con governi autoritari, per quanto possibile, includendo quindi la Cina. È il punto più ambizioso e probabilmente il più fragile della strategia: controlli sulle esportazioni, rivalità geopolitica e collaborazione sui rischi dell’AI possono procedere insieme solo entro un equilibrio molto stretto. Senza una qualche forma di dialogo, i limiti fissati da un blocco di Paesi rischiano di restare incompleti; con un dialogo troppo ampio, emergono invece questioni di fiducia, verifica e protezione degli interessi strategici.
La proposta di Anthropic non equivale dunque a una moratoria generalizzata. È un tentativo di spostare il dibattito dalla formula astratta del “rallentare” a strumenti specifici: supervisori esterni, obblighi di segnalazione, standard condivisi, copertura antitrust per le discussioni sulla sicurezza e iniziative internazionali. La risposta di OpenAI suggerisce che almeno una parte dell’industria considera ormai questa agenda politicamente praticabile.
La prova decisiva sarà nei dettagli e nella disponibilità a sottoporsi a vincoli verificabili prima che avvenga un incidente grave. Finché le adesioni restano volontarie, i laboratori possono scegliere tempi e profondità dell’apertura. Se invece gli Stati Uniti trasformeranno alcuni di questi principi in requisiti per tutte le aziende di frontiera, la corsa all’AI potrebbe iniziare a somigliare meno a una gara senza arbitri e più a un settore sottoposto a responsabilità comparabili a quelle richieste nelle industrie ad alto rischio.
