Per una volta, i principali protagonisti dell’intelligenza artificiale statunitense sembrano parlare la stessa lingua: lo sviluppo dei modelli più avanzati deve procedere con maggiore prudenza. Dario Amodei, amministratore delegato di Anthropic, ha proposto di «cadenzare» l’avanzamento della frontiera tecnologica, dopo che ricercatori della sua azienda avevano rilanciato pubblicamente scenari estremi sui rischi dell’AI.
La risposta è arrivata in tempi rapidi. Sam Altman, CEO di OpenAI, ha espresso sostegno alla linea di Amodei e ha detto che la sua società adotterà un impegno analogo sul ricorso a valutatori indipendenti. Demis Hassabis, alla guida di Google DeepMind, ha definito il documento di Anthropic un’indicazione nella direzione corretta. Elon Musk, proprietario di xAI, si è limitato a un messaggio molto netto: Amodei ha ragione.
L’allineamento pubblico tra imprese in concorrenza diretta è rilevante, ma non equivale a un piano operativo comune né, tantomeno, a uno stop nello sviluppo. È una presa di posizione politica e industriale che arriva mentre cresce la diffidenza verso i sistemi generativi, le loro capacità autonome e le conseguenze di modelli sempre più potenti. La distanza tra dichiarare un rallentamento e praticarlo, tuttavia, può essere enorme.
La proposta di Anthropic punta sui controlli esterni
Il documento di Amodei non descrive una moratoria generalizzata sull’AI. Il suo obiettivo è introdurre condizioni di sicurezza più stringenti prima di oltrepassare nuove soglie di capacità. Il primo elemento è la presenza di soggetti esterni in grado di verificare le pratiche aziendali con un livello di accesso comparabile a quello dei dipendenti. Non semplici audit basati su materiale selezionato dall’impresa, dunque, ma valutatori che possano osservare più da vicino come vengono condotti i test sui rischi.
Altman ha indicato proprio questo passaggio come un impegno che OpenAI sarebbe disposta a replicare. È il punto più concreto emerso dalle reazioni dei CEO, perché riguarda il modo in cui le aziende misurano e comunicano la sicurezza dei propri modelli. Finora, una parte essenziale delle verifiche è rimasta interna ai laboratori che progettano, addestrano e distribuiscono i sistemi. L’idea di una supervisione indipendente prova a ridurre questo evidente conflitto di interessi.
Gli altri due pilastri delineati da Amodei riguardano la dimensione internazionale. Da una parte, accordi tra Paesi democratici su standard di sicurezza condivisi; dall’altra, un coordinamento globale sulle questioni di sicurezza che coinvolga anche governi autoritari, Cina compresa. La logica è che un rischio considerato transnazionale non possa essere affrontato soltanto nei confini degli Stati Uniti o attraverso codici di condotta aziendali.
È una linea già presente da tempo nel dibattito sulla governance dell’AI, ma che torna ora al centro con toni più urgenti. Le preoccupazioni sollevate da ricercatori di Anthropic hanno incluso perfino l’ipotesi che sistemi futuri possano mettere a rischio l’esistenza dell’umanità entro il 2030. Si tratta di scenari discussi e non di previsioni accertate, ma il loro impatto nel discorso pubblico è stato sufficiente a costringere i dirigenti a una risposta visibile.
Il problema è chi decide cosa significhi rallentare
La formula usata da Amodei, rallentare o regolare il ritmo della frontiera, lascia aperta la questione decisiva: quale soglia dovrebbe far scattare una pausa, chi la certifica e con quali poteri? Un’azienda può aumentare i test di sicurezza, assumere revisori esterni o rinviare un rilascio pubblico, continuando però a investire nel training di modelli nuovi e più grandi. Può quindi presentare un comportamento più prudente senza rinunciare alla competizione sulle capacità.
Per questo le promesse dei CEO hanno incontrato forte scetticismo tra critici e ricercatori. Una parte del dubbio riguarda il rischio che l’industria tenti di definire da sé standard sufficientemente elastici da evitare norme pubbliche più incisive. Se le aziende riescono a convincere governi e opinione pubblica di aver costruito un meccanismo credibile di autoregolazione, potrebbero mantenere il controllo sulle informazioni, sulle verifiche e sulle decisioni che contano.
Il nodo non è teorico. La regolazione federale americana dell’AI ha già incontrato ostacoli rilevanti, anche per effetto dell’attività di lobbying delle grandi aziende. Nello stesso tempo, l’amministrazione statunitense considera l’AI una competizione strategica globale. La sicurezza viene quindi discussa dentro un quadro nel quale Washington e le imprese vedono il primato tecnologico come un interesse nazionale, soprattutto nel confronto con la Cina.
Queste due spinte producono un cortocircuito. Da un lato si afferma che la capacità dei modelli potrebbe crescere troppo in fretta per essere gestita; dall’altro si teme che una restrizione troppo severa consegni un vantaggio ai concorrenti. In assenza di regole obbligatorie e applicabili in modo coordinato, ogni società ha un incentivo a non restare indietro. Il risultato più probabile non è necessariamente una frenata uniforme, ma una corsa accompagnata da protocolli di sicurezza più visibili.
La pressione economica rende la prudenza una scelta costosa
Il contesto finanziario spiega perché gli annunci vadano letti con cautela. Le startup dell’AI devono dimostrare di poter lanciare prodotti più performanti, attirare clienti e sostenere valutazioni enormi in vista di possibili quotazioni pubbliche da mille miliardi di dollari. Per imprese come Anthropic e OpenAI, la ricerca non vive separata dal mercato: i costi infrastrutturali sono elevati, i finanziatori chiedono crescita e i rivali presentano nuovi modelli a ritmi serrati.
In questo scenario, rallentare davvero richiederebbe criteri che valgano per tutti i concorrenti rilevanti, oltre alla possibilità di controllarne l’applicazione. Un impegno volontario di un singolo laboratorio può trasformarsi in uno svantaggio competitivo se gli altri non adottano limiti equivalenti. Anche per questo la proposta di Amodei cerca una risposta tra Stati e non soltanto tra aziende, pur senza risolvere la difficoltà di coinvolgere attori geopolitici con priorità e sistemi politici incompatibili.
La convergenza tra Anthropic, OpenAI, Google DeepMind e xAI va dunque interpretata come un segnale: i vertici del settore riconoscono che la questione della sicurezza non può più essere trattata come una nota a margine della corsa ai modelli. Ma il riconoscimento non basta a cambiare gli incentivi che alimentano quella corsa. Serviranno procedure pubbliche, valutazioni realmente indipendenti e regole in grado di distinguere gli impegni verificabili dalle dichiarazioni di principio.
Per ora, la promessa più definita riguarda l’apertura ai controlli esterni. Sarà da lì che si potrà misurare la sostanza della svolta: chi sceglierà i valutatori, quali dati potranno esaminare, se i loro risultati saranno pubblicati e che cosa accadrà quando individueranno un rischio. Finché queste risposte resteranno nelle mani delle aziende, la richiesta di rallentare continuerà a convivere con la spinta ad accelerare.
