Il confronto sulla sicurezza dell’intelligenza artificiale negli Stati Uniti ha assunto un tono più netto. Da una parte ci sono alcune delle aziende che sviluppano i modelli più potenti, oggi impegnate a chiedere controlli indipendenti e standard comuni; dall’altra il presidente Donald Trump, che ha liquidato l’idea di nuove barriere come inutile e affidato la garanzia di un uso corretto dell’AI alla leadership politica.
La distanza non è soltanto ideologica. Rischia di tradursi in un blocco concreto per qualsiasi tentativo di costruire regole federali nel breve periodo, proprio mentre Anthropic e OpenAI sostengono che la crescita delle capacità dei modelli imponga verifiche più rigorose prima della loro diffusione. In un settore dove gli investimenti e le valutazioni corrono verso cifre enormi, la richiesta di rallentare o sottoporre i sistemi a esami esterni arriva dagli stessi soggetti che hanno interesse a portarli sul mercato.
Trump ha affidato la sua posizione a una serie di post sui social pubblicati lunedì. Nel messaggio più esplicito ha sostenuto che l’AI non abbia bisogno di “guardrail” oltre a un presidente forte e intelligente. L’intervento ha preso di mira dirigenti e critici del comparto che, nel fine settimana, avevano riaperto il dibattito sui rischi associati ai modelli di frontiera.
La proposta di Anthropic: valutatori dentro le aziende
A innescare la discussione è stato soprattutto Dario Amodei, cofondatore e CEO di Anthropic. In un saggio pubblicato nel weekend, Amodei ha chiesto di ridurre la velocità della corsa allo sviluppo e di introdurre standard di sicurezza più approfonditi. La sua proposta non punta a sospendere in modo generalizzato la ricerca, né a sacrificare la competitività americana: prova piuttosto a definire un meccanismo di controllo che accompagni l’avanzamento dei modelli.
Il fulcro è l’accesso dei valutatori ai laboratori che costruiscono i sistemi più avanzati. Anthropic si è detta disponibile a concedere a queste figure un livello di visibilità paragonabile a quello di un dipendente, affinché possano osservare e verificare le misure di sicurezza adottate dall’azienda. Non si tratterebbe quindi di un audit eseguito soltanto alla fine, su un prodotto già pronto, ma di una valutazione inserita nel processo di sviluppo.
Amodei ha indicato come esempio METR, organizzazione non profit nata anche dall’esperienza di un ex ricercatore di OpenAI e DeepMind. METR lavora su metodi scientifici per stimare i rischi catastrofici legati alle capacità autonome dei sistemi di AI e per orientare le decisioni sulla loro evoluzione. Nel ristretto ecosistema delle realtà dedicate a questo tipo di test figurano anche FAR.AI, AVERI e Apollo Research.
La tesi di Anthropic è che i modelli possano arrivare a svolgere compiti sempre più complessi e autonomi, rendendo insufficiente l’attuale combinazione di impegni volontari, valutazioni interne e interventi normativi frammentati. Il saggio di Amodei è arrivato dopo le dimissioni di due ricercatori della sicurezza del laboratorio, Jacob Coxon e Joe Benton, che hanno richiamato timori condivisi nell’industria sulla possibilità che sistemi futuri sfuggano al controllo umano con conseguenze estreme.
Un consenso insolito, ma ancora senza leva politica
La posizione del CEO di Anthropic ha raccolto consensi significativi. Sam Altman, amministratore delegato di OpenAI, ed Elon Musk hanno pubblicamente condiviso l’impostazione di Amodei. Non è un dettaglio marginale: le loro aziende e i loro interessi si trovano spesso su fronti differenti, mentre il dibattito sull’AI è stato finora segnato da rivalità commerciali e da visioni divergenti su apertura dei modelli, responsabilità e regolazione.
Il punto di incontro è la necessità di introdurre controlli obbligatori per i sistemi più capaci, anziché lasciare alle singole imprese il compito di fissare soglie, test e criteri di rilascio. Secondo Amodei, standard condivisi tra i Paesi democratici dovrebbero affiancarsi a un coordinamento con gli Stati autoritari laddove possibile. È una formula che riconosce una realtà industriale e geopolitica: un regime di regole applicato solo a una parte del mercato potrebbe spostare sviluppo, capitale e talenti verso giurisdizioni meno esigenti.
Ma un accordo tra executive non equivale a una legge. Per trasformare gli impegni in requisiti applicabili servirebbero una cornice normativa federale, un’autorità capace di farla rispettare, criteri tecnici aggiornabili e risorse per verificare ciò che avviene nei laboratori. L’opposizione esplicita della Casa Bianca sottrae al progetto il sostegno politico più importante e si somma a divisioni già profonde fra i legislatori.
Il risultato più probabile, almeno nell’immediato, è che le iniziative volontarie restino centrali. Alcune aziende potranno continuare a pubblicare policy di sicurezza, chiedere test esterni o limitare le modalità di distribuzione dei loro modelli. Tuttavia, senza regole comuni, nessun concorrente è necessariamente obbligato ad adottare gli stessi standard o a interrompere un rilascio dopo aver individuato risultati problematici.
La contraddizione di un settore che chiede freni mentre accelera
La vicenda espone una tensione che attraversa le grandi aziende dell’AI generativa. Anthropic e OpenAI chiedono prudenza in una fase in cui sono anche spinte a crescere rapidamente, attrarre investimenti, servire clienti e dimostrare che le valutazioni raggiunte dal settore hanno basi economiche solide. L’invito a una supervisione esterna può essere letto come un’assunzione di responsabilità, ma non cancella il fatto che la competizione per modelli più capaci resta ferocissima.
Per le imprese, regole federali chiare potrebbero avere anche un vantaggio: evitare un mosaico di discipline locali e definire condizioni di concorrenza più prevedibili. Per i critici, invece, affidare la progettazione dei controlli soprattutto ai leader del mercato comporta un rischio di cattura regolatoria, cioè la possibilità che gli standard riflettano le priorità dei gruppi già dominanti e alzino le barriere per nuovi entranti.
La proposta di valutatori indipendenti cerca di rispondere a questa obiezione separando chi costruisce il modello da chi ne misura i rischi. Resta però da risolvere il problema più difficile: quali capacità devono far scattare un controllo obbligatorio e con quali prove si può stabilire che un modello sia sufficientemente sicuro? L’AI non è un prodotto statico. Le sue funzioni cambiano con l’addestramento, gli strumenti a cui viene collegata, gli aggiornamenti e perfino il modo in cui gli utenti la impiegano.
Un altro limite è la riservatezza. Concedere a soggetti esterni accesso profondo ai dati, ai pesi dei modelli, ai protocolli di sviluppo e ai risultati dei test pone questioni di segreto industriale e sicurezza nazionale. Amodei insiste sulla possibilità di costruire un sistema che non danneggi il vantaggio competitivo degli Stati Uniti, ma tradurre quel principio in procedure verificabili richiederebbe accordi molto più dettagliati di un impegno pubblico.
Che cosa cambia ora
La presa di posizione di Trump non elimina il dibattito né impedisce alle aziende di adottare misure interne più stringenti. Cambia però il contesto in cui quelle richieste vengono avanzate. Se l’amministrazione considera i guardrail un ostacolo anziché una componente dell’infrastruttura tecnologica, una normativa federale sui modelli di frontiera appare più remota.
Nei prossimi mesi l’attenzione si sposterà quindi su due piani. Il primo è industriale: bisognerà vedere se Anthropic, OpenAI e altri sviluppatori renderanno operative le promesse di accesso ai valutatori esterni e se pubblicheranno risultati abbastanza dettagliati da renderne credibile l’efficacia. Il secondo è politico: il Congresso resta un passaggio necessario, ma le divisioni tra i legislatori e la contrarietà presidenziale rendono difficile immaginare un intervento organico a breve.
Per ora, il settore americano deve fare i conti con un paradosso: chi costruisce l’AI più avanzata chiede strumenti per contenerne i rischi, mentre la massima autorità politica del Paese respinge l’idea stessa che quei limiti debbano essere imposti dall’esterno. La conseguenza non è soltanto normativa. È un segnale per investitori, ricercatori e concorrenti su quale equilibrio Washington intenda privilegiare tra velocità dell’innovazione e verifiche sulla sua sicurezza.
