Le dimissioni di Jacob Coxon da Anthropic hanno riacceso una discussione che accompagna da anni lo sviluppo dell’intelligenza artificiale avanzata, ma che raramente emerge con questa nettezza dal personale delle aziende che costruiscono i modelli. In una serie di messaggi pubblicati su X, l’ex ricercatore ha sostenuto che i principali laboratori del settore starebbero correndo troppo e che una parte di chi lavora sull’AI considera concreto, pur non necessariamente probabile, il rischio di conseguenze catastrofiche entro la fine del decennio.
Il tema è al centro di una puntata di Uncanny Valley, il podcast di Wired, che affianca la vicenda Anthropic a due storie solo apparentemente lontane: il lancio del primo iPhone pieghevole di Apple, chiamato iPhone Duo e proposto a circa 2.000 dollari, e un’indagine su un rapporto del Census Bureau statunitense utilizzato dall’amministrazione Trump per sostenere che cittadini non statunitensi avessero votato alle elezioni del 2020.
Il filo conduttore non è una singola tecnologia, né la previsione di un futuro inevitabile. È il rapporto tra istituzioni, aziende e sistemi complessi: chi li realizza, chi ne stabilisce i limiti, quali dati ne sostengono le conclusioni e quanto spazio resta per contestare decisioni già immesse nel dibattito pubblico.
Un avvertimento che arriva dall’interno di Anthropic
Coxon ha lasciato Anthropic criticando la corsa allo sviluppo dei modelli più capaci da parte delle grandi aziende dell’AI, con OpenAI e la stessa Anthropic tra i soggetti che indica come centrali. La formulazione che ha attirato maggiore attenzione riguarda la possibilità che l’AI possa provocare l’estinzione umana entro dieci anni. Non è una stima presentata come certezza né come analisi quantitativa verificabile: è l’espressione di una preoccupazione sul livello di rischio che, secondo l’ex ricercatore, sarebbe preso seriamente da molte persone impegnate nello sviluppo della tecnologia.
La distinzione conta. Dire che esiste una probabilità non nulla di un esito estremo non equivale a dimostrare che quell’esito sia imminente, né consente di dedurne tempi e modalità. Ma il fatto che l’avvertimento provenga da chi ha lavorato in un laboratorio considerato fra i più attenti al tema della sicurezza rende difficile liquidarlo come semplice allarmismo esterno al settore.
Anthropic, d’altra parte, ha costruito fin dall’inizio una parte rilevante della propria identità pubblica intorno alla sicurezza dei modelli e alla necessità di affrontare i rischi connessi a sistemi sempre più potenti. La discussione sollevata dalle dimissioni di Coxon evidenzia quindi una tensione interna alla narrativa dell’azienda: se il pericolo potenziale è così serio da richiedere cautele speciali, è legittimo chiedersi se l’attuale ritmo di sviluppo e competizione sia compatibile con quelle cautele.
Nel dibattito non mancano posizioni radicalmente diverse. Da un lato ci sono ricercatori e dirigenti che ritengono necessario prepararsi a scenari di perdita di controllo su sistemi altamente autonomi. Dall’altro, molti osservatori temono che l’attenzione sui rischi esistenziali assorba risorse e attenzione politica sottraendole a danni già misurabili: disinformazione, discriminazioni algoritmiche, uso improprio dei dati, sorveglianza e concentrazione del potere nelle mani di poche imprese. Le due agende non si escludono, ma richiedono strumenti, priorità e verifiche differenti.
Dalla previsione alla governance
Il caso Coxon non offre una prova che l’AI porterà a uno scenario apocalittico. Offre però un elemento utile alla discussione sulla governance: il dissenso di un ricercatore che attribuisce alle aziende leader una condotta insufficiente rispetto alla portata delle possibili conseguenze. Per regolatori, investitori e utilizzatori aziendali, la questione pratica riguarda meno l’orizzonte spettacolare della fine dell’umanità e più le garanzie disponibili oggi.
Quali test vengono condotti prima del rilascio di un modello? Chi può esaminarne le capacità e le vulnerabilità? In base a quali soglie un’azienda decide di rallentare, limitare o interrompere lo sviluppo? E quanto di queste valutazioni viene reso verificabile dall’esterno? Sono interrogativi che diventano più urgenti quando i laboratori descrivono i propri prodotti come sempre più capaci e al tempo stesso riconoscono l’incertezza sui loro comportamenti in contesti complessi.
La vicenda arriva inoltre mentre la ricerca sull’AI è sottoposta a una forte pressione competitiva. Le promesse di nuovi modelli, applicazioni commerciali e vantaggi strategici incentivano tempi rapidi. In questo contesto, la sicurezza può diventare sia una necessità reale sia un elemento di posizionamento industriale. Proprio per questo servono criteri osservabili, non soltanto dichiarazioni di principio: senza standard indipendenti, per il pubblico è difficile distinguere una cautela effettiva da una rassicurazione di marketing.
Apple, ascolto continuo e il prezzo dell’innovazione
La stessa puntata di Uncanny Valley dedica spazio all’evento Apple e al debutto dell’iPhone Duo, il primo iPhone pieghevole dell’azienda. Il prezzo indicato, circa 2.000 dollari, colloca il dispositivo nella fascia più alta del mercato e rende il prodotto anche una scommessa su quanto gli utenti siano disposti a pagare per un nuovo formato.
Accanto al pieghevole, Wired segnala nuove funzioni dell’Apple Watch descritte come “always listening”, cioè legate a un ascolto costante. Il punto di frizione, in questo caso, non è la fantascienza ma il confine quotidiano fra utilità e riservatezza. Funzioni che restano in ascolto possono rendere un dispositivo più reattivo e capace di intercettare informazioni utili; richiedono però spiegazioni chiare su attivazione, gestione dei dati, controlli dell’utente e condizioni in cui l’ascolto viene effettuato.
Il contrasto con il dibattito su Anthropic è istruttivo. Da una parte ci sono rischi prospettici e difficili da quantificare, legati a sistemi che potrebbero diventare molto più autonomi. Dall’altra ci sono scelte di prodotto che incidono da subito sull’esperienza e sulla privacy di milioni di persone. In entrambi i casi, la fiducia non dipende soltanto dall’innovazione annunciata, ma dalla possibilità concreta di comprenderne il funzionamento e limitarne gli effetti indesiderati.
Quando dati fragili entrano nella politica
Il terzo caso discusso nel podcast sposta l’attenzione dalla tecnologia di consumo e dall’AI alla qualità dell’informazione istituzionale. Un’indagine di Wired ha rilevato che il Census Bureau ha utilizzato dati difettosi per realizzare un rapporto sulle ipotesi di voto da parte di non cittadini nelle elezioni del 2020. Il documento era stato poi valorizzato dall’amministrazione Trump.
Qui l’aspetto più rilevante non riguarda soltanto l’errore in sé. Un rapporto prodotto da un’istituzione pubblica può acquisire rapidamente peso nel confronto politico, essere citato per orientare il dibattito e continuare a circolare anche quando le sue basi metodologiche vengono messe in discussione. La correzione dei dati o la contestazione delle conclusioni non hanno necessariamente la stessa velocità della loro diffusione iniziale.
È un promemoria utile anche nel confronto sull’intelligenza artificiale. Le decisioni su tecnologie complesse dipendono da informazioni tecniche, valutazioni di rischio e dati che devono essere solidi, contestualizzati e sottoponibili a controllo. Quando una fonte istituzionale usa elementi inaffidabili, o quando un’azienda chiede fiducia senza rendere verificabili le proprie valutazioni, il problema non è soltanto reputazionale: può influenzare norme, investimenti e comportamenti collettivi.
Non esiste, al momento, un fatto nuovo che trasformi l’allarme di Coxon in una previsione dimostrata. Esiste però una frattura pubblica emersa da uno dei laboratori più importanti del settore. Il prossimo passaggio sarà capire se questa frattura produrrà maggiore trasparenza sui protocolli di sicurezza e sui limiti dei modelli, oppure se resterà un episodio nella competizione fra aziende che promettono sistemi sempre più potenti.
