Anthropic ha pubblicato un nuovo rapporto sull’uso malevolo dei propri modelli e il quadro è molto più ampio del tradizionale abuso di un chatbot. Secondo l’azienda, tra dicembre 2025 e agosto 2026 sono stati individuati attori che hanno tentato di utilizzare Claude per cyberattacchi, sorveglianza, propaganda politica e attività di ricerca biologica con potenziale dual use. Associated Press ha analizzato il documento, il terzo rapporto di questo tipo pubblicato da Anthropic dal marzo 2025, sottolineando un cambiamento decisivo: le capacità dei modelli sono cresciute abbastanza da obbligare l’azienda a rafforzare controlli che sui sistemi precedenti erano considerati meno necessari.
Anthropic precisa che i casi pubblicati non rappresentano l’uso tipico dei suoi prodotti ma gli esempi più rilevanti e innovativi di attività ostile identificata. È una distinzione importante: il rapporto non dimostra che la maggioranza degli utenti utilizzi l’AI per scopi pericolosi. Mostra però come attori motivati stiano sperimentando i modelli per abbassare costi, accelerare operazioni e colmare lacune tecniche.
Il caso biologico è quello che cambia maggiormente la soglia
Tra gli episodi descritti, uno riguarda la richiesta di assistenza per preparare una proposta di finanziamento legata a ricerca gain-of-function sul virus chikungunya, con interventi rivolti a trasmissibilità ed evasione immunitaria. La ricerca dual use può avere finalità legittime, per esempio comprendere meglio un patogeno o sviluppare contromisure, ma le stesse conoscenze possono aumentare la capacità di renderlo più pericoloso.
Anthropic afferma che la richiesta è stata bloccata. Il punto più significativo del rapporto è però l’ammissione che i modelli più recenti richiedono salvaguardie più forti proprio perché sono più capaci. L’azienda sostiene che sistemi precedenti come Claude Opus 4 e Sonnet 4.5 erano al di sotto della soglia alla quale avrebbero potuto aiutare in modo sostanziale un utente sofisticato a condurre ricerca biologica pericolosa; per i modelli attuali, dice, non può offrire la stessa sicurezza.
La sicurezza cambia quando il modello diventa competente
Un filtro che funziona su un sistema relativamente debole può non essere sufficiente quando la qualità delle risposte aumenta. Se il modello conosce meglio biologia, programmazione o chimica, anche una piccola falla nella policy può avere conseguenze maggiori. È un principio intuitivo ma spesso sottovalutato: la sicurezza non è una caratteristica statica del prodotto, deve crescere insieme alle capacità.
Per questo Anthropic dichiara di aver introdotto restrizioni più ampie sulle richieste biologiche dual use nei modelli più recenti, tra cui Claude Fable 5. La scelta riduce alcuni utilizzi legittimi ma difficili da distinguere da quelli pericolosi, creando un problema inevitabile di trade-off tra apertura e prevenzione.
I cyberattacchi stanno diventando accessibili a gruppi più piccoli
Il rapporto descrive anche attività cyber nelle quali l’AI viene usata per automatizzare o accelerare parti di un’operazione. Non significa che un modello possa sostituire integralmente un gruppo di hacker esperti, ma può ridurre il livello di competenza necessario per alcune fasi: scrivere codice, analizzare una configurazione, generare varianti di messaggi, tradurre rapidamente istruzioni o esplorare superfici di attacco.
Anthropic osserva che attività elaborate possono diventare possibili anche per singoli individui o piccoli gruppi in modi che un anno prima sarebbero stati molto più difficili. È un effetto di democratizzazione rovesciata: la stessa tecnologia che rende più facile programmare per un principiante rende più facile anche automatizzare comportamenti ostili.
Spyware e sorveglianza mostrano il lato commerciale dell’abuso
Tra gli attori citati compaiono anche vendor di spyware. Questo elemento è rilevante perché sposta il problema oltre il cybercrime tradizionale. Un prodotto commerciale può utilizzare AI per analizzare dati, generare strumenti o ottimizzare attività di sorveglianza, creando un mercato in cui le capacità dei modelli vengono incorporate in servizi destinati a governi o clienti privati.
Per i laboratori diventa quindi difficile stabilire controlli soltanto in base all’identità dell’utente. Una società formalmente legittima può utilizzare strumenti in contesti controversi. Servono valutazioni sul comportamento, sui pattern di richieste e sulla destinazione d’uso.
La propaganda è già industriale
Anthropic afferma di aver osservato gruppi capaci di creare centinaia di account social apparentemente appartenenti a persone comuni e coordinare contenuti orientati nella stessa direzione politica. Le operazioni descritte riguardano aree diverse, dalla Russia e dall’Iran alla Turchia, al Golfo, all’Asia meridionale, all’Africa e all’Europa.
Il vantaggio dell’AI non è necessariamente creare una propaganda più persuasiva di quella umana. È produrne molta, adattarla linguisticamente e gestire identità sintetiche a un costo inferiore. Questo rende l’attribuzione più difficile e aumenta il volume di rumore che le piattaforme devono analizzare.
I laboratori vedono l’operazione prima dei social
Un passaggio interessante del rapporto riguarda la posizione degli sviluppatori di modelli. Un social network vede la campagna quando i contenuti vengono pubblicati. Un laboratorio AI può osservarne una parte durante la preparazione, quando l’attore chiede al modello di generare profili, messaggi o strategie.
Questa posizione crea una nuova responsabilità ma anche una nuova capacità di difesa. Condivisione di indicatori tra laboratori, piattaforme e autorità potrebbe permettere di interrompere un’operazione prima che raggiunga il pubblico. Al tempo stesso solleva problemi di privacy e sorveglianza: controllare l’abuso non deve trasformarsi in lettura indiscriminata delle attività legittime.
Anthropic non può essere l’unico arbitro
L’azienda sostiene di pubblicare questi casi per aiutare concorrenti, governi e società civile a riconoscere pattern simili. È un passo utile, ma lascia aperta una questione di governance: una società privata decide quali richieste sono accettabili e quali troppo pericolose. John Thickstun della Cornell University, citato da AP, ha osservato che è una posizione scomoda perché implica giudizi di valore su scala sociale senza un vero processo democratico.
È il motivo per cui standard pubblici e supervisione esterna stanno diventando più importanti. Non ogni dettaglio tecnico può essere scritto in una legge, ma principi su reporting degli incidenti, valutazione delle capacità e accesso a settori ad alto rischio possono essere stabiliti fuori dai consigli di amministrazione delle aziende.
Il rapporto è anche una fotografia del futuro prossimo
La lezione più seria non è che Claude sia diventato “pericoloso” in assoluto. È che l’aumento delle capacità modifica continuamente ciò che un attore malevolo può ottenere. Una salvaguardia sufficiente nel 2025 può essere debole nel 2026. La sicurezza deve quindi essere un processo continuo di misurazione e aggiornamento.
Anthropic sostiene di aver bloccato gli episodi descritti e di aver utilizzato l’esperienza per rafforzare i propri sistemi. Questa è una parte positiva della storia. L’altra è che gli avversari continueranno a provare. Il rapporto mostra la dinamica più realistica dell’AI security: non un’unica battaglia decisiva, ma una corsa permanente tra capacità di abuso e capacità di rilevarlo.
Più i modelli diventano utili alla scienza, al codice e alla ricerca, più diventa difficile costruire barriere che fermino soltanto il male senza ostacolare il bene. È una sfida tecnica, ma non solo. Richiede una definizione collettiva di quali rischi siamo disposti ad accettare e quali controlli consideriamo proporzionati. Il terzo rapporto di Anthropic rende evidente che quel dibattito non riguarda più un futuro ipotetico: gli abusi sono già qui, e stanno evolvendo insieme ai modelli.
