Anthropic racconta gli abusi di Claude: il problema non è più se l’AI verrà usata male, ma quanto velocemente si può fermarla

La sicurezza dell’intelligenza artificiale sta entrando in una fase più concreta. Per anni il dibattito si è concentrato soprattutto su scenari ipotetici: cosa potrebbe succedere se modelli molto capaci finissero nelle mani sbagliate? Il nuovo rapporto di threat intelligence pubblicato da Anthropic sposta la domanda. Secondo l’azienda, tra dicembre 2025 e agosto 2026 attori malevoli hanno già provato a utilizzare Claude in operazioni cyber, campagne di influenza, sorveglianza, truffe, sviluppo di armi convenzionali, distillazione dei modelli e richieste biologiche potenzialmente pericolose. Anthropic afferma di avere identificato e interrotto queste attività, condividendo in alcuni casi informazioni con autorità e partner del settore. Il punto centrale non è stabilire se l’AI possa essere abusata: l’abuso esiste già. La questione decisiva diventa quanto siano efficaci rilevamento, limiti e risposta.

Che cosa contiene il rapporto

La società ha organizzato i casi in sette aree di danno e descrive un’evoluzione nell’uso dei modelli. Gli attori non chiedono necessariamente a un chatbot di “fare un attacco” in un’unica conversazione. Più spesso spezzano il lavoro in compiti apparentemente legittimi: scrittura di codice, analisi di vulnerabilità, traduzione, raccolta di informazioni, generazione di testi o automazione di procedure. Questo rende il problema più difficile, perché molte capacità che possono essere utili a un difensore sono identiche a quelle che interessano un attaccante. La stessa competenza che aiuta un team di sicurezza a trovare una falla può aiutare qualcuno a sfruttarla. È la natura dual use della tecnologia, e non può essere risolta semplicemente vietando tutte le richieste tecniche.

Il caso biologico è il segnale più sensibile

L’Associated Press ha evidenziato un episodio in cui un utente avrebbe cercato assistenza per una proposta di ricerca gain-of-function sul virus chikungunya, con obiettivi che potevano aumentare trasmissibilità ed evasione immunitaria. Anthropic afferma di aver bloccato attività di questo tipo e di aver rafforzato le protezioni nei modelli successivi. È importante evitare due errori opposti. Il primo sarebbe minimizzare: man mano che i modelli migliorano in biologia, l’abbassamento delle barriere informative può diventare materialmente rilevante. Il secondo sarebbe trasformare ogni richiesta scientifica avanzata in prova che un modello possa costruire da solo un’arma biologica. Capacità informativa, accesso a laboratori, materiali, competenze sperimentali e successo operativo sono cose diverse. Una policy seria deve mantenere questa distinzione.

Cybersecurity: acceleratore per attaccanti e difensori

Nelle operazioni informatiche l’AI è già molto più vicina all’uso quotidiano. Può aiutare a interpretare codice, generare script, cercare vulnerabilità, analizzare log e automatizzare attività ripetitive. Per i team difensivi significa maggiore velocità; per gli attaccanti significa abbassare il costo di alcune fasi. Il rapporto Anthropic mostra perché i laboratori stanno investendo in monitoraggio comportamentale e non soltanto in filtri sulle singole frasi. Un utente può infatti distribuire un’operazione su molte sessioni e combinare output apparentemente innocui. Individuare il pattern richiede osservare sequenze, strumenti collegati e contesto operativo, con tutte le implicazioni di privacy che questo comporta.

La sorveglianza cambia scala

Un altro capitolo riguarda l’uso di AI in attività di sorveglianza. Qui il rischio non dipende da una singola capacità spettacolare, ma dall’economia dell’automazione. Riassumere grandi quantità di messaggi, classificare profili, estrarre relazioni tra persone e trasformare dati disordinati in report operativi può rendere attività prima costose molto più economiche. È una dinamica che interessa governi, vendor di spyware, aziende e società civile. Un modello general purpose può diventare un moltiplicatore di capacità quando viene inserito sopra database, intercettazioni o fonti aperte. La sicurezza deve quindi considerare non solo ciò che il modello “sa”, ma anche a quali strumenti e dati viene collegato.

Propaganda e influenza: il collo di bottiglia si sposta

Generare migliaia di post non è più tecnicamente difficile. Il vero ostacolo per una campagna di influenza diventa ottenere distribuzione, credibilità e account che sembrino autentici. I casi descritti da Anthropic mostrano un uso dell’AI per produrre e adattare contenuti politici e persuasivi. Questo non significa che ogni campagna generata dall’AI funzioni: la propaganda ha bisogno di reti, audience e narrazioni che trovino terreno fertile. Ma il costo della sperimentazione crolla. Un operatore può testare decine di varianti, lingue e registri con una velocità prima impossibile. Per piattaforme e governi, la difesa deve quindi combinare detection del contenuto con analisi delle reti e dei comportamenti coordinati.

Perché la trasparenza dei laboratori è utile ma non sufficiente

Pubblicare report periodici sugli abusi è un passo importante. Permette a ricercatori, regolatori e concorrenti di capire come si sta spostando la minaccia e crea una forma di pressione reputazionale sui laboratori. Ma questi documenti sono prodotti dalle stesse aziende che sviluppano i modelli, quindi non possono essere l’unico livello di verifica. Servono audit indipendenti, standard comuni per classificare gli incidenti e, per i casi più gravi, canali di condivisione con autorità competenti. Senza metriche comparabili è difficile capire se un laboratorio rilevi più abusi perché è più esposto, perché monitora meglio o perché le sue protezioni sono meno efficaci.

Il problema dei falsi positivi

Più aggressivi diventano i sistemi di sicurezza, più cresce il rischio di bloccare ricerca legittima, giornalismo, amministrazione di sistemi e formazione. Un biologo può avere ragioni reali per discutere proprietà di un patogeno; un penetration tester può dover scrivere codice che assomiglia a un exploit. La soluzione non può essere un rifiuto cieco di tutto ciò che è tecnicamente sensibile. I laboratori stanno quindi cercando modelli di accesso differenziato, verifiche dell’identità, logging e programmi per ricercatori affidabili. È un equilibrio complesso: aumentare l’accesso ai professionisti senza creare corsie facili da sfruttare da chi mente sulle proprie intenzioni.

La sicurezza diventa una caratteristica del prodotto

Per anni safety e security sono state percepite come funzioni di compliance che potevano essere aggiunte dopo l’addestramento. I casi descritti nel rapporto suggeriscono il contrario. Se i modelli vengono integrati in agenti con accesso a browser, terminali, database e servizi esterni, i controlli devono essere progettati nell’architettura. Autorizzazioni granulari, conferme per azioni sensibili, isolamento degli ambienti, monitoraggio delle sequenze e revoca rapida degli accessi diventano parte dell’esperienza. La domanda “quanto è intelligente il modello?” non basta più; bisogna chiedere “che cosa può fare concretamente, con quali credenziali e sotto quale supervisione?”.

Un problema di settore, non di una sola azienda

Anthropic chiede maggiore collaborazione tra industria e governi. È un punto essenziale perché gli attori malevoli possono spostarsi tra provider. Se un servizio blocca una tecnica, un altro potrebbe non riconoscerla. Al tempo stesso, una blacklist centralizzata senza garanzie potrebbe danneggiare utenti legittimi. Il settore ha bisogno di meccanismi simili a quelli maturati nella cybersecurity: indicatori tecnici condivisi, procedure di disclosure, tassonomie degli incidenti e possibilità di contestare decisioni. L’AI sta semplicemente comprimendo i tempi. Quello che nella sicurezza software si è sviluppato in decenni deve essere costruito in pochi anni.

La lettura di BreakingTech

Il valore del rapporto Anthropic non sta nel dimostrare che Claude sia pericoloso o sicuro in assoluto. Sta nel rendere visibile la nuova superficie di attacco. I modelli più capaci sono strumenti generali e quindi possono amplificare sia il lavoro utile sia quello dannoso. Una risposta credibile non può basarsi sul marketing della sicurezza né su divieti indiscriminati. Deve misurare gli incidenti, osservare gli strumenti collegati, differenziare gli accessi e rendere verificabili le scelte dei laboratori. Il passaggio più importante è culturale: smettere di trattare l’abuso dell’AI come un’ipotesi futura e iniziare a gestirlo come un problema operativo di sicurezza, con procedure, responsabilità e metriche concrete.

Fonti e verifica

BreakingTech ha confrontato il rapporto “Detecting and countering misuse of AI: September 2026” pubblicato da Anthropic con la copertura dell’Associated Press. I casi sono presentati come attività rilevate e descritte dall’azienda; dove le capacità operative non sono verificabili indipendentemente, l’articolo evita di trasformare le affermazioni del laboratorio in fatti più ampi di quanto documentato.