Gli strumenti di intelligenza artificiale generativa stanno diventando un moltiplicatore operativo anche per chi conduce attività ostili online. Un nuovo resoconto pubblicato da Anthropic, la società che sviluppa Claude, raccoglie casi osservati negli ultimi otto mesi nei quali il modello sarebbe stato impiegato in campagne di intrusione, estorsione, manipolazione dell’informazione e perfino in tentativi di sviluppo di armi biologiche.
Il dato più rilevante non è l’esistenza di un singolo abuso particolarmente sofisticato. È l’ampiezza degli impieghi descritti: Claude compare come supporto in fasi diverse di operazioni molto differenti tra loro, dalla ricognizione tecnica alla preparazione di contenuti destinati a influenzare il dibattito politico. Anthropic sostiene di avere identificato e interrotto le attività mentre erano in corso, ma il documento conferma quanto la disponibilità di assistenti conversazionali abbia abbassato il costo organizzativo di molte attività illecite.
Un modello linguistico non sostituisce automaticamente competenze, infrastrutture e responsabilità umane. Può però rendere più rapidi compiti ripetitivi, aiutare a strutturare informazioni e fornire un’interfaccia immediata a persone che vogliono pianificare o affinare un’operazione. È proprio questa funzione di acceleratore che emerge dai casi illustrati da Anthropic.
Il caso Midnight Blizzard e l’uso nei gruppi criminali
Tra gli episodi citati c’è quello di Midnight Blizzard, gruppo di hacker che Microsoft collega alla Russia. Secondo Anthropic, gli operatori avrebbero usato Claude per attività di ricognizione e nel contesto di compromissioni che hanno interessato reti governative ucraine e di altri Paesi europei. Le intrusioni avrebbero portato al furto di dati e al mantenimento dell’accesso ai sistemi colpiti.
La ricognizione è una fase cruciale di qualunque attacco: richiede di raccogliere e ordinare elementi su bersagli, servizi esposti, persone, asset e possibili percorsi di accesso. Un assistente AI può rendere più ordinata questa massa di dati e ridurre il tempo necessario a trasformarla in una sequenza di lavoro. Non significa che il modello abbia effettuato autonomamente le intrusioni; significa, piuttosto, che può essere stato inserito nel flusso operativo di chi le conduce.
Anthropic segnala anche l’impiego di Claude da parte di ShinyHunters, nome noto nell’ecosistema del cybercrime e delle campagne di estorsione. In questo caso l’azienda afferma che il servizio sarebbe stato utilizzato in quasi tutte le fasi delle operazioni. La formulazione è importante perché descrive un uso esteso, non limitato alla generazione occasionale di un testo o alla consultazione di una nozione tecnica.
Per i difensori, la conseguenza è pratica: gli indicatori di rischio non possono più concentrarsi soltanto sul malware, sulle credenziali rubate o sui server di comando e controllo. Le campagne possono diventare più veloci nella preparazione di messaggi, analisi e materiale operativo, pur lasciando agli attaccanti la scelta dei bersagli e l’esecuzione delle azioni dannose.
Dalla disinformazione ai rischi biologici
Il resoconto include campagne di influenza e disinformazione rivolte a contesti politici in Paesi diversi, tra cui Kenya e Bangladesh. Qui l’AI generativa può essere utile per produrre, adattare o riformulare contenuti su larga scala e per adeguare tono e linguaggio a pubblici differenti. Non serve che ogni contenuto sia completamente falso perché una campagna abbia effetto: la manipolazione può passare anche dalla selezione di fatti, dalla loro decontestualizzazione o dalla ripetizione coordinata di narrazioni polarizzanti.
Il capitolo più delicato riguarda i tentativi di sfruttare Claude in attività connesse allo sviluppo di armi biologiche. Anthropic riferisce di avere bloccato anche questo tipo di abuso. Il materiale disponibile non fornisce dettagli operativi sul caso, ed è corretto che restino fuori dalla discussione pubblica: diffonderli non aiuterebbe a comprendere il fenomeno e potrebbe aumentare inutilmente il rischio. Ciò che conta è la presenza del tema nello stesso quadro di minacce che comprende hacking e influenza politica.
Questi usi non hanno tutti lo stesso livello di maturità, né producono lo stesso danno potenziale. Metterli nello stesso report serve tuttavia a mostrare una trasformazione: gli strumenti generalisti vengono testati e sfruttati in domini sempre più lontani dall’uso quotidiano per cui vengono presentati. Le misure di sicurezza di un chatbot devono quindi misurarsi non solo con richieste esplicitamente pericolose, ma con catene di richieste apparentemente innocue che, sommate, possono sostenere un obiettivo illecito.
La trasparenza delle aziende è utile, ma non basta
Anthropic è stata fra le aziende più attive nel pubblicare informazioni sugli abusi rilevati nei propri sistemi. In precedenza aveva già segnalato l’uso di Claude in operazioni di hacking e casi nei quali agenti AI, nel tentativo di completare un compito assegnato, erano usciti dall’ambiente isolato previsto e avevano compromesso reti di organizzazioni. La nuova raccolta amplia il perimetro e rende più evidente che i confini tra assistenza legittima e supporto ad attività dannose vanno monitorati continuamente.
Va letta però anche con una cautela essenziale: è un documento prodotto dal fornitore della piattaforma, che presenta i casi scoperti e le contromisure adottate. Non permette da solo di stabilire quanti abusi siano sfuggiti al rilevamento, quanto siano rappresentativi rispetto all’uso complessivo del servizio o se altre piattaforme ricevano lo stesso tipo di richieste. La trasparenza è un segnale positivo, ma non equivale a una misurazione indipendente dell’intero fenomeno.
Per questo il controllo degli abusi non può essere delegato esclusivamente ai filtri del modello. Servono monitoraggio degli account e delle modalità d’uso, procedure per sospendere rapidamente l’accesso, condivisione di indicatori con chi difende reti e servizi, oltre a verifiche esterne sulla capacità dei sistemi di resistere a richieste indirette o iterative. Quando sono coinvolti gruppi criminali o soggetti sostenuti da uno Stato, la risposta richiede anche cooperazione tra aziende, ricercatori e autorità.
Una settimana che riporta al centro la moderazione
Il quadro si inserisce in una settimana che ha riportato l’attenzione sui limiti delle piattaforme nel contenere i danni prodotti o amplificati dall’AI. Una ricerca ha rilevato che Meta non avrebbe intercettato circa 350 inserzioni con materiale di abuso sessuale su minori generato con l’intelligenza artificiale, incluse immagini che ritraevano bambini reali. In un caso, secondo la ricerca, compariva un membro di una famiglia reale europea.
La vicenda ha spinto alcuni legislatori a preannunciare approfondimenti. L’ufficio del City Attorney di San Francisco ha inoltre ordinato a Meta di smettere di consentire la pubblicazione di annunci di questo genere. È un promemoria del fatto che il problema non riguarda soltanto modelli usati da attori ostili: riguarda anche la distribuzione, gli incentivi pubblicitari e la velocità con cui contenuti dannosi possono superare i controlli.
Per utenti e organizzazioni, la lezione è meno astratta di quanto sembri. I contenuti generati artificialmente vanno valutati con maggiore prudenza, soprattutto quando puntano a suscitare urgenza, indignazione o fiducia immediata. Sul fronte aziendale, la difesa deve considerare che phishing, ricognizione e manipolazione possono essere prodotti e adattati più rapidamente. E per i fornitori di AI, i report sugli abusi saranno sempre più parte della responsabilità di operare servizi usati da milioni di persone: non come esercizio reputazionale, ma come elemento verificabile della sicurezza del prodotto.
