Anthropic ha pubblicato il suo ultimo rapporto di threat intelligence, dettagliando l'abuso dei modelli Claude tra dicembre 2025 e agosto 2026. L'azienda ha dichiarato di aver interrotto le attività e rafforzato le salvaguardie.
Il rapporto copre gruppi di hacker legati a stati, venditori di spyware, operazioni di propaganda e criminali, e sostiene che l'IA ora svolge gran parte del lavoro che gli esseri umani facevano in un attacco.
Casi di armi biologiche
Anthropic ha identificato cinque casi in cui scienziati hanno usato i suoi modelli in modi che potrebbero sostenere lo sviluppo di armi biologiche. L'azienda ha bloccato gli account, senza indicare i paesi degli utenti.
Russia, Ucraina e droni
Un gruppo di hacker ha condotto phishing, dirottamento di Wi-Fi alberghieri e takeover di app di messaggistica contro obiettivi governativi, militari e diplomatici ucraini, usando l'IA in quasi ogni fase, secondo Anthropic. Gli analisti dicono che il modus operandi corrisponde a un gruppo collegato dai funzionari USA ai servizi di intelligence russi.
Un altro insieme di attori probabilmente freelance in Russia ha usato Claude per scrivere software per uno sciame autonomo di droni d'attacco FPV, inclusa la guida terminale e il coordinamento tra velivoli.
Anthropic ha anche descritto un manager di approvvigionamento russo che usava il modello per trovare intermediari in Cina e Hong Kong per beni europei con potenziali usi militari.
Pressione sui laboratori
L'azienda ha accusato concorrenti cinesi di tentare di estrarre le capacità di Claude tramite hacking. Ha anche documentato operazioni di influenza, app di appuntamenti false, truffe Wi-Fi e strumenti di sorveglianza per identificare dissidenti.
Le aziende di IA pubblicano sempre più questi rapporti per dimostrare di saper individuare e fermare gli abusi. Anthropic dice di avere la responsabilità di divulgare l'uso improprio dei suoi servizi.
I risultati arrivano mentre i legislatori USA discutono come regolamentare i modelli avanzati. Il senatore Bernie Sanders ha chiesto una pausa sullo sviluppo dell'IA avanzata e un divieto sulla superintelligenza artificiale, mentre il presidente Donald Trump sostiene che gli Stati Uniti devono vincere la corsa all'IA.