Anthropic bracht zijn nieuwste dreigingsrapport uit over misbruik van zijn Claude-modellen tussen december 2025 en augustus 2026. Het bedrijf zegt de activiteit te hebben verstoord en daarna de waarborgen te hebben aangescherpt.
Het rapport behandelt staatsgebonden hackgroepen, spywareleveranciers, propagandacampagnes en criminelen, en stelt dat AI nu veel werk doet dat mensen vroeger binnen een aanval deden.
Biowapenzaken
Anthropic zegt vijf casussen te hebben geïdentificeerd waarin wetenschappers zijn modellen gebruikten op manieren die de ontwikkeling van biologische wapens konden ondersteunen. Het bedrijf noemt het helpen gevaarlijker maken van bestaande pathogenen of het creëren van nieuwe al lang een van de ernstigste risico's van krachtige modellen.
In elk geval werden de accounts geblokkeerd. Het bedrijf zei niet in welke landen de gebruikers zich bevonden.
Rusland, Oekraïne en drones
Een hackgroep voerde phishing, hotel-wifi-kaping en overnames van berichtenapps uit tegen Oekraïense overheids-, militaire en diplomatieke doelen, met AI in bijna elke fase, aldus Anthropic. Analisten zeggen dat de werkwijze overeenkomt met een groep die Amerikaanse functionarissen aan de Russische buitenlandse inlichtingendienst koppelen.
Een aparte groep waarschijnlijk freelance actoren in Rusland gebruikte Claude om software te schrijven voor een autonome zwerm FPV-aanvalsdrones, inclusief eindgeleiding en coördinatie tussen toestellen, volgens het rapport.
Anthropic beschreef ook een in Rusland gevestigde inkoopmanager die het model gebruikte om tussenpersonen in China en Hong Kong te vinden voor Europese goederen met mogelijk militair gebruik, en om routes via derde landen te plannen die de bestemming verborgen.
Druk op de labs
Het bedrijf beschuldigde Chinese concurrenten ervan Claude's capaciteiten te willen ontfutselen via hackpogingen. Het documenteerde ook invloedsoperaties, nep-datingapps, hotel-wifioplichting en surveillancetools om dissidenten te identificeren.
AI-bedrijven publiceren deze rapporten steeds vaker om te tonen dat ze misbruik kunnen opsporen en stoppen. Anthropic zegt een verantwoordelijkheid te hebben om misbruik van zijn diensten te melden.
De bevindingen verschenen terwijl Amerikaanse beleidsmakers debatteren over regulering van geavanceerde modellen. Senator Bernie Sanders riep op tot een pauze in de ontwikkeling van geavanceerde AI en een verbod op kunstmatige superintelligentie, terwijl president Donald Trump stelt dat de VS de AI-race moet winnen.