Anthropic udgav sin seneste trusselsintelligensrapport med detaljer om misbrug af selskabets Claude-modeller mellem december 2025 og august 2026. Virksomheden sagde, at den standsede aktiviteten og strammede sikkerhedsforanstaltningerne bagefter.
Rapporten dækker statsligt forbundne hackergrupper, spywareleverandører, propagandaoperationer og kriminelle, og den argumenterer for, at AI nu udfører meget af det arbejde, mennesker plejede at gøre under et angreb.
Biovåbensager
Anthropic sagde, at den identificerede fem casestudier, hvor forskere brugte selskabets modeller på måder, der kunne støtte udvikling af biologiske våben. Virksomheden har længe sagt, at hjælp til at gøre eksisterende patogener farligere eller skabe nye er en af de mest alvorlige risici ved kapable modeller.
I hvert tilfælde blokerede virksomheden konti. Den oplyste ikke, hvilke lande brugerne var i.
Rusland, Ukraine og droner
En hackergruppe gennemførte phishing, kapring af hotel-Wi-Fi og overtagelse af beskedapps mod ukrainske regerings-, militær- og diplomatiske mål og brugte AI på næsten hvert trin, sagde Anthropic. Analytikere sagde, at fremgangsmåden matchede en gruppe, som amerikanske embedsmænd har kædet sammen med Ruslands udenrigsefterretningstjeneste.
Et separat sæt sandsynligvis freelanceaktører i Rusland brugte Claude til at skrive software til en autonom sværm af FPV-angrebsdroner, herunder terminalstyring og koordinering mellem fly, ifølge rapporten.
Anthropic beskrev også en Rusland-baseret indkøbschef, der brugte modellen til at finde mellemmænd i Kina og Hongkong for europæiske varer med potentiel militær anvendelse og til at planlægge ruter gennem tredjelande, der skjulte destinationen.
Pres på laboratorierne
Virksomheden anklagede kinesiske konkurrenter for at forsøge at udtrække Claudes kapaciteter gennem hackingforsøg. Den dokumenterede også indflydelsesoperationer, falske dating-apps, hotel-Wi-Fi-svindel og overvågningsværktøjer bygget til at identificere dissidenter.
AI-virksomheder offentliggør i stigende grad disse rapporter for at vise, at de kan opdage og stoppe misbrug. Anthropic siger, at den har ansvar for at oplyse om misbrug af sine tjenester.
Resultaterne kom, mens amerikanske politikere debatterer, hvordan avancerede modeller skal reguleres. Senator Bernie Sanders har opfordret til en pause i avanceret AI-udvikling og et forbud mod kunstig superintelligens, mens præsident Donald Trump har argumenteret for, at USA skal vinde AI-krigen.