Anthropic veröffentlichte seinen neuesten Threat-Intelligence-Bericht über die missbräuchliche Nutzung seiner Claude-Modelle zwischen Dezember 2025 und August 2026. Das Unternehmen erklärte, die Aktivitäten unterbrochen und anschließend die Schutzmaßnahmen verschärft zu haben.
Der Bericht behandelt staatlich verbundene Hackergruppen, Spyware-Anbieter, Propagandaoperationen und Kriminelle und argumentiert, dass KI inzwischen viel von der Arbeit übernimmt, die früher Menschen innerhalb eines Angriffs erledigten.
Biowaffen-Fälle
Anthropic gab an, fünf Fallstudien identifiziert zu haben, in denen Wissenschaftler seine Modelle auf Weise nutzten, die die Entwicklung biologischer Waffen unterstützen könnte. Das Unternehmen betont seit Langem, dass die Hilfe bei der Gefährlichmachung bestehender oder der Erschaffung neuer Pathogene eines der schwerwiegendsten Risiken leistungsfähiger Modelle sei.
In jedem Fall sperrte das Unternehmen die Konten. Es machte keine Angaben zu den Ländern der Nutzer.
Russland, Ukraine und Drohnen
Eine Hackergruppe führte Phishing, Hotel-WLAN-Übernahmen und Messaging-App-Übernahmen gegen ukrainische Regierungs-, Militär- und Diplomatenziele durch und nutzte KI in fast jeder Phase, so Anthropic. Analysten zufolge entspricht die Vorgehensweise einer Gruppe, die US-Beamte mit dem russischen Auslandsgeheimdienst in Verbindung bringen.
Eine separate Gruppe mutmaßlich freiberuflicher Akteure in Russland nutzte Claude laut Bericht, um Software für einen autonomen Schwarm von FPV-Angriffsdrohnen zu schreiben, einschließlich Endphasenlenkung und Koordination zwischen den Fluggeräten.
Anthropic beschrieb zudem einen in Russland ansässigen Beschaffungsmanager, der das Modell nutzte, um Vermittler in China und Hongkong für europäische Güter mit möglicher militärischer Nutzung zu finden und Routen über Drittländer zu planen, die das Ziel verbargen.
Druck auf die Labore
Das Unternehmen beschuldigte chinesische Wettbewerber, durch Hacking-Versuche Claudes Fähigkeiten extrahieren zu wollen. Es dokumentierte zudem Einflussoperationen, gefälschte Dating-Apps, Hotel-WLAN-Betrug und Überwachungswerkzeuge zur Identifizierung von Dissidenten.
KI-Firmen veröffentlichen solche Berichte zunehmend, um zu zeigen, dass sie Missbrauch erkennen und stoppen können. Anthropic erklärt, es habe die Pflicht, den Missbrauch seiner Dienste offenzulegen.
Die Ergebnisse fallen in eine Zeit, in der US-Politiker über die Regulierung fortgeschrittener Modelle debattieren. Senator Bernie Sanders fordert ein Moratorium für die Entwicklung fortgeschrittener KI und ein Verbot künstlicher Superintelligenz, während Präsident Donald Trump argumentiert, die USA müssten das KI-Rennen gewinnen.