Anthropic julkaisi uusimman uhkatiedusteluraporttinsa, joka käsittelee Claude-mallien väärinkäyttöä joulukuun 2025 ja elokuun 2026 välillä. Yhtiö sanoi keskeyttäneensä toiminnan ja tiukentaneensa suojatoimia jälkeenpäin.
Raportti kattaa valtioihin kytkeytyneitä hakkeriryhmiä, vakoiluohjelmien myyjiä, propagandatoimintoja ja rikollisia, ja siinä väitetään, että tekoäly tekee nyt suuren osan työstä, jota ihmiset ennen tekivät hyökkäyksen sisällä.
Bioweapons-tapaukset
Anthropic sanoi tunnistaneensa viisi tapaustutkimusta, joissa tutkijat käyttivät sen malleja tavalla, joka voisi tukea biologisten aseiden kehittämistä. Yhtiö on kauan sanonut, että olemassa olevien patogeenien vaarallisemmiksi tekeminen on yksi vakavimmista riskeistä.
Jokaisessa tapauksessa yhtiö esti tilit. Se ei kertonut, missä maissa käyttäjät olivat.
Venäjä, Ukraina ja dronet
Yksi hakkeriryhmä toteutti tietojenkalastelua, hotellin Wi-Fi-kaappauksia ja viestisovellusten haltuunottoja Ukrainan hallituksen, sotilas- ja diplomaattikohteita vastaan käyttäen tekoälyä lähes joka vaiheessa, Anthropic sanoi. Analyytikoiden mukaan menetelmät vastasivat ryhmää, jonka Yhdysvaltain viranomaiset ovat yhdistäneet Venäjän ulkomaantiedusteluun.
Erillinen joukko todennäköisesti freelance-toimijoita Venäjällä käytti Claudea ohjelmiston kirjoittamiseen autonomiselle FPV-hyökkäysdronejen parvelle, mukaan lukien terminaaliohjaus ja lentokoneiden välinen koordinointi.
Anthropic kuvasi myös Venäjällä toimivaa hankintapäällikköä, joka käytti mallia välittäjien löytämiseen Kiinasta ja Hongkongista eurooppalaisille tavaroille, joilla on mahdollista sotilaskäyttöä.
Painetta laboratorioihin
Yhtiö syytti kiinalaisia kilpailijoita yrityksistä poimia Clauden kyvykkyyksiä hakkeroinnin avulla. Se dokumentoi myös vaikutusoperaatioita, väärennettyjä deittisovelluksia ja valvontatyökaluja toisinajattelijoiden tunnistamiseen.
Tekoälyyritykset julkaisevat yhä enemmän näitä raportteja osoittaakseen pystyvänsä havaitsemaan ja estämään väärinkäytön. Anthropic sanoo, että sillä on velvollisuus paljastaa palveluidensa väärinkäyttö.
Löydökset tulivat, kun yhdysvaltalaiset päättäjät keskustelevat kehittyneiden mallien sääntelystä. Senaattori Bernie Sanders on vaatinut kehittyneen tekoälyn kehityksen keskeyttämistä ja superälyn kieltämistä, kun taas presidentti Donald Trump on väittänyt, että Yhdysvaltojen on voitettava tekoälykilpa.