Anthropic opublikował najnowszy raport wywiadu zagrożeń, opisujący nadużycia modeli Claude między grudniem 2025 a sierpniem 2026. Firma poinformowała, że udaremniła tę działalność i zaostrzyła zabezpieczenia.
Raport obejmuje powiązane z państwami grupy hakerskie, dostawców spyware, operacje propagandowe i przestępców. Twierdzi, że AI wykonuje dziś wiele pracy, którą wcześniej w ataku wykonywali ludzie.
Przypadki broni biologicznej
Anthropic poinformował, że zidentyfikował pięć studiów przypadków, w których naukowcy używali jego modeli w sposób mogący wspierać rozwój broni biologicznej. Firma od dawna twierdzi, że pomoc w uczynieniu patogenów groźniejszymi lub tworzeniu nowych to jedno z najpoważniejszych ryzyk.
W każdym przypadku zablokowano konta. Nie podano krajów użytkowników.
Rosja, Ukraina i drony
Jedna grupa hakerska prowadziła phishing, przejmowanie hotelowego Wi-Fi i przechwytywanie komunikatorów przeciwko ukraińskim celom rządowym, wojskowym i dyplomatycznym, używając AI na niemal każdym etapie. Analitycy twierdzą, że metody odpowiadają grupie łączonej przez USA z rosyjskim wywiadem zagranicznym.
Osobna grupa prawdopodobnie niezależnych aktorów w Rosji użyła Claude do pisania oprogramowania dla autonomicznego roju dronów FPV, w tym naprowadzania końcowego i koordynacji między maszynami.
Anthropic opisał też rosyjskiego menedżera zakupów szukającego pośredników w Chinach i Hongkongu dla towarów o potencjalnym zastosowaniu wojskowym oraz planującego trasy przez kraje trzecie ukrywające cel.
Presja na laboratoria
Firma oskarżyła chińskich konkurentów o próby wydobycia możliwości Claude przez ataki hakerskie. Udokumentowała też operacje wpływu, fałszywe aplikacje randkowe, oszustwa hotelowego Wi-Fi i narzędzia inwigilacji do identyfikowania dysydentów.
Firmy AI coraz częściej publikują takie raporty, by pokazać, że potrafią wykrywać i zatrzymywać nadużycia. Anthropic twierdzi, że ma obowiązek ujawniania nadużyć swoich usług.
Wyniki pojawiły się, gdy politycy USA debatują nad regulacją zaawansowanych modeli. Senator Bernie Sanders wezwał do wstrzymania rozwoju zaawansowanej AI i zakazu superinteligencji, a prezydent Donald Trump przekonuje, że USA muszą wygrać wyścig AI.