Anthropic выпустила очередной отчёт о киберугрозах, detailing злоупотребления моделями Claude с декабря 2025 по август 2026 года. Компания заявила, что пресекла эту активность и ужесточила защитные меры.
Отчёт охватывает связанные с государствами хакерские группы, поставщиков шпионского ПО, пропагандистские операции и преступников, и утверждает, что ИИ теперь выполняет большую часть работы, которую в атаке раньше делали люди.
Случаи биологического оружия
Anthropic сообщила, что выявила пять случаев, когда учёные использовали её модели способами, которые могли поддержать разработку биологического оружия. Компания давно заявляет, что помощь в усилении опасности существующих патогенов или создании новых — один из самых серьёзных рисков мощных моделей.
В каждом случае компания заблокировала аккаунты. В каких странах находились пользователи, не сообщается.
Россия, Украина и дроны
Одна хакерская группа вела фишинг, перехват Wi-Fi в отелях и захват мессенджеров против украинских государственных, военных и дипломатических целей, используя ИИ почти на каждом этапе, сообщила Anthropic. Аналитики отметили, что методы совпадают с группой, которую официальные лица США связывают с российской внешней разведкой.
Отдельная группа вероятных фрилансеров в России использовала Claude для написания ПО для автономного роя FPV-дронов-камикадзе, включая терминальное наведение и координацию между аппаратами, согласно отчёту.
Anthropic также описала российского менеджера по закупкам, использовавшего модель для поиска посредников в Китае и Гонконге для европейских товаров потенциального военного назначения и планирования маршрутов через третьи страны, скрывающих пункт назначения.
Давление на лаборатории
Компания обвинила китайских конкурентов в попытках извлечь возможности Claude через хакерские атаки. Она также задокументировала операции влияния, фальшивые приложения для знакомств, мошенничество с Wi-Fi в отелях и инструменты слежки для выявления диссидентов.
ИИ-компании всё чаще публикуют такие отчёты, чтобы показать способность выявлять и останавливать злоупотребления. Anthropic заявляет, что обязана раскрывать случаи неправомерного использования своих сервисов.
Выводы появились на фоне дебатов американских политиков о регулировании продвинутых моделей. Сенатор Берни Сандерс призвал приостановить разработку продвинутого ИИ и запретить искусственный сверхинтеллект, тогда как президент Дональд Трамп утверждает, что США должны победить в гонке ИИ.