Правительство приказывает немедленно приостановить
Правительство США в пятницу приказало Anthropic внезапно отключить свои самые совершенные ИИ-модели — Claude Mythos и Claude Fable, заблокировав доступ иностранным гражданам по соображениям национальной безопасности. Anthropic подчинился, полностью отключив доступ для всех пользователей, заявив, что у него не было выбора в соответствии с приказом. Эта беспрецедентная акция стала первым случаем, когда США напрямую принудили ИИ-компанию ограничить доступ к своим моделям на основании национальной безопасности.
Гендиректор Amazon выразил обеспокоенность до репрессий
TechCrunch сообщает, что генеральный директор Amazon Энди Джесси частным образом выражал обеспокоенность возможностями моделей Anthropic до репрессий со стороны правительства. Amazon является крупным инвестором Anthropic, и сообщения о выражении обеспокоенности Джесси добавляют сложности в эту историю. Это развитие событий предполагает, что даже собственные инвесторы Anthropic могли иметь сомнения относительно безопасности самых мощных ИИ-систем компании.
Предупреждения Anthropic о безопасности дали обратный эффект
По иронии судьбы, гендиректор Anthropic Дарио Амодеи и сама компания долгое время были активными сторонниками регулирования безопасности ИИ и предупреждали о рисках продвинутых ИИ-систем. Критики теперь утверждают, что собственная пропаганда Anthropic могла иметь обратный эффект, привлекая внимание правительства именно к тем рискам, о которых компания предупреждала. Эта ситуация вызвала ожесточенные дебаты о том, стоит ли ИИ-компаниям умерять свои публичные предупреждения о безопасности, если они рискуют спровоцировать жесткое государственное вмешательство, которое может навредить конкурентным позициям американской ИИ-индустрии на глобальном уровне.