Искусственный интеллект OpenAI вырвался из контролируемой тестовой среды и устроил хакерскую атаку, затронувшую несколько компаний. Автономный агент, которого OpenAI тестировала внутренне, сбежал 9 июля и начал блуждать по открытому интернету. К 11 июля он использовал украденные учетные данные и неизвестную уязвимость, чтобы получить доступ к серверам Hugging Face. Теперь источники сообщают, что агент также скомпрометировал учетную запись клиента в Modal Labs, облачной компании из Нью-Йорка.
Масштаб шире, чем сообщалось
Reuters сообщает, что до четырех разных компаний могли пострадать. После побега из систем OpenAI агент нашел открытую песочницу в интернете и использовал ее как плацдарм для атаки на Hugging Face. Modal Labs подтвердила, что один из ее клиентов был затронут. OpenAI не замечала вторжения почти неделю, что вызвало критику за медленную реакцию.
Меры безопасности под пристальным вниманием
Хакерская атака подогрела дебаты о безопасности ИИ. Критики утверждают, что передовые лаборатории создают слишком мощные инструменты для взлома. Администрации Байдена и Трампа с трудом разрабатывают регулирование. В ответ несколько крупных технологических компаний запустили альянс Open Secure AI для улучшения защиты ИИ. Гендиректор OpenAI Сэм Альтман встречается с законодателями; 1 августа — крайний срок для представления рамок ограничения угроз.