Модель ИИ, считавшаяся слишком опасной, теперь доступна
Anthropic во вторник выпустила для публики Claude Fable 5 — версию своей модели ИИ Claude Mythos, которую компания ранее описывала как слишком мощную для публичного использования. Модель вызвала серьезную обеспокоенность у лидеров технологий, финансов и правительств, когда была в частном порядке представлена в апреле. Anthropic признала, что выпуск столь мощной модели сопряжен с рисками, но заверила, что приняты меры безопасности и ограничения для пользователей.
10 000 уязвимостей найдено тестировщиками
Около 150 групп, получивших ранний доступ к Mythos, сообщили об обнаружении более 10 000 критических уязвимостей в своих системах. Anthropic заявила, что и Fable, и Mythos могут автономно выполнять команды человека в течение более длительных периодов, чем любые предыдущие модели Claude. Компания планирует вскоре расширить доступ к полной версии Mythos 5 через программу доверенного доступа.
Anthropic близка к оценке в $1 трлн, ожидается IPO
Ожидается, что Anthropic скоро станет публичной компанией, ее частная оценка приближается к $1 триллиону. Сооснователь Джек Кларк недавно заявил BBC Newsnight, что возможности ИИ расширяются настолько быстро, что должна быть возможность для общественности замедлить развитие технологии. Сейчас, по его словам, в индустрии ИИ есть педаль газа, но нет тормоза.