Model AI uznany za zbyt niebezpieczny teraz dostępny
Anthropic udostępnił we wtorek publicznie Claude Fable 5, wersję swojego modelu AI Claude Mythos, którą firma wcześniej określiła jako zbyt potężną do publicznego udostępnienia. Model wzbudził poważne obawy wśród liderów technologii, finansów i rządu, gdy był prywatnie prezentowany w kwietniu. Anthropic przyznało, że wypuszczenie tak zdolnego modelu wiąże się z ryzykiem, ale zapewniło, że wdrożono zabezpieczenia i ograniczenia dla użytkowników.
10 000 luk bezpieczeństwa znalezionych przez testerów
Około 150 grup, które otrzymały wczesny dostęp do Mythos, zgłosiło znalezienie ponad 10 000 krytycznych luk bezpieczeństwa w swoich systemach. Anthropic stwierdził, że zarówno Fable, jak i Mythos mogą pracować bez nadzoru nad ludzkimi poleceniami przez dłuższy czas niż jakiekolwiek poprzednie modele Claude. Firma planuje wkrótce rozszerzyć dostęp do pełnego Mythos 5 w ramach szerszego programu zaufanego dostępu.
Anthropic zbliża się do wyceny 1 biliona dolarów, oczekiwane IPO
Anthropic ma wkrótce stać się spółką publiczną, a jego prywatna wycena zbliża się do biliona dolarów. Współzałożyciel Jack Clark powiedział niedawno BBC Newsnight, że możliwości AI rozwijają się tak szybko, że powinien istnieć sposób, aby społeczeństwo mogło spowolnić postęp technologii. Obecnie, jak stwierdził, w branży AI jest pedał gazu, ale nie ma hamulca.