AI-modell ansedd som för farlig nu tillgänglig
Anthropic släppte Claude Fable 5 till allmänheten på tisdagen, en version av AI-modellen Claude Mythos som företaget tidigare beskrivit som för kraftfull för offentlig release. Modellen väckte allvarliga farhågor bland teknik-, finans- och regeringsledare när den förhandsvisades privat i april. Anthropic medgav att en så kapabel modell innebär risker, men sade att säkerhetsåtgärder och användarbegränsningar finns på plats.
10 000 säkerhetsbrister funna av testare
De cirka 150 grupper som fått tidig åtkomst till Mythos har rapporterat över 10 000 kritiska säkerhetsbrister i sina system. Anthropic sade att både Fable och Mythos kan arbeta obevakat med mänskliga kommandon under längre perioder än några tidigare Claude-modeller. Företaget planerar att snart utöka åtkomsten till hela Mythos 5 via ett bredare betrodd åtkomstprogram.
Anthropic nära en biljon dollar i värdering – IPO väntas
Anthropic förväntas bli ett börsnoterat företag snart, med en privat värdering som närmar sig en biljon dollar. Medgrundaren Jack Clark sade nyligen till BBC Newsnight att AI-förmågorna expanderar så snabbt att allmänheten borde ha ett sätt att bromsa teknikens framsteg. Just nu, sade han, har AI-branschen en gaspedal men ingen broms.