AI-model anset for farlig nu tilgængelig
Anthropic udgav tirsdag Claude Fable 5 til offentligheden, en version af sin Claude Mythos AI-model, som virksomheden tidligere havde beskrevet som for kraftfuld til offentlig udgivelse. Modellen skabte alvorlig bekymring blandt teknologi-, finans- og regeringsledere, da den blev vist frem privat i april. Anthropic anerkendte, at udgivelse af en så kapabel model medfører risici, men sagde, at sikkerhedsforanstaltninger og brugerbegrænsninger er på plads.
10.000 sikkerhedsfejl fundet af testere
De omkring 150 grupper, der fik tidlig adgang til Mythos, har rapporteret at have fundet over 10.000 kritiske sikkerhedsfejl i deres systemer. Anthropic sagde, at både Fable og Mythos kan arbejde uovervåget på menneskelige kommandoer i længere perioder end nogen tidligere Claude-modeller. Virksomheden planlægger snart at udvide adgangen til den fulde Mythos 5 gennem et bredere betroet adgangsprogram.
Anthropic nærmer sig 1 billion dollar-vurdering, børsnotering forventes
Anthropic forventes snart at blive børsnoteret, med en privat vurdering, der nærmer sig 1 billion dollar. Medstifter Jack Clark fortalte for nylig BBC Newsnight, at AI-kapaciteter udvides så hurtigt, at der burde være en måde for offentligheden at bremse teknologiens fremgang. Lige nu, sagde han, har AI-industrien en speeder, men ingen bremse.