AI-model dat te gevaarlijk werd geacht nu beschikbaar
Anthropic bracht dinsdag Claude Fable 5 uit, een versie van zijn Claude Mythos AI-model waarvan het bedrijf eerder had gezegd dat het te krachtig was voor publieke release. Het model wekte grote zorgen bij technologie-, financiële en overheidsleiders toen het in april privé werd gepresenteerd. Anthropic erkende dat het uitbrengen van zo'n capabel model risico's met zich meebrengt, maar stelde dat er waarborgen en gebruikersbeperkingen zijn.
10.000 beveiligingslekken gevonden door testers
De ongeveer 150 groepen die vroege toegang tot Mythos kregen, hebben meer dan 10.000 kritieke beveiligingsfouten in hun systemen gerapporteerd. Anthropic zei dat zowel Fable als Mythos onbeheerd aan menselijke opdrachten kunnen werken voor langere periodes dan eerdere Claude-modellen. Het bedrijf wil de toegang tot de volledige Mythos 5 binnenkort uitbreiden via een breder vertrouwd toegangsprogramma.
Anthropic nadert waardering van 1 biljoen dollar, beursgang verwacht
Anthropic zal naar verwachting binnenkort een beursgang doen, met een private waardering die de 1 biljoen dollar nadert. Medeoprichter Jack Clark vertelde BBC Newsnight dat AI-capaciteiten zo snel groeien dat er een manier moet zijn voor het publiek om de technologische vooruitgang te vertragen. Op dit moment, zei hij, heeft de AI-industrie een gaspedaal maar geen rem.