Modelo de IA considerado perigoso agora disponível
A Anthropic lançou o Claude Fable 5 ao público nesta terça-feira, uma versão de seu modelo de IA Claude Mythos que a empresa havia descrito como poderoso demais para lançamento público. O modelo gerou sérias preocupações entre líderes de tecnologia, finanças e governo quando foi pré-visualizado em abril. A Anthropic reconheceu que lançar um modelo tão capaz traz riscos, mas disse que salvaguardas e limitações de uso estão em vigor.
10.000 falhas de segurança encontradas por testadores
Os cerca de 150 grupos com acesso antecipado ao Mythos relataram ter encontrado mais de 10.000 falhas críticas de segurança em seus sistemas. A Anthropic disse que tanto Fable quanto Mythos podem trabalhar sem supervisão em comandos humanos por períodos mais longos do que qualquer modelo Claude anterior. A empresa planeja expandir o acesso ao Mythos 5 completo por meio de um programa de acesso confiável mais amplo em breve.
Anthropic se aproxima de avaliação de US$ 1 trilhão; IPO esperado
A Anthropic deve se tornar uma empresa de capital aberto em breve, com sua avaliação privada se aproximando de US$ 1 trilhão. O cofundador Jack Clark disse recentemente à BBC Newsnight que as capacidades de IA estão se expandindo tão rapidamente que deveria haver uma maneira de o público desacelerar o avanço da tecnologia. No momento, disse ele, a indústria de IA tem um acelerador, mas não tem freio.