Modello IA ritenuto troppo pericoloso ora disponibile
Anthropic ha rilasciato Claude Fable 5 al pubblico martedì, una versione del suo modello IA Claude Mythos che l'azienda aveva precedentemente descritto come troppo potente per il rilascio pubblico. Il modello aveva suscitato serie preoccupazioni tra leader della tecnologia, della finanza e del governo quando era stato presentato in anteprima privata ad aprile. Anthropic ha riconosciuto che rilasciare un modello così capace comporta rischi, ma ha affermato che sono in atto salvaguardie e limitazioni per gli utenti.
10.000 falle di sicurezza scoperte dai tester
I circa 150 gruppi che hanno avuto accesso anticipato a Mythos hanno segnalato di aver trovato più di 10.000 falle di sicurezza critiche nei loro sistemi. Anthropic ha affermato che sia Fable che Mythos possono lavorare senza supervisione su comandi umani per periodi più lunghi rispetto a qualsiasi precedente modello Claude. L'azienda prevede di espandere presto l'accesso al Mythos 5 completo attraverso un programma di accesso fidato più ampio.
Anthropic si avvicina a una valutazione di 1 trilione di dollari, attesa IPO
Si prevede che Anthropic diventi una società pubblica a breve, con la sua valutazione privata che si avvicina a 1 trilione di dollari. Il co-fondatore Jack Clark ha recentemente detto a BBC Newsnight che le capacità dell'IA si stanno espandendo così rapidamente che dovrebbe esserci un modo per il pubblico di rallentare il progresso della tecnologia. Al momento, ha detto, l'industria dell'IA ha un acceleratore ma nessun freno.