Modelo de IA considerado demasiado peligroso ahora disponible
Anthropic lanzó Claude Fable 5 al público el martes, una versión de su modelo de IA Claude Mythos que la empresa había descrito anteriormente como demasiado potente para su divulgación pública. El modelo generó serias preocupaciones entre líderes tecnológicos, financieros y gubernamentales cuando se presentó en privado en abril. Anthropic reconoció que lanzar un modelo tan capaz conlleva riesgos, pero afirmó que existen salvaguardas y limitaciones para los usuarios.
10,000 fallos de seguridad encontrados por evaluadores
Los aproximadamente 150 grupos que recibieron acceso temprano a Mythos han informado haber encontrado más de 10,000 fallos de seguridad críticos en sus sistemas. Anthropic dijo que tanto Fable como Mythos pueden trabajar sin supervisión en comandos humanos durante períodos más largos que cualquier modelo anterior de Claude. La empresa planea expandir el acceso al Mythos 5 completo a través de un programa de acceso confiable más amplio pronto.
Anthropic se acerca a una valoración de un billón de dólares, se espera OPI
Se espera que Anthropic se convierta en una empresa pública pronto, con su valoración privada acercándose al billón de dólares. El cofundador Jack Clark dijo recientemente a BBC Newsnight que las capacidades de la IA se están expandiendo tan rápidamente que debería haber una forma para que el público frene el avance de la tecnología. Ahora mismo, dijo, la industria de la IA tiene un acelerador pero no un freno.