Un modèle d’IA jugé trop dangereux désormais disponible
Anthropic a publié Claude Fable 5 mardi, une version de son modèle d’IA Claude Mythos que l’entreprise avait précédemment décrite comme trop puissante pour une publication publique. Le modèle avait suscité de sérieuses inquiétudes parmi les leaders de la technologie, de la finance et du gouvernement lorsqu’il avait été présenté en privé en avril. Anthropic a reconnu que publier un modèle aussi performant comporte des risques, mais a déclaré que des garde-fous et des limitations d’utilisation sont en place.
10 000 failles de sécurité découvertes par les testeurs
Les quelque 150 groupes ayant eu un accès précoce à Mythos ont signalé avoir trouvé plus de 10 000 failles de sécurité critiques dans leurs systèmes. Anthropic a déclaré que Fable et Mythos peuvent travailler sans supervision sur des commandes humaines pendant des périodes plus longues que tous les modèles Claude précédents. L’entreprise prévoit d’étendre prochainement l’accès à la version complète de Mythos 5 via un programme d’accès de confiance élargi.
Anthropic approche une valorisation de 1 000 milliards de dollars, IPO attendue
Anthropic devrait entrer en bourse prochainement, sa valorisation privée approchant les 1 000 milliards de dollars. Le cofondateur Jack Clark a récemment déclaré à BBC Newsnight que les capacités de l’IA se développent si rapidement qu’il devrait y avoir un moyen pour le public de ralentir les progrès technologiques. Actuellement, a-t-il dit, l’industrie de l’IA a un accélérateur mais pas de frein.