Le gouvernement ordonne une suspension immédiate
Le gouvernement américain a ordonné vendredi à Anthropic de désactiver brutalement ses modèles d'IA les plus avancés — Claude Mythos et Claude Fable — bloquant l'accès aux ressortissants étrangers pour des raisons de sécurité nationale. Anthropic a obtempéré en fermant complètement l'accès pour tous les utilisateurs, déclarant n'avoir pas le choix face à cet ordre. Cette action sans précédent marque la première fois que les États-Unis contraignent directement une entreprise d'IA à limiter l'accès à ses modèles pour des motifs de sécurité nationale.
Le PDG d'Amazon avait exprimé des inquiétudes avant la répression
TechCrunch rapporte que le PDG d'Amazon, Andy Jassy, avait exprimé en privé des inquiétudes quant aux capacités des modèles d'Anthropic avant la répression gouvernementale. Amazon est un investisseur majeur dans Anthropic, et les préoccupations rapportées de Jassy ajoutent une couche de complexité au récit. Ce développement suggère que même les propres investisseurs d'Anthropic auraient pu avoir des réserves sur les implications de sécurité de ses systèmes d'IA les plus puissants.
Les avertissements de sécurité d'Anthropic se retournent contre elle
Par un ironique retournement de situation, le PDG d'Anthropic, Dario Amodei, et l'entreprise ont longtemps été des défenseurs vocaux de la réglementation de la sécurité de l'IA et ont mis en garde contre les risques des systèmes d'IA avancés. Les critiques soutiennent désormais que le plaidoyer d'Anthropic a pu se retourner contre elle, attirant l'attention du gouvernement sur les risques mêmes que l'entreprise avait soulignés. La situation suscite un vif débat sur la question de savoir si les entreprises d'IA devraient modérer leurs avertissements publics de sécurité si cela risque de déclencher une intervention gouvernementale lourde qui pourrait nuire à la position concurrentielle de l'industrie américaine de l'IA à l'échelle mondiale.