Regeringen beordrer øjeblikkelig suspension
Den amerikanske regering beordrede fredag Anthropic til brat at deaktivere sine mest avancerede AI-modeller — Claude Mythos og Claude Fable — og blokerede adgangen for udenlandske statsborgere af hensyn til national sikkerhed. Anthropic efterkom ved at lukke adgangen helt for alle brugere og udtalte, at de ikke havde noget valg under ordren. Den hidtil usete handling markerer første gang, USA direkte har tvunget et AI-selskab til at begrænse adgangen til sine modeller baseret på national sikkerhed.
Amazon-CEO rejste bekymringer før indgreb
TechCrunch rapporterer, at Amazons CEO Andy Jassy privat havde rejst bekymringer om Anthropics modellers kapacitet før regeringens indgreb. Amazon er en stor investor i Anthropic, og Jassys rapporterede bekymringer tilføjer et lag af kompleksitet til fortællingen. Udviklingen antyder, at selv Anthropics egne investorer kan have haft forbehold over for sikkerhedsimplikationerne af selskabets mest kraftfulde AI-systemer.
Anthropics sikkerhedsadvarsler slår tilbage
I en ironisk drejning har Anthropics CEO Dario Amodei og selskabet længe været fortaler for AI-sikkerhedsregulering og har advaret om risiciene ved avancerede AI-systemer. Kritikere hævder nu, at Anthropics egen fortalervirksomhed kan have slået tilbage og tiltrukket regeringens opmærksomhed på netop de risici, selskabet havde fremhævet. Situationen har udløst intens debat om, hvorvidt AI-selskaber bør moderere deres offentlige sikkerhedsadvarsler, hvis de risikerer at udløse tung statslig indgriben, der kan skade den amerikanske AI-industris konkurrenceposition globalt.