Regering beveelt onmiddellijke opschorting
De Amerikaanse regering gaf Anthropic vrijdag opdracht om zijn meest geavanceerde AI-modellen — Claude Mythos en Claude Fable — abrupt uit te schakelen en de toegang voor buitenlandse staatsburgers te blokkeren vanwege zorgen over de nationale veiligheid. Anthropic voldeed door de toegang voor alle gebruikers volledig af te sluiten, daarbij stellend dat het geen keus had onder het bevel. De ongekende actie markeert de eerste keer dat de VS een AI-bedrijf rechtstreeks dwingt de toegang tot zijn modellen te beperken op basis van nationale veiligheidsoverwegingen.
Amazon-CEO uitte zorgen voorafgaand aan aanpak
TechCrunch meldt dat Amazon-CEO Andy Jassy privé zorgen had geuit over de mogelijkheden van Anthropic's modellen vóór de overheidsaanpak. Amazon is een grote investeerder in Anthropic, en Jassy's gerapporteerde uitingen van bezorgdheid voegen een laag complexiteit toe aan het verhaal. De ontwikkeling suggereert dat zelfs Anthropic's eigen investeerders mogelijk reserves hadden over de veiligheidsimplicaties van de krachtigste AI-systemen van het bedrijf.
Anthropics veiligheidswaarschuwingen werken averechts
In een ironische wending zijn Anthropic-CEO Dario Amodei en het bedrijf al lang uitgesproken voorstanders van AI-veiligheidsregulering en hebben ze gewaarschuwd voor de risico's van geavanceerde AI-systemen. Critici beweren nu dat Anthropic's eigen belangenbehartiging averechts heeft gewerkt, waardoor de aandacht van de overheid werd getrokken naar dezelfde risico's die het bedrijf had benadrukt. De situatie heeft een intens debat aangewakkerd over de vraag of AI-bedrijven hun openbare veiligheidswaarschuwingen moeten matigen als ze het risico lopen zware overheidsinterventie uit te lokken die de concurrentiepositie van de Amerikaanse AI-industrie wereldwijd kan schaden.