Rząd nakazuje natychmiastowe zawieszenie
Rząd USA nakazał w piątek Anthropic nagłe wyłączenie najbardziej zaawansowanych modeli AI – Claude Mythos i Claude Fable – blokując dostęp obcokrajowcom z powodów bezpieczeństwa narodowego. Anthropic zastosował się, zamykając dostęp całkowicie dla wszystkich użytkowników, stwierdzając, że nie miał wyboru na mocy nakazu. To bezprecedensowe działanie to pierwszy przypadek, gdy USA bezpośrednio zmusiły firmę AI do ograniczenia dostępu do swoich modeli na podstawie bezpieczeństwa narodowego.
CEO Amazona wyraził obawy przed crackdownem
TechCrunch podaje, że CEO Amazona Andy Jassy prywatnie wyraził obawy dotyczące możliwości modeli Anthropic przed rządowym crackdownem. Amazon jest głównym inwestorem w Anthropic, a zgłoszone wyrazy obaw Jassy'ego dodają złożoności narracji. Rozwój ten sugeruje, że nawet własni inwestorzy Anthropic mogli mieć zastrzeżenia co do konsekwencji bezpieczeństwa najpotężniejszych systemów AI firmy.
Ostrzeżenia bezpieczeństwa Anthropic odwracają się
W ironicznym zwrocie akcji CEO Anthropic Dario Amodei i firma od dawna byli głośnymi zwolennikami regulacji bezpieczeństwa AI i ostrzegali przed ryzykiem zaawansowanych systemów AI. Krytycy argumentują teraz, że własna rzecznictwo Anthropic mogło się odwrócić, przyciągając uwagę rządu do dokładnie tych ryzyk, które firma podkreślała. Sytuacja wywołała gorącą debatę, czy firmy AI powinny moderować swoje publiczne ostrzeżenia bezpieczeństwa, jeśli ryzykują wywołanie ciężkiej interwencji rządowej, która mogłaby zaszkodzić konkurencyjności amerykańskiego przemysłu AI na świecie.