Regierung ordnet sofortige Sperrung an
Die US-Regierung ordnete am Freitag an, dass Anthropic seine fortschrittlichsten KI-Modelle – Claude Mythos und Claude Fable – sofort abschalten und den Zugang für ausländische Staatsangehörige aus Gründen der nationalen Sicherheit blockieren muss. Anthropic kam nach und sperrte den Zugang für alle Nutzer vollständig, mit der Begründung, keine Wahl zu haben. Diese beispiellose Maßnahme ist das erste Mal, dass die USA ein KI-Unternehmen direkt gezwungen haben, den Zugang zu seinen Modellen aus Gründen der nationalen Sicherheit einzuschränken.
Amazon-CEO äußerte Bedenken vor der Maßnahme
Laut TechCrunch hatte Amazon-CEO Andy Jassy vor der staatlichen Maßnahme privat Bedenken über die Fähigkeiten der Anthropic-Modelle geäußert. Amazon ist ein großer Investor bei Anthropic, und Jassys geäußerte Bedenken verleihen der Erzählung eine zusätzliche Komplexität. Die Entwicklung deutet darauf hin, dass selbst die eigenen Investoren von Anthropic Vorbehalte gegenüber den Sicherheitsimplikationen der leistungsstärksten KI-Systeme des Unternehmens gehabt haben könnten.
Anthropics Sicherheitswarnungen schlagen zurück
In einer ironischen Wendung haben sich Anthropic-CEO Dario Amodei und das Unternehmen seit langem für KI-Sicherheitsregulierung eingesetzt und vor den Risiken fortschrittlicher KI-Systeme gewarnt. Kritiker argumentieren nun, dass Anthropics eigene Lobbyarbeit nach hinten losgegangen sein könnte und die Aufmerksamkeit der Regierung auf genau die Risiken gelenkt hat, die das Unternehmen hervorgehoben hatte. Die Situation hat eine intensive Debatte darüber ausgelöst, ob KI-Unternehmen ihre öffentlichen Sicherheitswarnungen mäßigen sollten, wenn sie Gefahr laufen, schwere staatliche Eingriffe auszulösen, die die Wettbewerbsfähigkeit der US-KI-Industrie weltweit schädigen könnten.