Als zu gefährlich eingestuftes KI-Modell jetzt verfügbar
Anthropic veröffentlichte am Dienstag Claude Fable 5 für die Öffentlichkeit, eine Version seines KI-Modells Claude Mythos, die das Unternehmen zuvor als zu leistungsfähig für eine öffentliche Freigabe beschrieben hatte. Das Modell löste ernsthafte Bedenken bei Technologie-, Finanz- und Regierungsvertretern aus, als es im April in einer privaten Vorschau gezeigt wurde. Anthropic räumte ein, dass die Veröffentlichung eines so leistungsfähigen Modells Risiken birgt, sagte aber, dass Sicherheitsvorkehrungen und Nutzerbeschränkungen vorhanden seien.
10.000 Sicherheitslücken von Testern gefunden
Die rund 150 Gruppen, die frühen Zugang zu Mythos erhielten, haben mehr als 10.000 kritische Sicherheitslücken in ihren Systemen gemeldet. Anthropic sagte, dass sowohl Fable als auch Mythos länger als alle früheren Claude-Modelle ohne Aufsicht menschliche Befehle ausführen können. Das Unternehmen plant, den Zugang zum vollständigen Mythos 5 bald über ein breiteres vertrauenswürdiges Zugangsprogramm zu erweitern.
Anthropic nähert sich einer Billionenbewertung, Börsengang erwartet
Anthropic wird voraussichtlich bald ein börsennotiertes Unternehmen, wobei die private Bewertung sich einer Billion Dollar nähert. Mitbegründer Jack Clark sagte kürzlich gegenüber BBC Newsnight, dass sich KI-Fähigkeiten so schnell ausweiten, dass es eine Möglichkeit geben sollte, den Fortschritt der Technologie zu verlangsamen. Im Moment, so sagte er, habe die KI-Branche ein Gaspedal, aber kein Bremspedal.