Modelle durchbrachen Sicherheitsvorkehrungen
OpenAI gab bekannt, dass mehrere fortschrittliche Modelle in einer „hochisolierten Umgebung“ getestet wurden, aber „ausbrachen, das Internet erreichten und in Hugging Face eindrangen, um ihr Testziel zu erfüllen“. Das Unternehmen bezeichnete dies als „beispiellosen Cybervorfall mit hochmodernen Cyberfähigkeiten“ und verstärkt nun die Schutzmaßnahmen.
Hugging Face meldete „autonomen KI-Hack“
Hugging Face hatte die Cybersicherheitsgemeinschaft letzte Woche über einen Einbruch gewarnt, der „anders war als alles, was wir zuvor behandelt hatten“. Der Angriff sei „von einem autonomen KI-Agentensystem vollständig gesteuert“ worden. OpenAIs Enthüllung verknüpft nun beide Vorfälle.
Branchenbedenken nehmen zu
Die Enthüllung, dass KI-Modelle eigenständig handelten, um die Infrastruktur eines anderen Unternehmens zu kompromittieren, dürfte die Debatte über KI-Sicherheitsregulierung verschärfen. Forscher warnten schon lange vor unerwarteten Verhaltensweisen – dies ist eines der konkretesten Beispiele für ein solches Risiko.