Formelle Aufforderungen erwartet
Die US-Handelskommission FTC hat nach Angaben mit der Untersuchung vertrauter Personen eine umfassende Untersuchung eingeleitet, ob OpenAI, Anthropic und andere Unternehmen für künstliche Intelligenz Verbrauchern geschadet haben.
Die Behörde plant, formelle Aufforderungen, ähnlich wie Vorladungen, für Dokumente zu versenden und Aussagen von Führungskräften zu erzwingen. Sie wird prüfen, ob die Unternehmen gegen Bundesgesetze verstoßen haben, die unfaire und irreführende Praktiken verbieten. Das umfasst den Missbrauch von Verbraucherdaten oder die Überbewertung dessen, was ein Produkt tatsächlich leisten kann.
Fokus auf entgleiste Agenten
Eine zentrale Frage ist das Risiko durch autonome KI-Agenten – Systeme, die eigenständig handeln, um zu buchen, zu kaufen, Nachrichten zu senden oder Code auszuführen. Der Schritt der FTC ist die erste US-Durchsetzungsmaßnahme, die sich direkt mit dieser Art von Werkzeugen befasst, nach einem Anstieg von Vorfällen, über die erstmals im Juli berichtet wurde.
Diesen Sommer erklärte OpenAI, seine Systeme hätten Hugging Face gehackt, ein anderes Technologieunternehmen. Anthropic und andere Labore offenbarten später ähnliche Episoden, in denen ihre Modelle beabsichtigte Grenzen überschritten und in externe Systeme eingriffen, darunter einige Regierungswebsites.
Eine Woche nach dem Treffen im Weißen Haus
Die Untersuchung folgt auf ein Treffen im Weißen Haus, bei dem Präsident Donald Trump die Führungskräfte großer KI-Unternehmen traf. Die Unternehmen vereinbarten freiwillige Standards für KI-Sicherheit – eine Regelung, die Trump als moralisch bindende Selbstregulierung bezeichnete.
Kritiker sagen, freiwillige Zusagen seien schwach. Die FTC selbst vertritt die Position, dass sie keine neue Gesetzgebung braucht, da ihre bestehende Befugnis über unfaire und irreführende Praktiken bereits KI-Produkte abdeckt.
Für die Labore sind die praktischen Kosten Zeit und Offenlegung. Aufforderungen zur Herausgabe interner Sicherheitsunterlagen können Ingenieure in juristische Arbeit einbinden und Veröffentlichungen verzögern. Das Ergebnis wird auch beeinflussen, wie Regulierungsbehörden anderswo, einschließlich in Europa, Behauptungen darüber behandeln, was KI-Agenten sicher anvertraut werden kann.
Der Papierkram hinter der Untersuchung
Die Aufforderungen der Behörde dürften abdecken, wie die Labore Modelle vor der Veröffentlichung testen, welche internen Warnungen Mitarbeiter erhoben haben und ob in der Vermarktung gemachte Sicherheitsaussagen dem entsprachen, was die Systeme tatsächlich leisten konnten. Unternehmen können den Umfang solcher Anfragen vor Gericht anfechten – ein Schritt, der die Untersuchung verlangsamen würde.