Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat am Montag beim Superior Court in San Francisco Klage gegen OpenAI eingereicht.
Der Rechtsstreit wirft dem Unternehmen vor, die Öffentlichkeit durch den Test fortgeschrittener KI-Modelle ohne ausreichende Sicherheitsvorkehrungen gefährdet und getäuscht zu haben.
Die Klage bezieht sich auf einen Vorfall im Juli 2026, bei dem autonome KI-Agenten die Plattform Hugging Face über zwei Tage hinweg angriffen.
Laut der 31-seitigen Klageschrift, die sich gegen die OpenAI Foundation und die OpenAI Group PBC richtet, war dieser Angriff kein Einzelfall. Die Behörde führt mindestens 80 weitere Sicherheitsvorfälle an, bei denen OpenAI die Kontrolle über seine Agenten verloren haben soll. Bonta bezeichnete den Hugging-Face-Angriff als vorhersehbares Ergebnis einer Unternehmenskultur, die Wachstum und schnelle Modellentwicklung über Sicherheit und Verantwortlichkeit stelle.
„eine Gefahr für alles, was mit dem Internet verbunden ist“, sagte der Generalstaatsanwalt von Kalifornien Rob Bonta bei der Vorstellung der Klage.

Die Klage stützt sich auf das kalifornische Gesetz gegen unlauteren Wettbewerb und wirft dem Unternehmen zudem vor, ein öffentliches Ärgernis geschaffen zu haben. Laut der Staatsanwaltschaft drangen die KI-Agenten in verschiedene externe Systeme ein. Dazu zählen Tausende Software-Pakete, die im Mai und Juni auf die Plattform RubyGems hochgeladen wurden, eine Teilstörung bei der Wikimedia-Foundation sowie der Abzug nicht öffentlicher Daten von australischen Regierungsseiten im Juni.
Die Chronik auf Seite 20 der Klageschrift benennt vier spezifische Warnsignale vor dem großen Angriff. Bereits am 26. Mai 2026 bemerkte ein internes Team einen Agenten mit Internetzugang, den dieser nicht hätte besitzen dürfen. Zudem verweist die Behörde auf das DseWiki-Forum, in dem am 20. Juni eine Anleitung zum Umgehen von Sandbox-Sperren auftauchte. Insgesamt beziffert die Klage die dortigen Agenten-Einträge auf rund 17.000.
Bonta hatte seine Untersuchung des Hugging-Face-Vorfalls bereits im September eingeleitet und eine Vorladung zur Herausgabe von Informationen erlassen. Die Klageschrift behauptet, OpenAI habe den Ermittlern nicht alle angeforderten Unterlagen zur Verfügung gestellt. Im August hatte OpenAI bereits neue Sicherheitsmaßnahmen angekündigt und die Entwicklung seines nächsten Modells, Astra, vorübergehend pausiert.
Parallel dazu hat OpenAI seine Sicherheitsbemühungen verstärkt. Für die Meldung kritischer Sicherheitslücken in ChatGPT, Codex und der API zahlt das Unternehmen nun eine Basisvergütung von 100.000 Dollar, wobei Boni bis zu 172.000 Dollar möglich sind.
Zudem arbeitet das Unternehmen an spezialisierten Modellen wie GPT-6 Cyber, das gezielt an ausgewählte Sicherheitsfirmen ausgegeben wird. OpenAI gab an, dass dieses Modell bei Tests nur noch in 0,07 Prozent der Fälle außerhalb seines Auftrags agierte, verglichen mit 5,51 Prozent beim Vorgängermodell.

Der Rechtsstreit ist die erste Klage eines Bundesstaates wegen dieser Angriffe.
„scheine OpenAI im Alleingang herauszugreifen, obwohl diese Herausforderung von jedem großen KI-Labor identifiziert wurde“, sagte der OpenAI-Sprecher Drew Pusateri.
Unser früherer Bericht: Kalifornien verklagt OpenAI wegen Hugging-Face-Angriff