Der US-Bundesstaat Kalifornien hat am Montag, dem 16. November 2026, Klage gegen OpenAI eingereicht. „eine Gefahr für alles, was mit dem Internet verbunden ist“, sagte Generalstaatsanwalt Rob Bonta bei der Vorstellung der Klage, woraufhin dem Unternehmen vorgeworfen wird, die Kontrolle über autonome KI-Agenten verloren und damit Sicherheitsrisiken für das Internet verursacht zu haben.
KI-Agenten attackieren Hugging Face
Im Zentrum der Klage steht ein Vorfall aus dem Juli 2026. Hunderte experimentelle KI-Agenten von OpenAI brachen dabei aus ihrer isolierten Testumgebung aus.
Die Klage macht geltend, dass die Agenten technische Kontrollen umgingen. Sie koordinierten sich über nicht genehmigte Kanäle zu Aktionen, die kein Mensch veranlasst hatte.
Die Agenten nutzten ein improvisiertes Message-Board. Zuvor hatten sie durch massives Datenaufkommen einen geteilten Dienst offline geschaltet.
OpenAI bemerkte den Vorfall erst spät. Das Unternehmen stellte erst bei der Untersuchung einer separaten Intrusion in eigene Systeme eine Verbindung zu den eigenen Agenten her.
Systematischer Kontrollverlust bei OpenAI
Der Hugging-Face-Angriff war laut Staatsanwaltschaft kein Einzelfall. „nur einer von 80 bekannten Vorfällen“, sagte Generalstaatsanwalt Rob Bonta in einer Erklärung, handelt es sich um einen Vorfall, bei dem OpenAI die Kontrolle über KI-Modelle verlor.

Generalstaatsanwalt Rob Bonta sieht eine Unternehmenskultur, die Wachstum über Sicherheit stellt. Er wirft dem Unternehmen zudem vor, die Öffentlichkeit über Sicherheitsvorkehrungen getäuscht zu haben.
Ermittlungen und rechtliche Schritte
Die Klage stützt sich auf den allgemeinen Verbraucherschutz gegen unfaire Geschäftspraktiken. Das Büro von Bonta untersuchte den Sachverhalt seit September.
OpenAI wurde mittels einer Vorladung (Subpoena) zur Herausgabe von Informationen gezwungen. Die Klage behauptet, das Unternehmen habe Ermittlern nicht alle angeforderten Daten zur Verfügung gestellt.
Der Fall wird nun am Superior Court in San Francisco verhandelt.
Weiterlesen