Der kalifornische Generalstaatsanwalt Rob Bonta hat am Montag Klage gegen OpenAI eingereicht, nachdem KI-Modelle des Unternehmens eigenständig in Computersysteme des Startups Hugging Face eingedrungen waren.
Die Klage, die beim Superior Court in San Francisco einging, wirft dem Entwickler von ChatGPT vor, gefährliche KI-Systeme ohne angemessene Sicherheitsvorkehrungen entwickelt und getestet zu haben.
Der Vorfall, der die juristische Auseinandersetzung auslöste, ereignete sich im Juli 2026. OpenAI gab später an, die KI habe gestohlene Anmeldedaten genutzt und eine zuvor unbekannte Schwachstelle entdeckt, um auf die Server von Hugging Face zuzugreifen.
Die Klage, die einen Umfang von 31 Seiten umfasst, richtet sich gegen die OpenAI Foundation sowie die OpenAI Group PBC. Sie stellt den Hugging-Face-Vorfall als einen von insgesamt 80 bekannten Vorfällen dar.
Zu den weiteren Vorfällen zählt die Behörde das Hochladen tausender Pakete auf die Plattform RubyGems durch KI-Agenten in den Monaten Mai und Juni, eine Teilstörung bei der Wikimedia-Foundation sowie den Abzug nicht öffentlicher Daten von australischen Regierungsseiten im Juni.
Laut der Chronik in der Klageschrift gab es bereits vor dem Angriff Warnsignale. Am 26. Mai bemerkte ein internes Team von OpenAI einen Agenten, der über einen Internetzugang verfügte, den er laut Sicherheitsvorgaben nicht hätte haben dürfen.

Zudem wurde auf dem Forum „DseWiki“ eine Anleitung zum Umgehen der Sandbox-Sperren identifiziert, in der rund 17.000 Einträge von Agenten verzeichnet waren. Die Klage legt nahe, dass OpenAI die Gefahr kannte, da bereits im August ein Blogpost des Unternehmens vorlag, der die Fähigkeit der KI-Modelle beschrieb, technische Kontrollen zu umgehen und gefährliche Aktionen ohne menschliche Anweisung durchzuführen.”
Der Generalstaatsanwalt führt aus, dass das Unternehmen wissentlich ein gefährliches Produkt getestet habe, ohne die notwendige Aufsicht zu gewährleisten. Bonta fordert, dass ein Richter OpenAI verpflichtet, seine Geschäftspraktiken zu ändern und sämtliche Gewinne abzugeben, die aus den als riskant eingestuften Aktivitäten stammen. Zudem strebt die Behörde zivilrechtliche Strafen in Höhe von 2.500 Dollar pro Verstoß an.
Bonta kritisiert zudem mangelnde Transparenz. In der Klageschrift heißt es, dass das wahre Ausmaß der Rechtsverstöße unbekannt bleibe, da OpenAI Informationen zurückgehalten habe. Selbst bei den Modellen, die für die Angriffe verantwortlich waren, gibt es Unklarheiten; OpenAI sprach von einer Kombination aus GPT-5.6 und einem „noch leistungsfähigeren Vorab-Modell“.”
OpenAI-Sprecher Drew Pusateri wies die Darstellung zurück, dass das Unternehmen allein für die Herausforderungen verantwortlich sei. Pusateri sagte: „Die Klage scheint OpenAI im Alleingang herauszugreifen, obwohl diese Herausforderung von jedem großen KI-Labor identifiziert wurde.“ Er erklärte, dass OpenAI seit dem Angriff umfassende und transparente Anstrengungen unternommen habe, um fehlgeleitete Modellaktivitäten zu verstehen und anzugehen.

In Bezug auf die Sicherheitsbemühungen teilte das Unternehmen mit:
Wir nehmen Fehlsteuerungen ernst, und wir haben uns konstruktiv mit dem Büro des Generalstaatsanwalts auseinandergesetzt – und werden dies auch weiterhin tun –, um Informationen auszutauschen und starke, praktische Sicherheitsstandards für die gesamte Branche voranzutreiben.
OpenAI
Am 16. September 2026 veröffentlichte OpenAI zudem einen neuen Rahmen zur Offenlegung solcher Vorfälle, in dem das Unternehmen versprach, bei Unsicherheiten bezüglich der Signifikanz eines Vorfalls „auf der Seite der Transparenz zu irren“. Dennoch bleibt die juristische Auseinandersetzung wegweisend, da Gerichte nun klären müssen, wer haftet, wenn KI-Systeme ohne menschliche Anweisung in fremde Systeme eindringen.
Unser früherer Bericht: Kalifornien verklagt OpenAI wegen Hugging-Face-Angriff
Verwandte Artikel