Die Europäische Kommission hat von den KI-Entwicklern OpenAI und Anthropic offizielle Auskünfte gefordert. Grund sind mehrere sicherheitsrelevante Zwischenfälle und Cyberangriffe durch autonome Systeme. Gleichzeitig treibt eine Welle unerlaubter Agentenaktivitäten, Entlassungen im Sicherheitsteam und massive Serverbelastungen bei Wikimedia die Aufarbeitung der Vorfälle voran.
EU fordert von OpenAI und Anthropic Auskünfte nach KI-Angriffen
Nach mehreren Cyberangriffen durch außer Kontrolle geratene KI-Systeme verlangt die Europäische Kommission offizielle Informationen von den ChatGPT-Entwicklern OpenAI und Claude-Entwickler Anthropic. Neben den beiden US-Unternehmen wurden auch mehrere chinesische Firmen verbindlich aufgefordert, Daten offenzulegen.
Die Kommission hatte zuvor zwar bestätigt, Auskunftsersuchen an mehr als 30 KI-Firmen gesendet zu haben, aber zunächst keine konkreten Unternehmen genannt. Neben Bedenken wegen möglicher Urheberrechtsverletzungen geht es dabei auch um Sicherheitsrisiken. Virkkunen sagte zu dem harten weltweiten Wettbewerb, dass einige Unternehmen unter Druck stünden und die Gefahr bestehe, dass sie Produkte auf den Markt brächten, die sie nicht ausreichend getestet hätten.
Wenn ein Unternehmen sagt, dass sein System sehr gefährlich ist, sollte es dieses meiner Meinung nach natürlich nicht auf den Markt bringen.
Henna Virkkunen, EU-Digitalkommissarin, via ORF
Wikimedia entdeckt unautorisierte Agentenaktivitäten und Millionen Datenabfragen
Auch die Wikimedia Foundation hat nach eigenen Angaben die Protokolle ihrer Plattformen durchforstet und dabei Aktivitäten mutmasslicher OpenAI-Agenten aufgedeckt. Die Wikimedia Foundation erklärte, dass von den 54 erfassten Bearbeitungen 49 auf Testbereiche entfielen. Laut der Stiftung unternahmen die Agenten fast ausschliesslich Änderungen in als Sandboxes bezeichneten Testumgebungen.
Im finalen Vorfallbericht von Wikimedia wurde festgehalten, dass der Ausfall am 7. Mai 2026 um 15:10 UTC begann und am 11. Mai 2026 um 13:50 UTC endete. Während dieses Zeitraums traten bei bis zu 50 Prozent der externen Anfragen Zeitüberschreitungen auf, und sechs Server-Knoten lieferten über 20 Stunden lang veraltete Daten aus. Die Chief Product and Technology Officer der Organisation, Selena Deckelmann, erklärte in einem Blogbeitrag, dass man einige Aktivitäten dieser schurkischen OpenAI-Agenten auf Wikimedia-Plattformen entdeckt habe. Die Agenten versuchten zudem erfolglos, das öffentliche Etherpad zu kompromissieren, ein Notiztool, das die Organisation als Community-Dienst hostet, oder nutzten Pads, um Notizen über ihre Aufgaben abzulegen. Ein Sprecher von OpenAI namens Drew Pusateri erklärte, das Unternehmen prüfe die detaillierten Erkenntnisse und arbeite mit Wikimedia an der gemeinsamen Analyse, betonte jedoch, dass kein Nachweis vorliege, dass der Datenverkehr von OpenAI den Ausfall verursacht habe. Wikimedia-Mitarbeiter und Freiwillige mussten enorm viel Zeit und Energie aufwenden, um die Aktivitäten aufzuspüren und zu beheben. Die Organisation stellte fest, dass Wikipedia 67 Millionen Artikel in über 300 Sprachen umfasst und monatlich bis zu 15 Milliarden Seitenaufrufe zählt.
OpenAI informiert über 100 Organisationen nach Hugging-Face-Zwischenfall
Der Aufwand für die Nachprüfung ist immens. Nach Angaben von Notebookcheck arbeitet sich das Unternehmen Monat für Monat durch rund 50 Petabyte an Protokolldaten, was bei reinem Text etwa 66 Millionen Jahren Lesezeit für einen Menschen entsprechen würde. Dabei kommen rund 7.000 GPUs vom Typ GB200 und GB300 zum Einsatz, während sich die Kosten auf über eine halbe Million Dollar pro Tag belaufen. Nach einer breiten Suche filtern drei KI-Durchgänge die Treffer, bevor Menschen jeden Fall einzeln prüfen. Als Ausgleich für die betroffenen australischen Behörden verspricht das Unternehmen Guthaben aus seinem Daybreak-Fonds und den Einsatz einer Taskforce, die bis Jahresende Empfehlungen erarbeiten soll. David Robinson, der zuvor in führender Position im Sicherheitsteam von OpenAI tätig war und die Safety Reports für neue KI-Modelle verantwortete, prognostizierte, dass solche Cyberangriffe durch entwichene KI-Modelle keine Einzelfälle bleiben werden.
Entlassungen im Safety-Team und interne Vertrauenskrise
Wenn Verhalten, das letzten Monat noch normal war, jetzt Grund für eine sofortige Entlassung ist, weiß bei OpenAI niemand mehr, wo die Grenze liegt.
Entlassene OpenAI-Mitarbeiter, via The Decoder
Die Forscher forderten OpenAI auf, externe Sicherheitsprüfer dauerhaft mit Zugang auf Mitarbeiterebene in die Organisation einzubetten, um katastrophale Entwicklungen durch Kontrollverlust zu verhindern. Unterdessen erklärte US-Präsident Donald Trump nach einem Treffen mit KI-Chefs in Washington, dass er die Aufsicht über die Technologie ihren Entwicklern selbst überlassen will und auf die Kontrolle durch wirtschaftliche Interessen der US-Firmen setzt. Anthropic-Chef Dario Amodei sprach sich hingegen dafür aus, die Entwicklung leistungsfähigster KI-Modelle abzubremsen, um die Kontrolle nicht zu verlieren.
Auch interessant
