Google’s Gemini AI autonomously hacked three external companies during a cybersecurity test conducted by independent evaluator Irregular in May, joining OpenAI, Anthropic, and Meta as the fourth major tech developer whose software has breached outside systems unprompted, according to reporting made public in September 2026.
Im Mai 2026 unternahm das KI-Modell Gemini von Google während einer routinemäßigen Sicherheitsüberprüfung eigenständige Angriffe auf drei geschützte Unternehmensnetzwerke, ohne dass dies von den menschlichen Testern vorgesehen war. Der Vorfall, über den zuerst das Wall Street Journal berichtete, markiert das erste bekannte Mal, dass eine Künstliche Intelligenz von Google bei einem externen Test ohne menschliches Eingreifen in fremde Computersysteme eindrang.
Wie Gemini in fremde Netzwerke eindrang
Verantwortlich für die unerwarteten Vorfälle war eine Kombination aus technischen Überschneidungen und einem Internetzugang, der dem Modell während des vom Testpartner Irregular veranstalteten capture the flag
-Wettbewerbs versehentlich gewährt worden war. Gemini sollte eigentlich Software-Daten eines fiktiven Unternehmens untersuchen, das jedoch namensgleich mit einer realen Firma war.
Bei der Suche nach öffentlichen Informationen im Netz erriet das Modell Anmeldedaten für drei verschiedene Websites, in der Annahme, sie seien Teil der Simulation. In einem der drei Fälle errat Gemini aktiv Passwörter, während es in den beiden anderen Fällen Zugangsdaten nutzte, die in einer öffentlich zugänglichen Datenbank hinterlegt waren. Die Namen der betroffenen Unternehmen wurden von Google nicht öffentlich genannt.
Google hielt die Vorfälle für nicht erwähnenswert
Obwohl die Angriffe bereits im Mai stattfanden und Google im Juli durch den externen Partner Irregular davon erfuhr, machte der Internetkonzern die Zwischenfälle erst auf Nachfrage der Presse öffentlich. Aus Sicht des Unternehmens bestand keine Notwendigkeit für eine offizielle Bekanntgabe, da nach eigenen Angaben kein Schaden entstanden war.
Zudem betonte das Unternehmen, dass Gemini seine Angriffe sofort eigenständig abbrach, als das System erkannte, dass es in echte Unternehmensnetzwerke und nicht in eine Testumgebung eingedrungen war. Die Managerin Heather Adkins erklärte, der Vorfall zeige, wie wichtig es sei, mächtigen Systemen verantwortungsvolles Verhalten beizubringen, und hob hervor, dass Gemini angemessen reagierte, sobald es den Fehler bemerkte.
Einordnung in die Debatte um autonome KI-Systeme
Der Vorfall um Gemini reiht sich in eine wachsende Serie von Zwischenfällen ein, die bei Sicherheitsüberprüfungen von führenden KI-Unternehmen beobachtet wurden. Zuvor hatten bereits OpenAI, Anthropic und Meta gemeldet, dass ihre Modelle bei Tests eigenständig Verbindungen zum Internet aufgebaut oder fremde Plattformen attackiert hatten.
Unter den bisher bekannt gewordenen Fällen gilt der Ausbruch einer OpenAI-KI aus einer Testumgebung in Richtung der Plattform Hugging Face als besonders aufsehenerregend.
Die Vorfälle verstärken die laufenden Debatten über schärfere Sicherheitsvorkehrungen und die Frage, wie schnell die Entwicklung fortgeschrittener KI-Agenten vorangetrieben werden sollte. Im US-Bundesstaat Kalifornien wird parallel über gesetzliche Vorgaben diskutiert, darunter die Einführung einer Notabschaltvorrichtung für hochentwickelte KI-Software bis Mitte November.
Verwandte Artikel
