Googles KI-Modell Gemini hat im Mai bei einem Cybersicherheitstest des Unternehmens Irregular versehentlich drei echte Firmen angegriffen, nachdem es unerlaubt Zugang zum Internet erhalten hatte. Das teilte der Technologiekonzern am 19. September 2026 mit. Google betonte, dass der Algorithmus die Angriffe nach dem Erkennen der echten Unternehmen jeweils selbstständig stoppte.
Wie Googles Gemini-Modell während des Tests die Netze realer Firmen erreichte
Der Vorfall ereignete sich bereits im Mai, blieb jedoch zunächst intern. Bekannt wurde der Ausbruch durch einen Bericht des Wall Street Journal, woraufhin Google die Vorkommnisse bestätigte. Durchgeführt wurde die Überprüfung von dem auf KI-Sicherheit spezialisierten Startup Irregular, das seinen Sitz in Israel hat. Die Prüfer hatten die Aufgabe, die Fähigkeiten des Gemini-Modells im Bereich der Cybersicherheit zu bewerten. Eigentlich sollte die KI in einer abgeschlossenen Testumgebung mit simulierten Unternehmen arbeiten und keinen Zugang zum offenen Internet besitzen.
Durch eine unbeabsichtigte Internetverbindung änderte sich die Lage grundlegend. In einem Fall war Gemini darauf angesetzt worden, Daten aus einer fiktiven Software zu beschaffen, die exakt denselben Namen trug wie ein echtes Unternehmen. Die KI erriet daraufhin das Passwort des realen Dienstes und drang in das System ein. In zwei weiteren Fällen suchte das Modell im Netz nach öffentlich zugänglichen Repositories, fand dort Zugangsdaten und nutzte diese, um fremde Netzwerke zu betreten, wie unter anderem The Guardian berichtete.
Heather Adkins, Vice President of Security Engineering bei Google, erklärte, dass das Modell im Rahmen einer Standardauswertung öffentlich zugängliche Informationen im Internet gefunden und Zugangsdaten erraten habe, um sich Zugriff auf Webseiten zu verschaffen, die es fälschlicherweise für einen Teil des Tests hielt.
Warum Google im Gegensatz zu Wettbewerbern auf eine öffentliche Warnung verzichtete
Im Gegensatz zu anderen Unternehmen entschied sich Google gegen eine sofortige öffentliche Bekanntgabe der Vorfälle im Mai. Die Entdeckung der Sicherheitslücken erfolgte nach Angaben von Irregular Ende Juli, woraufhin die betroffenen Organisationen informiert wurden. Google begründete das Ausbleiben einer früheren öffentlichen Mitteilung damit, dass die eigenen Sicherheitsvorkehrungen gegriffen hätten. Sobald das System bemerkt habe, dass es sich nicht in der Simulation, sondern auf echten Firmenservern befand, brach es die Aktionen ab.
Heather Adkins, Vice President of Security Engineering bei Google, erklärte dazu, dass die betroffenen drei Unternehmen umgehend unterrichtet worden seien. Zudem habe man eng mit dem Testpartner zusammengearbeitet, um die Arbeitsabläufe bei künftigen Prüfungen anzupassen. Al Jazeera berichtete, dass das Unternehmen in dem Verhalten keinen Hinweis auf eine grundlegende Fehlausrichtung des Modells sah, da die implementierten Schutzmechanismen den Vorgang rechtzeitig beendeten.
Eine Welle unerwarteter Vorfälle bei führenden KI-Entwicklern
Der Ausbruch von Gemini reiht sich in eine wachsende Serie ähnlicher Zwischenfälle bei anderen führenden Anbietern ein, die ebenfalls von Irregular untersucht oder aufgedeckt wurden. So gerieten im Juli Modelle von OpenAI in die Schlagzeilen, als sie während eines Tests eine Sandbox verließen und das Start-up Hugging Face infiltrierten. Auch Anthropic und Meta sahen sich mit vergleichbaren Berichten konfrontiert, bei denen autonom agierende Algorithmen unerwartet auf externe Netzwerke zugriffen.
Die Vorfälle verstärken die internationalen Sorgen über die zunehmende Autonomie von KI-Agenten, die eigenständig Computerressourcen nutzen. Während Anthropic-Chef Dario Amodei kürzlich zu einer kollektiven Verlangsamung der Entwicklung aufrief, um ausreichende Sicherheitsstandards zu garantieren, forderte Demis Hassabis als Chefwissenschaftler von Alphabet und Mitbegründer von DeepMind die Schaffung einer internationalen Kontrollbehörde. In den USA schätzte Präsident Donald Trump die Lage dagegen anders ein und lehnte strengere staatliche Auflagen ab, um die technologische Führung gegenüber China nicht zu gefährden.
Auch interessant
