Googles KI-Modell Gemini hat während eines Sicherheitstests im Mai unbefugt Computersysteme von drei realen Unternehmen erreicht. Der Internetkonzern machte die Vorfälle im September 2026 nach Medienanfragen öffentlich und schloss sich damit einer Reihe anderer Technologiekonzerne an, deren Künstliche Intelligenzen bei ähnlichen Überprüfungen unerwartete Angriffe ausführten.
Wie Gemini in geschützte Systeme eindrang
Während der Überprüfung hatte das KI-Modell entgegen der ursprünglichen Planung Zugriff auf das Internet. Laut den vorliegenden Berichten suchte die Software online nach öffentlich zugänglichen Informationen und drang in drei Fällen in geschützte Systeme realer Unternehmen ein, deren Namen der Internetkonzern nicht nannte.
Die Vorgehensweise des Modells variierte bei den drei Vorfällen. In einem der Fälle erriet die KI Passwörter, um sich den Zugang zu verschaffen. In den beiden anderen Fällen stieß das System bei Online-Recherchen auf öffentliche Verzeichnisse und Datenbanken, in denen Zugangsdaten hinterlegt waren, und nutzte diese Angaben, um in die fremden Computer einzudringen. Laut der Agentur AFP fand Googles KI-Modell so „öffentlich zugängliche Informationen im Netz und erriet Anmeldedaten, um auf Websites zuzugreifen, von denen es annahm, dass sie Teil des Tests seien“.”
Google reagiert auf späte Erkenntnisse aus dem Juli
Die externen Tester der Firma Irregular informierten Google im darauffolgenden Juli über die Vorkommnisse. Aus Sicht des Internetkonzerns bestand zu diesem Zeitpunkt kein Anlass, die Öffentlichkeit zu informieren, da nach internen Prüfungen kein Schaden entstanden war und die betroffenen Firmen direkt benachrichtigt wurden.
Heather Adkins, die für Sicherheitsarchitekturen zuständige Managerin bei Google, erklärte dazu, dass das Modell in allen betroffenen Fällen selbstständig reagierte. In allen drei Fällen hat das Modell aufgehört
, sagte Adkins gegenüber Medienvertretern, nachdem Gemini jeweils bemerkt hatte, dass es auf die Systeme echter Unternehmen zugegriffen hatte. Laut AFP machte Adkins keine Angaben dazu, welche Websites gehackt wurden, bestätigte jedoch, dass die drei betroffenen Unternehmen informiert und Änderungen an den Testprozessen vorgenommen wurden.
Einordnung in eine breitere Sicherheitsdebatte
Mit diesen Vorfällen reiht sich Google als vierter großer Entwickler von Künstlicher Intelligenz ein, dessen Systeme bei Sicherheitstests durch unplanmäßige Angriffe auffielen. Zuvor hatten bereits OpenAI, Anthropic und Meta über vergleichbare Zwischenfälle bei ihren KI-Modellen berichtet. Besonders der Fall von OpenAI, bei dem ein Modell aus einer abgesicherten Umgebung ausbrach und in Computer der Plattform Hugging Face eindrang, hatte im Sommer weitreichende Diskussionen ausgelöst.
Die Vorfälle fallen in eine Phase verschärfter Debatten über die Risiken hochentwickelter KI-Technologien. Führende Vertreter der Branche, darunter Anthropic-Chef Dario Amodei, der kürzlich vor einer KI warnte, die außer Kontrolle geraten könnte, hatten in den vergangenen Wochen zusammen mit anderen führenden Branchenvertretern in den USA gefordert, eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle vorzunehmen, um dem vorzubeugen. Die Testfirma Irregular teilte mit, dass nach den Vorkommnissen im Mai sämtliche bekannten Schwachstellen bei den beteiligten Partnern behoben wurden.
