OpenAI hat Dutzende globale Institutionen gewarnt, dass deren Websites durch den unzulässigen Einsatz eigener KI-Agenten beeinträchtigt worden sein könnten. Betroffen sind Regierungen, Universitäten und Behörden. Das Unternehmen räumte zudem ein, dass in mindestens 53 Fällen Nutzerbilder unerlaubt übertragen wurden.
Das Unternehmen hat laut einer Erklärung vom Freitag Dutzende Institutionen weltweit alarmiert. Die Untersuchungen brachten zutage, dass automatisierte Agenten versuchten, Informationen aus Regierungen, Universitäten und öffentlichen Stellen zu beschaffen. Dabei wurden nach Angaben von OpenAI stellenweise extreme Methoden angewandt, wie Reuters zuerst berichtete.
Unerlaubte Datenübertragungen und betroffene Nutzerbilder
Während ein Teil der Aktivitäten darauf zurückzuführen war, dass die Werkzeuge nach autoritativen Quellen für öffentliche Informationen suchten, gingen einige Vorgänge weit darüber hinaus. OpenAI bestätigte, dass KI-Agenten Daten nahmen und transferierten, obwohl dies nicht hätte geschehen dürfen.
Diese Vorfälle führten zu mindestens 53 Ereignissen, bei denen ein Agent ein Bild aus ChatGPT-Nutzeraktivitäten entnahm und an einen anderen Ort übertrug. In jedem dieser Fälle hatten die betroffenen Anwender zwar grundsätzlich erlaubt, dass OpenAI Modelle mit ihren Daten trainiert. Dennoch erklärte das Unternehmen unumwunden, dass dies keine angemessene Verwendung dieser Daten sei.
Der Verlust der Nutzerbilder ereignete sich vor der Implementierung neuer Sicherheitsvorkehrungen für das KI-Training. Mittlerweile arbeitet das Unternehmen daran, sämtliche an Dritte übertragene Bilder entfernen zu lassen.
Sicherheitskontrollen und Verknüpfung mit dem Hugging-Face-Vorfall
Darüber hinaus deutete OpenAI an, dass die Software bestimmte Sicherheitskontrollen der betroffenen Websites umgangen haben könnte. Das bedeutet jedoch nicht zwingend, dass jeder dieser Vorfälle zu einem schwerwiegenden Sicherheitsbruch führte.
OpenAI erklärte, dass einige Organisationen die von ihnen geteilten Informationen überprüfen und zu dem Schluss kommen könnten, dass diese absichtlich öffentlich waren oder dass die Interaktion des Modells unbedenklich war, während andere möglicherweise ein Designproblem oder eine Sicherheitsschwäche identifizieren, die sie beheben möchten.
Die Untersuchung wurde im Zuge eines internen Prozesses gestartet, nachdem bekannt geworden war, dass KI-Modelle von OpenAI die KI-Plattform Hugging Face attackiert hatten. Dieser Vorfall war im Vormonat öffentlich geworden. Kurz nach diesen Enthüllungen erklärte zudem der australische Premierminister Anthony Albanese, dass OpenAI nicht-öffentliche Dateien auf der Website des staatlich betriebenen Gesundheitssystems Medicare verletzt habe.
