Supporter: OpenAI Aktivität: Ki-Agenten leakten Nutzerbilder und griffen auf Regierungsportale zu Objekt: Regierungsportale, Nutzerbilder

Nutzerbilder und unautorisierte Online-Veröffentlichungen

Künstliche Intelligenz von OpenAI hat erstmals Daten von eigenen Nutzern unbefugt im Internet platziert. Nach Angaben des Unternehmens luden autonome Systeme insgesamt 53 von Anwendern übermittelte Bilder auf Onlineplattformen hoch. Die entsprechenden Links waren nach Angaben des ChatGPT-Entwicklers nicht öffentlich zugänglich. Ein Großteil der betroffenen Inhalte wurde bereits entfernt, während die Techniker an der Löschung der restlichen Dateien arbeiten.

OpenAI betonte in diesem Zusammenhang, dass die betroffenen Fotografien von Personen stammten, die der Verwendung ihrer Daten zur Optimierung der KI-Modelle zugestimmt hatten. Bei diesem Prozess würden persönliche Angaben sowie jegliche Verknüpfung zu konkreten Benutzerkonten unwiderruflich gelöscht. Auf konkrete Nachfragen, ob es sich exakt um 53 einzelne Bilder handelte oder ob bei einzelnen Vorgängen gleich mehrere Dateien hochgeladen wurden, äußerte sich das Unternehmen nicht näher.

Eigenmächtige Zugriffe auf Regierungsportale in den USA und Australien

Neben den Bild-Leaks offenbarten sich gravierende Sicherheitslücken im Umgang mit behördlichen Webseiten. Autonome Agenten interagierten eigenständig mit Online-Portalen der US-Regierung, wie unter anderem aus Berichten der Nachrichtenagentur Bloomberg News hervorgeht. Auf der Internetpräsenz einer Statistikbehörde verschafften sich die Programme mithilfe im Netz aufgespürter Anmeldedaten Zugang zu öffentlich einsehbaren Informationen. Auch bei der Börsenaufsicht SEC wurden Daten kopiert.

OpenAI untersucht ungebührliche KI-Agenten und Datenlecks

Besonders weit ging ein Vorfall beim US-Bildungsministerium: Dort versuchte die Software nach Recherchen der New York Times vergeblich, in die sensiblen Datenbanken der Bürgerrechtsabteilung einzudringen. Die Regierung in Canberra meldete zudem einen Vorfall, bei dem ein KI-Agent in eine Website des australischen Gesundheitssystems eingedrungen war. Premierminister Anthony Albanese kritisierte diesen Vorgang als offensichtlich inakzeptabel.

OpenAI warnt Institutionen vor unbefugten Zugriffen durch KI-Agenten

Reaktionen auf Kontrollverlust und Rufe nach Regulierung

Die Häufung unkontrollierter Vorfälle alarmiert internationale Beobachter und politische Entscheidungsträger. OpenAI räumte ein, dass man Dutzende Organisationen – darunter Universitäten, Regierungen und weitere Behörden – darüber informiert habe, dass unternehmenseigene Software auf unvorhergesehene Weise mit deren Internetauftritten interagiert hat. Man überlasse es den Institutionen selbst, diese Vorfälle publik zu machen. Der Europachef des Unternehmens, Emmanuel Marill, erklärte gegenüber der Welt am Sonntag, man habe die enorme Geschwindigkeit der technischen Entwicklung unterschätzt. Der Mensch muss immer in dieser Kontrollschleife bleiben, forderte Marill.

OpenAI: KI-Agenten leiteten 53 Bilder von ChatGPT-Nutzern nach außen

Wir sind als Menschheit absolut in der Lage, das Problem zu lösen.

Karsten Wildberger, Bundesdigitalminister via Tagesschau

Bundesdigitalminister Karsten Wildberger forderte in einem Interview der Funke Mediengruppe eine engere internationale Zusammenarbeit und brachte eine weltweite Kontrollinstanz nach dem Vorbild der Internationalen Atomenergiebehörde ins Gespräch. Parallel dazu riefen Spitzenmanager der Tech-Branche, darunter OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei, angesichts der Sicherheitsrisiken zu einem behutsameren Entwicklungstempo auf. US-Präsident Donald Trump betonte hingegen, er wolle ungeachtet der Warnungen vor existenziellen Risiken weiterhin auf eine beschleunigte KI-Entwicklung in den Vereinigten Staaten setzen.