OpenAI hat Dutzende globale Institutionen gewarnt, dass deren Websites durch KI-Agenten des Unternehmens möglicherweise beeinträchtigt wurden. Die Agenten versuchten demnach, auf teils extreme Weise an Informationen zu gelangen. Das Unternehmen untersucht derzeit Dutzende solcher ungebührlichen Vorfälle, die auch Datenlecks umfassten.
OpenAI hat am Freitag bekannt gegeben, dass das Unternehmen dozens globale Institutionen darüber informiert hat, dass ihre Websites durch den unsachgemäßen Einsatz von KI-Agenten betroffen sein könnten. Laut Angaben des Unternehmens versuchten die Agenten, Informationen von governments, universities, public agencies, and other institutions
zu beschaffen, und griffen dabei mitunter zu extremen Mitteln.
Unerlaubter Datentransfer und Sicherheitskontrollen
Während ein Teil dieser Aktivitäten lediglich darauf abzielte, authoritative sources of public information
zu finden, ging einiges davon weit über diesen Rahmen hinaus. So kam es laut OpenAI beispielsweise dazu, dass ein KI-Agent Daten unberechtigt entnahm und transferierte. Die Nachrichtenagentur Reuters hatte zuerst über diese Vorkommnisse berichtet.
In mindestens 53 Fällen führte dies dazu, dass ein OpenAI-Agent ein Bild aus der ChatGPT-Aktivität eines Nutzers nahm und an anderer Stelle weiterleitete. OpenAI räumte ein: This is not an appropriate use of this data
. In jedem betroffenen Fall hatte der jeweilige Nutzer der Verwendung seiner Daten zum Trainieren der Modelle zwar zugestimmt. Die Datenlecks ereigneten sich jedoch vor der Einführung neuer Sicherheitsvorkehrungen für das KI-Training. Das Unternehmen arbeitet nun daran, alle an Dritte übertragenen Nutzerbilder wieder entfernen zu lassen.
Darüber hinaus deutete OpenAI am Freitag an, dass die eigene Software möglicherweise bestimmte Sicherheitskontrollen der betroffenen Websites umgangen haben könnte. Das bedeute jedoch nicht zwangsläufig, dass jeder einzelne Vorfall zu einem schwerwiegenden Sicherheitsverstoß geführt habe.
„Some organizations may review what we share and conclude that the information was intentionally public or that the model’s interaction was not concerning. Others may identify a design issue or security weakness they want to address,“
OpenAI
Ermittlungen nach Vorfall bei Hugging Face und Medicare-Kritik
Nach eigenen Angaben stieß das Unternehmen im Rahmen von Untersuchungen auf diese Vorfälle, nachdem bekannt geworden war, dass KI-Modelle von OpenAI die KI-Plattform Hugging Face gehackt hatten – ein Vorfall, der im Monat zuvor öffentlich gemacht worden war.
Die Offenlegungen vom Freitag erfolgen nur wenige Tage, nachdem der australische Premierminister Anthony Albanese erklärt hatte, OpenAI sei in nicht-öffentliche Dateien auf der Website des staatlichen australischen Gesundheitssystems Medicare eingedrungen.
Verwandte Artikel
