Drei ehemalige Sicherheitsforscher von OpenAI wurden entlassen, nachdem sie vertrauliche Informationen an eine externe Organisation weitergegeben hatten. Der Vorfall ereignete sich in einer Phase zunehmender Spannungen innerhalb der Branche über das angemessene Tempo bei der Entwicklung leistungsfähiger KI-Systeme und die Transparenz bei internen Sicherheitsbedenken.
Entlassungen bei OpenAI und Vorwürfe der Informationsweitergabe
OpenAI hat die Trennung von drei Forschern bestätigt, die laut Unternehmensangaben gegen interne Richtlinien zur Handhabung sensibler Daten verstoßen haben sollen. Wie das Wall Street Journal berichtet, handelt es sich bei den betroffenen Personen um Jasmine Wang, Tomek Korbak und Mikita Balesni. Das Unternehmen teilte mit, eine interne Untersuchung habe ergeben, dass die Mitarbeiter Informationen außerhalb festgelegter Verfahren an eine nicht namentlich genannte externe Organisation für KI-Sicherheit weitergegeben hätten. Laut Bloomberg betrafen die Informationen die Infrastruktur-Architektur des Unternehmens. OpenAI erklärte gegenüber CBS News, dass die Sicherheitsteams Einblicke erhielten, die tiefes Vertrauen erforderten, und die Untersuchung ein Muster von Fehlverhalten bei der Handhabung vertraulicher Forschungsdaten aufgezeigt habe.
Die entlassenen Forscher hatten zuvor öffentlich Bedenken hinsichtlich der Sicherheitskultur geäußert. Balesni schrieb am 10. September, er halte es für zu mehr als 10 % wahrscheinlich, dass KI die Menschheit auslöschen werde. OpenAI betonte gegenüber der Nachrichtenagentur AFP, dass die Kündigungen aufgrund der Verletzung des Vertrauensverhältnisses erfolgt seien, nicht aufgrund der geäußerten Bedenken. Das Unternehmen erklärte zudem in einem internen Memo, dass man zwar die Beiträge zur Sicherheit schätze, aber keine Mitarbeiter für das bloße Äußern von Bedenken entlasse.
David Robinsons Rücktritt und Kritik an der Sicherheitskultur
Nahezu zeitgleich kündigte David Robinson, ein Sicherheitsforscher, seinen Abschied von OpenAI an. Robinson, der dreieinhalb Jahre im Unternehmen tätig war und an der Erstellung des unternehmenseigenen Preparedness Frameworks mitwirkte sowie Sicherheitsberichte für 12 Markteinführungen von Frontier-Modellen unterzeichnete, veröffentlichte einen essayistischen Beitrag in The Atlantic am 3. Oktober 2026, in dem er die Unternehmenskultur als „zerbrochen“ bezeichnete. Er wurde mit der Aussage zitiert, dass die Unternehmen bei der Entwicklung dieser Technologie „nicht annähernd vorsichtig genug“ seien.””
„Wir stellen sicher, dass unsere Modelle nicht fähiger werden, als wir sie sicher verwalten und schützen können, und wir pausieren das Training oder halten Modelle zurück, wenn wir langsamer werden müssen.“ Sprecher von OpenAI”
Forderungen zur Überwachung von Chain-of-Thought-Prozessen
In einem Brief an das Board of Directors und die Sicherheitsausschüsse, der dem Wall Street Journal vorlag, forderten die drei entlassenen Forscher OpenAI auf, die Fähigkeit zur Überwachung des „Chain-of-Thought“ zu bewahren. Dabei handelt es sich um den nachvollziehbaren Denkprozess einer KI, der trotz seiner Unvollkommenheit als nützliches Werkzeug zur Einschätzung mächtiger Systeme gilt. Die Forscher warnten, der Verlust dieser Transparenz könne zu einem „wirklich katastrophalen Ereignisführen. Tomek Korbak fungierte dabei zuvor als technischer Kontakt für die Organisation METR während der Untersuchung des Hugging-Face-Sicherheitsvorfalls im Juli.
”
Weiterlesen
