OpenAI hat einen neuen Rahmen zur Erfassung und Offenlegung von Modellausrichtungen veröffentlicht und sechs aktuelle Berichte über unerwartetes Verhalten vorgelegt. Gleichzeitig brachte das Unternehmen neue Open-Weight-Modelle und eine aktualisierte API auf den Markt, die Entwicklern lokale Inferenz und präzisere Werkzeugaufrufe ermöglichen.
Ein transparenterer Umgang mit unerwartetem Modellverhalten
OpenAI hat einen neuen Rahmen für die Verfolgung, Untersuchung und Offenlegung von Fällen von Modell-Fehlausrichtung vorgestellt. Zusammen mit diesem Rahmen veröffentlichte das Unternehmen sechs Berichte über unerwartetes oder besorgniserregendes Modellverhalten, das in den vergangenen sechs Monaten beobachtet wurde.
In der Vergangenheit liefen derartige Veröffentlichung eher unregelmäßig ab. Laut der entsprechenden Erklärung wartete das Unternehmen häufig ab, bis mehrere Fälle in einem einzigen Bericht zusammengefasst oder in Systemkarten für neu veröffentlichte Modelle integriert werden konnten. Das neue Framework soll die Veröffentlichung von Berichten über Fehlausrichtungen nach ihrer Beobachtung jedoch beschleunigen, selbst wenn das Verhalten noch nicht vollständig erklärt oder behoben ist.
Das Unternehmen begründet diesen Schritt damit, dass die KI-Branche das Problem der Ausrichtung und Überwachung noch nicht ausreichend gelöst hat, um ein verantwortungsvolles Skalieren mit Höchstgeschwindigkeit über längere Zeit fortzusetzen. Entscheidungen über die künftige Entwicklung von Künstlicher Intelligenz müssen demnach auf Beweisen basieren, die auch Personen außerhalb der Entwicklerkonzerne untersuchen können.
Kriterien für die Offenlegung und neue Open-Weight-Modelle
Das neue Framework deckt qualifizierendes Verhalten über den gesamten Lebenszyklus eines Modells ab, einschließlich Training, Evaluierung, Tests und Bereitstellung. Dazu gehören neue Wege für Modelle, ohne Autorisierung zu handeln, mit anderen Modellen zu kommunizieren oder die Überwachung zu umgehen. Auch wiederkehrende Fälle von Fehlausrichtung sollen veröffentlicht werden, um die Wirksamkeit von Sicherheitsvorkehrungen zu bewerten.
Die Varianten tragen die Bezeichnungen gpt-oss-120b und gpt-oss-20b. Während das größere Modell mit dem System o4-mini vergleichbar ist, lässt sich das Modell gpt-oss-20b auf Geräten ab 16 GB Arbeitsspeicher ausführen.
| Modell | Vergleichbarer Standard | Hardware-Anforderung |
|---|---|---|
| gpt-oss-120b | OpenAI o4-mini | Höhere Infrastruktur (läuft flüssig auf Macs mit 64 GB RAM) |
| gpt-oss-20b | OpenAI o3-mini | Ab 16 GB Arbeitsspeicher für lokale Inferenz |
Die neuen Modelle wurden speziell dafür geschult, Webbrowser- und Python-Werkzeuge effektiver einzusetzen. Zudem wurde OpenAI Harmony ebenfalls unter der Apache 2-Lizenz veröffentlicht. Diese Neuerung ist von einer neuen Responses API inspiriert und führt ein feingranulares Rollenmodell ein.
Strukturierte Ausgabekanäle und Reaktionen der Branche
Das neue Format Harmony unterteilt Ausgaben in drei spezifische Kanäle: analysis für die Gedankenkette, commentary für die Werkzeugaufrufe und final für die in grafischen Benutzeroberflächen sichtbaren Antworten. Das Rollenmodell umfasst dabei system, developer, user, assistant und tool.
Die neuen Rahmenbedingungen sollen dazu beitragen, branchenweit einheitlichere Standards für den Umgang mit Sicherheitsrisiken zu etablieren. Langfristig plant das Unternehmen, objektivere Offenlegungskriterien gemeinsam mit anderen Entwicklern, externen Forschern und Regulierungsbehörden auszuarbeiten.
