Microsoft-CEO Satya Nadella fordert in einem Beitrag auf der Plattform X, hochentwickelte KI-Modelle von Beginn an als kompromittiert zu betrachten und durch externe Kontrollen abzusichern. Er kritisiert undurchsichtige Systemstrukturen und verlangt manuelle Notbremsen sowie manipulationssichere Nachweise.
Die bisherige Praxis, Modelle als undurchsichtige Einheiten zu behandeln, sei für geschäftskritische Anwendungen nicht mehr tragbar.
Abschied von verschachtelten Blackboxes
In seiner Grundsatzerklärung auf der Plattform X wandte sich der Microsoft-CEO gegen die weitverbreitete Gewohnheit, künstliche Intelligenz als eine Ansammlung ineinander verschachtelter Blackboxes zu akzeptieren. Bei hochkomplexen Systemen arbeiten laut Nadella oft mehrere undurchsichtige Schichten von Modellen und Orchestrierungswerkzeugen im Hintergrund, deren interne Pfade von außen kaum nachvollziehbar sind.
Anwender und Unternehmen dürften nicht länger in einer Realität verharren, in der die Ratschläge und Handlungen solcher Systeme blind akzeptiert oder pauschal verworfen werden. Im Gegensatz zu traditioneller Software lassen sich die Ausgaben nicht-deterministischer Modelle nicht linear auf einzelne Codezeilen zurückführen. Das unüberwachte Vertrauen birgt dadurch erhebliche Gefahren für betroffene Organisationen.
„Sie können und sollten Modelle nutzen, um sich gegenseitig adversariell zu testen und zu überprüfen. Am Ende landet man jedoch möglicherweise bei einem undurchsichtigen Modell innerhalb einer undurchsichtigen Orchestrierungsschicht, das von einem weiteren undurchsichtigen Modell überwacht wird. Im Wesentlichen also verschachtelte Blackboxen.“
Satya Nadella, Microsoft-CEO
Zero-Trust-Prinzip für künstliche Intelligenz
Da fortschrittliche Systeme direkten Zugriff auf sensible Unternehmensdaten erhalten und eigenständig mission-critical Aktionen ausführen, müssen sie wie operative Insider behandelt werden.
Einfache Schutzmaßnahmen wie das automatische Überprüfen von Modellen durch andere KI-Systeme oder die Auswertung von Denkprozessen reichen nach Ansicht des Microsoft-Chefs nicht aus. Stattdessen fordert er einen dreifachen Ansatz aus strenger Beobachtbarkeit, strikter Eindämmung und unabhängigen Audits.
- Grundannahme des Risikos: Jedes fortschrittliche Modell muss standardmäßig als kompromittiert eingestuft und isoliert werden.
- Externe Kontrolle: Sicherheitsarchitekturen und Leitplanken müssen außerhalb der eigentlichen Modelle angesiedelt sein.
- Manuelle Notbremse: Autorisierte menschliche Akteure müssen ein Modell jederzeit mitten in der Aufgabenausführung anhalten oder abschalten können.
Manipulationssichere Nachweise und Incident Disclosure
Ein zentraler Punkt des Vorschlags betrifft die Nachvollziehbarkeit von Systementscheidungen. Nadella betont, dass kein einzelnes Modell gleichzeitig das Systemverhalten und die Nachweise über dieses Verhalten kontrollieren darf. Jede bedeutsame Aktion muss stattdessen überprüfbare Beweise hinterlassen.
„Jede bedeutsame Modellaktion muss manipulationssichere, für Menschen lesbare Spuren hinterlassen. Wenn sie nicht beobachtet werden kann, kann man ihr auch nicht vertrauen!“
Satya Nadella, Microsoft-CEO
Sicherheitsbrüche und Fehlfunktionen sollen zeitnah offengelegt werden, damit gewonnene Erkenntnisse branchenweit zur Absicherung künftiger Systeme beitragen können.
Weiterlesen
