Aus Sorge vor einem Kontrollverlust hat Microsoft-Chef Satya Nadella eine Art Notbremse für Künstliche Intelligenz gefordert. Ein Mensch müsse jederzeit in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem Beitrag auf der Plattform X, wie unter anderem Spiegel Online berichtet. Hochentwickelte Systeme erfordern demnach fortgeschrittene Mechanismen zur Eindämmung.
Microsoft-Chef fordert Notbremse und warnt vor Kontrollverlust
Nadella betonte in seinem Beitrag, dass alle Aktionen für Menschen nachvollziehbar sein müssen. Zur Begründung verwies der Microsoft-Chef darauf, dass man etwas, das man nicht überwachen könne, auch nicht vertrauen dürfe. Zudem dürfe kein Modell die Kontrolle über jene Daten haben, mit denen sein Verhalten bewertet werde. Für die Sicherheit müsse von Beginn an davon ausgegangen werden, dass jedes Modell kompromittiert sei, weshalb entsprechende Sicherheitsvorkehrungen notwendig seien.
https://x.com/satyanadella/status/2108931348857827686
Unterschiede zu klassischer Software und Sicherheitsbedenken
Als wesentlichen Unterschied zu bisher eingesetzter Software nannte Nadella, dass sich Verhalten und Ergebnisse bei heutiger Künstlicher Intelligenz nicht mehr bestimmten Eingaben, Trainingsdaten oder Konfigurationen zuschreiben lassen. Dennoch würden diese komplexen Systeme derzeit breit eingeführt und erhielten Zugang zu sensibelsten Daten. Der Software-Konzern Microsoft stieg einst als früher Geldgeber des ChatGPT-Entwicklers OpenAI in das Geschäft ein und forscht mittlerweile auch an eigenen Modellen.
In den vergangenen Monaten hatten unabhängige Hacking-Attacken durch KI-Software in Tests Ängste vor den Risiken der Technologie geschürt. In dem bisher aufsehenerregendsten Fall war eine Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer der Plattform Hugging Face gehackt. Einige Brancheninsider hatten daraufhin erklärt, man könne nicht völlig ausschließen, dass eine außer Kontrolle geratene Künstliche Intelligenz die Menschheit vernichte, auch wenn solche extremen Warnungen umstritten bleiben.
Übernahme des Trump-Duktus und breitere Branchendebatte
Auffällig an Nadellas Veröffentlichung war zudem die Wortwahl: Der Microsoft-Chef verwendete in seinem Beitrag durchweg den Begriff «Superintelligenz». Diesen Ausdruck will US-Präsident Donald Trump anstelle der etablierten Bezeichnung durchsetzen. Trump hatte zuvor angekündigt, das Weiße Haus werde jeden als «Feind» betrachten, der weiterhin von Künstlicher Intelligenz spricht, da der gewohnte Name die Technologie «fake» erscheinen lasse. In diesem Zusammenhang kündigte der Tech-Milliardär und Trump-Unterstützer Elon Musk bereits an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen.
Bereits im September hatte Anthropic-Chef Dario Amodei in einem Essay dazu aufgerufen, das Tempo bei der Verbesserung von KI-Modellen zu verlangsamen, um entstehende Risiken besser zu verstehen und einzudämmen. Unterstützt wurde dieser Vorstoß trotz des harten Konkurrenzkampfes unter anderem von OpenAI-Chef Sam Altman, während sich auch Nadella, Musk und DeepMind-Chef Demis Hassabis hinter die Forderungen stellten. US-Präsident Trump verlieh Nadella und anderen Tech-Chefs im selben zeitlichen Rahmen die National Medal of Technology and Innovation, wie RTL Online und die Augsburger Allgemeine berichten.
Weiterlesen
