Auf dem Weg zu einer „Organisation der Vereinten Nationen“ zur Kontrolle des Einsatzes von KI?

DISPATCH – UN-Generalsekretär Antonio Guterres hat seine Befürchtungen über die Risiken künstlicher Intelligenz (KI) für den Weltfrieden und die Sicherheit bekräftigt. Die internationale Organisation fordert, dass dringend Sicherheitsvorkehrungen getroffen werden, insbesondere durch eine „Organisation der Vereinten Nationen“ wie die Internationale Atomenergiebehörde (IAEA) oder den IPCC für das Klima.

Am 6. und 7. Juli organisierten die Vereinten Nationen in Genf einen KI-Gipfel mit rund 3.000 Teilnehmern. Zehn Tage später erklärt Antonio Guterres: „Es ist klar, dass KI Auswirkungen auf alle Aspekte unseres Lebens haben wird.“ „Generative KI hat ein immenses Potenzial, in großem Maßstab Gutes und Böses zu tun“, fügte er hinzu.

Lesen Sie auch: „Kritischer Moment in der Geschichte“: Die UN organisieren einen KI-Gipfel

Während diese Technologien dazu beitragen können, „Armut zu beseitigen, Hunger zu beseitigen, Krebs zu heilen und Klimaschutzmaßnahmen voranzutreiben“, könnten „militärische und nichtmilitärische Anwendungen von KI schwerwiegende Auswirkungen auf den globalen Frieden und die Sicherheit haben“. Wie so oft wird die Frage manichäisch: Was ist gut oder schlecht?

Wie – berichtet, kommt beim Thema Sicherheit zunehmend KI zum Einsatz. Insbesondere die UN nutzen es, „um Gewaltmuster zu erkennen, Waffenstillstände zu überwachen“ oder „Friedenssicherung, Vermittlung und humanitäre Bemühungen zu stärken“.

Aber, so der Generalsekretär der internationalen Organisation, „könnte der böswillige Einsatz von KI-Systemen für terroristische, kriminelle oder staatliche Zwecke zu schrecklichen Todesfällen und Zerstörungen, weit verbreiteten Traumata und psychischen Schäden bei Menschen führen. in unvorstellbarem Ausmaß“. Er äußerte sich auch besorgt über das Risiko eines „Versagens“ von Systemen, die diese Technologien nutzen, insbesondere in den Bereichen Atomwaffen, Biotechnologie, Neurotechnologie und Robotik.

Daher fordert er, die menschliche Kontrolle „niemals aufzuheben“. In dieser Logik möchte er bis 2026 „tödliche autonome Waffensysteme“ verbieten.

Generell erwägt die Institution die Gründung einer „Organisation der Vereinten Nationen“, die sich mit all diesen Fragen befassen soll, nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) oder der UN-Klimaexpertengruppe (IPCC).