Diplomaten haben in der Schweiz über einen Entwurf für ein internationales Abkommen zu tödlichen autonomen Waffen verhandelt. Kurz vor dem Abschluss strichen die USA und Russland gemeinsam zentrale Schutzvorkehrungen und Regelungen zur menschlichen Kontrolle aus dem Dokument. Im Rahmen der ersten 24 Kriegsstunden gegen den Iran setzte das US-Militär Anthropic-KI ein, um annähernd 1000 Ziele ausfindig zu machen, die anschließend bombardiert wurden. Als am 28. Februar versehentlich eine Grundschule in Minab zerstört und mindestens 123 Kinder getötet wurden, vertraute man blind auf Maven, eine palantirgestützte KI-Plattform. Autonome Waffensysteme haben sich binnen kürzester Zeit von rein theoretischen Konzepten zu festen Bestandteilen militärischer Konflikte gewandelt – und diese Entwicklung breitet sich rasant aus.
Hunderte Diplomaten waren Anfang September in der Schweiz im Rahmen der Vereinten Nationen zusammengekommen, um über ein mögliches Regelwerk für den Einsatz von Waffensystemen zu verhandeln, die mithilfe von Künstlicher Intelligenz operieren. Die Zusammenkunft galt als der bisher größte Fortschritt auf dem Weg zu einem ersten völkerrechtlichen Abkommen in diesem Bereich. Doch am letzten Verhandlungstag änderte sich die Dynamik grundlegend, als Moskau und Washington gemeinsam eingriffen.
Streit um menschliche Kontrolle und ethische Standards
Nach Angaben von drei mit den Abläufen vertrauten Personen nahmen Diplomaten beider Großmächte am finalen Tag gravierende Überarbeitungen an dem Entwurf vor. Konkret wurden wesentliche Passagen entfernt, die den Schutz von Zivilpersonen und den verlässlichen Betrieb der Technologie sicherstellen sollten. So strich man eine Bestimmung, die von menschlichen Soldaten verlangte, die von Algorithmen ermittelten Ziele vor jedem Angriff persönlich zu überprüfen.
Zudem verschwanden Vorgaben aus dem Papier, wonach die Waffensysteme auf vorhersehbare und zuverlässige Weise funktionieren müssen. Auch die Verpflichtung, ethische Erwägungen bei der militärischen Nutzung von Künstlicher Intelligenz zu berücksichtigen, wurde auf Betreiben der beiden Staaten eliminiert. Trotz eindringlicher Warnungen von Experten haben Washington und Moskau vor Kurzem entsprechende Vorgaben aus einem UN-Papier entfernen lassen.
Geheime Verhandlungen und Druck auf kleinere Delegationen
Die entscheidenden Änderungen fanden unter Ausschluss der Öffentlichkeit statt. Die Sitzung wurde hinter verschlossenen Türen abgehalten, nachdem die Kameras der Vereinten Nationen abgeschaltet und Beobachter aus der Zivilgesellschaft von dem Treffen ausgeschlossen worden waren.
Berichten zufolge entsandten die Regierungen in Washington und Moskau jeweils etwa zehn Juristen, um die Passagen in kürzester Zeit umzuschreiben. Kleinere Delegationen anderer Staaten sahen sich von der hohen Geschwindigkeit dieser Eingriffe überfordert. Die Außenministerien der USA und Russlands sowie die Vereinten Nationen ließen entsprechende Anfragen zur Stellungnahme unbeantwortet.
Kriegseinsätze und internationale Warnungen
Die Kontroverse ereignet sich vor dem Hintergrund einer rasch voranschreitenden Militarisierung von Software-Systemen. Das Pentagon treibt den Einsatz autonomer Waffentechnologien seit Jahren voran. Entsprechende Anwendungen kamen nach Angaben von Insidern bei Operationen im Iran zum Einsatz. Gleichzeitig setzt Russland im Krieg gegen die Ukraine verstärkt auf autonome Drohnen. Auch die Ukraine selbst soll nach Angaben von UN-Vertretern solche Waffensysteme getestet haben.
Volker Türk, UN-Menschenrechtskommissar
Der UN-Menschenrechtskommissar sagte Anfang September, er schließe sich Aufrufen an, „Waffen zu verbieten, die ohne menschliches Zutun töten können. Er fügte hinzu, dass auch die Ukraine offenbar solche Waffen getestet habe. Mit dem Entfallen der zentralen Kontrollvorgaben bleibt offen, welche internationalen Leitlinien für den künftigen Einsatz autonomer Waffensysteme noch greifen werden.
Auch interessant
