Führende Vertreter der Technologiebranche haben vor den Vereinten Nationen eine globale Regulierung und gemeinsame Standards für Künstliche Intelligenz gefordert. Während OpenAI und Anthropic vor unkontrollierten Risiken warnen, lehnen die USA internationale Kontrollstrukturen strikt ab.
Warnungen vor existenziellen Risiken und der Ruf nach globaler Koordination
Vor dem Sicherheitsrat der Vereinten Nationen in New York haben Spitzenmanager führender Entwicklerfirmen am Mittwoch eindringlich vor den unkontrollierten Gefahren der Technologie gewarnt. Führende Vertreter der Branche forderten dabei internationale Mechanismen, um die Entwicklung zu beaufsichtigen. Führende Vertreter der Technologiebranche haben den UN-Sicherheitsrat vor den wachsenden Gefahren gewarnt.
Dario Amodei, Chef von Anthropic, vor dem 15-köpfigen Gremium
Die Chefetagen großer US-Unternehmen sehen dringenden Handlungsbedarf. Neben Dario Amodei von Anthropic sprachen sich auch OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue, für koordinierte Maßnahmen aus (OpenAI, Anthropic bosses push UN for global terms on AI). Die Führungskräfte betonten übereinstimmend, dass die aktuellen Fortschritte ein internationales Regelwerk verlangen. Altman forderte gemeinsame Standards zur Risikobewertung, ebenso wie Dario Amodei von Anthropic, einem Hauptkonkurrenten von OpenAI, und Clement Delangue von Hugging Face.
Anfang dieses Monats verfasste Amodei einen Aufsatz, der von Altman und anderen begrüßt wurde und in Anbetracht der Befürchtungen hinsichtlich der Bedrohung der Menschheit durch die Technologie eine Verlangsamung der KI-Entwicklung forderte, wie der Chef des Entwicklers Anthropic, Dario Amodei, am Mittwoch vor dem 15-köpfigen Gremium erklärte.
Die Kontroverse im UN-Sicherheitsrat: Globale Standards gegen US-Wettbewerbsvorteil
Während die Industrievertreter für verbindliche Leitplanken werben, zeichnet sich auf diplomatischer Ebene ein tiefer Konflikt ab. Michael Kratsios, ein technologischer Berater von US-Präsident Donald Trump, wandte sich bei den Beratungen ausdrücklich gegen die Errichtung neuer globaler Aufsichtsstrukturen. Zwar räumte er ein, dass das Tempo der Entwicklung zunehme und Risiken existieren, doch reiche dies nicht aus, die Entwicklung zu pausieren oder durch neue globale Regulierungsstrukturen einzuschränken, wie Michael Kratsios erklärte.
Wie Kratsios hinzufügte, dürfe man nicht zulassen, dass der internationale Dialog in diesem und anderen Gremien in Richtung einer globalen Regulierung abdriftet. Die US-Regierung lehnt Einhegungen kategorisch ab. US-Präsident Donald Trump hatte bereits bei der UN-Vollversammlung bekräftigt, dass die Vereinigten Staaten das Wachstum dieser Branche nicht bremsen werden. Die USA und China als dominierende Akteure sind sich uneins darüber, ob die Technologie globale Leitplanken benötigt oder weitgehend den Marktkräften überlassen werden sollte.”
Wie US-Präsident Donald Trump erklärte, führe man bei KI gegenüber China, und er wolle das offen gesagt auch so beibehalten, da derjenige gewinne, der bei KI die Oberhand behält.
Altman fordert demokratische Prozesse und transparente Standards
Dem US-amerikanischen Kurs widersprechen die Technologie-Entwickler selbst. Sam Altman betonte vor dem UN-Gremium, dass weitreichende Entscheidungen nicht allein den Technologie-Laboren in San Francisco überlassen werden dürfen. Er forderte, dass Länder gemeinsam auf das kollektive Wohl im Angesicht dieser mächtigen Technologie hinarbeiten.
Konkret drängen die Initiatoren auf messbare Vorgaben.
- Gemeinsame Standards zur Bewertung von Systemfähigkeiten und damit verbundenen Risiken
- Einrichtung klarer Sicherheitsvorgaben und definierter Grade menschlicher Aufsicht
- Schnelle Protokolle für die Meldung und Klassifizierung von Zwischenfällen
- Vergleichbare Mechanismen, damit Staaten Beweise prüfen und die Einhaltung verifizieren können
Der kanadische Pionier Yoshua Bengio unterstützte diese Position und bezeichnete die potenziellen Gefahren als real und unmittelbar. UN-Generalsekretär Antonio Guterres drängt ebenfalls seit langem auf eine globale Regulierung, um unkalkulierbare Entwicklungen zu verhindern.
Nächste Schritte und geplante Gespräche zwischen Washington und Peking
Während die Vereinten Nationen nach einem konsensualen Rahmen suchen, verlagert sich das diplomatische Ringen auf die bilaterale Ebene. Für den heutigen Donnerstag ist in Washington ein Treffen zwischen US-Präsident Donald Trump und dem chinesischen Staatschef Xi Jinping angesetzt. Bei diesem Gespräch wollen beide Seiten über die Errichtung eines gemeinsamen Meldesystems für sicherheitsrelevante Vorfälle beraten.
