Der US-KI-Entwickler Anthropic hat am Donnerstag einen weltweiten Aufruf zur Verlangsamung oder vorübergehenden Aussetzung der Forschung an hochmodernen KI-Systemen ausgesprochen. Das Unternehmen fordert einen globalen Koordinierungsmechanismus, um sicherzustellen, dass gesellschaftliche Strukturen und die Sicherheitsforschung mit dem rasanten technologischen Fortschritt Schritt halten können.
Rekursive Selbstverbesserung als technologischer Wendepunkt
Der Kern der Besorgnis liegt in einem Phänomen, das in der Branche als „rekursive Selbstverbesserung“ (RSI) bekannt ist. Dabei entwickeln sich KI-Modelle ohne menschliches Zutun stetig weiter, indem sie ihren eigenen Programmcode optimieren. Dieser Prozess könnte zu einem exponentiellen Anstieg der Fähigkeiten führen, der die menschliche Kontrolle untergräbt.
Die Daten des Unternehmens untermauern die Geschwindigkeit dieser Entwicklung. Laut einem Bericht von heise online stammten im Mai 2026 bereits 80 Prozent des Codes, den Anthropic in seine Codebasis einpflegte, vom Modell Claude. Im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich.
Die Effizienzsteigerung ist massiv. Die Entwickler bei Anthropic liefern derzeit pro Quartal im Schnitt achtmal so viel Code aus wie im Zeitraum zwischen 2021 und 2025. Das Unternehmen warnt davor, dass Menschen bald zum Engpass in der Entwicklung werden könnten, wenn die KI schneller Code generiert, als Experten ihn überprüfen können.
“Wir glauben, es wäre gut für die Welt, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung mit dem technologischen Fortschritt Schritt halten können.
Geopolitische Hürden und der Wettlauf mit China
Ein globales Moratorium steht vor einer gewaltigen politischen Hürde: dem geopolitischen Wettbewerb. Anthropic betont, dass eine einseitige Pause wirkungslos wäre, da sie lediglich Konkurrenten Zeit zur Aufholung verschaffen würde. Damit ein Stillstand greift, müssten sich die führenden Mächte, allen voran die USA und China, auf überprüfbare Regeln einigen.
Anthropic-Chef Dario Amodei äußerte bereits beim Weltwirtschaftsforum in Davos, dass der KI-Wettlauf mit China eine Verlangsamung massiv erschwere, da eine durchsetzbare Vereinbarung kaum realisierbar sei. Wie ORF berichtet, verweist das Unternehmen dabei auf historische Präzedenzfälle wie den INF-Vertrag zur Abrüstung von Atomwaffen, der zwar eine Regulierung komplexer Technologien ermöglichte, aber 2019 von den USA und Russland aufgekündigt wurde.
Die Sorge besteht darin, dass westliche Staaten durch regulatorische Bremsen ins Hintertreffen geraten könnten, während autokratische Akteure den technologischen Vorsprung ungebremst ausbauen.
Kommerzieller Druck gegen regulatorische Vorsicht
Der Zeitpunkt der Warnung wirkt für viele Marktbeobachter widersprüchlich. Während Anthropic zur Vorsicht mahnt, treibt der finanzielle Druck die Branche zum Gasgeben. Billionen von Dollar fließen in die KI-Infrastruktur, und Unternehmen investieren massiv in gigantische Rechenzentren.
Zudem hat Anthropic erst am vergangenen Montag seinen Börsengang angemeldet. Diese zeitliche Nähe zwischen der Forderung nach einem Moratorium und dem Streben nach Kapital am Aktienmarkt sorgt für Skepsis. Wie SRF anmerkt, besteht eine deutliche Diskrepanz zwischen dem öffentlichen Warnen vor Kontrollverlust und dem gleichzeitigen harten Wettbewerb um Investorengelder.
Auch die Rolle von Tech-Milliardären wie Elon Musk wird kritisch betrachtet. Musk sprach sich zwar in der Vergangenheit für eine sechsmonatige Pause aus, trieb jedoch zeitgleich die Gründung einer eigenen KI-Firma voran.
Juristische Auseinandersetzung mit dem US-Verteidigungsministerium
Neben der globalen Regulierung steht Anthropic auch im Zentrum eines internen Machtkampfes innerhalb der US-Sicherheitsarchitektur. Das Unternehmen befindet sich in einem Rechtsstreit mit dem US-Verteidigungsministerium. Hintergrund ist die Weigerung von Anthropic, seine Technologien für eine uneingeschränkte militärische Nutzung zur Verfügung zu stellen.
Anthropic legt sich quer: Das Unternehmen lehnt den Einsatz der KI für Massenüberwachung im Inland oder für vollautonome Waffensysteme ab. Diese Haltung hat Konsequenzen. Wie welt.de meldete, stufte das Pentagon Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein.
Gleichzeitig zeigt das Unternehmen seine technologische Schlagkraft durch Tools wie Claude Mythos. Die Software wurde bereits eingesetzt, um Sicherheitslücken in Programmen aufzuspüren, die teilweise über Jahrzehnte unentdeckt geblieben waren. Während US-Regierungskreise warnen, dass die regulatorische Haltung von Anthropic die amerikanische Industrie im globalen Wettbewerb schwächen könnte, bleibt die Frage offen, ob die Sicherheit der Menschheit oder der technologische Vorsprung das primäre Ziel sein sollte.
