Anthropic hat der US-Regierung ein Regelwerk vorgeschlagen, wonach Behörden den Einsatz von KI-Modellen nur bei vorhersehbaren Schäden von über 1 Milliarde US-Dollar oder mehr als 50 Toten oder Schwerverletzten blockieren könnten. Der bekannt gewordene Entwurf orientiert sich an kalifornischen Gesetzen wie dem SB 53.
Angesichts jüngster Agenten-Vorfälle debattieren die Vereinigten Staaten hitzig darüber, wie KI-Unternehmen reguliert werden sollen. Berichten von Politico zufolge hat das KI-Unternehmen Anthropic nun einen detaillierten Vorschlag vorgelegt, der die Hürden für staatliche Eingriffe extrem hoch ansetzt. Behörden sollen demnach die Freigabe oder den Einsatz eines Modells blockieren können, wenn ein vorhersehbares und unmittelbares Risiko in drei Bereichen droht: bei Cyberattacken, dem Kontrollverlust über ein Modell oder dem Erstellen biologischer Waffen, wie Politico berichtet.
Gerichtliche Entscheidung und externe Prüfer nach Anthropic-Entwurf
Der von Anthropic unterbreitete Regelungsentwurf sieht vor, dass die KI-Labore regelmäßig von externen Prüfern kontrolliert werden. Sollten diese Kontrolleure ein unmittelbares Risiko identifizieren, müssen sie dies innerhalb von 72 Stunden nach Abschluss der Prüfung der US-Handelsbehörde melden. Diese Behörde stellt daraufhin einen Antrag bei Gericht, sodass am Ende Richter über eine etwaige Blockade eines Modells entscheiden. Andere Behörden wären dem Entwurf zufolge nicht berechtigt, solche Beschlüsse zu erlassen.
Im vergangenen Sommer hatte die Trump-Administration noch Exportkontrollregeln genutzt, um das Modell Fable 5 vom Markt zu nehmen und den Start von GPT-5.6 zu verzögern. Da sowohl Anthropic als auch OpenAI mit diesem Vorgehen unzufrieden waren, bietet der neue Vorschlag eine Möglichkeit, den Spielraum der US-Regierung bei Markteingriffen deutlich zu beschränken. Ein Sprecher des Unternehmens erklärte gegenüber Politico, die Vorlage basiere auf dem Advanced AI Framework, welches Anthropic bereits im Juni vorgestellt hat.
Hintergrund zu den Vorfällen und politischer Gegenwind
Den Recherchen von Politico zufolge hat keiner der bislang bekannten Sicherheitsvorfälle in diesem Sommer die von Anthropic geforderten Schadensschwellen erreicht, wodurch das vorgeschlagene Gesetz in diesen Fällen nicht gegriffen hätte. Stattdessen hätte der Entwurf staatliche Eingriffe durch seine engen Grenzen eher erschwert. Der Gesetzentwurf umfasst zudem Pflichten wie interne Sicherheitsrichtlinien, Transparenzberichte für neue Frontier-Modelle, Whistleblower-Schutz und das Melden kritischer Sicherheitsvorfälle an die Handelsbehörde. Sollte der Kongress ein solches Gesetz beschließen, würde es bestehende Gesetze einzelner US-Bundesstaaten ersetzen, was den Wünschen der Tech-Konzerne nach einem vereinheitlichten Regelwerk entgegenkäme.
Während US-Präsident Donald Trump bislang keine Ambitionen für strengere Vorgaben zeigt und sich im September im Weißen Haus mit Tech-Konzernen auf Selbstregulierung verständigt hat, fordern verschiedene Kongressabgeordnete härtere Maßnahmen. Die Vorschläge reichen dabei von strengeren Aufsichtsstrukturen bis hin zu einem von Senator Bernie Sanders geforderten Bann von Superintelligenz-Systemen.
