Die US-Regierung hat Anthropic angewiesen, den Zugriff auf die KI-Modelle Mythos 5 und Fable 5 für Nicht-US-Bürger zu sperren. Da eine sofortige technische Differenzierung der Nutzer nicht möglich war, unterbrach Anthropic den Zugang für alle weltweiten Anwender, um den Exportkontrollen und den Sicherheitsbedenken Washingtons unverzüglich zu entsprechen. Anthropic, das als einer der Pioniere im Bereich der „KI-Sicherheit“ gilt, wurde von ehemaligen OpenAI-Mitarbeitern gegründet. Das Unternehmen verfolgt primär den Ansatz der „Constitutional AI“, bei dem Modelle durch einen internen Regelkatalog gesteuert werden sollen, um unvorhersehbares oder schädliches Verhalten zu minimieren.
Der Amazon-Faktor: Wie ein Sicherheitsbericht die Sperre auslöste
Hinter der plötzlichen weltweiten Abschaltung der Modelle steht offenbar eine gezielte Warnung eines anderen Tech-Giganten. Wie heise online berichtet, soll Amazon-CEO Andrew Jassy die US-Regierung über eine potenzielle Sicherheitslücke informiert haben. Jassy kontaktierte dabei hochrangige Regierungsvertreter, darunter US-Finanzminister Scott Bessent.
Die Meldung von Amazon hat ein besonderes Gewicht, da das Unternehmen nicht nur ein wesentlicher Cloud-Partner über Amazon Web Services (AWS) ist, sondern auch als einer der größten Investoren in Anthropic fungiert. Die Cybersicherheits-Abteilung von Amazon hatte das Modell Fable 5 auf sogenannte „Jailbreaks“ getestet. Dabei handelt es sich um Methoden, mit denen die Sicherheitsmechanismen einer KI umgangen werden können, um eigentlich verbotene Anfragen zu bearbeiten. Die Experten von Amazon stellten fest, dass das Modell funktionierende Exploits für Sicherheitslücken in vier gängigen Software-Programmen lieferte.
Dieser Vorfall rückt die Problematik der sogenannten „Dual-Use“-Technologien in den Fokus: KI-Systeme, die zur Unterstützung legitimer Softwareentwicklung eingesetzt werden können, besitzen gleichzeitig das Potenzial, für die Automatisierung von Cyberangriffen genutzt zu werden. Anthropic selbst bezeichnet die Schwachstelle jedoch nicht als schwerwiegend. Das Unternehmen argumentiert, dass ähnliche Probleme auch in Konkurrenzmodellen wie dem GPT-5.5 von OpenAI existieren. Dennoch reichte der Bericht von Amazon aus, um eine Exportdirektive der US-Behörden zu provozieren.
Das Ultimatum: Ein 24-Stunden-Dilemma für Anthropic
Der Konflikt zwischen dem KI-Entwickler und Washington eskalierte innerhalb kürzester Zeit. Nach den Erkenntnissen über die Jailbreak-Möglichkeit setzte die US-Regierung Anthropic ein Ultimatum: Die Sicherheitslücken mussten innerhalb von 24 Stunden behoben werden, andernfalls würde der Zugang zu Fable für alle Nicht-Amerikaner gesperrt. Dies verdeutlicht die zunehmende Nutzung von Exportkontrollen als sicherheitspolitisches Instrument. Die US-Regierung setzt diese Mechanismen verstärkt ein, um den Transfer von hochsensibler Technologie zu kontrollieren, die in geopolitischen Machtkämpfen eine entscheidende Rolle spielen könnte.
Der Tech-Investor David Sacks teilte auf der Plattform X mit, dass der Anthropic-CEO Dario Amodei sich geweigert habe, die von Amazon identifizierten Lücken unmittelbar zu schließen. Infolgedessen habe die US-Regierung die strikte Sperre verhängt, was laut Sacks „nur widerwillig“ geschah.
Diese Entscheidung traf Anthropic in einer ohnehin angespannten Situation. Das Unternehmen steht seit Monaten in einem Streit mit dem US-Verteidigungsministerium über die militärische Nutzung von KI-Technologien. Die aktuelle Sperre wirkt wie ein weiterer politischer Hebel in diesem langwierigen Machtkampf.
Technisches Potenzial: Autonome Cyberangriffe als Risiko
Die Sorge der Regierungen vor einem Missbrauch der Technologie ist durch Testergebnisse untermauert. Das britische Institut für KI-Sicherheit (AISI) erhielt Zugang zu Mythos für eine unabhängige Untersuchung und stellte fest, dass die IT-Sicherheitsfähigkeiten des Modells die seiner Vorgänger massiv übersteigen. Das AISI ist eine staatliche Behörde, die speziell darauf ausgerichtet ist, „Frontier Models“ – also die fortschrittlichsten und leistungsfähigsten KI-Modelle – auf ihre Risiken hin zu prüfen.
Besonders brisant ist die Fähigkeit des Modells, komplexe Angriffe ohne menschliches Eingreifen zu planen. In einem Test konnte das Programm einen simulierten 32-Schritt-Angriff auf ein Unternehmensnetzwerk vollständig und autonom abschließen. Die Fähigkeit, solche Angriffssequenzen logisch zu planen, stellt eine neue Stufe der Bedrohung dar, da herkömmliche Sicherheitsfilter oft nur auf bekannte Muster, aber nicht auf völlig neue, logische Angriffsmuster reagieren.
Dennoch ist die Einzigartigkeit dieses Risikos umstritten. Wie die FAZ berichtet, schnitt das Modell GPT-5.5 von OpenAI in den Tests des AISI ähnlich gut ab wie Mythos. Damit stellt sich die strategische Frage, warum die US-Regierung gezielt gegen Anthropic vorgeht, während andere Anbieter mit vergleichbaren Fähigkeiten vorerst unberührt bleiben.
Europas Abhängigkeit: Ein Weckruf für die technologische Souveränität
Für Europa hat die Sperre weitreichende politische und wirtschaftliche Implikationen. Da es auf dem Kontinent derzeit keinen KI-Anbieter auf demselben Leistungsniveau wie Anthropic gibt, ist die Abhängigkeit von US-Technologie kritisch. Die Entscheidung Washingtons zeigt, wie schnell der Zugang zu essenzieller Software für ausländische Akteure gekappt werden kann. Während die Europäische Union mit dem „AI Act“ versucht, einen eigenen regulatorischen Rahmen zu schaffen, bleibt die technische Umsetzung bei US-basierten Modellen oft von deren API-Zugängen abhängig.
Die Nachricht verdeutlicht die Risiken, die mit der Nutzung von Produkten großer US-Tech-Konzerne verbunden sind. Laut taz.de ist das Timing für Europa besonders brisant, da die Frage der technologischen Souveränität dringender denn je ist. Die Sperre unterstreicht die strategische Verletzlichkeit europäischer Akteure, die auf die Infrastruktur und die Exportentscheidungen ausländischer Regierungen angewiesen sind.
Die US-Regierung agiere nicht transparent und könnte willkürlich aus einer Laune heraus handeln.
Markus Beckedahl, Zentrum für Digitalrechte und Demokratie, via Deutschlandfunk
Experten wie Christoph Knöll vom Beratungsunternehmen Neurawork merken an, dass ein weltweites Abkommen zur Regulierung von KI zwar wünschenswert, aber aufgrund mangelnder Kontrollmöglichkeiten wenig realistisch sei. Für europäische Unternehmen und Behörden bleibt die Unsicherheit, ob kritische KI-Dienste morgen noch verfügbar sind, eine strategische Herausforderung.
Find more reporting in our Unternehmen section.
