Anthropic stoppt Fable 5 & Mythos 5: US-Exportverbot nach Amazon-Sicherheitslücke

Die Entscheidung traf die Nutzer und Firmen am Samstagmorgen völlig überraschend. Nur wenige Tage nach dem offiziellen Start verschwanden die Spitzenmodelle aus dem Angebot. Während andere Versionen wie Opus oder Sonnet weiterhin verfügbar bleiben, ist der Zugriff auf die neueste Technologie von Anthropic faktisch beendet.

Der Amazon-Test als Auslöser der Sperre

Hinter dem plötzlichen Stopp steht ein Sicherheitsvorfall bei einem der größten Cloud-Anbieter der Welt. Wie 20min.ch berichtet, gelang es Forschern von Amazon, das Modell Fable 5 zu „jailbreaken“. Dabei wurden die internen Schutzmechanismen der KI umgangen, sodass das Modell Informationen über Softwarelücken lieferte, die es eigentlich blockieren müsste. Die Eskalation verlief schnell: Amazon-Chef Andy Jassy informierte das Weiße Haus über die Umgehung der Sicherheitsregeln. Die US-Regierung reagierte mit einer Exportkontroll-Direktive, die am Freitagabend gegen 17:21 Uhr Ortszeit bei Anthropic einging. Diese untersagt nicht nur ausländischen Kunden den Zugriff, sondern schließt sogar nicht-amerikanische Mitarbeiter von Anthropic innerhalb der USA aus. Da Anthropic die Nationalität seiner weltweiten Kunden nicht zuverlässig unterscheiden kann, blieb dem Unternehmen nur die vollständige Abschaltung beider Modelle, um rechtliche Konsequenzen zu vermeiden.

Fable 5 versus Mythos 5: Unterschiedliche Sicherheitsstufen

Obwohl beide Modelle auf derselben technischen Basis beruhen, verfolgten sie unterschiedliche Einsatzstrategien. Fable 5 war die Version für die breite Masse, inklusive Firmenkunden und Entwicklern. Hier waren die Sperren besonders streng, insbesondere bei Anfragen zu Biologie, Chemie oder Cybersecurity. Heikle Prompts wurden blockiert oder an schwächere Modelle weitergeleitet. Mythos 5 hingegen war ein exklusives Werkzeug für geprüfte Partner innerhalb des sogenannten Glasswing-Programms. Die Zielgruppe waren primär IT-Sicherheitsfirmen und Organisationen, die kritische Infrastrukturen wie Stromnetze, Wasserwerke oder Krankenhäuser schützen. In diesem Kontext waren bestimmte Schutzregeln bewusst gelockert, damit Experten Sicherheitslücken finden und schließen konnten, bevor Angreifer sie ausnutzen.

Die Debatte um den Jailbreak und GPT-5.5

Anthropic bezeichnet die Reaktion der US-Regierung als Missverständnis und kritisiert, dass keine konkreten technischen Belege für eine nationale Sicherheitsbedrohung geliefert wurden. Laut heise online argumentiert das Unternehmen, dass der beanstandete Jailbreak nicht universell sei. Der Angriff bestand im Kern darin, das Modell anzuweisen, eine bestimmte Codebasis zu lesen und Softwarefehler zu beheben. Anthropic betont, dass dies eine alltägliche Fähigkeit bei legitimen Code-Reviews sei. Zudem seien die gefundenen Schwachstellen geringfügig und bereits bekannt gewesen. Das Unternehmen zieht einen direkten Vergleich zur Konkurrenz: Die Fähigkeit, solche Fehler zu finden, besitze auch das öffentlich verfügbare Modell GPT-5.5 von OpenAI. Es sei unverhältnismäßig, ein kommerzielles Modell, das von Hunderten Millionen Menschen genutzt wird, aufgrund einer Schwachstelle vom Markt zu nehmen, die auch bei anderen Systemen existiert. Zur Absicherung setzt Anthropic auf eine Strategie der mehrstufigen Verteidigung:

• Classifier-Systeme: Vor dem eigentlichen Modell prüfen Filter die Eingaben. Bei kritischen Themen erfolgt ein Fallback auf das ältere Modell Opus 4.8.
• Red-Teaming: Tausende Stunden Tests wurden gemeinsam mit der US-Regierung und dem britischen AI Safety Institute (UK AISI) durchgeführt.
• Daten-Monitoring: Eine 30-tägige Speicherungspflicht ermöglicht es, Umgehungsversuche nachträglich zu analysieren und zu unterbinden.

Politische Spannungen und die Rolle des Pentagons

Die Abschaltung erfolgt in einer Atmosphäre tiefen Misstrauens zwischen Anthropic und Teilen der US-Sicherheitsbürokratie. Im Hintergrund schwelt ein Streit mit dem Pentagon über die militärische Nutzung von Claude. Anthropic hat klare rote Linien gezogen: Die KI soll weder für die Massenüberwachung von US-Bürgern noch für den Einsatz vollautonomer Waffen verwendet werden. Während die US-Regierung den Zugriff für alle rechtlich erlaubten militärischen Zwecke fordert, beharrt das Unternehmen auf diesen ethischen Grenzen. Einige Medien interpretieren den plötzlichen Exportstopp daher als politisches Signal. 20min.ch zitiert in diesem Zusammenhang Le Monde, die von einer Art Vergeltungsmaßnahme spricht.

Warnungen vor einer digitalen Abhängigkeit Europas

Die globale Sperre löste insbesondere in Europa heftige Reaktionen aus. Der Schweizer KI-Forscher Marcel Salathé vom EPFL sieht darin ein alarmierendes Signal für die strategische Souveränität des Kontinents. Wie Blick berichtet, warnt Salathé davor, dass der Zugriff auf weltweit führende KI-Modelle jederzeit willkürlich durch politische Entscheidungen in den USA unterbunden werden kann. Er bezeichnet die Situation als roten Alarm für Europa, die eigene KI-Strategie zur obersten Priorität zu machen. Auch aus der Cybersecurity-Branche gibt es Kritik. Eine Gruppe um den ehemaligen Facebook-Sicherheitschef Alex Stamos fordert die US-Regierung auf, den Zugang wieder freizugeben. Ihr Argument: Gerade Cybersecurity-Experten benötigen den Zugriff auf solche Modelle, um Sicherheitslücken in kritischen Infrastrukturen schneller zu finden und zu schließen, bevor sie für echte Angriffe genutzt werden. Anthropic arbeitet derzeit an einer Lösung, um den Zugang wiederherzustellen. Ob dies jedoch eine Anpassung der Sicherheitsfilter oder ein Kompromiss mit dem Weißen Haus erfordert, bleibt offen. Bis dahin bleibt die Welt ohne die derzeit mächtigsten Werkzeuge der Claude-Familie.

Find more reporting in our Unternehmen section.