Anthropic unterband Versuche zur Biowaffen-Forschung mit Claude-KI

Die Entwicklung von Künstlicher Intelligenz bringt neben technologischem Fortschritt erhebliche Sicherheitsrisiken mit sich. Die US-amerikanische KI-Firma Anthropic hat im September 2026 einen umfangreichen Bericht unter dem Titel Detecting and countering misuse of AI vorgelegt, der Einblicke in verhinderte Angriffe und Missbrauchsversuche gibt (heise online). Der Bericht ist der erste seiner Art aus diesem Jahr, nachdem entsprechende Veröffentlichungen im Vorjahr 2025 erschienen waren (heise online).

Blockierte Anfragen zur Biowaffen-Forschung bei Claude

Im Zentrum des Berichts stehen mehrere Zugriffsversuche auf die KI-Modelle der Claude-Familie, darunter Haiku, Sonnet und Opus (heise online). Die Entwickler haben nach eigenen Angaben in den vergangenen Monaten mehrere Versuche unterbunden, bei denen die Software für die mögliche Entwicklung von Biowaffen eingesetzt werden sollte (Die Presse).

Entsprechende Forschungsarbeiten können sowohl medizinischen als auch militärischen Zwecken dienen (n-tv.de). Die Versuche zeigten jedoch, dass Wissenschafter aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf die US-amerikanische Technologie zuzugreifen (Die Presse). Weder die betroffenen Forschungseinrichtungen noch die Herkunftsländer wurden in dem Dokument genannt (finanznachrichten.de).

Konkrete Fälle von Gain-of-Function und Vogelgrippe

Anthropic führte in dem ausführlichen Bericht insgesamt fünf Fälle auf, die einen Bezug zu möglicher Biowaffen-Forschung aufweisen (Der Standard). In diesen Fällen suchten die Beteiligten laut den Angaben keine direkte wissenschaftliche Hilfe, sondern eher organisatorische Unterstützung, wie etwa beim Verfassen von Papieren (finanznachrichten.de).

• Der Versuch, mit Hilfe von Claude einen Förderantrag für die Forschung an einem Virus zu verfassen. Dabei ging es um sogenannte Gain-of-Function-Forschung, bei der die Übertragbarkeit eines Erregers gezielt erhöht wird – eine in Laboren zur Suche nach Gegenmitteln übliche Methode, die jedoch auch für die Waffenentwicklung genutzt werden kann (finanznachrichten.de).
• Ein Vorhaben, einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen lässt (n-tv.de).
• Der Versuch eines Wissenschaftlers, Claude für die Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins zu nutzen (finanznachrichten.de).

Das Unternehmen betont, dass derartige Forschung zwar der Prävention dienen kann, gleichzeitig aber gefährliches Wissen erzeugt, das bei der Waffenkonstruktion Verwendung finden kann (finanznachrichten.de).

Weitreichende Missbrauchsversuche bei Cyberoperationen und Waffen

Der über 150 Seiten umfassende Bericht dokumentiert neben biologischem Missbrauch auch verhinderte Aktivitäten in Bereichen wie Cyberoperationen, Einflussnahme, Betrug und der Entwicklung konventioneller Waffen (heise online). So registrierte das Unternehmen beispielsweise Versuche von Akteuren aus dem Norden des Kriegslandes Jemen, die Raketen weiterentwickeln wollten und ihre Anfragen gezielt aufteilten, um den wahren Hintergrund zu verschleiern (heise online).

Darüber hinaus wurden chinesische Versuche aufgedeckt, Anti-Torpedo-Waffen mithilfe von Claude zu verbessern, sowie Aktivitäten mutmaßlich freiberuflicher Akteure aus Russland, die einen autonomen, per FPV gesteuerten Kamikaze-Drohnenschwarm entwickeln wollten (heise online).