Der KI-Konzern Anthropic hat in den vergangenen Monaten laut einem rund 150-seitigen Bericht mehrere Versuche von Forschern unterbunden, KI-Modelle wie Claude für die Entwicklung von Biowaffen und konventionellen Waffensystemen zu nutzen. Das Unternehmen deckte dabei auch staatsnahe Zugriffe aus China, Russland und dem Jemen auf.
Risikoreiche Anfragen zur Biowaffenforschung und Virus-Modifikation
Die Künstliche Intelligenz des Unternehmens hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle der Software Claude für die mögliche Entwicklung von Biowaffen zu nutzen. Der Konkurrent des ChatGPT-Entwicklers OpenAI schränkte ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne. Der rund 150 Seiten umfassende Threat-Intelligence-Report dokumentiert Aktivitäten über einen Zeitraum von etwa acht Monaten.
Auf jeden Fall zeigten die Versuche aber, dass Wissenschafter aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Anthropic führte in dem ausführlichen Bericht über versuchten Missbrauch fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren.
In einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.
Zu den weiteren dokumentierten Fällen zählt laut dem Bericht ein Förderantrag zu Chikungunya-Viren, inklusive Modifikationen zur Steigerung der Übertragbarkeit und zur Umgehung der Immunantwort, der im Zusammenhang mit einem militärischen Forschungsinstitut stand. Weitere Fälle betrafen wochenlange Studienplanung und Datenanalyse rund um hochpathogene Vogelgrippe, die sich auf Säugetiere übertragen ließe, sowie Arbeiten zu Orthopoxviren, Giftstoffen und toxinbezogenen Verbindungen. Ein anderer Wissenschaftler habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen. Die Schutzmechanismen von Claude blockierten die sensiblen Anfragen und verwehrten den Zugang zu leistungsfähigeren Modellversionen.
Schmale Gratwanderung zwischen Medizin und militärischem Nutzen
Die Abgrenzung zwischen legitimer Grundlagenforschung und schädlicher Waffentechnologie erweist sich in der Praxis als äußerst schwierig. Grundlegende biologische Forschung, die zu Impfstoffen führen kann, ist methodisch oft dieselbe, die auch das Design gefährlicher Erreger ermöglicht.
Das Unternehmen räumte ein, dass es in keinem der untersuchten Fälle feststellen konnte, ob die Forschung legitimen oder schädlichen Zielen diente. Angesichts dieser Ambivalenz habe man sich für den vorsichtigeren Weg entschieden, weil die Folgen eines übersehenen Missbrauchs gravierend sein könnten. In einem Überprüfungszeitraum von 30 Tagen identifizierte das Unternehmen 35 Forschungsvorhaben staatsnaher Institutionen, von denen der Großteil zwar zivile Wissenschaft betraf, bei denen die Ziele der Anfragen jedoch schwer zu ermitteln waren. Ein Klassifikator könne nicht gleichzeitig Nutzen ermöglichen und Schaden verhindern, heißt es sinngemäß im Report.
Jacob Klein, der bei Anthropic für Threat Intelligence zuständig ist, beschreibt die Fälle als deutlich subtiler als das gängige Klischee. Niemand schreibe in den Chat, dass er eine Biowaffe bauen wolle. Andrew Weber, Senior Fellow beim Council on Strategic Risks, der den Bericht vor Veröffentlichung gelesen hat, bewertete die Befunde gegenüber der New York Times als „chilling examples of state-sponsored biological weapons developers tapping into the rapidly advancing capabilitiesführender KI-Modelle.
Erstmals dokumentierte Einsätze für konventionelle Waffensysteme
Neben biologischen Forschungsprojekten dokumentiert der Bericht erstmals auch Versuche, die Software für die Entwicklung konventioneller Waffen einzusetzen. Insgesamt sechs Fälle werden beschrieben:
- China: In drei Fällen nutzten Entwickler das Tool Claude Code als Ersatz für Software-Engineers, um an Steuerungs- und Leitsystemen für Waffenplattformen zu arbeiten.
- Russland: In zwei Fällen setzten freiberufliche Akteure das Modell für die Entwicklung autonomer Kamikaze-Drohnenschwärme ein.
- Jemen: Eine Zelle im Norden des Landes arbeitete an drei Waffenprogrammen, darunter eine gelenkte Rakete (offenbar erfolglos getestet), eine mehrstufige ballistische Rakete mit einer angestrebten Reichweite von über 2.000 Kilometern sowie Varianten eines Hyperschall-Gleitflugkörpers. Aus dem Kontext geht hervor, dass es sich dabei um die vom Iran unterstützte Huthi-Miliz handelt.
Überwachung, Desinformation und Schutzmaßnahmen
Der größere Teil des Berichts befasst sich mit bereits bekannten Missbrauchsmustern wie Cyberangriffen, Überwachung und Propaganda. So nutzten staatsnahe Akteure aus China und dem Iran die Technologie zur Überwachung von Dissidenten und Diaspora-Communities. In Mali errichtete ein einzelner Berater ein System namens Lakana 360, das rund 25 Millionen SIM-Karten aller drei Mobilfunkanbieter des Landes erfassen sollte, unter Umgehung richterlicher Anordnungen. Iranische Akteure verbreiteten zudem eine schädliche Firefox-Erweiterung, die Social-Media-Identitäten abgriff. In China automatisierte eine Einheit für Religionsangelegenheiten die Arbeit von Analysten, während eine andere Operation Social-Media-Posts nach politischer Sensibilität bewertete und Personen zur „Kontrolle“ markierte.”
In mindestens einem Fall wichen Beteiligte nach einer Blockierung auf ein Konkurrenzmodell mit schwächeren Schutzvorkehrungen aus. Anthropic sperrte die betroffenen Accounts und teilte die gewonnenen Erkenntnisse mit Behörden sowie anderen KI-Anbietern. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden im Bericht genannt. Begründung: Man behaupte nicht, dass die Betroffenen Schaden anrichten wollten, und eine Identifizierung könnte sie selbst gefährden.
Verwandte Artikel
