Die amerikanische KI-Entwicklerfirma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. In einem über 150 Seiten langen und ausführlichen Bericht mit dem Titel „Detecting and Countering Misuse of AI legte das Unternehmen dar, wie in den vergangenen Monaten verschiedene Missbrauchsversuche gestoppt wurden, darunter in den Bereichen biologischer Missbrauch, Cyberoperationen, Einflussnahme, Überwachung, Betrug, Schwindel, Entwicklung konventioneller Waffen sowie Destillation.
Umfangreicher Bericht von Anthropic dokumentiert verhinderte Missbrauchsversuche
Einzelheiten zu riskanter Forschung und blockierten Zugriffen
In dem Bericht führt Anthropic konkret fünf Fälle über versuchten Missbrauch seiner KI-Modelle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. Bei den blockierten Zugriffsversuchen ging es unter anderem um:
- Den Versuch, mithilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen, wobei es sich um sogenannte Gain-of-Function-Forschung handelte, bei der die Übertragbarkeit eines Erregers erhöht wird.
- Einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe.
- Die Nutzung von Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins.
- Einen Fall, bei dem jemand über eine VPN-Verbindung und angemeldet über eine anonyme E-Mail-Adresse Tausende Nachrichten mit Claude zur Forschung an einem hochansteckenden Grippevirus ausgetauscht hatte.
Anthropic erklärte, dass KI-Modelle grundsätzlich darauf getrimmt seien, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es jedoch manchmal schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen. In diesen und anderen Fällen sprach das Unternehmen von unklaren Missbrauchsbeweisen, habe dies aber aus Vorsicht unterlassen. Weder die betroffenen Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden in dem Bericht genannt, jedoch zeigten die Versuche, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen.
Vorwürfe zur heimlichen Nutzung und Datentransfer durch chinesische Konkurrenten
Neben biologischem Missbrauch berichtete Anthropic auch über andere Vorfälle. So wurde unter anderem von Akteuren aus dem Norden des kriegszerrütteten Jemen berichtet, die Raketen im Rahmen der Entwicklung konventioneller Waffen weiterentwickeln wollten. Zudem warnte das Unternehmen vor dem Einsatz von Künstlicher Intelligenz zum Ausspionieren von Regierungsgegnern und Minderheiten unter Nennung von China und dem Iran sowie vor einem Fall, bei dem ein Auftragnehmer malischer Sicherheitsbehörden Claude nutzte, um eine Überwachungssoftware zu entwickeln.
Im Bereich der sogenannten Destillation warf das Unternehmen chinesischen Konkurrenten vor, Anfragen heimlich an Claude umzuleiten, anstatt sie von ihrer eigenen Software beantworten zu lassen. Laut dem Bericht leitete die chinesische KI-Firma Moonshot in einem Zeitraum von zehn Tagen mit 5,380 falschen Nutzerkonten fast 300.000 Nutzerfragen über Anthropic. Allein dieser Anbieter beobachtete zwischen Mai und Juli mehr als 23 Millionen Interaktionen. Ein ähnliches Vorgehen will das US-Unternehmen auch beim Rivalen Deepseek beobachtet haben, wo es über einen Zeitraum von 14 Tagen zu rund 12 Millionen Interaktionen kam. Anthropic hofft, dass die KI-Branche aus dem Bericht lernen kann.
Verwandte Artikel
