Anthropic hat zwischen Dezember 2025 und August 2026 mehrere heimliche Versuche blockiert, Künstliche Intelligenz für biologische Waffen und andere sensible Risikobereiche zu missbrauchen. In einem umfassenden Bericht legt das Unternehmen dar, wie staatlich nahestehende Gruppen und Akteure aus blockierten Regionen Claude für Gain-of-Function-Forschung einzusetzen versuchten.
Detecting and countering misuse of AI
Die Künstliche Intelligenz der nächsten Generation bringt nicht nur wissenschaftliche Fortschritte, sondern auch völlig neuartige Sicherheitsrisiken mit sich. In einem Bericht legt die KI-Firma Anthropic offen, wie sie in den vergangenen Monaten Versuche von Akteuren gestoppt hat, die eigene Software für potenziell gefährliche biologische und militärische Forschungen zu instrumentalisieren. Der Bericht „Detecting and countering misuse of AI“ ist der erste derartige von Anthropic aus diesem Jahr, die Vorgänger erschienen alle 2025. Insgesamt geht es um erkannte und verhinderte missbräuchliche Nutzung in den Bereichen „Cyberoperationen, Einflussnahme, Überwachung, Betrug und Schwindel, biologischer Missbrauch, Entwicklung konventioneller Waffen und Destillation. Genutzt wurden Modelle der Familien Haiku, Sonnet und Opus, aber nicht Mythos oder Fable.
”
Die KI-Firma hat nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. Zugleich schränkte das Unternehmen ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne. Auf jeden Fall zeigten die Versuche aber, dass Wissenschafter aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. Anthropic führte in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren.
Gezielte Anträge für Gain-of-Function-Forschung am Virus
Unter den dokumentierten Vorfällen stechen mehrere Versuche hervor, Claude für die Erstellung von Förderanträgen und Forschungsplänen im Bereich der Biowissenschaften einzuspannen. Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-function-Forschung gegangen, bei der die Übertragbarkeit und/oder Virulenz von Krankheitserregern erhöht wird. Die Forschung sollte demnach an einer militärischen Einrichtung erfolgen. In einem anderen Fall habe jemand über eine VPN-Verbindung und angemeldet über eine anonyme E-Mail-Adresse tausende Nachrichten mit Claude zur Forschung an einem hochansteckenden Grippevirus ausgetauscht. Anthropic spricht in diesen und anderen Fällen von nicht eindeutigen Hinweisen auf Missbrauch, trotzdem habe man das aus Vorsicht unterbunden. In einem anderen Fall wurde den Angaben zufolge versucht, mit Hilfe von Claude einen Plan für die Erforschung einer Vogelgrippevariante zu entwerfen, die sich auf Säugetiere übertragen ließe. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.
In Bezug auf den Versuch, die KI-Technik für die Entwicklung konventioneller Waffen zu benutzen, schreibt Anthropic von Akteuren aus dem Norden des Kriegslands Jemen, die Raketen weiterentwickeln wollten. Die hätten ihre Anfragen aufgeteilt, um den wahren Hintergrund zu verschleiern. Die meisten seien blockiert worden, aber nicht alle. In einem anderen Fall seien Versuche aus China entdeckt worden, Anti-Torpedo-Waffen mithilfe von Claude zu verbessern. Anthropic sagte am Donnerstag, man habe Bemühungen bösartiger Akteure blockiert, KI-Modelle für bösartige Aktivitäten wie Cyberangriffe, Überwachung und Forschungen zu nutzen, die zu biologischen Waffen hätten führen können.
Neue Risiken durch leistungsfähigere KI-Modelle
Der Bericht, der den Zeitraum von Dezember 2025 bis August 2026 abdeckt, wurde von Forschern bei Anthropic verfasst. „The cases we share here aren’t typical misuse, but rather examples of the most notable and novel threat activity we’ve identified to date“, erklärte Anthropic in dem Bericht, der den dritten seiner Art seit März 2025 darstellt. Der Bericht enthält Fragmente des bösartigen Codes und von KI-Prompts, die Anthropic nach eigenen Angaben entdeckt hat, und fordert Regierungen und KI-Wettbewerber dazu auf, ähnliche Missbräuche zu identifizieren und zu verhindern. „We’re publishing this work because we believe we have a responsibility to disclose malicious misuse of our services. As models become increasingly capable, their risks will increase, unless AI developers and society’s defenders act to make them safer, so das Unternehmen.
”””
US-Gesetzgeber fordern nach Sicherheitswarnungen von Anthropic-Forschern neue KI-Regeln
Die ausführliche Arbeit des KI-Start-ups, das im Herbst dieses Jahres einen Börsengang (IPO) plant, wurde zwei Tage nach der Ankündigung eines Forschers veröffentlicht, dass er aus Sorge zurücktrete, Anthropic und seine Konkurrenten würden in der KI-Entwicklung nicht verantwortungsvoll handeln. Er schloss sich damit Bedenken an, die innerhalb und außerhalb der Industrie hinsichtlich des Potenzials der Technologie geäußert wurden, sich der menschlichen Kontrolle zu entziehen. US-Gesetzgeber fordern nach Sicherheitswarnungen von Anthropic-Forschern neue KI-Regeln.
Debatte um gesellschaftliche Kontrollmechanismen
Anthropic CEO Dario Amodei adressierte im Februar eine Versammlung beim AI Impact Summit in Neu-Delhi, Indien. Die Enthüllungen fallen in eine Phase intensiver Debatten über die Regulierung der Technologie. Als KI-Modelle leistungsfähiger werden, erfordern elaborierte Cyberangriffe keine hoch entwickelten Fähigkeiten mehr, und selbst Einzelpersonen können Bedrohungen erzeugen, die noch vor einem Jahr nicht möglich gewesen wären, so Anthropic. Das Unternehmen erklärte, es habe in seinen neuesten Modellen stärkere Schutzvorkehrungen hinzugefügt, um biologische Forschung einzuschränken, die auch zum Bau von Waffen genutzt werden könnte.
Auch interessant
