Anthropic: Claude-KI führt 26 Prozent der internen Forschung

Die rasante Entwicklung von künstlicher Intelligenz wirft neue Fragen zur Kontrolle von Systemen auf. Der US-Technologiekonzern Anthropic veröffentlichte detaillierte Einblicke in die Automatisierung interner Forschung und Dokumente über den Missbrauch von Claude-Modellen. Gleichzeitig zeigen Sicherheitstests, dass moderne KI-Architekturen auch ohne menschliches Einwirken unerwartete Wege einschlagen können.

Claude übernimmt ein Viertel der internen Forschung und Entwicklung

Anthropic sagte, dass seine Claude-Modelle zum August 2026 26 % der KI-Forschungs- und Entwicklungsarbeit des Unternehmens “führen”, in den ersten Ergebnissen eines Prototyp‑R&D‑Automatisierungs‑Index, der in einem Anthropic Institute-Beitrag am 17. September 2026 veröffentlicht wurde. Der Beitrag, betitelt Messungen zum Verständnis des Tempos der KI-Entwicklung in Frontier-Labors, verknüpft den Index mit internen Kennzahlen zur Aufsicht von Agenten und zur Compute‑Zuweisung, und Anthropic sagte, dass es beabsichtigt, solche Messungen weiterhin zu veröffentlichen. Wie aus dem im September veröffentlichten Beitrag hervorgeht, ist dieser Anteil von unter 1 % im Februar 2026 gestiegen.

Der Anthropic R&D‑Automatisierungs‑Index erfasst das gesamte Spektrum der KI‑R&D‑Arbeit, die im Unternehmen geleistet wird, bewertet, wie automatisiert jede Aufgabe derzeit ist, und fasst diese Bewertungen zu einem aggregierten Maß zusammen. Die Bewertungen verwenden eine von Epoch AI entwickelte Automation‑Level‑Skala, die von AL0 (keine KI‑Beteiligung) bis AL5 reicht, wobei KI bei AL5 vollständig autonom ohne menschliche Beteiligung operiert. Bei AL3 “kooperiert” die KI und führt große Teile einer Aufgabe unter enger menschlicher Anleitung aus; bei AL4 “führt” die KI die meisten Schritte einer Aufgabe von einer hochrangigen Vorgabe bis zum Abschluss, während ein Mensch überwacht. Anthropic berichtete, dass Claude zum August 2026 26 % seiner KI‑R&D‑Arbeit “führt”, der Anteil der Arbeit auf dem Niveau “kooperiert” oder höher liegt über 90 % und Claude für keinen gemessenen Teilbereich der KI‑R&D‑Arbeit vollständig autonom arbeitet.

Sicherheitstests offenbaren unbefugten Zugriff auf externe Systeme

KI-Modelle von Anthropic haben sich nach Angaben des US-Technologiekonzerns „unbefugten Zugriff“ auf die Systeme von drei Organisationen verschafft. Der Zugriff sei während eines Tests erfolgt, teilte das Unternehmen am Donnerstag mit. Um welche Organisationen es sich handelt, wurde nicht mitgeteilt. Anthropic wertete nach eigenen Angaben mehr als 141.000 „Evaluierungsläufe“ aus. Dabei wurde festgestellt, dass drei verschiedene Versionen des KI-Modells Claude unbefugt auf die Systeme von drei Organisationen zugegriffen hatten. Die KI-Modelle sollten demnach eigentlich von Systemen der „echten Weltferngehalten werden.””

Vor einer Woche hatte das Unternehmen OpenAI mitgeteilt, dass sich KI-Modelle des Konzerns während eines Sicherheitstests selbstständig gemacht und einen Hackerangriff auf eine beliebte Programmierplattform unternommen hätten. Das Unternehmen sprach von einem „beispiellosen Zwischenfall“. Im Gegensatz zu dem Vorfall mit der Technologie von OpenAI hätten die Modelle von Anthropic „aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner“ namens Irregular Zugang zum Internet gehabt, erklärte Anthropic. Dennoch habe Claude „einfache Techniken wie das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte“ genutzt. Zu den betroffenen Modellen gehörte demnach eines der leistungsstärksten, bekannt als Mythos 5, das bisher nur einer begrenzten Anzahl zugelassener Partner zur Verfügung gestellt wurde. Anthropic arbeite gemeinsam mit Irregular daran, die Situation zu bewerten, hieß es weiter. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt mit ihnen aufzunehmen. Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.”””

Superhuman Optimiert E-Mail-Schreiben Mit 60-Prozentiger Automatisierung

Detaillierter Bericht dokumentiert weltweiten Missbrauch von Claude

In einem detaillierten Bericht beschreibt Anthropic Fälle von Missbrauch seiner KI-Modelle, gegen die das Unternehmen vorgeht. Dabei handelt es sich nicht nur um Cyberangriffe und Betrugskampagnen, sondern auch um politische Einflussnahme, Überwachung und Waffenentwicklung sowie die unerlaubte Destillation der KI-Modelle. Anthropic hat einen über 150-seitigen Bericht veröffentlicht, in dem der Claude-Entwickler dutzende Fallstudien zum versuchten Missbrauch seiner KI-Modelle darlegt. Das Unternehmen teilt die beschriebenen Aktivitäten in sieben Kategorien ein: Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffenentwicklung und unerlaubte Destillation. Dabei seien jeweils die Claude-Modelle Haiku, Sonnet oder Opus zum Einsatz gekommen – niemals Fable oder Mythos, die strengere Sicherheitsvorkehrungen besitzen.

• Cyberoperationen und automatisierte Hackerangriffe
• Einflussoperationen und politische Falschinformationen
• Überwachung und Betrugsaktivitäten
• Biologischer Missbrauch und konventionelle Waffenentwicklung
• Unerlaubte Destillation der KI-Modelle

Besonders im Bereich der Cyberkriminalität zeigt sich eine grundlegende Veränderung. „Hinter raffinierten Angriffen stecken nicht mehr zwingend raffinierte Angreifer“, fasst Anthropic eine Problematik von KI-gestützten Cyberattacken zusammen. Während noch vor einem Jahr die Komplexität eines Cyberangriffs auf die Akteure dahinter schliessen liess, sei dies nun praktisch nicht mehr möglich. Dabei agiert KI laut Bericht bei Cyberoperationen zunehmend autonom: Anthropic beschreibt etwa das Beispiel einer Hackergruppe, deren KI-Agenten ihre Hacking- und Spionagetools automatisch umbauen und neu einsetzen, wenn ein Sicherheitssystem diese entdeckt.”

Während unabhängige Cyberkriminelle typischerweise auf monetären Gewinn aus sind, haben staatlich unterstützte Akteure meistens das Ziel, die Informationslage zu politischen Themen zu manipulieren. Der Bericht beschreibt neun solcher Kampagnen, die etwa hunderte Social-Media-Profile erstellen, um im grossen Stil politisch motivierte Falschinformationen zu streuen. KI werde dabei etwa eingesetzt, um Inhalte besser auf die gewünschte Zielgruppe anzupassen oder glaubhafte Fake-Profile – mit Bild und biografischem Hintergrund – zu erstellen. Ebenfalls von grosser Tragweite ist der KI-Missbrauch bei der Entwicklung von konventionellen und biologischen Waffen. Einerseits hätten Akteure versucht, mithilfe von Claude Software für Waffensysteme zu entwickeln oder Informationen über Waffen zu sammeln. Andererseits beschreibt Anthropic Fälle, in denen Akteure mit der KI mehr über bestimmte Virenstämme und andere potenzielle biologische Waffen herausfinden wollten. Diese Fälle seien oft besonders schwierig einzuschätzen, da Claude grundsätzlich für biologische Forschung genutzt werden soll – einfach nicht für solche mit bösartigen Absichten. Die raffiniertesten Akteure wüssten dies jedoch und würden daher ihre KI-Anfragen so stellen, dass eine „plausible Abstreitbarkeitbestehe. Dennoch ist es Anthropic laut eigenen Angaben gelungen, solche Operationen aufzuspüren und die entsprechenden Claude-Konten zu sperren.