Während Anthropic-Mitarbeiter und OpenAI-Forscher vor Biowaffen-Gefahren und Kontrollverlust warnen, weisen externe Kritiker und Ingenieure weitreichende Welteroberungsszenarien als unwissenschaftlich oder realitätsfern zurück.
Debatte um Internet-Übernahme und KI-Risiken bei Anthropic
Auslöser waren interne Einschätzungen von Mitarbeitern des US-Unternehmens Anthropic, die öffentlich auf extrem hohe Aussterbe- und Schadensrisiken hinwiesen. So erklärte Anthropic-Chef Dario Amodei am 12. September 2026, eine KI-Schwarm-Infrastruktur könnte innerhalb von sechs bis zwölf Monaten in der Lage sein, das gesamte Internet mit einem persistenten Botnet zu übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar anzurichten.
Unterstützt wurden solche Warnungen von weiteren Unternehmensvertretern. Evan Hubinger, Alignment Science Lead bei Anthropic, bezifferte am 9. September 2026 die Wahrscheinlichkeit einer von künstlicher Intelligenz ausgelösten Menschheitsauslöschung im kommenden Jahrzehnt auf mehr als zehn Prozent. Parallel dazu sorgte der Rücktritt des Anthropic-Mitarbeiters Jacob Coxon für Aufsehen, der auf der Plattform X betonte, die Entwickler glaubten ernsthaft an diese Gefahren und es handele sich dabei um keinen Marketing-Gag, wie The Conversation berichtete.
Kritik von externen Experten an unwissenschaftlichen Untergangsprognosen
Außerhalb der Firmenzentralen stoßen derartige Vorhersagen auf heftigen Widerspruch. Gary Marcus, ein KI-Skeptiker und emeritierter Professor an der New York University, bezeichnete Amodei-Prognosen als unsinnig. Laut Marcus und seinen Kollegen ist es äußerst unklar, wie das ohne extreme Fahrlässigkeit seitens der Labore selbst passieren soll. Er verwies dabei auf eine Bewertung des britischen Sicherheitsinstituts UK AI Security Institute, wonach das Anthropic-Modell Mythos lediglich autonome Angriffe auf kleine und schwach verteidigte Systeme ausführen kann.
Auch Heidy Khlaaf, Chefwissenschaftlerin des Forschungszentrums AI Now Institute, kritisierte die von Forschern genannten Prozentzahlen als wissenschaftlich unhaltbar. Diese Claims sind weder falsifizierbar noch verifizierbar, was sie von Natur aus unwissenschaftlich macht, sagte Khlaaf laut The Guardian über die formulierten Aussterbe-Wahrscheinlichkeiten.
Niels Rogge, Ingenieur bei Hugging Face – das Ziel von OpenAI-Agenten geworden war –, nannte die Behauptung einer drohenden Internet-Übernahme schlicht bizarren Unsinn. Ähnlich äußerte sich Professor Alan Woodward von der University of Surrey, der betonte, dass derartige Botnets im heterogenen Internet schnell ins Stocken geraten und der Mensch die alleinige Verantwortung trägt.
Chatbots bewerten ihre eigenen Bedrohungsszenarien
Um die Debatte aus einer maschinellen Perspektive zu beleuchten, konfrontierten Redakteure vier generative KI-Modelle – ChatGPT von OpenAI, Gemini von Google, Claude von Anthropic und Grok von SpaceXAI – mit der Frage, wie ein weltweiter Untergang durch Künstliche Intelligenz ablaufen könnte. Alle vier Systeme betonten übereinstimmend, dass der gezielte Missbrauch von Technologie durch den Menschen ein weitaus größeres und unmittelbareres Risiko darstelle als die KI selbst, wie Business Insider Deutschland berichtete.
Sowohl ChatGPT als auch Gemini bewerteten das klassische Science-Fiction-Szenario von bewussten „Killerrobotern“ im Stil von „Terminatorals die am wenigsten plausible Erzählung. Gemini hob hervor, dass Intelligenz nicht gleichbedeutend mit Böswilligkeit sei und kritische Infrastrukturen strikt kontrolliert blieben.
”
Regulatorische Reaktionen im US-Kongress und im britischen Parlament
Die anhaltenden Warnungen aus der Industrie und die Veröffentlichung extremer Risikoszenarien haben den Druck auf Gesetzgeber in den USA und Europa verstärkt. Während die Europäische Union der einzige Ort mit dedizierter KI-Regulierung ist, stehen die Vereinigten Staaten und Großbritannien vor der Herausforderung, adäquate Standards zu finden, ohne die Innovation zu ersticken.
Beobachter wie Kate Devlin, Professorin für Künstliche Intelligenz und Gesellschaft, weisen darauf hin, dass Tech-Giganten strenge Regulierung durchaus begrüßen könnten, da diese großen Konzerne über ausreichende finanzielle Mittel verfügen, um die Compliance-Kosten zu tragen. Kleinere Wettbewerber könnten dadurch vom Markt verdrängt werden, wodurch die Marktführer ihre dominante Position weiter ausbauen würden, so die Analyse in The Conversation.
Verwandte Artikel
