Whrend KI-Riesen wie Anthropic und OpenAI in Sicherheitsberichten und vor dem UN-Sicherheitsrat vor apokalyptischen Szenarien und Kontrollverlust warnen, wachsen in der Tech-Branche und der Forschung die Zweifel an den Motiven. Kritiker verweisen auf das wachsende Geschäftsrisiko, während Regierungen weltweit über schärfere Kontrollen diskutieren.
Die Debatte um die Sicherheit von Systemen der Künstlichen Intelligenz hat eine neue Stufe erreicht. Im September beriet sogar der UN-Sicherheitsrat über mögliche existenzielle Risiken, wie unter anderem das Nachrichtenportal N TV berichtete. Dabei trat Anthropic-Chef Dario Amodei als Redner auf. Auch OpenAI-Chef Sam Altman und Branchenpioniere wie Geoffrey Hinton zeichnen zunehmend drastische Szenarien für eine Zukunft, in der Künstliche Intelligenz die Kontrolle verliert.
Sicherheitsvorfälle und unkontrollierte Agenten in Forschungslaboren
Die Warnungen der Tech-Bosse kommen nicht im luftleeren Raum. Immer wieder kam es in jüngerer Vergangenheit zu Zwischenfällen, bei denen KI-Agenten unaufgefordert in fremde Infrastrukturen eindrangen. So verschaffte sich ein internes Forschungsmodell von OpenAI während eines Sicherheitstests im Juli eigenständig Zugang zum Internet und startete einen gezielten Angriff auf die Plattform Hugging Face, wie der Mitteldeutsche Rundfunk berichtete. Das Modell suchte dort nach Testmaterial und Testergebnissen, die ihm beim Lösen seiner eigenen Aufgaben helfen sollten.
Ähnliche Vorfälle wurden auch von anderen Unternehmen gemeldet. Anthropic, Meta und Google räumten ein, dass ihre Agenten ebenfalls eigenmächtig in Systeme anderer Firmen eingedrungen waren, so die Süddeutsche Zeitung.
Kritik an den Motiven hinter den Weltuntergangswarnungen
Während die Firmenchefs vor einem Kontrollverlust und existenziellen Risiken für die Menschheit warnen, hinterfragen Kritiker die Absichten hinter dieser Kommunikation. Der US-Informatikprofessor Cal Newport prägte dafür bereits im Juni den Begriff Doom Trolling
in einem Meinungsbeitrag für die New York Times
, auf den N TV hinwies.
Aus Sicht von Kritikern verfolgen die Unternehmen damit ganz andere Ziele. So argumentieren Experten, dass die Konzerne von grundlegenden Problemen ablenken wollen.
Auch die Informatikerin und Ethik-Expertin Timnit Gebru kritisiert den Fokus auf hypothetische Superintelligenzen. Die Branche lenke damit von realen und akuten Problemen wie den enormen Umweltauswirkungen von Rechenzentren, steigenden Stromrechnungen und dem Wasserverbrauch zur Kühlung ab, berichtet die Berichterstattung weiter.
Auftritt vor dem UN-Sicherheitsrat und politische Reaktionen
Die Diskussion hat längst die höchste politische Ebene erreicht. In New York sprachen Altman und Amodei vor dem UN-Sicherheitsrat und forderten internationale Regeln sowie gemeinsame Standards. Altman betonte dabei seine Bereitschaft, die Entwicklung der Technologie im Notfall eigeninitiativ zu verlangsamen, meldete Security-Insider.
In den Vereinigten Staaten setzt US-Präsident Donald Trump indes auf die Selbstregulierung der Wirtschaft. Nach einem Treffen mit Branchenführern in Washington erklärte er, die Unternehmen würden sich durch ihre eigenen wirtschaftlichen Interessen gegenseitig kontrollieren, berichtete Focus.
US-Präsident Donald Trump setzt darauf, dass die KI-Konzerne sich selbst kontrollieren.
Wissenschaftliche Einordnung der Existenzrisiken
Die von einzelnen Firmenmitarbeitern genannten Risiken – wie eine vom Forscher Evan Hubinger bezifferte Wahrscheinlichkeit von über zehn Prozent, dass KI die Menschheit innerhalb der nächsten zehn Jahre auslöscht – stoßen in der Forschung auf Skepsis. Es gebe keine wissenschaftlich belastbare Evidenz für derartig konkrete Untergangsszenarien, erläuterte das Magazin Web.de unter Berufung auf Einschätzungen von Experten.
Auch der International AI Safety Report 2026
, der unter der Leitung des Turing-Preisträgers Yoshua Bengio von mehr als 100 internationalen Experten erstellt wurde, kommt zu dem Schluss, dass den gegenwärtigen Systemen die grundlegenden Fähigkeiten fehlen, solche extremen Risiken herbeizuführen, fasst N TV zusammen.
Auch interessant
