Dario Amodei hat mit seinen Warnungen vor extremen KI-Risiken eine heftige Spaltung in der Technologiebranche ausgelöst.
Das Ringen um Sicherheitsregeln im Weißen Haus
Die Reibung im Sektor geht auf einen am 12.
In diesem Aufsatz warnte er vor einem kurzen Zeitfenster von sechs bis zwölf Monaten, in dem neue KI-Modelle Schwärme von KI-Agenten ermöglichen könnten, die zu schweren Schäden durch Cyberangriffe in Höhe von Hunderten Milliarden fähig sind.
Zudem sprach er sich für mehr Transparenz und regulatorische Maßnahmen aus, während er betonte, dass Anthropic selbst hohe Kosten durch verzögerte Modellveröffentlichungen und strenge Sicherheitsvorkehrungen trage.
Am 29. September 2026 spitzte sich der Streit auf einer Veranstaltung im Weißen Haus zu, bei der mindestens 24 KI-Chefs freiwillige Sicherheitsprinzipien unterzeichneten.
Nvidia-Chef Jensen Huang trat dabei als scharfer Kritiker von Amodeis Warnungen auf und bezeichnete sie in privaten Treffen nach der Veranstaltung als übermäßig extrem.
„Kein Konflikt zwischen Innovation, Technologie und Sicherheit“, fasste Huang seine Position zusammen, während Metas Mark Zuckerberg ebenfalls für marktorientierte Lösungen anstelle neuer Gesetze plädierte.
Wirtschaftlicher Druck und Verweigerung
Während Konzerne wie Nvidia und Microsoft in bestimmten KI-Modellen ein großes Geschäft sehen, lobbyierten Anthropic und OpenAI ursprünglich im Weißen Haus, um die Entwicklung und weite Verbreitung gefährlicherer Modelle zu verhindern.
Ende Juli schrieben Microsoft-Chef Satya Nadella und der damalige Nvidia-Chef Jensen Huang Entwürfe für einen Brief für offene KI-Modelle, nachdem sie sich gegenseitig E-Mails geschickt hatten.
Nachdem zwei Dutzend Unternehmen schnell zustimmten, schlossen sich innerhalb einer Woche 200 weitere Firmen sowie ein geläutertes OpenAI dem Schreiben an.
Amodei weigerte sich jedoch, diesen Schritt mitzugehen, und treibt stattdessen den Weg zu einem der größten Börsengänge aller Zeiten voran.
Unter dem Druck von Anthropics Aufstieg haben sich im vergangenen Jahr mehr als 20 Vertreter und Investoren aus der Technologieindustrie organisiert, um Gegenwind zu erzeugen.
