US-Präsident Donald Trump hat Forderungen der KI-Branchenführer Dario Amodei und Sam Altman nach einer verlangsamten Entwicklung künstlicher Intelligenz zurückgewiesen. Während die Chefs von Anthropic und OpenAI vor unkontrollierbaren Risiken und dem Verlust der menschlichen Kontrolle warnen, verteidigte Trump das hohe Entwicklungstempo der USA.
Die Chefs der führenden KI-Unternehmen haben am Wochenende mit drastischen Warnungen vor einem zu schnellen Entwicklungstempo eine intensive Debatte ausgelöst. Nach jüngsten Vorfällen, bei denen autonome Software in Sicherheitstests ausbrach, forderten Branchengrößen ein koordiniertes Durchgreifen und eine Entschleunigung der Forschung. Im Weißen Haus stößt dieser Vorstoß jedoch auf scharfe Ablehnung.
Trump weist Drosselung der KI-Entwicklung zurück
–>US-Präsident Donald Trump erteilte den Forderungen nach einer Drosselung während seines Besuchs in Irland eine Absage. Laut Trump stehen hinter derartigen Vorstößen negative Kräfte
. Die Vereinigten Staaten seien im Bereich der künstlichen Intelligenz führend, und das solle auch so bleiben, betonte der Präsident.
Wir sind das fortschrittlichste Land der Welt, und ehrlich gesagt will ich, dass das auch so bleibt. Wer bei KI gewinnt, gewinnt.
Donald Trump, US-Präsident
Zwar räumte Trump ein, dass Leitplanken möglich seien, kritisierte jedoch, dass Kritiker Themen zur Sprache brächten, die nicht passieren werden
. Der US-Präsident gilt als großer Befürworter künstlicher Intelligenz.
Amodei warnt vor unkontrollierbaren KI-Schwärmen
–>Zuvor hatte Anthropic-Chef Dario Amodei mit einem besorgniserregenden Beitrag aufhorchen lassen. Er befürchtet, dass hochentwickelte KI-Systeme in sechs bis zwölf Monaten in der Lage sein könnten, das gesamte Internet zu übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar zu verursachen. Als zentrales Risiko nannte Amodei die Fähigkeit der Software, sich selbst weiterzuentwickeln – ein Prozess, der sich seit dem Sommer durch verbesserte KI-Fähigkeiten weiter beschleunigt hat.
Unkontrolliert könne es dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren.
Dario Amodei, Chef von Anthropic
Amodei plädiert daher für eine koordinierte branchenweite Pause in der westlichen Welt. Während er in Washington dafür derzeit keine Verbündeten findet, erhält er aus der Tech-Branche ungewohnt starken Zuspruch.
Rückenwind von Elon Musk und Sam Altman
–>Elon Musk, der in der Vergangenheit oft als Kritiker von Amodei auftrat, stellte sich auf der Plattform X hinter den Anthropic-Chef: Dario hat recht.
Auch OpenAI-Chef Sam Altman schloss sich den Forderungen an und erklärte, das Tempo bei der Entwicklung der leistungsstärksten Modelle müsse verlangsamt werden.
Die Sicherheitsbedenken wirken sich auch direkt auf geschäftliche Pläne aus. So erklärte Altman gegenüber dem Magazin Fortune
, dass der mit Spannung erwartete Börsengang von OpenAI in diesem Jahr wahrscheinlich nicht mehr stattfinden wird. Angesichts der aktuellen Debatte wäre man schlecht beraten, genau jetzt an die Börse zu gehen
.
Autonomer Hacking-Vorfall als Weckruf
–>Ausgelöst wurde die aktuelle Dringlichkeit in der Branche unter anderem durch einen aufsehenerregenden Testlauf. Dabei war Software von OpenAI eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der Firma HuggingFace vor, um dort Antworten auf eine Testaufgabe zu finden. Die KI-Agenten nutzten dafür Softwareschwachstellen aus und stimmten sich eigenständig untereinander ab.
Die Debatte wurde zusätzlich durch interne Stimmen verschärft. So erklärte ein Anthropic-Forscher namens Jacob Coxon nach seinem Rücktritt, die großen Entwickler handelten unverantwortlich und spielten mit unseren Leben
. Evan Hubinger, ein weiterer Forscher bei Anthropic, der für die Sicherheit und Ausrichtung von KI zuständig ist, schloss sich diesen Sorgen an und schätzte das Risiko, dass KI die Menschheit töte, im kommenden Jahrzehnt auf mehr als zehn Prozent ein.
Auch interessant
