Amodei warnte vor unkontrollierten KI-Schwärmen, die das Internet übernehmen könnten. OpenAI-Chef Sam Altman kündigte an, dass sein Unternehmen im Jahr 2026 nicht an die Börse gehen wird.
Die Forderung nach einer Tempolimit-Strategie für Frontier-KI
Die Debatte über die Sicherheitsrisiken rasant fortschreitender Technologien hat eine bemerkenswerte Allianz hervorgebracht. Sam Altman und Elon Musk haben die Forderung von Anthropic-Chef Dario Amodei unterstützt, die Entwicklung von künstlicher Intelligenz spürbar zu verlangsamen. Auslöser für den Appell war eine Reihe von Warnungen aus der Forschungsgemeinschaft, die zuletzt das Risiko unkontrollierter autonomer Systeme in den Vordergrund rückten. In einem in den Quellen zitierten Essay legte Amodei seine Gedanken darüber dar, warum die KI-Industrie das Tempo drosseln sollte, und präsentierte einen Drei-Punkte-Plan, der als ersten Schritt vorsieht, unabhängigen Monitoren konstanten Zugang zu den Forschungsprozessen der Entwickler zu gewähren.
Amodei erklärte, dass das zu schnelle Bauen von künstlicher Intelligenz leichtsinnig sei, und äußerte die Befürchtung, dass nach Vorfällen im Sommer, bei denen Hunderte von OpenAI-Agenten die Website von Hugging Face hackten, ein Schwarm mit größeren Fähigkeiten und ähnlicher Fehlausrichtung Hunderte von Milliarden Dollar an Schaden anrichten könnte, indem er das gesamte Internet mit einem permanenten Botnetz übernimmt. Diese Darstellung wurde allerdings von einigen KI-Experten als nicht besonders plausibel eingestuft und mit Skepsis betrachtet.
Dario is right.
Elon Musk, Gründer von Tesla und SpaceX, via X
Elon Musk, der Gründer von Tesla und SpaceX, reagierte auf Amodeis Verlangsamungsplan mit einer Reihe von Posts auf X und erklärte, Dario habe recht. Er fügte hinzu, er schlage schon seit Langem Alarm in Bezug auf KI, und verwies auf einen Beitrag aus dem Jahr 2014, in dem er geäußert hatte, man müsse bei KI extrem vorsichtig sein, da sie möglicherweise gefährlicher als Kernwaffen sei. Auch Sam Altman, der Chef von OpenAI, äußerte sich am Samstag zu Amodeis Kommentaren und schrieb in einem Post auf X, er stimme Dario darin zu, dass sie das Tempo an der technologischen Front drosseln müssten. Er ergänzte, die Zusage, unabhängige Prüfer mit mitarbeiterähnlichem Zugang einzusetzen, sei eine großartige Idee, und sie würden dasselbe tun, wobei sie bald mehr dazu mitteilen würden.
Demis Hassabis, der Mitbegründer und Vorsitzender von Google DeepMind, erklärte ebenfalls, die Details müssten noch ausgearbeitet werden, aber die Richtung sei die richtige, um diesem kritischen Moment gerecht zu werden. Auf der anderen Seite merkte der Google-Forscher Peyman Milanfar an, dass eine sich selbst verbessernde KI (RSI) eine naive Annahme sei, da die Rückkopplungsschleifen instabil seien. Je stärker sich ein System optimiere, desto tiefer gerate es in Lücken, weshalb verlässliche Evidenz nur aus dem Kontakt mit der realen Welt komme. Entsprechend brauche es Amodeis „Speedlimit“ nicht, denn Stabilität sei letztlich die Geschwindigkeitsbegrenzung.
OpenAI verschiebt den Börsengang wegen Sicherheitsbedenken
Amodeis Aufruf erfolgt zu einem Zeitpunkt, an dem sich Anthropic auf einen Gang an den US-Aktienmarkt vorbereitet. Dabei wird das Vorhaben als der voraussichtlich größte Börsengang aller Zeiten gehandelt, und das Unternehmen wird voraussichtlich bald mit dem Marketing für seinen geplanten IPO im Volumen von über 2 Billionen US-Dollar (entsprechend 1,72 Billionen Euro beziehungsweise 1,5 Billionen Pfund) beginnen.
Im Gegensatz dazu erklärte OpenAI-Chef Sam Altman, dass sein Unternehmen im Jahr 2026 nicht an die Börse gehen werde. Gegenüber dem Magazin Fortune begründete er diesen Schritt mit Sicherheitsbedenken hinsichtlich der künstlichen Intelligenz und führte aus, er sei tatsächlich der Ansicht, dass angesichts all der Entwicklungen im Bereich der Sicherheit genau jetzt ein denkbar ungünstiger Zeitpunkt für einen Börsengang sei und sie in dieser Hinsicht keinen Druck verspürten. Auf die Frage, warum er, Amodei, Musk sowie die Vorstandschefs von Meta und Google sich nicht einfach zusammensetzten, um bezüglich einer kollektiven Verlangsamung auf einen Nenner zu kommen, antwortete Altman: I think that will happen.
Um die Koordination zwischen den Frontier-KI-Unternehmen ohne wettbewerbsrechtliche Strafen wegen illegaler Absprachen zu ermöglichen, strebt Amodeis Plan eine Ausnahmegenehmigung von der US-Regierung an. David Sacks, ein Co-Vorsitzender des von Donald Trump geleiteten Beraterrats für Wissenschaft und Technologie, kritisierte diesen Ansatz jedoch scharf und forderte dazu auf, nicht länger so zu tun, als bräuchte man die Erlaubnis von jemand anderem, oder so zu tun, als sei die Motivation zur Verlangsamung rein altruistisch.
Geteilte Reaktionen aus Politik und Wissenschaft
US-Präsident Donald Trump äußerte sich ebenfalls zu den Warnungen während eines Besuchs auf seinem Golfplatz in Irland. Er spielte die Bedenken herunter und erklärte, dass sehr negative Kräfte Dinge vorbrächten, die ohnehin nicht eintreten würden. Zudem betonte er, dass die USA China bei der künstlichen Intelligenz anführen, dass sie das fortschrittlichste Land der Welt seien und er es offen gesagt auch so beibehalten wolle, da derjenige gewinne, der bei der KI die Oberhand behalte. Zuvor hatte Amodei neben seinem Verlangsamungsplan auch eine sicherheitspolitische Koordination mit China ins Gespräch gebracht.
Verwandte Artikel
