Technik und Wissenschaft

„Große Risiken für die Menschheit“: Elon Musk und Experten sorgen sich um künstliche Intelligenz

Elon Musk und Hunderte von Experten aus der ganzen Welt haben am Mittwoch einen Aufruf zu einer sechsmonatigen Pause bei der Erforschung künstlicher Intelligenzen unterzeichnet, die leistungsfähiger sind als ChatGPT 4, das Mitte März eingeführte OpenAI-Modell, unter Berufung auf „große Risiken für die Menschheit“.

In dieser auf futureoflife.org veröffentlichten Petition fordern sie ein Moratorium, bis Sicherheitssysteme vorhanden sind, darunter neue dedizierte Regulierungsbehörden, Überwachung von KI-Systemen, Techniken zur Unterscheidung des echten Künstlichen und Institutionen, die in der Lage sind, mit dem „dramatischen wirtschaftlichen und politischen Störung (insbesondere der Demokratie), die KI verursachen wird“.

Die Petition bringt Personen zusammen, die bereits öffentlich ihre Befürchtungen vor einer außer Kontrolle geratenen KI geäußert haben, die den Menschen übertreffen würde, darunter Elon Musk, Eigentümer von Twitter und Gründer von SpaceX und Tesla, und Yuval Noah Harari, der Autor von „Sapiens“. .

Auch ein Unterzeichner, Yoshua Bengio, kanadischer Pionier der KI, äußerte seine Besorgnis während einer virtuellen Pressekonferenz in Montreal: „Ich glaube nicht, dass die Gesellschaft bereit ist, sich dieser Macht zu stellen, der potenziellen Manipulation beispielsweise der Bevölkerung, die Demokratien gefährden könnte “. “Wir müssen uns daher die Zeit nehmen, diesen laufenden kommerziellen Wettlauf zu verlangsamen”, fügte er hinzu und forderte eine Diskussion dieser Fragen auf globaler Ebene, “wie wir es bei Energie und Atomwaffen getan haben”.

„Braucht Zeit, sich anzupassen“

Sam Altman, Chef von OpenAI, Designer von chatGPT, gab selbst zu, „ein wenig Angst“ vor seiner Kreation zu haben, wenn sie für „groß angelegte Desinformation oder Cyberangriffe“ verwendet würde. „Die Gesellschaft braucht Zeit, um sich anzupassen“, sagte er Mitte März gegenüber ABCNews.

“In den letzten Monaten haben sich KI-Labore in einen unkontrollierten Wettlauf verwickelt, um immer leistungsfähigere digitale Gehirne zu entwickeln und einzusetzen, die niemand – nicht einmal ihre Schöpfer – zuverlässig verstehen, vorhersagen oder kontrollieren können.” -they.

Lesen Sie auch Zuckerberg kündigte die Schaffung einer humanoiden KI an, die schlussfolgern kann

„Sollen wir zulassen, dass die Maschinen unsere Informationskanäle mit Propaganda und Lügen fluten? Sollten wir alle Jobs automatisieren, einschließlich der lohnenden? Müssen wir nicht-menschliche Köpfe entwickeln, die eines Tages zahlreicher, klüger und veraltet sein und uns ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Diese Entscheidungen sollten nicht an nicht gewählte Technologieführer delegiert werden“, schlussfolgern sie.

Zu den Unterzeichnern gehören auch Apple-Mitbegründer Steve Wozniak, Mitglieder des DeepMind-KI-Labors von Google, Emad Mostaque, der Chef von OpenAI-Konkurrenten für Stabilitäts-KI, sowie KI-Experten und amerikanische Akademiker, leitende Ingenieure von Microsoft, eine OpenAI-Verbündete-Gruppe.