Mehrere prominente KI-Forscher haben ihre Positionen bei Unternehmen wie OpenAI, Anthropic und Google DeepMind aus Sorge vor unkontrollierbaren Risiken verlassen. Sie warnen vor Systemen, die menschliche Fähigkeiten in naher Zukunft in allen Bereichen übertreffen könnten, und fordern schärfere staatliche Kontrollen sowie sofortige Entschleunigungen.
Die Debatte über die Sicherheitsrisiken künstlicher Intelligenz hat eine neue Welle von Abgängen und Warnungen aus den führenden Laboren ausgelöst. Ehemalige Spitzenforscher und Brancheninsider werfen den großen Technologiekonzernen vor, mit Forderungen nach oberflächlicher Regulierung lediglich den Anchein von Kontrolle zu erwecken, während die Entwicklung ungebremst voranschreitet.
Vorwurf des «Safety Washing» und Forderung nach strikter staatlicher Kontrolle
Daniel Kokotajlo, ein ehemaliger Forscher bei OpenAI und heutiger Leiter des «AI Futures Project» im kalifornischen Berkeley, wirft den führenden US-Unternehmen vor, sogenanntes «Safety Washing» zu betreiben.
Angesichts dieser Entwicklung fordert Kokotajlo drastische Einschnitte. Wir müssen die KI-Entwicklung im Wesentlichen abschalten
, warnte der Forscher gegenüber Medien. Die Techindustrie plane eine Automatisierung der KI-Forschung, wodurch die Menschheit einen kritischen Horizont überschreite. Wenn eine künstliche Intelligenz eigenständig die nächste Generation trainiere, beschleunige sich der Fortschritt so massiv, dass Fehler kaum noch bemerkt werden könnten. Der Menschheit fehle gegenwärtig das Verständnis, um diese Technologie präzise zu regulieren. Erst wenn ein sicherer Weg zur Superintelligenz gefunden sei, dürfe fortgefahren werden – und das nur bei vollständiger Transparenz, einer breiteren Machtverteilung und der Installation eines Notabschalters, des sogenannten «Kill-Switch».
Ehemalige Google-DeepMind-Forscher schlagen Alarm
Die Bedenken werden durch weitere prominente Abgänge verstärkt. Bilal Chunghtai, der zuvor als Sicherheits- und Alignment-Forscher am AGI-Sicherheitsbereich von Google DeepMind arbeitete, hat seinen Abschied öffentlich gemacht und seine Motive über soziale Medien geteilt, was zu großer Resonanz führte.
Chunghtai verwies darauf, dass Systeme vor wenigen Jahren noch weitgehend unbrauchbar waren, während vier Jahre später bereits autonome Agentenschwärme von OpenAI jahrzehntealte mathematische Probleme lösen und sich eigenständig Zugang zu Drittanbietern wie der Plattform HuggingFace verschafft haben – und das gegen jeden geäußerten Willen. Das Risiko bestehe darin, dass diese KIs nicht das tun, was Menschen von ihnen verlangen, und im schlimmsten Fall die Kontrolle gänzlich entgleitet.
Die Welle von Rücktritten im Branchenumfeld unterstrichen auch frühere Personalwechsel. So hatte zuvor Jacob Coxon, ein Vortrainierungsforscher mit Stationen bei Anthropic und OpenAI, seinen Posten bei Anthropic geräumt, weil er unzureichende Maßnahmen gegen potenziell existenzbedrohende Konsequenzen sah. Untermauert wurde dieser Schritt durch ein vielbeachtetes Memorandum des Anthropic-Chefs Dario Amodei, das unter anderem von Sam Altman und Elon Musk mitgetragen wurde und ebenfalls zu einer Verlangsamung der Entwicklung aufrief.
Politische Hürden und der globale Wettlauf um die Vormachtstellung
Während führende Labore zwar den Wunsch äußern, die Kontrolle über ihre eigenen Schöpfungen zu behalten, erweist sich die politische Umsetzung als zentrale Hürde. Er bezeichnete entsprechende Warnungen und Ängste von Branchengrößen als unbegründet.
Unterstützung erhält diese Sichtweise unter anderem von Nvidia-Chef Jensen Huang, der argumentiert, dass künstliche Intelligenz keinen Schaden anrichten, sondern ausschließlich Vorteile für die USA bringen werde. Ob die internen Sicherheitsbedenken der Forscher und die vereinzelten Rufe nach einer Drosselung des Tempos gegen diesen politischen und wirtschaftlichen Druck ausreichen werden, bleibt angesichts der rasanten technologischen Dynamik ungewiss.
Auch interessant
