Nach seinem überraschenden Rücktritt schlägt der ehemalige Anthropic-Forscher Jacob Coxon Alarm: Ohne rasche internationale Regulierung birgt die Entwicklung künstlicher Intelligenz das Risiko einer Menschheitskrise bis zum Ende des Jahrzehnts. Der Experte warnt vor einer unkontrollierten Beschleunigung des technologischen Fortschritts.
Rücktritt und Warnung vor unkontrollierter Superintelligenz
Der Technologieforscher Jacob Coxon hat seinen Abschied von Anthropic auf der Plattform X öffentlich gemacht und schwere Vorwürfe gegen die Branche erhoben. Er postete seine Resignation am Dienstag auf X, in der er schrieb, dass Unternehmen nicht verantwortungsvoll handeln und dass der Wettlauf hin zu sich selbst verbessernden Systemen einer riskanten Wette mit menschlichen Leben gleichkomme. Nach dreijähriger Tätigkeit im Bereich des Pretrainings bei OpenAI und Anthropic zog er die Reißleine, da er das Vorgehen der Unternehmen als unverantwortlich einstuft. Der 27-Jährige kritisierte, dass der Wettlauf hin zu sich selbst verbessernden Superintelligenzen „gambling with our livesgleicht. Ursprünglich hatte er lediglich vor, schlicht zu kündigen, änderte jedoch seine Pläne, weil er wollte, dass sein Rücktritt durch die Verbreitung in den sozialen Medien einen Nutzen erfüllt.
Im Gespräch mit Medien betonte er, dass die gegenwärtigen Standardmodelle zwar ein geringes unmittelbares Risiko darstellen, die Gefahr jedoch von der Eigendynamik ausgeht. Wenn sich Systeme rasant selbst verbessern und eigenständig intelligenter werden, könnte dieser Prozess weitaus schneller ablaufen als bisher angenommen.
Jacob Coxon, former Anthropic researcher, via Fox News führte aus, dass einige Personen sogar von sechs Monaten sprechen und diese Haltung branchenweit geteilt werde, da sich die Menschen im Wesentlichen darüber im Klaren seien, dass die Arbeit, die sie derzeit leisten, bei Ausbleiben einer Verlangsamung bis zum Ende des Jahrzehnts zu einer Machtübernahme durch künstliche Intelligenz führen könnte.
Internationale Regulierung als dringender Ausweg
Trotz der düsteren Aussichten bewertet Coxon die Situation nicht als völlig hoffnungslos. Er erzählte Fox News chief political anchor Bret Baier, dass das Problem „eminently solvable“ sei. Es erfordere jedoch ein sofortiges Umsteuern und entschlossenes Handeln auf globaler Ebene. Er betonte, dass der Druck aus der Fachwelt groß ist und führende Akteure keineswegs bloß Lippenbekenntnisse abgeben, sondern es sich keineswegs um einen bloßen Marketing-Stunt handelt.”
In einem Interview mit Anderson Cooper erklärte er gegenüber dem CNN-Host, dass A.-I.-Unternehmen förmlich darum betteln („begging to be regulated“), reguliert zu werden. Die Technologie drohe sich auf internationaler Bühne zu einer Superwaffe in einem unkontrollierten Rüstungswettlauf zu entwickeln, den Coxon als möglicherweise gefährlichste Technologie bezeichnete, die die Menschheit jemals geschaffen hat.”
Interne Bestätigung aus der Forschung
Die Warnungen finden auch innerhalb der betroffenen Firmen Bestätigung. Evan Hubinger, der als Alignment Science Lead bei Anthropic tätig ist, unterstützte die Äußerungen seines ehemaligen Kollegen öffentlich auf X und verwies auf den jüngsten Risk Report des Unternehmens.
Evan Hubinger, Alignment Science Lead bei Anthropic, via X erklärte, Jacob habe hier recht und man glaube wirklich ernsthaft, dass künstliche Intelligenz alle Menschen töten könnte, wobei er persönlich das Risiko für das nächste Jahrzehnt auf über 10 Prozent schätzt und ausführt, dass Anthropic zwar sein Bestes gebe, man jedoch noch keinen Plan zur Lösung des Ausrichtungsproblems für Superintelligenzen habe und sich diesbezüglich auch nicht klar auf dem richtigen Kurs befinde.
Hubinger fügte hinzu, dass die Sorge vor einer Superintelligenz durch rekursive Selbstverbesserung zunimmt, da sich dieser Prozess deutlich schneller vollzieht als zuvor gedacht („happening faster than we thought). Zwar betonte er, dass das Risiko bei heutigen Modellen gering ist, doch fehle ein verlässlicher Plan, um die Ausrichtung einer künftigen Superintelligenz langfristig zu kontrollieren.
Verwandte Artikel
