Düsseldorf Vor wenigen Tagen veröffentlichte das Future of Life Institute einen Brief, den prominente Tech-Pioniere wie Tesla-Chef Elon Musk oder Apple-Mitbegründer Steve Wozniak unterzeichneten. Darin fordern sie, dass „alle KI-Labore sofort das Training von KI-Systemen, die leistungsstärker als GPT-4 sind, für sechs Monate unterbrechen“. Als Grund nennen die Unterzeichner ein „tiefgreifendes Risiko für die Gesellschaft und Menschheit“.
Ursache für den Aufschrei der Tech-Visionäre ist, wie sich jetzt herausstellt, ein neues Forschungspapier von Microsoft, das weltweit für Aufsehen bei Experten und Wissenschaftlern im Bereich der Künstlichen Intelligenz (KI) sorgt. „Funken von Künstlicher Genereller Intelligenz“ nennt sich der Report von 14 Forschern, darunter Eric Horvitz, Chefwissenschaftler von Microsoft.
Auf 155 Seiten berichten die Forscher von ihren Erfahrungen und Tests mit dem KI-System GPT-4, das vor wenigen Wochen vom Start-up Open‧AI in Zusammenarbeit mit Microsoft auf den Markt gebracht wurde. „Die Performance von GPT-4 ist bemerkenswert nah am menschlichen Niveau“, heißt es dort.
Damit unterstellen die Forscher GPT-4 eine „Artificial General Intelligence“ (AGI). Das ist seit Jahrzehnten ein geläufiger, bislang jedoch nur theoretisch verwendeter Begriff von KI-Experten. Damit ist gemeint, dass eine KI jede intellektuelle Aufgabe verstehen und meistern kann, zu der auch ein Mensch fähig ist.
„Das ist das erste Forschungspapier, das von AGI berichtet“, sagt Tristan Post, der an der TU München „KI für Innovation und Unternehmertum“ lehrt.
Die Forderung von Musk, eine Pause einzulegen, stößt bei Experten auf ein geteiltes Echo. „Die Idee eines Moratoriums ist generell eine gute Idee“, sagt Philipp Hacker, Professor für Recht und Ethik der digitalen Gesellschaft an der Europa-Universität Viadrina in Frankfurt an der Oder. Allerdings würden sich angesichts der angespannten geopolitischen Situation mit Russland und China kaum alle Länder beteiligen. Auch sei eine wirksame Regulierung in sechs Monaten kaum durchführbar.
„Aus meiner Sicht ist erstaunlich, dass nicht weitergehende oder grundsätzliche Vorschläge zum weltweiten Umgang mit generativen KI-Systemen formuliert werden“, kommentiert Doris Weßels, Professorin für Wirtschaftsinformatik der Fachhochschule Kiel, die Petition. „Wir dürfen und müssen leider vermuten, dass hinter dem offenen Brief auch Partikularinteressen unterschiedlicher Wettbewerber des derzeit führenden Anbieters OpenAI und Microsoft stehen.“
Auch Tesla ist in der KI sehr aktiv
Der schärfste Konkurrent in KI ist Google, das mit seiner Tochter Deepmind die Forschung seit vielen Jahren dominiert. Allerdings ist der Onlinekonzern nicht direkt mit der Petition verbunden. Aber auch Tesla ist sehr aktiv in dem Bereich. Der Elektroautohersteller setzt seit sieben Jahren mehr als jeder andere Branchenkonzern auf KI, die autonome Fahrtechnik ermöglichen soll.
Das Unternehmen betreibt einen der weltweit größten Supercomputer für KI-Anwendungen und hat ein KI-Team, dessen Bedeutung Musk oft hervorhebt. Zuletzt stellte er Igor Babuschkin von Deepmind ein, einen bekannten KI-Forscher und Spezialisten für Sprachmodelle wie GPT.
„Ein sechsmonatiges Moratorium ist eine schreckliche Idee“, sagt Andrew Ng, der 2011 Google Brain gründete, das KI-Labor des Konzerns, und heute das Start-up Landing AI führt. Es würde wichtige Innovationen verhindern in Bildung, Gesundheit oder Lebensmitteln. „Wenn Regierungen aufstrebende Technologien pausieren lassen, nur weil sie sie nicht verstehen, ist das wettbewerbsverzerrend, gibt ein sehr schlechtes Beispiel und ist entsetzliche Innovationspolitik.“
Alter Streit zwischen Altman und Musk
Hinter der Forderung sehen Experten auch eine Fortsetzung der persönlichen Rivalitäten zwischen Sam Altman von OpenAI und Musk. Die beiden Gründer der Stiftung zerstritten sich 2018 über die Ausrichtung der KI-Forschung. Ein Jahr später gründete Altman eine gewinnorientierte Tochter, um die immensen Forschungskosten aufbringen zu können. Damals investierte Microsoft in OpenAI.
„OpenAI ist als Open-Source und allgemeinnützige Firma gegründet worden“, sagte Musk vor wenigen Wochen. „Aber jetzt ist es ein geschlossenes, gewinnmaximierendes Unternehmen geworden, das faktisch von Microsoft kontrolliert wird.“
Die Forderung nach einer robusten Regulierung wird man bei der Europäischen Union (EU) vermutlich als Bestätigung sehen. Der Staatenbund arbeitet mit dem AI Act an einer Verordnung, die einen Rahmen für die Entwicklung und den Einsatz der Technologie vorgeben soll – die Initiatoren hoffen, dass ein globaler „Goldstandard“ entsteht. Kritiker sehen allerdings mehr bürokratische Hürden.
Die Verhandlungen in Brüssel laufen, einige Grundzüge zeichnen sich bereits ab. So sieht der AI Act eine Einteilung in Risikoklassen vor – je höher das Risiko einer Anwendung ist, desto höher die Auflagen. Für die Bonitätssysteme von Banken oder Operationsroboter in Kliniken beispielsweise dürften besonders strenge Vorgaben gelten.
Lesen Sie mehr zu Künstlicher Intelligenz
Bei solchen Hochrisikoanwendungen müssen Firmen künftig Transparenzpflichten gegenüber Nutzern erfüllen, eine technische Dokumentation mit detaillierten Angaben zu den verwendeten Daten erstellen sowie ein Risikomanagement pflegen. Zudem sollen sie verpflichtet werden, ihr Programm in einer Datenbank der EU einzutragen.
Viele Fragen sind noch offen. Zum Beispiel, wie die neue Generation Künstlicher Intelligenz zu behandeln ist, die auf Modellen wie GPT-4 beruht. Oder woher die zahlreichen Fachleute kommen sollen, die es für die Begutachtung von KI-Systemen braucht. Eines zeigt das 2021 begonnene Gesetzgebungsverfahren aber: Regulierung ist langwierig – sechs Monate reichen dafür kaum aus.
„Die Erfahrung zeigt: Technologischer Wandel lässt sich nicht aufhalten“, sagt KI-Experte Post über die Forderung von Musk. „Die Petition ist daher eher als ein Appell zu verstehen: Seid vorsichtig.“
Mehr: Wie gefährlich ist KI? Der Vorschlag von Musk zeigt vor allem Ratlosigkeit
