Der „Nebel des Krieges“ der KI – Der Atlantik

Früher in diesem Jahr, Der Atlantik veröffentlichte eine Geschichte von Gary Marcus, einem bekannten KI-Experten, der sich sowohl in seinem Substack-Newsletter als auch vor dem Senat für eine Regulierung der Technologie eingesetzt hat. (Marcus, ein Kognitionswissenschaftler und Unternehmer, hat selbst KI-Unternehmen gegründet und erwägt die Gründung eines weiteren.) Marcus argumentierte, dass „dies ein Moment enormer Gefahr ist“ und dass wir auf eine „Informationssphärenkatastrophe zusteuern, in der …“ Schlechte Akteure nutzen große Sprachmodelle als Waffe und verteilen ihre unrechtmäßig erworbenen Gewinne durch Armeen immer ausgefeilterer Bots.“

Angesichts der jüngsten Ereignisse war ich daran interessiert, mit Marcus Kontakt aufzunehmen. In den letzten sechs Wochen haben wir eine Durchführungsverordnung der Biden-Regierung gesehen, die sich auf die KI-Aufsicht konzentriert; Chaos beim einflussreichen Unternehmen OpenAI; und diesen Mittwoch die Veröffentlichung von Gemini, einem GPT-Konkurrenten von Google. Was wir bisher noch nicht gesehen haben, ist eine totale Katastrophe, vor der Marcus und andere gewarnt haben. Vielleicht zeichnet es sich am Horizont ab – einige Experten machen sich Sorgen über die destruktive Rolle, die KI bei der Wahl 2024 spielen könnte, während andere glauben, dass wir kurz davor stehen, fortschrittliche KI-Modelle zu entwickeln, die „unerwartete und gefährliche Fähigkeiten“ erlangen könnten, wie es meine Kollegin Karen Hao getan hat beschrieben. Aber vielleicht sind Ängste vor existenziellen Risiken zu einer Art KI-Hype geworden, der verständlich ist, aber unwahrscheinlich ist. Meine eigenen Meinungen scheinen sich von Tag zu Tag zu ändern.

Marcus und ich haben Anfang dieser Woche über all das gesprochen. Lesen Sie unten unser Gespräch, das aus Gründen der Länge und Klarheit bearbeitet wurde.

— Damon Beres, Chefredakteur

„Keine Ahnung, was los ist“

Damon Beres: Deine Geschichte für Der Atlantik wurde im März veröffentlicht, was gefühlt extrem lange her ist. Wie ist es gealtert? Wie hat sich Ihr Denken verändert?

Gary Marcus: Die Kernthemen, die mich beschäftigten, als ich diesen Artikel schrieb, sind immer noch sehr ernste Probleme. Große Sprachmodelle haben dieses „Halluzinations“-Problem. Noch heute bekomme ich E-Mails von Leuten, die die Halluzinationen beschreiben, die sie bei den neuesten Modellen beobachten. Wenn man mit diesen Systemen etwas produziert, weiß man einfach nie, was man bekommt. Das ist ein Problem, das sich wirklich nicht geändert hat.

Ich war damals sehr besorgt, dass schlechte Akteure in diese Systeme gelangen und absichtlich Fehlinformationen erzeugen würden, weil diese Systeme nicht intelligent genug sind, um zu erkennen, wann sie missbraucht werden. Und eine der größten Bedenken des Artikels besteht darin, dass die Wahlen im Jahr 2024 beeinträchtigt werden könnten. Das ist immer noch eine sehr vernünftige Erwartung.

Erledigt: Wie stehen Sie zur Verordnung zur KI?

Marcus: Sie haben innerhalb einiger Einschränkungen ihr Bestes gegeben. Die Exekutive erlässt keine Gesetze. Der Orden hat nicht wirklich Zähne.

Es gab einige gute Vorschläge: die Forderung nach einer Art „Preflight“-Prüfung oder so etwas wie einem FDA-Zulassungsverfahren, um sicherzustellen, dass KI sicher ist, bevor sie in sehr großem Maßstab eingesetzt wird, und sie anschließend zu prüfen. Dies sind kritische Dinge, die noch nicht erforderlich sind. Eine andere Sache, die ich wirklich gerne sehen würde, wäre, dass unabhängige Wissenschaftler hier in einer Art Peer-Review-Methode Teil des Kreislaufs sind, um sicherzustellen, dass die Dinge auf dem Laufenden bleiben.

Sie können sich die Metapher der Büchse der Pandora vorstellen. Es gibt Büchsen der Pandora, Plural. Eine dieser Boxen ist bereits geöffnet. Es gibt andere Kisten, mit denen herumgespielt wird und die sich versehentlich öffnen könnten. Ein Teil davon dreht sich darum, wie man das Zeug eindämmen kann, das bereits da draußen ist, und ein Teil davon dreht sich um das, was noch kommt. GPT-4 ist eine Generalprobe für zukünftige Formen der KI, die möglicherweise viel ausgefeilter sind. GPT-4 ist eigentlich nicht so zuverlässig; Wir werden zu anderen Formen der KI kommen, die in der Lage sein werden, die Welt zu begründen und zu verstehen. Wir müssen zusammenhalten, bevor diese Dinge ans Licht kommen, nicht danach. Geduld ist hier keine gute Strategie.

Erledigt: Gleichzeitig haben Sie anlässlich der Veröffentlichung von Gemini geschrieben, dass die Möglichkeit besteht, dass sich das Modell auf einem Plateau befindet – dass es trotz des offensichtlichen und starken Wunsches nach einem GPT-5 noch nicht entstanden ist. Welche Veränderung wird Ihrer Meinung nach realistischerweise kommen?

Marcus: Generative KI ist nicht alles, was mit KI zu tun hat. Es sind die Sachen, die gerade beliebt sind. Es könnte sein, dass die generative KI ein Plateau erreicht hat oder kurz davor steht. Google musste beliebig viel Geld ausgeben, und Gemini ist nicht beliebig besser als GPT-4. Das ist interessant. Warum haben sie es nicht zerschlagen? Das liegt wahrscheinlich daran, dass sie es nicht können. Google hätte 40 Milliarden Dollar ausgeben können, um OpenAI in die Luft zu jagen, aber ich glaube, sie wussten nicht, was sie mit 40 Milliarden Dollar machen könnten, die so viel besser wären.

Das bedeutet jedoch nicht, dass es keine weiteren Fortschritte geben wird. Das bedeutet, dass wir im Moment nicht wissen, wie wir es machen sollen. Die Wissenschaft kann in das eintreten, was Stephen Jay Gould „unterbrochene Gleichgewichte“ nannte, in Phasen und Anläufen. KI stößt noch lange nicht an ihre logischen Grenzen. In fünfzehn Jahren werden wir die Technologie des Jahres 2023 so betrachten, wie ich die Flip-Phones von Motorola sehe.

Erledigt: Wie schafft man ein Gesetz zum Schutz der Menschen, wenn wir von hier aus noch nicht einmal wissen, wie die Technologie aussieht?

Marcus: Eine Sache, die ich bevorzuge, sind sowohl nationale als auch globale KI-Agenturen, die schneller handeln können als der Gesetzgeber. Der Senat war bei seiner Veröffentlichung nicht darauf ausgelegt, zwischen GPT-4 und GPT-5 zu unterscheiden. Sie möchten nicht einen ganzen Prozess durchlaufen, bei dem sich Repräsentantenhaus und Senat auf etwas einigen, um damit umzugehen. Wir brauchen eine nationale Agentur mit der Macht, die Dinge im Laufe der Zeit anzupassen.

Gibt es ein Kriterium, anhand dessen Sie die gefährlichsten Modelle unterscheiden, sie am meisten regulieren und nicht Machen Sie das bei weniger gefährlichen Modellen? Was auch immer dieses Kriterium ist, es wird sich wahrscheinlich im Laufe der Zeit ändern. Sie möchten wirklich, dass eine Gruppe von Wissenschaftlern das herausarbeitet und es regelmäßig aktualisiert; Sie wollen nicht, dass eine Gruppe von Senatoren das klärt – nichts für ungut. Ihnen fehlt einfach die Ausbildung oder der Prozess dafür.

KI wird genauso wichtig werden wie jedes andere Amt auf Kabinettsebene, weil sie so allgegenwärtig ist. Es sollte ein KI-Büro auf Kabinettsebene geben. Es war schwer, anderen Behörden wie der Heimatschutzbehörde den Rücken zu kehren. Ich glaube nicht, dass Washington aufgrund der vielen Treffen, die ich dort hatte, Lust darauf hat. Aber das müssen sie wirklich tun.

Auf globaler Ebene, egal ob Teil der Vereinten Nationen oder unabhängig, brauchen wir etwas, das sich mit Themen befasst, die von Gerechtigkeit bis hin zu Sicherheit reichen. Wir müssen Verfahren für den Informationsaustausch zwischen Ländern, Vorfalldatenbanken und ähnliches entwickeln.

Erledigt: Schon vor dem Boom der generativen KI gab es schon seit vielen Jahren schädliche KI-Produkte. Social-Media-Algorithmen fördern schlechte Inhalte; Es gibt Gesichtserkennungsprodukte, die unethisch wirken oder von den Strafverfolgungsbehörden missbraucht werden. Gibt es einen großen Unterschied zwischen den potenziellen Gefahren generativer KI und der bereits existierenden KI?

Marcus: Die intellektuelle Gemeinschaft hat derzeit ein echtes Problem. Es gibt Leute, die über kurzfristige und langfristige Risiken streiten, als sei das eine wichtiger als das andere. Eigentlich sind sie alle wichtig. Stellen Sie sich vor, Menschen, die an Autounfällen gearbeitet haben, geraten in einen Streit mit Menschen, die versuchen, Krebs zu heilen.

Generative KI verschlimmert tatsächlich viele der kurzfristigen Probleme und macht einige der langfristigen Probleme möglich, die sonst vielleicht nicht existieren würden. Das größte Problem der generativen KI besteht darin, dass es sich um eine Black Box handelt. Bei einigen älteren Techniken handelte es sich um Black Boxes, bei vielen jedoch nicht, sodass man tatsächlich herausfinden konnte, was die Technologie tat, oder eine fundierte Vermutung darüber anstellen konnte, ob sie beispielsweise voreingenommen war. Bei der generativen KI weiß niemand wirklich, was zu irgendeinem Zeitpunkt herauskommen wird oder warum es herauskommen wird. Aus technischer Sicht ist es also sehr instabil. Und aus der Perspektive der Risikominderung ist es schwierig.

Das verschärft viele der bereits bestehenden Probleme, wie etwa Voreingenommenheit. Es ist ein Chaos. Die Unternehmen, die diese Dinge herstellen, haben es nicht eilig, diese Daten weiterzugeben. Und so entsteht dieser Nebel des Krieges. Wir haben wirklich keine Ahnung, was los ist. Und das kann einfach nicht gut sein.

Verwandt:

PS

Diese Woche, Der Atlantikist David Sims genannt Oppenheimer der beste Film des Jahres. Der Regisseur dieses Films, Christopher Nolan, hat sich kürzlich mit einem anderen unserer Autoren, Ross Andersen, zusammengesetzt, um seine Ansichten zur Technologie zu besprechen – und warum er noch keinen Film über KI gedreht hat ….

– Damon