Warum der Pate der KI Angst vor dem hat, was er gebaut hat

„Ich liebe dieses Haus, aber manchmal ist es ein trauriger Ort“, sagte er, während wir uns die Bilder ansahen. „Weil sie es liebte, hier zu sein und nicht hier ist.“

Die Sonne war fast untergegangen und Hinton schaltete ein kleines Licht über seinem Schreibtisch ein. Er klappte den Computer zu und schob seine Brille auf die Nase. Er straffte die Schultern und kehrte in die Gegenwart zurück.

„Ich wollte, dass Sie etwas über Roz und Jackie wissen, weil sie ein wichtiger Teil meines Lebens sind“, sagte er. „Aber eigentlich ist es auch für die künstliche Intelligenz durchaus relevant. Es gibt zwei Ansätze für KI: Verleugnung und Stoizismus. Die erste Reaktion eines jeden auf KI ist: „Wir müssen das stoppen.“ So wie die erste Reaktion eines jeden auf Krebs ist: „Wie können wir ihn ausschalten?“ „Aber es war wichtig zu erkennen, dass das Ausschneiden nur eine Fantasie war.

Er seufzte. „Wir können nicht leugnen“, sagte er. „Wir müssen real sein. Wir müssen darüber nachdenken: Wie können wir dafür sorgen, dass es für die Menschheit nicht so schrecklich wird, wie es sein könnte?“

Wie nützlich – oder gefährlich – wird sich KI erweisen? Niemand weiß es genau, auch weil neuronale Netze so seltsam sind. Im 20. Jahrhundert wollten viele Forscher Computer bauen, die Gehirne nachahmen. Aber obwohl neuronale Netze wie die GPT-Modelle von OpenAI dem Gehirn ähneln, da sie Milliarden künstlicher Neuronen umfassen, unterscheiden sie sich tatsächlich grundlegend von biologischen Gehirnen. Heutige KIs basieren auf der Cloud und sind in Rechenzentren untergebracht, die Strom im industriellen Maßstab verbrauchen. In mancher Hinsicht ahnungslos und in anderer Weise wie ein Gelehrter, argumentieren sie für Millionen von Benutzern, aber nur, wenn sie dazu aufgefordert werden. Sie leben nicht. Sie haben wahrscheinlich den Turing-Test bestanden – den seit langem angekündigten Standard, der vom Computerpionier Alan Turing aufgestellt wurde und besagte, dass jeder Computer, der einen Menschen in einem Gespräch überzeugend nachahmen kann, vernünftigerweise denken könne. Und doch sagt uns unsere Intuition vielleicht, dass nichts, was sich in einem Browser-Tab befindet, wirklich so denken könnte, wie wir es tun. Die Systeme zwingen uns zu der Frage, ob nur unsere Denkweise zählt.

Während seiner letzten Jahre bei Google konzentrierte Hinton seine Bemühungen auf die Schaffung einer traditionelleren, gedankenähnlichen künstlichen Intelligenz mithilfe von Hardware, die das Gehirn besser nachahmte. In heutigen KIs werden die Gewichte der Verbindungen zwischen den künstlichen Neuronen numerisch gespeichert; Es ist, als würde das Gehirn Aufzeichnungen über sich selbst führen. In Ihrem tatsächlichen, analogen Gehirn sind die Gewichte jedoch in die physischen Verbindungen zwischen Neuronen eingebaut. Hinton arbeitete daran, mithilfe spezieller Computerchips eine künstliche Version dieses Systems zu erstellen.

„Wenn du es schaffen würdest, wäre es großartig“, sagte er mir. Die Chips könnten lernen, indem sie ihre „Leitfähigkeiten“ variieren. Da die Gewichte in die Hardware integriert wären, wäre es unmöglich, sie von einer Maschine auf eine andere zu kopieren; Jede künstliche Intelligenz müsste für sich lernen. „Sie müssten zur Schule gehen“, sagte er. „Aber man würde von einem Megawatt auf dreißig Watt umsteigen.“ Während er sprach, beugte er sich vor und seine Augen bohrten sich in meine; Ich erhaschte einen Blick auf Hinton, den Evangelisten. Da das von jeder KI gewonnene Wissen bei der Zerlegung verloren ginge, nannte er den Ansatz „Mortal Computing“. „Wir würden die Unsterblichkeit aufgeben“, sagte er. „In der Literatur gibt man es auf, ein Gott für die Frau zu sein, die man liebt, oder? In diesem Fall bekämen wir etwas weitaus Wichtigeres, nämlich Energieeffizienz.“ Energieeffizienz fördert unter anderem die Individualität: Weil ein menschliches Gehirn mit Haferflocken funktionieren kann, kann die Welt Milliarden von Gehirnen unterstützen, alle unterschiedlich. Und jedes Gehirn kann kontinuierlich lernen, anstatt nur einmal trainiert und dann in die Welt hinausgeschoben zu werden.

Als wissenschaftliches Unternehmen könnte uns die sterbliche KI der Nachbildung unseres eigenen Gehirns näher bringen. Aber Hinton ist zu dem Schluss gekommen, dass digitale Intelligenz bedauerlicherweise leistungsfähiger sein könnte. Bei der analogen Intelligenz „stirbt das Wissen, wenn das Gehirn stirbt“, sagte er. Im Gegensatz dazu gilt in der digitalen Intelligenz: „Wenn ein bestimmter Computer ausfällt, können dieselben Verbindungsstärken auf einem anderen Computer verwendet werden.“ Und selbst wenn alle digitalen Computer sterben würden, könnten Sie, wenn Sie die Verbindungsstärken irgendwo gespeichert hätten, einfach einen anderen digitalen Computer erstellen und die gleichen Gewichte auf diesem anderen digitalen Computer ausführen. Zehntausend neuronale Netze können gleichzeitig zehntausend verschiedene Dinge lernen und dann das Gelernte weitergeben.“ Diese Kombination aus Unsterblichkeit und Reproduzierbarkeit legt seiner Meinung nach nahe, dass „wir uns Sorgen darüber machen sollten, dass die digitale Intelligenz die biologische Intelligenz ablöst.“

Wie sollen wir das geistige Leben einer digitalen Intelligenz ohne sterblichen Körper oder individuelle Identität beschreiben? In den letzten Monaten haben einige KI-Forscher begonnen, GPT als „Argumentationsmaschine“ zu bezeichnen – vielleicht eine Möglichkeit, dem Gewicht des Wortes „Denken“ zu entkommen, das wir nur schwer definieren können. „Die Leute machen uns dafür verantwortlich, dass wir diese Wörter verwenden – ‚denken‘, ‚wissen‘, ‚verstehen‘, ‚entscheiden‘ und so weiter“, erzählte mir Bengio. „Aber auch wenn wir die Bedeutung dieser Wörter nicht vollständig verstehen, haben sie doch sehr wirkungsvolle Möglichkeiten zur Schaffung von Analogien geschaffen, die uns helfen zu verstehen, was wir tun. Es hat uns sehr geholfen, über „Vorstellungskraft“, „Aufmerksamkeit“, „Planung“ und „Intuition“ als Werkzeuge zur Klärung und Erkundung zu sprechen.“ Nach Ansicht von Bengio „bemühen wir uns vor allem darum, den ‚Intuitions‘-Aspekt des Geistes zu lösen.“ Intuitionen können als Gedanken verstanden werden, die wir nicht erklären können: Unser Geist erzeugt sie unbewusst für uns, indem er Verbindungen zwischen dem, was uns in der Gegenwart begegnet, und unseren vergangenen Erfahrungen herstellt. Wir neigen dazu, der Vernunft den Vorrang vor der Intuition zu geben, aber Hinton glaubt, dass wir intuitiver sind, als wir anerkennen. „Jahrelang sagten Leute, die sich mit symbolischer KI beschäftigen, dass unsere wahre Natur darin besteht, dass wir Denkmaschinen sind“, erzählte er mir. „Ich denke, das ist einfach Unsinn. Unsere wahre Natur besteht darin, dass wir Analogiemaschinen sind, auf denen ein wenig Argumentation aufgebaut ist, um zu erkennen, wenn die Analogien uns falsche Antworten geben, und diese zu korrigieren.“

Im Großen und Ganzen ist die aktuelle KI-Technologie gesprächig und intellektuell: Sie stößt an den Grenzen des Physischen. „Jeder Teenager kann in zwanzig Stunden Übung und kaum Aufsicht das Autofahren erlernen“, erzählte mir LeCun. „Jede Katze kann auf eine Reihe von Möbelstücken springen und an die Spitze eines Regals gelangen. Wir haben heute keine KI-Systeme, die auch nur annähernd in der Lage wären, diese Dinge zu leisten, außer selbstfahrenden Autos“ – und sie seien überentwickelt und erforderten „die Kartierung der gesamten Stadt, Hunderte von Ingenieuren, Hunderttausende Stunden Schulung“. ” Die Lösung der schwierigen Probleme der körperlichen Intuition „wird die große Herausforderung des nächsten Jahrzehnts sein“, sagte LeCun. Dennoch ist die Grundidee einfach: Wenn Neuronen das können, können es auch neuronale Netze.