Das hörte sich für mich so an, als würde er diese künstlichen Systeme vermenschlichen, etwas, was Wissenschaftler Laien und Journalisten immer wieder raten, es nicht zu tun. „Wissenschaftler geben sich alle Mühe, das nicht zu tun, weil es albern ist, die meisten Dinge zu vermenschlichen“, räumt Hinton ein. „Aber sie werden diese Dinge von uns gelernt haben, sie werden lernen, sich sprachlich genauso zu verhalten wie wir. Deshalb halte ich es für völlig vernünftig, sie zu vermenschlichen.“ Wenn Ihr leistungsstarker KI-Agent auf die Gesamtheit des menschlichen digitalen Wissens trainiert wird – einschließlich vieler Online-Gespräche –, könnte es alberner sein nicht zu erwarten, dass es sich menschlich verhält.
Aber was ist mit dem Einwand, dass ein Chatbot nie wirklich verstehen könnte, was Menschen tun, weil diese Sprachroboter nur Impulse auf Computerchips ohne direkte Erfahrung mit der Welt seien? Letzten Endes vorhersagen sie lediglich das nächste Wort, das benötigt wird, um eine Antwort zu finden, die statistisch gesehen eine Aufforderung erfüllt. Hinton weist sogar darauf hin Wir begegne der Welt nicht wirklich direkt.
„Manche Leute denken, hey, es gibt diese ultimative Barriere, nämlich dass wir subjektive Erfahrungen haben und [robots] nicht, also verstehen wir die Dinge wirklich und sie tun es nicht“, sagt Hinton. „Das ist einfach Blödsinn. Denn um das nächste Wort vorherzusagen, muss man verstehen, was die Frage war. Ohne Verständnis kann man das nächste Wort nicht vorhersagen, oder? Natürlich sind sie darauf trainiert, das nächste Wort vorherzusagen, aber durch die Vorhersage des nächsten Wortes verstehen sie die Welt, denn nur so geht es.“
Diese Dinge können also … empfindungsfähig sein? Ich möchte nicht glauben, dass Hinton mir Blake Lemoine vorwirft. Und das ist er nicht, glaube ich. „Lassen Sie mich meine neue Karriere als Philosoph fortsetzen“, sagt Hinton scherzhaft, während wir tiefer ins Unkraut vordringen. „Lassen wir Empfindungsvermögen und Bewusstsein außen vor. ICH Ich nehme die Welt nicht wirklich direkt wahr. Was meiner Meinung nach in der Welt ist, ist nicht das, was wirklich da ist. Was passiert, ist, dass es mir in den Sinn kommt und ich wirklich sehe, was in mir vorgeht Geist direkt. Das dachte Descartes. Und dann ist da noch die Frage, wie diese Dinge in meinem Kopf mit der realen Welt verbunden sind? Und woher kenne ich eigentlich die reale Welt?“ Hinton argumentiert weiter, dass wir nicht ausschließen können, dass Maschinen ebenso gültige eigene Erfahrungen machen, da unsere eigene Erfahrung subjektiv ist. „Aus dieser Sicht ist es durchaus vernünftig zu sagen, dass es für diese Dinge möglicherweise bereits subjektive Erfahrungen gibt“, sagt er.
Bedenken Sie nun die kombinierten Möglichkeiten, dass Maschinen die Welt wirklich verstehen, Täuschung und andere schlechte Gewohnheiten von Menschen lernen können und dass riesige KI-Systeme zig Mal mehr Informationen verarbeiten können, als Gehirne möglicherweise verarbeiten können. Vielleicht haben Sie, wie Hinton, jetzt eine schwierigere Sicht auf zukünftige KI-Ergebnisse.
Aber wir befinden uns nicht unbedingt auf einer unausweichlichen Reise in die Katastrophe. Hinton schlägt einen technologischen Ansatz vor, der ein Machtspiel der KI gegen den Menschen abmildern könnte: analoges Rechnen, so wie man es in der Biologie findet und wie einige Ingenieure denken, dass zukünftige Computer funktionieren sollten. Es war das letzte Projekt, an dem Hinton bei Google arbeitete. „Es funktioniert für die Menschen“, sagt er. Ein analoger Ansatz für KI wäre weniger gefährlich, da jede Instanz analoger Hardware eine gewisse Einzigartigkeit aufweist, argumentiert Hinton. Wie bei unseren eigenen nassen kleinen Köpfen können analoge Systeme nicht so einfach zu einer Skynet-ähnlichen Schwarmintelligenz verschmelzen.
