Der Philosoph Nick Bostrom ist überraschend fröhlich für jemanden, der so viel Zeit damit verbracht hat, darüber nachzudenken, wie die Menschheit sich selbst zerstören könnte. Auf Fotos sieht er oft todernst aus, vielleicht passenderweise verfolgt von den existenziellen Gefahren, die in seinem Gehirn herumschwirren. Wenn wir uns über Zoom unterhalten, sieht er entspannt aus und lächelt.
Bostrom hat es sich zur Lebensaufgabe gemacht, über ferne technologische Fortschritte und existenzielle Risiken für die Menschheit nachzudenken. Mit der Veröffentlichung seines letzten Buches Superintelligenz: Wege, Gefahren, StrategienIm Jahr 2014 machte Bostrom die Öffentlichkeit auf eine damals Randidee aufmerksam – dass die KI so weit voranschreiten würde, dass sie sich gegen die Menschheit wenden und sie auslöschen könnte.
Für viele innerhalb und außerhalb der KI-Forschung schien die Idee phantasievoll, aber einflussreich darunter Elon Musk zitierte Bostroms Schrift. Das Buch löste eine Reihe apokalyptischer Sorgen über die schwelende KI aus, die kürzlich nach der Einführung von ChatGPT aufflammten. Die Besorgnis über das KI-Risiko ist nicht nur Mainstream, sondern auch ein Thema in Regierungskreisen der KI-Politik.
Bostroms neues Buch geht einen ganz anderen Weg. Anstatt die doomigen Hits zu spielen, Tiefe Utopie: Leben und Sinn in einer gelösten Welt, betrachtet eine Zukunft, in der die Menschheit erfolgreich superintelligente Maschinen entwickelt, aber eine Katastrophe abgewendet hat. Alle Krankheiten sind ausgerottet und die Menschen können auf unbestimmte Zeit in unendlicher Fülle leben. Bostroms Buch untersucht, welchen Sinn das Leben in einer Techno-Utopie haben würde, und fragt, ob es möglicherweise eher hohl ist. Er sprach mit WIRED über Zoom in einem Gespräch, das aus Gründen der Länge und Klarheit leicht bearbeitet wurde.
Will Knight: Warum sollte man vom Schreiben über superintelligente KI, die die Menschheit bedroht, zum Nachdenken über eine Zukunft übergehen, in der sie dazu dient, Gutes zu tun?
Nick Bostrom: Den verschiedenen Dingen, die bei der Entwicklung von KI schief gehen können, wird jetzt viel mehr Aufmerksamkeit geschenkt. Es ist eine große Veränderung in den letzten 10 Jahren. Mittlerweile gibt es in allen führenden KI-Forschungslabors Forschungsgruppen, die versuchen, skalierbare Ausrichtungsmethoden zu entwickeln. Und in den letzten Jahren beobachten wir auch, dass politische Führer beginnen, der KI Aufmerksamkeit zu schenken.
Es hat noch keinen entsprechenden Zuwachs an Tiefe und Raffinesse gegeben, wenn es darum geht, darüber nachzudenken, wohin die Dinge gehen, wenn wir nicht in eine dieser Gruben fallen. Die Überlegungen zu diesem Thema waren recht oberflächlich.
Als du geschrieben hast SuperintelligenzNur wenige hätten damit gerechnet, dass existenzielle KI-Risiken so schnell zur Mainstream-Debatte werden würden. Müssen wir uns früher um die Probleme in Ihrem neuen Buch kümmern, als die Leute vielleicht denken?
Ich denke, dass diese Gespräche beginnen und sich schließlich vertiefen werden, wenn wir die Einführung der Automatisierung beobachten und davon ausgehen, dass die Fortschritte anhalten.
Anwendungen für soziale Begleiter werden immer wichtiger. Die Menschen werden alle möglichen unterschiedlichen Ansichten haben und es ist ein großartiger Ort, um vielleicht einen kleinen Kulturkampf zu führen. Es könnte großartig für Menschen sein, die im normalen Leben keine Erfüllung finden, aber was ist, wenn es einen Teil der Bevölkerung gibt, der Freude daran hat, sie zu missbrauchen?
Im Politik- und Informationsbereich könnten wir den Einsatz von KI in politischen Kampagnen, Marketing und automatisierten Propagandasystemen beobachten. Aber wenn wir über ein ausreichendes Maß an Weisheit verfügen, könnten diese Dinge unsere Fähigkeit wirklich stärken, konstruktive demokratische Bürger zu sein, mit individueller Beratung, die erklärt, was politische Vorschläge für Sie bedeuten. Es wird eine ganze Reihe gesellschaftlicher Dynamiken geben.
Wäre eine Zukunft, in der KI viele Probleme wie den Klimawandel, Krankheiten und die Notwendigkeit zu arbeiten gelöst hat, wirklich so schlimm?
