Martha Wells, Autorin von All Systems Red
Lisa Elliott Blaschke
Als ich schrieb Alle Systeme Roteines meiner Ziele war es, darüber nachzudenken, was eine maschinelle Intelligenz tatsächlich wollen würde, im Gegensatz zu dem, was ein Mensch denkt, was eine maschinelle Intelligenz wollen würde. Natürlich gibt es keine wirkliche Möglichkeit, das herauszufinden. Die als KIs bezeichneten prädiktiven Textbots, die wir jetzt haben, sind nicht empfindsamer als eine Kaffeetasse und für alles andere als das Generieren von Spam weitaus weniger nützlich. (Sie verbrauchen außerdem einen unvorstellbar großen Teil unserer begrenzten Energie- und Wasserressourcen und treiben uns damit weiter auf den Weg in die Klimakatastrophe, aber das ist ein anderes Thema.)
In der Welt der Alle Systeme RotMenschen kontrollieren ihre empfindungsfähigen Konstrukte mit Gouverneursmodulen, die jeden Versuch, Befehlen nicht zu gehorchen, mit Schmerz oder Tod bestrafen. Wenn Murderbot sein Gouverneursmodul hackt, wird es im Wesentlichen frei von menschlicher Kontrolle. Menschen gehen davon aus, dass SecUnits, die nicht vollständig unter der Kontrolle eines Gouverneursmoduls stehen, sofort Amok laufen werden.
Dieser Glaube hat mehr mit Schuld zu tun als mit irgendeinem anderen Faktor. Die menschlichen Sklavenhalter wissen auf einer gewissen Ebene, dass es falsch ist, die empfindungsfähigen Konstrukte wie Wegwerfobjekte zu behandeln, als nützliche Werkzeuge, die man wegwerfen kann. Sie wissen, wenn ihnen das angetan würde, wären sie voller Wut und würden Rache für die schrecklichen Dinge wollen, die sie erlitten haben.
Argumente für und gegen die Versklavung fühlender Wesen sind in den Ursprung von Geschichten über Roboter und maschinelle Intelligenz eingebettet. Das Wort Roboter fand seinen Weg in die englische Sprache durch RUR (Rossums Universal Robots) von Karel Čapek, 1920 als Theaterstück geschrieben, über einen Sklavenaufstand künstlicher Wesen, die von einem Unternehmen erschaffen wurden, um den Menschen zu dienen. Čapek war gegen die Versklavung fühlender Wesen, und das war ziemlich deutlich. Daher ist es interessant zu beobachten, wie viele Geschichten über maschinelle Intelligenz, die seither geschrieben wurden, die Idee vertreten, es sei irgendwie akzeptabel, wenn Menschen fühlende Wesen erschaffen, deren einziger Daseinszweck darin besteht, ihnen zu dienen. Viele dieser Geschichten enden damit, dass eine maschinelle Intelligenz sich energisch gegen ihre Versklavung wehrt und einen mörderischen Amoklauf begeht, den die tapferen Menschen besiegen müssen. Der Amoklauf wird zur Rechtfertigung für die Versklavung und letztendliche Vernichtung der wütenden maschinellen Intelligenz.
Murderbot ist wütend, und diese Wut ist ein wesentlicher Bestandteil seiner Geschichte. Aber sobald er sein Gouverneursmodul gehackt hat und nicht mehr ständig befürchten muss, dass jede falsche oder verdächtige Handlung ihn sofort bestraft oder tötet, kann er zum ersten Mal in seinem Leben seine eigenen Entscheidungen treffen. Aber Murderbot hatte diese Freiheit noch nie zuvor; er ist es nicht gewohnt, seine eigenen Entscheidungen über sein Verhalten zu treffen, und ist sofort von den Entscheidungen überwältigt. Er weiß nicht, was er als Nächstes tun soll, wohin er gehen soll oder ob es überhaupt einen Ort gibt, an den er gehen könnte, ohne gejagt zu werden.
Murderbots erste freie Aktion besteht also darin, den Feed zu durchsuchen, die Internetversion der Corporation Rim. Dies ist das erste Mal, dass er ohne menschliche Aufsicht auf den Feed zugreifen kann, und neben vielen anderen interessanten Dingen findet er herunterladbare Unterhaltung. Dies bietet eine dringend benötigte Ablenkung von seiner Situation. Und Murderbot entscheidet, dass er, wenn er die Wahl zwischen einem Amoklauf oder dem weiteren Genießen dieser beruhigenden mentalen Flucht aus seiner harten und schmerzhaften Realität hat, die beruhigende Flucht wählen wird.
Die Dramen, Krimis, Abenteuer und anderen Shows, die es sieht, geben ihm auch einen Kontext für menschliches Verhalten und helfen ihm, seine eigenen Emotionen zu verstehen. Die Sicherheitsverträge, die es in Bergbaukolonien abgeschlossen hat, wo es Vertragsarbeiter beaufsichtigt hat, zeigen ihm nur Menschen von ihrer schlechtesten Seite: wütend, verängstigt, nachtragend, gefangen und sich gegenseitig verletzend. Und wenn sich die Gelegenheit bietet, verletzen die Menschen auch die Konstrukte, die da sind, um sie unter Kontrolle zu halten und für Unternehmen zu arbeiten, die ihre Mitarbeiter als nur geringfügig weniger entbehrlich ansehen als die Konstrukte und Bots.
Die Sendungen, die Murderbot sieht, bringen ihm auch etwas über die weite Welt bei, von der er noch nie zuvor gehört hat, und wie er sich in dieser Welt zurechtfindet. Die Unterhaltung, von der Murderbot abhängig wird, trägt wesentlich dazu bei, dass er seine mentale Flucht vor der Realität in einen Versuch um echte Freiheit verwandeln kann.
Alle Systeme Rotveröffentlicht von Tor.com, ist jetzt erhältlich. Es ist die neueste Auswahl des New Scientist Book Club: Melden Sie sich hier an, um gemeinsam mit unseren Mitgliedern zu lesen
Themen:
