Manche KI-Geschichten sind so schlecht, dass sie einen Roboter ins Gesicht fassen würden
Corona Borealis Studio/Shutterstock
Die Nachricht, dass eine KI-gesteuerte Drohne ihren Vorgesetzten „tötet“, ging diese Woche um die Welt. In einer Geschichte, die einem Science-Fiction-Thriller entrissen werden könnte, war die hypermotivierte KI darauf trainiert worden, Boden-Luft-Raketen nur mit Zustimmung eines menschlichen Aufsehers zu zerstören – und als ihnen die Genehmigung verweigert wurde, wandte sie sich gegen ihren Betreuer.
Nur ist es keine Überraschung, dass die Geschichte fiktiv klingt – weil sie es auch ist. Die Geschichte ging aus einem Bericht der Royal Aeronautical Society hervor, in dem eine Präsentation des Oberst der US-Luftwaffe (USAF), Tucker Hamilton, auf einer kürzlich abgehaltenen Konferenz beschrieben wurde. In diesem Bericht wurde darauf hingewiesen, dass es sich bei dem Vorfall lediglich um eine Simulation handelte, bei der es keine echte Drohne und keine echte Gefahr für einen Menschen gab – eine Tatsache, die in vielen aufmerksamkeitsstarken Schlagzeilen übersehen wurde.
Später stellte sich heraus, dass nicht einmal die Simulation stattgefunden hatte. Die USAF dementierte und der ursprüngliche Bericht wurde aktualisiert, um klarzustellen, dass Hamilton „falsch gesprochen“ hatte. Das apokalyptische Szenario war nichts anderes als ein hypothetisches Gedankenexperiment.
„Das Department of the Air Force hat keine derartigen KI-Drohnensimulationen durchgeführt und setzt sich weiterhin für einen ethischen und verantwortungsvollen Einsatz der KI-Technologie ein. Es scheint, dass die Kommentare des Obersten aus dem Zusammenhang gerissen wurden und als Anekdoten gemeint waren“, sagte ein USAF-Sprecher Insider. USAF antwortete nicht Neuer WissenschaftlerBitte um ein Interview vor der Veröffentlichung.
Diese Geschichte ist Dies ist nur das Neueste in einer Reihe dramatischer Geschichten über KI, die zeitweise an Hysterie grenzen. März, Zeit Das Magazin veröffentlichte einen Kommentar des Forschers Eliezer Yudkowsky, in dem er sagte, dass das wahrscheinlichste Ergebnis des Aufbaus einer übermenschlich intelligenten KI darin besteht, dass „buchstäblich jeder auf der Erde sterben wird“. Elon Musk sagte im April, dass KI das Potenzial habe, die Zivilisation zu zerstören, während in einem aktuellen Brief von KI-Forschern hieß es, das Risiko des Aussterbens sei so hoch, dass der Umgang damit neben Pandemien und Atomkrieg Priorität haben sollte.
Warum gewinnen diese Narrative so viel Anklang und warum sind wir so sehr daran interessiert, ihnen zu glauben? „Die Vorstellung von KI als existenzieller Bedrohung wird von KI-Experten verbreitet, was ihr Autorität verleiht“, sagt Joshua Hart vom Union College in New York – obwohl es erwähnenswert ist, dass nicht alle KI-Forscher diese Ansicht teilen.
Beth Singler von der Universität Zürich in der Schweiz sagt, dass die Medien einen offensichtlichen Anreiz haben, solche Behauptungen zu veröffentlichen: „Angst erzeugt Klicks und Shares.“ Aber sie sagt, dass Menschen auch ein angeborenes Verlangen haben, Gruselgeschichten zu erzählen und zu hören. „KI scheint zunächst Science-Fiction zu sein, ist aber auch eine Horrorgeschichte, die wir gerne am Lagerfeuer flüstern, und Horrorgeschichten sind spannend und fesselnd.“
Ein klarer Faktor für die Verbreitung dieser Geschichten ist mangelndes Verständnis für KI. Obwohl viele Leute ChatGPT zum Schreiben eines Limericks oder Midjourney zum Hervorzaubern eines Bildes verwendet haben, wissen nur wenige, wie KI unter der Haube funktioniert. Und obwohl KI seit Jahrzehnten ein bekanntes Konzept ist, zeigt die Realität, dass die aktuellen fortschrittlichen Modelle Fähigkeiten aufweisen, die Experten, geschweige denn Laien, überraschen.
„KI ist für die Öffentlichkeit sehr intransparent“, sagt Singler. „Eine umfassendere Aufklärung über die Grenzen der KI könnte hilfreich sein, aber unsere Liebe zu apokalyptischen Horrorgeschichten könnte sich dennoch durchsetzen.“
Themen:
