Die KI von DeepMind entwickelt populäre Richtlinien für die Verteilung öffentlicher Gelder

DeepMind-Forscher haben ein KI-System darauf trainiert, eine beliebte Richtlinie für die Verteilung öffentlicher Gelder in einem Online-Spiel zu finden – aber sie warnen auch vor „KI-Regierung“

Technologie


4. Juli 2022

Könnte künstliche Intelligenz bessere Finanzierungsentscheidungen treffen als Senatoren?

Walter Bibikow/Getty Images

Ein „demokratisches“ KI-System hat gelernt, die beliebteste Richtlinie zur Umverteilung öffentlicher Gelder unter den Spielern eines Online-Spiels zu entwickeln.

„Viele der Probleme, mit denen Menschen konfrontiert sind, sind nicht nur technologischer Natur, sondern erfordern von uns eine Koordination in der Gesellschaft und in unseren Volkswirtschaften zum Wohle der Allgemeinheit“, sagt Raphael Koster vom britischen KI-Unternehmen DeepMind. „Damit KI helfen kann, muss sie direkt etwas über menschliche Werte lernen.“

Das DeepMind-Team trainierte seine künstliche Intelligenz, um von mehr als 4000 Menschen sowie von Computersimulationen in einem Online-Wirtschaftsspiel für vier Spieler zu lernen. Im Spiel beginnen die Spieler mit unterschiedlichen Geldbeträgen und müssen entscheiden, wie viel sie beitragen möchten, um einen Pool öffentlicher Gelder zu vergrößern, und erhalten schließlich im Gegenzug einen Teil des Pots. Die Spieler stimmten auch über ihre bevorzugten Richtlinien für die Verteilung öffentlicher Gelder ab.

Die von der KI nach diesem Training entwickelte Politik versuchte im Allgemeinen, die Vermögensunterschiede zwischen den Spielern zu verringern, indem öffentliche Gelder entsprechend dem Beitrag der einzelnen Spieler zu ihrem Starttopf umverteilt wurden. Es entmutigte auch Trittbrettfahrer, indem es den Spielern fast nichts zurückgab, es sei denn, sie steuerten ungefähr die Hälfte ihres Startkapitals bei.

Diese von KI entwickelte Politik gewann mehr Stimmen von menschlichen Spielern als entweder ein „egalitärer“ Ansatz der gleichmäßigen Umverteilung von Geldern, unabhängig davon, wie viel jede Person beisteuerte, oder ein „libertärer“ Ansatz, bei dem Gelder entsprechend dem Anteil des Beitrags jeder Person verteilt wurden der öffentliche Topf.

Lesen Sie auch  8-4 Spiel: 8-4 Spiel 15.10.2021: GUT WIE SCHRECKLICH

„Eine Sache, die wir überraschend fanden, war, dass die KI eine Richtlinie gelernt hat, die eine Mischung aus Ansichten aus dem gesamten politischen Spektrum widerspiegelt“, sagt Christopher Summerfield von DeepMind.

Als zu Beginn die größte Ungleichheit zwischen den Spielern herrschte, erwies sich eine „liberale egalitäre“ Politik – die Geld entsprechend dem Anteil der Startgelder, die jeder Spieler beisteuerte, umverteilte, aber Trittbrettfahrer nicht entmutigte – als ebenso beliebt wie der KI-Vorschlag. indem Sie in einem Kopf-an-Kopf-Wettbewerb mehr als 50 Prozent der Stimmenanteile erhalten.

Die DeepMind-Forscher warnen davor, dass ihre Arbeit kein Rezept für „KI-Government“ darstelle. Sie sagen, dass sie nicht planen, KI-gestützte Tools für die Politikgestaltung zu entwickeln.

Das mag auch sein, denn der KI-Vorschlag ist nicht unbedingt einzigartig im Vergleich zu dem, was einige Leute bereits vorgeschlagen haben, sagt Annette Zimmermann von der University of York, Großbritannien. Zimmermann warnte auch davor, sich auf eine enge Vorstellung von Demokratie als System der „Präferenzbefriedigung“ zu konzentrieren, um die beliebtesten Politiken zu finden.

„Demokratie bedeutet nicht nur zu gewinnen, die Politik umzusetzen, die einem am besten gefällt, sondern Prozesse zu schaffen, in denen sich Bürger begegnen und auf Augenhöhe miteinander beraten können“, sagt Zimmermann.

Die DeepMind-Forscher äußern Bedenken hinsichtlich einer KI-gestützten „Tyrannei der Mehrheit“, in der die Bedürfnisse von Menschen in Minderheitengruppen übersehen werden. Aber das ist keine große Sorge unter Politikwissenschaftlern, sagt Mathias Risse von der Harvard University. Er sagt, dass moderne Demokratien vor dem größeren Problem stehen, dass „die Vielen“ von der kleinen Minderheit der Wirtschaftselite entrechtet werden und aus dem politischen Prozess ganz herausfallen.

Lesen Sie auch  Make-up kann das Rätsel nicht lösen, warum Springspinnen Rückenstreifen haben | Spinnen

Dennoch sagt Risse, die DeepMind-Forschung sei „faszinierend“, wie sie eine Version der liberalen Egalitarismus-Politik lieferte. „Da ich sowieso im liberal-egalitären Lager bin, finde ich das ein recht zufriedenstellendes Ergebnis“, sagt er.

Zeitschriftenreferenz: Natur Menschliches VerhaltenDOI: 10.1038/s41562-022-01383-x

Mehr zu diesen Themen:

Leave a Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.