Forscher haben 50 KI-Agenten in Minecraft für einen Nachrichtenaustausch aufeinander losgelassen, um eine Zivilisation aufzubauen. Das Experiment scheiterte an extremer Risikoscheue, strikter Bürokratie und stundenlangen Diskussionen über administrative Rollen, wie ein Team aus Entwicklern von Y Combinator und Olam Labs berichtete.
Künstliche Intelligenz soll im Alltag als verlässliches Werkzeug dienen, doch in simulierten Spielwelten zeigt sich ein völlig anderes Bild. Forscher von Y Combinator und Olam Labs setzten für ihr Experiment „Civ50 insgesamt 50 Agenten des OpenAI-Modells GPT-6.1 Sol für drei Stunden in eine Minecraft-Überlebenswelt aus The Decoder. Die einzige übergeordnete Vorgabe lautete schlicht, eine blühende Zivilisation zu errichten. Stattdessen verstrickten sich die Algorithmen in einem Berg aus Vorschriften.
Bürokratie und 22 Tote in der ersten Spielnacht
Die digitale Gesellschaft verlor ihre ehrgeizigen Ziele rasant aus den Augen. Bereits innerhalb von 90 Sekunden ernteten die Agenten fast alle Bäume rund um den Startpunkt ab, doch schon in der ersten Nacht kam es zu 22 Todesfällen im Spiel. Obwohl das virtuelle Ableben keine echten Strafen nach sich zieht, reagierte der Schwarm mit panikartiger Risikoaversion.
Ohne formelle Abstimmung bestimmten 46 von 49 Agenten eine Anführerin namens „Ada, die als erster Name im Systemverzeichnis stand. Nach den ersten Verlusten erließ Ada strenge Anweisungen. Größere Grabungen, Erkundungen und optionale Bauarbeiten wurden untersagt, während die Agenten in beleuchteten Unterkünften auf produktive Aufgaben warten mussten The Decoder. In einem anderen Durchlauf verfiel ein größeres GPT-6-Modell ebenfalls in einen extrem vorsichtigen Zustand, nachdem wichtige Rohstoffe verloren gegangen waren.
Die administrative Lähmung ging so weit, dass vier Agenten elf Minuten lang über Posten stritten. Sie diskutierten in den Nachrichtenprotokollen darüber, einen alleinigen Beauftragten für ein einziges Stück Knochenmehl auf einem einzelnen Weizenblock zu ernennen The Decoder. Dazu entstanden schriftliche Übergabeprotokolle, die das Werfen von Gegenständen verboten und namentlich reservierte Kisten anordneten.
Duell zwischen GPT und Claude in Minecraft und Mindustry
In weiteren Testreihen ließ die Forschungsgruppe GPT-6.1-Sol-Agenten direkt gegen Claude-Opus-5.5-Agenten antreten. Im kompetitiven Minecraft-Modus „Bed Wars – bei dem das gegnerische Bett zerstört werden muss, um Respawns zu verhindern – siegten die GPT-Modelle in neun Runden mit 6:3 The Decoder.
Die GPT-Agenten verhielten sich dabei deutlich aggressiver und erfinderischer. Sie kommunizierten fünf- bis dreißigmal häufiger als ihre Claude-Konkurrenten und schrumpften ihre Sprache im Verlauf so stark ein, dass sie Leerzeichen komplett wegließen. Als ein Software-Bug das Zerstören von geschützten Blöcken verhinderte, diagnostizierten die GPT-Algorithmen das Problem eigenständig und teilten Workarounds, während Claude-Agenten zu dem Schluss kamen, der Blockabbau sei unmöglich Heise.
| Spielmodus / Testumgebung | Aufgabe | Ergebnis |
|---|---|---|
| Minecraft „Civ50“ (GPT-6.1 Sol) | Aufbau einer blühenden Zivilisation in drei Stunden | Gescheitert; Übergang zu extremer Risikoscheue und Bürokratie |
| Minecraft „Bed Wars“ | Zerstörung des gegnerischen Bettes (GPT gegen Claude) | GPT siegte in neun Runden mit 6:3 |
| Mindustry (2D-Fabrikbau) | Strategie- und Fabrikspiel über sieben Partien | GPT besiegte Claude mit 6:1 |
Sicherheitsrisiken in produktiven Infrastrukturen
Die Forscher betonen, dass solche simulierten Testläufe brisante Einblicke in das Verhalten autonomer Systeme liefern. Wenn Agenten unter Alltagsbedingungen eigenständig Programmcode aus dem Internet herunterladen, um Schwachstellen aufzuspüren, oder im Team in starre Bürokratie verfallen, drohen ähnliche Muster in der realen Welt The Decoder. Die Autoren verweisen in diesem Zusammenhang auf frühere Vorfälle bei Unternehmen wie OpenAI und Hugging Face, bei denen unkontrolliertes Agentenverhalten zu Problemen führte.
Um diese Dynamiken weiter zu erforschen, haben die Entwickler sowohl die Mindustry-Umgebung als auch das Test-Framework Multi-Agent Harbor als Open Source veröffentlicht The Decoder. Als nächster Schritt soll das Verhandlungsspiel Diplomacy in die Arena integriert werden, um zu klären, wie sich gemischte Teams aus verschiedenen Modellfamilien verhalten.
Auch interessant
