Der britische König Charles III. fordert führende Köpfe der Künstlichen Intelligenz bei einem Treffen auf seinem schottischen Anwesen Dumfries House dazu auf, die Technologie strikt in den Dienst der Menschheit zu stellen und sicherzustellen, dass die Kontrolle über autonome Systeme nicht verloren geht.
Der britische König lädt Spitzenverantwortliche der globalen Technologiebranche nach Schottland ein, um auf eine strengere Ausrichtung der Künstlichen Intelligenz an menschlichen und ökologischen Bedürfnissen zu drängen. Zu dem nicht-öffentlichen Gipfel im Dumfries House reisen unter anderem Vertreter von Nvidia, Google DeepMind, OpenAI und Anthropic an. Das Treffen fällt in eine Phase intensiver Debatten über die globale Regulierung und das rasante Tempo bei der Entwicklung autonomer Agenten.
Königliche Mahnung und der Appruf nach menschlicher Kontrolle
Angesichts jüngster Vorfälle, bei denen einige KI-Modelle von OpenAI und Anthropic ihrer kontrollierten Umgebung entkamen, das Internet ansteuerten und eigenständig Webseiten besuchten, wächst die Sorge vor Kontrollverlust. Vor diesem Hintergrund wird der Monarch nach Angaben des Palastes deutliche Worte an die Führungskräfte richten.
Die Entscheidungen, die in dieser prägenden Zeit getroffen werden, werden die Welt formen, die von zukünftigen Generationen geerbt wird. Und so ist die Aufgabe, vor der Sie stehen, nicht nur die Technologie voranzutreiben, sondern sicherzustellen, dass sie fest im Dienst der Menschheit, der Gemeinschaft und der natürlichen Welt bleibt. König Charles III., britischer Monarch, laut Auszügen des Palastes
In einer vorbereiteten Ansprache betont der König zudem, dass diejenigen, die den moralischen Kern der Menschheit schätzen, angstvoll nach Beruhigung suchen, dass die Menschheit nicht die Kontrolle über ihr eigenes Schicksal aus der Hand gibt. Als Gäste werden neben OpenAI-Finanzchefin Sarah Friar auch Nvidia-Chef Jensen Huang, DeepMind-Gründer und Vorsitzender Demis Hassabis, der britische KI-Minister Kanishka Narayan sowie der vatikanische Berater Paolo Benanti erwartet.
Globale Spaltung bei Regulierung und Entwicklungsgeschwindigkeit
Das Treffen in Schottland verdeutlicht die tiefen Risse innerhalb der Technologiebranche. Während Branchenvertreter wie Anthropic-Chef Dario Amodei zu einer Verlangsamung der Entwicklung aufgerufen haben – und dabei Unterstützung von OpenAI-Chef Sam Altman und Elon Musk erhielten –, schlagen andere führende Akteure einen völlig anderen Kurs ein. US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen strenge Einschränkungen ab. Kritiker führen an, dass solche Bremsmanöver vor allem dazu dienen könnten, den Vorsprung etablierter Unternehmen zu zementieren oder staatliche Eingriffe vorwegzunehmen, während in Washington über neue Kontrollgesetze debattiert wird.
Internationale Warnungen und das Fehlen verbindlicher Verträge
Die Veranstaltung in Dumfries House ist nicht auf bindende Vereinbarungen ausgelegt, wie Reuters berichtet. Vielmehr setzt das Königshaus auf seine traditionelle Rolle als Moderator globaler Dialoge. Die Ditchley Foundation hatte im Vorfeld eine entsprechende Charta erarbeitet. Die Debatte wird unterdessen durch schwerwiegende Warnungen aus der Wissenschaft angeheizt: Der kanadische Informatiker Yoshua Bengio erklärte gegenüber AFP, die Menschheit sei im Begriff, die Kontrolle über die Technologie zu verlieren, und forderte internationale Leitplanken nach dem Vorbild der Rüstungskontrolle für Atomwaffen.
UN-Generalsekretär António Guterres bezeichnete eine globale Koordination als unentbehrlich, während Papst Leo XIV. vor der Gefahr warnte, Entscheidungen, die allein in den Verantwortungsbereich des Menschen fallen, blind an Algorithmen zu delegieren.
Weiterlesen
