OpenAI und Anthropic setzen War Rooms gegen Desinformation ein

Wahlen- oder abstimmungsbezogene Themen machen laut Ababnews etwa 0,51 % der Interaktionen aus, während OpenAI und Anthropic spezielle War Rooms eingerichtet haben, um ihre Plattformen bei den Zwischenwahlen in den Vereinigten Staaten zu überwachen. Diese Überwachungsinitiativen sind eine Premiere für beide Unternehmen, da Tools der künstlichen Intelligenz eine zunehmend wichtige Rolle im politischen Diskurs spielen.

Josh Lawson, Leiter für bürgerschaftliche und strategische Risiken bei OpenAI, wies auf die Entwicklung der technologischen Fähigkeiten seit dem vergangenen Wahlzyklus hin.

Die damals im Jahr 2024 am häufigsten verfügbare Technologie war Text, sagte Lawson und fügte hinzu, dass die aktuellen Überwachungsmaßnahmen viel komplexere Medienformen verfolgen.

Die Operationen stützen sich auf eine ständige Überwachsinfrastruktur, die verdächtige Aktivitäten rund um die Uhr auf den Plattformen beobachtet. Ein Team aus Vertrauens- und Sicherheitsingenieuren, Politikexperten und externen Partnern für Integrität arbeitet hierbei zusammen, um den Missbrauch von KI-Modellen in Echtzeit zu verfolgen. Zu den potenziellen Bedrohungen gehören neben Texten auch Deepfakes, Cyberangriffe sowie ausländische und inländische Einflussoperationen.

Unternehmen Schützen Wahlen

Ein Sprecher von Anthropic erklärte, dass teams im gesamten Unternehmen das ganze Jahr über daran arbeiten, wahlenbezogene Schutzmaßnahmen zu stärken und die Richtlinien der Plattform durchzusetzen.

Eine Analyse des Unternehmens zeigt, dass politische Themen und Themen von öffentlichem Interesse etwa 5,75 % der Unterhaltungen von US-Nutzern auf Claude.ai ausmachen.

Beide Unternehmen für künstliche Intelligenz arbeiten mit externen Partnern zusammen, um ihre Plattformen auf offiziellen Daten zu gründen. OpenAI arbeitet für Echtzeitergebnisse mit The Associated Press zusammen, während Anthropic Wahldaten über Democracy Works integriert, um Registrierungs- und Wahllokationsinformationen bereitstellen zu können. Katie Harbath, eine ehemalige Leiterin für öffentliche Politik bei Meta, erklärte in Explainx, dass solche War Rooms für die Dinge, bei denen wir nicht unbedingt vorhersagen können, dass sie schiefgehen, gebaut sind.

Dazu gehören etablierte Triage-Prozesse.

Koordination und Minderung

Die Überwachungseinheiten operieren in einem Informationsökosystem, in dem Technologieunternehmen konkurrierenden Drücken ausgesetzt sind.

Während Gruppen für Wahlrechte wie das Brennan Center for Justice der New York University School of Law herausfanden, dass beliebte Chatbots Verschwörungstheorien im Allgemeinen zurückweisen, stellten Forscher auch fest, dass Tools der künstlichen Intelligenz Text, Bilder und Videos erzeugen können, die das Vertrauen in Wahlen untergraben können. Unterdessen sind Plattformen von politischen Persönlichkeiten wegen der Moderation von Inhalten kritisiert worden.

Ben Nimmo, Chefermittler bei OpenAI, betonte den proaktiven Charakter der Erkennungssysteme.

OpenAI hat in diesem Zusammenhang bereits beträchtliche Anstrengungen unternommen, um verdeckte Einflussoperationen aus Staaten wie Russland, China und Iran aufzudecken und zu stören. Dennoch zeigt sich die Komplexität der Lage auch dadurch, dass Google-Modelle zeitweise bestimmte Auskünfte zur Wahl verweigerten. Die War-Rooms sollen hierbei als zentrale Schaltstellen dienen, um unvorhergesehene Zwischenfälle zügig zu bewerten.

Kontext der Überwachung

Die Einrichtung spezieller War Rooms erinnert an den Einsatz einer ähnlichen Überwachungseinheit durch Meta für die Zwischenwahlen 2018 nach Kampagnen zur ausländischen Einmischung während der Präsidentschaftswahl 2016.

Lauren Protentis, eine ehemalige Regierungsbeamtin, die im Nationalen Sicherheitsrat unter dem ehemaligen Präsidenten Joseph R. Biden Jr. schädlichen ausländischen Einfluss beaufsichtigte, ging auf die anhaltende Natur dieser Bedrohungen ein.

Ich denke, es wäre töricht zu glauben, dass diese Bedrohung abgeklungen ist und dass die Technologie die Bedrohungen nicht wirksamer und glaubwürdiger macht, sagte Protentis gegenüber Europesays.

Unser früherer Bericht: OpenAI und Anthropic setzen Krisenzentren gegen Desinformation bei US-Wahlen ein

Mehr zu dieser Geschichte: OpenAI und Anthropic setzen Krisenzentren gegen Desinformation bei US-Wahlen ein · OpenAI und Anthropic bleiben in Zürich kleine Tochterfirmen · EU fordert Auskünfte von OpenAI, Anthropic und chinesischen Firmen