Google, Meta und OpenAI kündigen Maßnahmen zur Identifizierung von mit künstlicher Intelligenz erstellten Inhalten an | Technologie

Google, Meta und OpenAI haben in den letzten Tagen verschiedene Maßnahmen angekündigt, um die Identifizierung von Bildern oder Dateien zu erleichtern, die mit künstlicher Intelligenz (KI) erstellt oder retuschiert wurden. Hinter diesen Initiativen steht die Angst, dass die wahllose Verbreitung falscher Botschaften die Wahlergebnisse beeinflussen oder andere unerwartete Folgen haben könnte. Die drei Unternehmen hatten bereits angekündigt, dass sie versuchen werden, den Einsatz von KI in den Wahlprozessen 2024 zu verhindern.

Nachdem sie jahrelang Milliarden von Euro in die Verbesserung der Kapazität generativer künstlicher Intelligenz investiert haben, haben sich die drei Plattformen der Coalition for Content Provenance and Authenticity (C2PA) angeschlossen, die ein Standardzertifikat vorschlägt und einen Großteil der digitalen Industrie und Medien zusammenbringt Medien wie die BBC oder Die New York Times an Banken und Kamerahersteller. Die Unternehmen geben in ihren Stellungnahmen zu, dass es derzeit keine einheitliche und in allen Fällen wirksame Lösung für die Identifizierung von mit KI generierten Inhalten gibt.

Die Initiativen variieren zwischen sichtbaren Markierungen auf den Bildern selbst und Botschaften, die in den Metadaten der Datei oder in künstlich erzeugten Pixeln versteckt sind. Da sich sein Tool SynthID noch in der Betaphase befindet, sagt Google auch, dass es eine Möglichkeit gefunden hat, Audio zu identifizieren.

Der C2PA-Standard zur Eingabe von Informationen in Bildmetadaten weist zahlreiche technische Schwachstellen auf, die von Entwicklern detailliert identifiziert wurden. OpenAI selbst, das C2PA in Dall-3 (seinem Bildgenerator) verwenden wird, warnt in seiner Erklärung davor, sich zu sehr auf seine Möglichkeiten zu verlassen: „Metadaten wie C2PA sind keine Wunderlösung, um Fragen der Herkunft anzugehen.“ Es kann leicht versehentlich oder absichtlich gelöscht werden. „Ein Bild, dem diese Metadaten fehlen, wurde möglicherweise mit ChatGPT oder unserer API generiert“, sagte das Unternehmen, das den Chatbot entwickelt hat, der generative künstliche Intelligenz populär gemacht hat.

Die Unternehmen nennen keine klaren Fristen für die vollständige Einführung ihrer Maßnahmen. Das Jahr 2024 ist ein Jahr voller Wahlereignisse in wichtigen Ländern und der Einfluss von durch KI generierten Inhalten kann explosiv sein. Die Notwendigkeit, sich präventiv zu schützen, ist von entscheidender Bedeutung. „Wir entwickeln diese Funktion weiter und werden in den kommenden Monaten damit beginnen, Etiketten in allen Sprachen anzuwenden, die von jeder Anwendung unterstützt werden“, sagt Nick Clegg, Präsident für öffentliche Angelegenheiten bei Meta, in seiner Erklärung.

Meta verspricht, die von seinen KI-Tools generierten Bilder nicht nur visuell zu kennzeichnen, sondern nach Möglichkeit auch die in seinen Netzwerken geposteten Bilder zu erkennen und zu identifizieren: Instagram, Facebook und Threads. „Wir können Bilder von Google, OpenAI, Microsoft, Adobe, Midjourney und Shutterstock markieren, wenn sie ihre Pläne zum Hinzufügen von Metadaten zu Bildern, die mit ihren Tools erstellt wurden, umsetzen“, sagt Clegg.

Google wird seine Methoden auf YouTube anwenden. Obwohl diese Ansätze behaupten, den Stand der Technik dessen darzustellen, was derzeit technisch möglich ist, glaubt das Unternehmen, dass seine von SynthID entwickelte Methode freiwillige Modifikationen überstehen kann, um sie zu verbergen, wie etwa „Hinzufügen von Filtern, Ändern von Farben und Speichern mit verschiedenen verlustbehafteten Komprimierungen“. Schemata, die am häufigsten für JPEG-Dateien verwendet werden.“

Du kannst Folgen EL PAÍS-Technologie In Facebook j X oder melden Sie sich hier an, um unsere zu erhalten Newsletter-Semanal.