Nein, das ist nicht Taylor Swift, der Kochgeschirr von Le Creuset verkauft

Taylor Swifts Affinität zu Le Creuset ist real: Ihre Kochgeschirrkollektion wurde auf einem Tumblr-Account vorgestellt, der sich der Inneneinrichtung des Popstars widmet, in ihrer Geschenkauswahl bei der Brautparty eines Fans präsentiert und in einer Netflix-Dokumentation gezeigt, die von Le hervorgehoben wurde Creusets Facebook-Seite.

Was nicht real ist: Frau Swifts Unterstützung der Produkte des Unternehmens, die in den letzten Wochen in Anzeigen auf Facebook und anderswo erschienen sind, in denen ihr Gesicht und ihre Stimme zu sehen sind.

Die Anzeigen gehören zu den vielen Betrügereien, die auf Prominente ausgerichtet sind und durch künstliche Intelligenz weitaus überzeugender gemacht werden. Innerhalb einer einzigen Oktoberwoche trafen sich der Schauspieler Tom Hanks, die Journalistin Gayle King und die YouTube-Persönlichkeit MrBeast Alle sagten, dass KI-Versionen ihrer selbst ohne Erlaubnis für betrügerische Zahntarif-Werbeaktionen, iPhone-Werbeangebote und andere Werbung verwendet wurden.

Experten sagten, dass im Fall von Frau Swift die Technologie der künstlichen Intelligenz dazu beigetragen habe, eine synthetische Version der Stimme der Sängerin zu erstellen, die mit Filmmaterial von ihr und Clips, die niederländische Backöfen von Le Creuset zeigen, zusammengeschustert wurde. In mehreren Anzeigen wandte sich Frau Swifts geklonte Stimme an „Swifties“ – ihre Fans – und sagte, sie sei „begeistert“, kostenlose Kochgeschirrsets zu verteilen. Alles, was die Leute tun mussten, war, vor dem Ende des Tages auf eine Schaltfläche zu klicken und ein paar Fragen zu beantworten.

Le Creuset sagte, es sei nicht an einer Verbraucherverlosung mit der Sängerin beteiligt gewesen. Das Unternehmen forderte Käufer dringend auf, ihre offiziellen Online-Konten zu überprüfen, bevor sie auf verdächtige Anzeigen klicken. Vertreter von Frau Swift, die 2023 vom Time Magazine zur Person des Jahres gekürt wurde, antworteten nicht auf Anfragen nach Kommentaren.

Schon seit es Werbung gibt, verleihen berühmte Menschen Werbetreibenden ihre Berühmtheit. Manchmal war es unfreiwillig. Vor mehr als drei Jahrzehnten verklagte Tom Waits Frito-Lay – und gewann fast 2,5 Millionen US-Dollar –, nachdem der Maischip-Hersteller den Sänger ohne seine Erlaubnis in einer Radiowerbung nachgeahmt hatte. In der Betrugskampagne von Le Creuset waren auch erfundene Versionen von Martha Stewart und Oprah Winfrey zu sehen, die im Jahr 2022 ein entnervtes Video über die Verbreitung gefälschter Social-Media-Anzeigen, E-Mails und Websites veröffentlichten, in denen sie fälschlicherweise behauptete, sie befürworte Gummis zur Gewichtsabnahme.

Im vergangenen Jahr haben große Fortschritte in der künstlichen Intelligenz die Erstellung einer nicht autorisierten digitalen Nachbildung einer realen Person erheblich erleichtert. Audio-Parodien seien besonders leicht herzustellen und schwer zu identifizieren, sagte Siwei Lyu, Informatikprofessor und Leiter des Media Forensic Lab an der University at Buffalo.

Die Betrugskampagne von Le Creuset sei wahrscheinlich mithilfe eines Text-to-Speech-Dienstes erstellt worden, sagte Dr. Lyu. Solche Tools übersetzen normalerweise ein Skript in eine KI-generierte Stimme, die dann mithilfe von Lippensynchronisationsprogrammen in vorhandenes Videomaterial integriert werden kann.

„Diese Tools werden heutzutage sehr zugänglich“, sagte Dr. Lyu und fügte hinzu, dass es möglich sei, in weniger als 45 Minuten ein „Video in angemessener Qualität“ zu erstellen. „Es wird sehr einfach, und deshalb sehen wir mehr.“

Dutzende separate, aber ähnliche Betrugsanzeigen von Le Creuset mit Frau Swift – viele davon wurden diesen Monat veröffentlicht – waren Ende letzter Woche in der öffentlichen Anzeigenbibliothek von Meta sichtbar. (Das Unternehmen besitzt Facebook und Instagram.) Die Kampagne lief auch auf TikTok.

Die Anzeigen leiteten die Zuschauer auf Websites weiter, die legitime Verkaufsstellen wie das Food Network nachahmten, das gefälschte Berichterstattung über das Le Creuset-Angebot neben Erfahrungsberichten erfundener Kunden präsentierte. Die Teilnehmer wurden gebeten, eine „geringe Versandkostenpauschale von 9,96 US-Dollar“ für das Kochgeschirr zu zahlen. Diejenigen, die sich daran hielten, mussten mit versteckten monatlichen Gebühren rechnen, ohne jemals das versprochene Kochgeschirr zu erhalten.

Einige der gefälschten Le Creuset-Anzeigen, beispielsweise eine, die die Innenarchitektin Joanna Gaines nachahmt, hatten in den sozialen Medien einen trügerischen Schein der Legitimität, da Labels sie als gesponserte Beiträge oder als von verifizierten Konten stammend identifizierten.

Im April warnte das Better Business Bureau die Verbraucher, dass gefälschte Promi-Betrügereien, die mit KI erstellt wurden, „überzeugender denn je“ seien. Den Opfern blieben oft höhere Gebühren als erwartet und keine Spur von dem Produkt, das sie bestellt hatten, zurück. Banker haben auch über Versuche von Betrügern berichtet, Deepfakes oder synthetische Nachbildungen der Stimmen echter Menschen zu nutzen, um Finanzbetrug zu begehen.

Im vergangenen Jahr haben sich mehrere bekannte Personen öffentlich davon distanziert Anzeigen mit ihrem KI-manipulierten Abbild oder ihrer Stimme.

In diesem Sommer verbreiteten sich im Internet gefälschte Anzeigen, die angeblich den Country-Sänger Luke Combs zeigten, der für Abnehmgummis wirbt, die ihm seine Country-Musikkollegin Lainey Wilson empfohlen hatte. Frau Wilson veröffentlichte ein Instagram-Video, in dem sie die Werbung anprangerte und sagte: „Die Leute werden alles tun, um einen Dollar zu verdienen, auch wenn es Lügen sind.“ Chris Kappy, der Manager von Mr. Combs, veröffentlichte ebenfalls ein Instagram-Video, in dem er die Beteiligung an der Gummibärchen-Kampagne bestritt und ausländische Unternehmen beschuldigte, künstliche Intelligenz zu nutzen, um das Konterfei von Mr. Combs nachzubilden.

„Für andere Manager da draußen ist KI eine beängstigende Sache und sie nutzen sie gegen uns“, schrieb er.

Ein TikTok-Sprecher sagte, dass die Werberichtlinien der App von Werbetreibenden verlangen, dass sie für „alle synthetischen Medien, die eine Persönlichkeit des öffentlichen Lebens enthalten“ eine Einwilligung einholen. Er fügte hinzu, dass die Community-Standards von TikTok von den Erstellern verlangen, „synthetische oder manipulierte Medien mit realistischen Szenen“ offenzulegen.

Meta sagte, es habe gegen die Anzeigen vorgegangen, die gegen seine Richtlinien verstoßen, die Inhalte verbieten, in denen Persönlichkeiten des öffentlichen Lebens auf betrügerische Weise genutzt werden, um Benutzer um Geld zu betrügen. Das Unternehmen sagte, es habe rechtliche Schritte gegen einige Täter solcher Machenschaften eingeleitet, fügte jedoch hinzu, dass bösartige Anzeigen oft in der Lage seien, Metas Bewertungssystemen zu entgehen, indem sie ihren Inhalt verschleierten.

Da es keine Bundesgesetze zur Bekämpfung von KI-Betrügereien gibt, haben die Gesetzgeber Gesetze vorgeschlagen, die darauf abzielen, den Schaden zu begrenzen. Zwei im letzten Jahr im Kongress eingebrachte Gesetzentwürfe – der Deepfakes Accountability Act im Repräsentantenhaus und der No Fakes Act im Senat – würden Leitplanken wie Inhaltskennzeichnungen oder die Erlaubnis zur Verwendung der Stimme oder des Bildes einer Person erfordern.

Mindestens neun Bundesstaaten, darunter Kalifornien, Virginia, Florida und Hawaii, haben Gesetze zur Regulierung von KI-generierten Inhalten.

Vorerst wird Frau Swift wahrscheinlich weiterhin ein beliebtes Thema für KI-Experimente sein. Auf TikTok tauchen regelmäßig synthetische Versionen ihrer Stimme auf, in denen sie Lieder vorträgt, die sie nie gesungen hat, die bei Kritikern farbenfroh zur Geltung kommen und als Telefonklingeltöne dienen. Ein englischsprachiges Interview, das sie 2021 bei „Late Night With Seth Meyers“ gab, wurde mit einer künstlichen Wiedergabe ihrer Mandarin-Stimme synchronisiert. Eine Website verlangt bis zu 20 US-Dollar für personalisierte Sprachnachrichten vom „KI-Klon von Taylor Swift“ und verspricht, „dass die Stimme, die Sie hören, nicht von der echten Stimme zu unterscheiden ist“.