Wie Modelagentin Chelsea Bonner künstliche Intelligenz einsetzt, um einen „katastrophalen Rückschritt“ für die Industrie zu vermeiden

Chelsea Bonner lud eine Reihe von Bildern von sich selbst in eine App für künstliche Intelligenz (KI) hoch, bat sie, ihr Dessous anzuziehen, und schwupps: „Chelsea in einer Cartoon-Anime-Pornoversion“.

AI Chelsea hatte keine der Falten oder Kurven, die die 50-jährige Bonner als Teil der selbstbewussten, klugen Frau annimmt, die sie ist, eine Frau, die seit 21 Jahren mit ihrer Modelagentur an vorderster Front steht, wenn es darum geht, Vielfalt zu fördern.

Diese hypersexualisierte KI-Chelsea hatte Größe etwa 36, ​​hatte makellose Haut, unglaubliche Bauchmuskeln und wirkte nicht wie eine gefälschte Handtasche.

„Es ist so etwas wie die Anime-Version dessen, wie Männer denken, dass Frauen aussehen sollten“, erzählt Bonner Australian Story. Selbst als Bonner die App mehrmals dazu aufforderte, mehr Fleisch auf die Knochen und mehr Poren in die Haut zu bringen, sah die KI Chelsea immer noch fremdartig aus wie die echte.

Für Bonner war dies kein leeres Experiment. Sie hatte sich in die Welt der generativen KI begeben, um besser zu verstehen und zu bekämpfen, was ihrer Meinung nach eine ernsthafte und beunruhigende Bedrohung für die Modebranche und viele andere darstellt.

Anstatt Models, Fotografen, Friseure, Visagisten und andere Berufsgruppen zu bezahlen, die bei der Erstellung von Modebildern helfen, könnten Unternehmen KI nutzen, um Fotos eines „realistischen Fake“-Models zu erstellen, das in ihrer Kleidung an einem exotischen Ort sitzt . Es passiert bereits.

Je mehr sich Bonner erkundete, desto mehr wuchsen ihre Bedenken über ihre Branche hinaus. Sie machte sich Sorgen darüber, welchen Einfluss diese computergenerierten Bilder der „perfekten“ Frau auf das Selbstvertrauen der echten Frauen, insbesondere der Mädchen, haben würden. Sie war entsetzt darüber, dass KI-Modelle als real dargestellt wurden und Menschen zu Pornos oder Dating-Seiten oder zum Kauf von Waren lockten.

In was für eine Zukunft marschierten wir blindlings?

„Es ist ein katastrophaler Rückschritt“, sagt Bonner. „Als ich anfing, war jeder [model] … war eine 1,80 Meter große, weiße, normalerweise blonde oder vielleicht brünette Frau, und sie trugen immer Größe 36 bis maximal Größe 40.

„In den letzten 20 Jahren haben wir große Fortschritte bei der Größenvielfalt, der ethnischen Inklusion und dem Einsatz von Models mit unterschiedlichen Fähigkeiten und Behinderungen gemacht. Es war ein echter Kampf.“ [and] Ich habe einfach das Gefühl, dass wir in der Zeit zurückreisen.

Also steigt Bonner wieder in den Ring und leitet eine Petition, um das Bundesparlament zum Handeln zu bewegen. Die Statistik besagt, dass allein im vergangenen Jahr mehr als 15 Milliarden Bilder durch KI generiert wurden und in sozialen Medien und Online-Shopping-Plattformen verbreitet wurden.

„Ohne Regeln, ohne Governance kann diese Technologie sehr schnell außer Kontrolle geraten, und das können wir einfach nicht zulassen“, sagt Bonner.

Wir sind an einem Wendepunkt, sagt sie, und was uns menschlich macht, steht auf dem Spiel.

Wurde Ihr Bild zum Trainieren von KI verwendet?

Bonner wuchs umgeben von Schönheit auf. Ihre Eltern waren das „It“-Paar der 70er Jahre; Ihr Vater, Tony Bonner, spielte den robusten, gutaussehenden Hubschrauberpiloten Jerry im australischen Fernsehklassiker „Skippy“, und ihre Mutter, Nola Clark, war eines der Top-Models der Zeit.

Als Mädchen liebte Bonner die Welt der Mode, die Kunst, einen „Look“ für die Kamera zu kreieren, und beschloss, es mit dem Modeln zu versuchen. Aber sie hatte keine Größe 36.

„Als großes Mädchen konnte sie niemanden dazu bringen, sie ernst zu nehmen“, erinnert sich Clark.

„So nannte man sie damals, große Mädchen, was ziemlich ekelhaft ist.“

Also gründete Bonner ihre eigene Agentur, die sich auf Plus-Size-Models wie Robyn Lawley spezialisierte, die unter Bonners Leitung ihren großen Durchbruch feierte, als sie für die Titelseiten der Vogue Italia und der Vogue Australia posierte.

Lawley, eine Größe 44, hat beobachtet, wie Bonner den Weg dafür ebnete, dass Models wie sie selbst in Modeshootings zum Einsatz kamen, was den 80 Prozent der Frauen über Größe 40 entspricht. „Chelsea versucht immer, kaputte Dinge zu reparieren“, sagt sie sagt.

Das Duo sei wieder vereint, sagt Lawley, „kämpfend.“ [for] Vielfalt in einem ganz anderen Bereich“ – das Land der generativen KI, in dem gefälschte Modelle von Cartoon-Typen mit großen Brüsten bis hin zu raffinierten Kreationen reichen können, die der Realität sehr nahe kommen.

Jeannie Paterson, Juraprofessorin und Direktorin des Centre for AI and Digital Ethics an der University of Melbourne, sagt, dass KI zwar schon seit einiger Zeit existiert, der Gamechanger in den letzten Jahren jedoch die generative KI war, die einigermaßen realistische Bilder erzeugen kann sind leicht zu manipulieren.

„Generative KI … wird auf vielen, vielen Bildern trainiert, die normalerweise aus dem Internet gesammelt werden … ist dann aber in der Lage, eigene Bilder zu erstellen“, sagt Paterson.

„Der Grund, der rechtliche Schwierigkeiten bereitet … ist, dass es sich nicht um eine direkte Kopie der gefundenen Bilder handelt, was bedeutet, dass nicht klar ist, wem die Originaldaten gehören und ob die neuen Bilder das Urheberrecht verletzen.“

Aber für Bonner und Lawley ist es einfach. Es ist Diebstahl. „Es geht darum, die Identität einer Person zu stehlen, um falsche Identitäten zu schaffen und diese aus finanziellen Gründen zu verkaufen“, sagt Bonner.

Wird geladen…

Bonner fürchtet um die Wahrnehmung von Schönheit durch Kinder

Bonner brachte sich innerhalb eines Tages selbst bei, ihre eigenen KI-Modelle zu erstellen und Gesichter von einem Körper zum nächsten zu wechseln. Es ist eine ganz neue Welt des Mischens und Kombinierens, in der Sie eine große, langbeinige Blondine kreieren und das Gesicht einer anderen Person darauf platzieren oder ansprechende Gesichtszüge mischen können – die Nase von Margot Robbie, die Wangenknochen von Rihanna.

Der nächste Schritt besteht darin, die KI-Modelle in die Tat umzusetzen.

Websites wie Lalaland.ai, ein digitales Modestudio, stellen gefälschte KI-Modelle her, damit Kunden ihre Kleidung anziehen können. Schicken Sie der Website die 3D-Renderings von Kleidungsstücken und, sagt Bonner, „sie werden sie auf ein gefälschtes menschliches Modell setzen und die fertigen Bilder zurücksenden.“ [companies] kann dann in Markenkampagnen und Katalogen, In-Store-Postern und Werbetafeln verwendet werden.“ Keine kniffligen und teuren Fotoshootings mehr.

Das Jeansunternehmen Levi’s war eines der ersten Unternehmen, das die KI-Modelle von Lalaland nutzte und kündigte damit seine neu entdeckte Fähigkeit an, auf seiner Online-Shopping-Website computergenerierte Modelle unterschiedlicher Formen und Ethnien zum Tragen der Kleidung der Marke bereitzustellen. Diese Modelle, sagt Bonner, seien sehr realistisch gewesen.

„Niemand wäre darauf aufmerksam geworden, wenn er sich nicht entschieden hätte, es stolz als Markenbildungsübung zu nutzen“, sagt Bonner. Levi’s wurde in den Medien dafür angeprangert, dass es auf echte Models verzichtete, insbesondere auf diverse Models, die gerade erst in der Branche Fuß gefasst hatten. Das Unternehmen gab später eine „Klarstellung“ heraus, dass es den Einsatz realer Modelle nicht einschränken werde.

Aber die Tür ist offen. Bonner kennt kleinere australische Unternehmen, die komplett auf KI-Modelle umgestiegen sind. Als Geschäftsfrau versteht Bonner das Streben nach Kosteneinsparungen, sagt jedoch, dass die Auswirkungen dieser Innovation nicht nur für die Vielfalt, sondern auch für die Wirtschaft beängstigend seien.

„Unzählige Menschen werden in einer von Frauen geführten Branche entlassen.“ [while the makers of AI models] „Sie sitzen da auf der anderen Seite der Welt und zahlen keine Steuern in Australien, tragen nicht zu unseren Medicare-Abgaben bei und zahlen niemandem die Altersvorsorge“, sagt Bonner.

„Die Milliarden von Dollar in der Wirtschaft, die unsere Industrie generiert, werden sehr bald verschwunden sein.“

Bonner und Lawley entdeckten außerdem, dass die Körper echter Frauen – Frauen, die Aufnahmen von sich selbst am Strand oder beim Abendessen gepostet hatten – mit KI-Gesichtern versehen und für Pornos oder Dating-Seiten oder als Influencerinnen beim Verkauf von Dingen verwendet wurden. Und sie wurden als echt ausgegeben.

Viele dieser KI-Modelle haben Tausende von Anhängern, einige sogar Millionen, und neigen laut Lawley dazu, große Brüste und ein lächerlich makelloses, kindliches Gesicht zu haben. „Diese Körper existieren nicht“, sagt sie. „Sie sind nicht real. Das ist Fantasie.“

Wird geladen…

Bonner sagt, die „Schwere des männlichen Blicks“ sei in der stereotypischen „perfekten“ KI-Frau offensichtlich und schüre ihre Ängste vor beeinflussbaren Mädchen.

„Die Prävalenz von Essstörungen nach Einführung der KI wird einfach katastrophal sein“, sagt sie.

Es versteinert Lawley. Sie hat eine neunjährige Tochter und macht sich Sorgen, welche Auswirkungen diese idealisierten KI-Modelle auf das Körperbild und das Selbstwertgefühl von Kindern haben werden. „Welche Bilder werden sie betrachten und denken: ‚Ist das ein Mensch? Soll ich meinen Körper mit diesem Körper vergleichen? Oder ist das ein Roboter?‘.“

„Wir können den Bildern, die wir sehen, nicht vertrauen“

Als Bonner in den KI-Kaninchenbau vordrang, entdeckte sie das Buch „Man-Made“ der Journalistin Tracey Spicer und war so beunruhigt: „Ich wusste nicht, ob ich weinen sollte, wen ich schlagen sollte oder wen ich ausschalten musste.“

Sie nahm Kontakt zu Spicer auf, der argumentiert, dass „die Bigotterie, Voreingenommenheit und Diskriminierung“ der Vergangenheit in den Datensätzen, Algorithmen und dem maschinellen Lernen der KI verankert sei.

„Es geht darum, uns alle als Konsumenten in Schubladen zu stecken und uns mit Dingen zu füttern, die stereotyp aus der Vergangenheit sind.“

Auf einer eher existenziellen Ebene sagt Spicer, dass die Schaffung gefälschter Bilder, die als echt ausgegeben werden, eine Bedrohung für die Gesellschaft darstellt.

„Wir können Bildern, die wir sehen, und Worten, die wir lesen, nicht vertrauen“, sagt Spicer. „Das führt zu einem größeren Misstrauen und Misstrauen gegenüber der Demokratie, gegenüber Führungskräften und Institutionen und letztendlich zu mehr sozialen Unruhen, mehr Kriegen und einer wirklich aus dem Gleichgewicht geratenen, zerrütteten, gefährlichen Gesellschaft.“

In ihrer Angst vereint, starteten Bonner, Lawley und Spicer die Petition, die nun vom Bundesparlament angenommen wurde und auf die Prüfung durch die Minister wartet.

Die Hauptforderung besteht darin, dass KI-Bilder eindeutig als solche gekennzeichnet werden. Bonner sagt, die Technologie sei dazu da, Metadaten zu lesen, um KI-Fotos von echten zu unterscheiden. Was benötigt wird, ist die politische Macht, dies durchzusetzen.