Besorgt über KI? Wie der kalifornische Gesetzgeber die Risiken der Technologie im Jahr 2024 angehen will

Jodi Long wurde von dem Käfig voller Kameras überrascht, die Bilder ihres Gesichts und Körpers aufnehmen sollten.

„Ich war ein wenig ausgeflippt, weil ich, bevor ich dort reinkam, sagte, dass ich mich nicht erinnern kann, dass das in meinem Vertrag gestanden hätte“, sagte der Schauspieler.

Die Filmemacher brauchten ihren digitalen Scan, wurde Long gesagt, weil sie sicherstellen wollten, dass ihre Arme in einer Szene, in der sie eine computergenerierte Figur hält, richtig positioniert waren.

Dieser Moment im Jahr 2020 blieb Long, der Präsidentin des SAG-AFTRA-Lokals in Los Angeles, im Gedächtnis, als sie über Schutzmaßnahmen rund um den Einsatz künstlicher Intelligenz verhandelte, als Schauspieler in den Streik traten. Im November einigte sich die Schauspielerzunft mit den Hollywood-Studios auf eine Vereinbarung, die unter anderem eine Zustimmung und eine Entschädigung für die Nutzung der digitalen Replik eines Arbeiters vorsah.

Gewerkschaften sind nicht die einzigen, die versuchen, die potenziellen Bedrohungen durch KI einzudämmen. Zusammen mit der Unterzeichnung einer Durchführungsverordnung zu KI durch Gouverneur Gavin Newsom im September haben die kalifornischen Gesetzgeber eine Reihe von Gesetzen eingeführt, die den Grundstein für mehr Regulierung im Jahr 2024 legen. Einige der Vorschläge konzentrieren sich auf den Schutz von Arbeitnehmern und die Bekämpfung von KI-Systemen, die zur Geschlechterverteilung beitragen können und rassistische Vorurteile sowie die Festlegung neuer Anforderungen zum Schutz vor dem Missbrauch von KI für Cyberkriminalität, Waffenentwicklung und Propaganda.

Ob es den kalifornischen Gesetzgebern jedoch gelingen wird, ein KI-Gesetz zu verabschieden, bleibt unklar. Sie werden mit der Lobbyarbeit von milliardenschweren Technologieunternehmen wie Microsoft, Google und Facebook konfrontiert sein, politischen Machthabern, die mehrere in diesem Jahr eingeführte KI-Gesetze erfolgreich aufgehalten haben.

Künstliche Intelligenz gibt es schon seit Jahrzehnten. Da die Technologie jedoch rasant voranschreitet, wirft die Fähigkeit von Maschinen, mit der menschlichen Intelligenz verbundene Aufgaben auszuführen, die Frage auf, ob KI Arbeitsplätze ersetzen, die Verbreitung von Fehlinformationen befeuern oder sogar zum Aussterben der Menschheit führen wird.

Während Gesetzgeber versuchen, KI zu regulieren, versuchen sie auch zu verstehen, wie die Technologie funktioniert, damit sie ihre potenziellen Vorteile nicht behindern und gleichzeitig versuchen, Gefahren zu mindern.

„Eine der größten Herausforderungen besteht darin, dass es sich bei dieser Technologie um einen doppelten Verwendungszweck handelt, was bedeutet, dass die gleiche Art von Technologie, die beispielsweise zu massiven Verbesserungen im Gesundheitswesen führen kann, möglicherweise auch dazu verwendet werden kann, ziemlich ernsthaften Schaden anzurichten“, sagte Daniel Ho, Professor an der juristischen Fakultät der Stanford University, der das Weiße Haus in Fragen der KI-Politik berät.

Politiker verspüren ein Gefühl der Dringlichkeit und weisen auf den Widerstand hin, auf den sie bereits gestoßen sind, als sie versuchten, einige der durch soziale Medien und andere Technologieprodukte verschärften Probleme der psychischen Gesundheit und der Kindersicherheit in den Griff zu bekommen. Während einige Tech-Führungskräfte sagen, dass sie nicht gegen die Regulierung sind, haben sie auch gesagt, dass Kritiker die Risiken übertreiben und ihre Besorgnis geäußert haben, dass sie sich mit einem Flickenteppich von Regeln herumschlagen müssen, die auf der ganzen Welt unterschiedlich sind.

TechNet – eine Handelsgruppe, zu der eine Vielzahl von Unternehmen wie Apple, Google und Amazon gehören – erläutert dies Webseite Was Mitglieder in Bezug auf die KI-Regulierung unterstützen würden und was nicht. Laut TechNet sollten politische Entscheidungsträger beispielsweise „pauschale Verbote von künstlicher Intelligenz, maschinellem Lernen oder anderen Formen der automatisierten Entscheidungsfindung“ vermeiden und KI-Entwickler nicht dazu zwingen, proprietäre Informationen öffentlich zu teilen.

Ash Kalra (D-San Jose), Mitglied der Staatsversammlung, sagte, dass die politischen Entscheidungsträger den Technologieunternehmen nicht zutrauen, sich selbst zu regulieren.

„Als Gesetzgeber ist es meine Absicht, die Öffentlichkeit und die Arbeitnehmer zu schützen und vor Risiken zu schützen, die durch unregulierte KI entstehen können“, sagte Kalra. „Diejenigen in der Branche haben unterschiedliche Prioritäten.“

Einem Bericht von Goldman Sachs vom April zufolge könnte KI 300 Millionen Vollzeitarbeitsplätze beeinträchtigen.

Im September stellte Kalra vor Gesetzgebung Dies würde Schauspielern, Synchronsprechern und anderen Arbeitnehmern die Möglichkeit geben, vage Verträge aufzuheben, die es Studios und anderen Unternehmen ermöglichen, künstliche Intelligenz zu nutzen, um ihre Stimmen, Gesichter und Körper digital zu klonen. Kalra sagte, er habe vorerst keine Pläne, den von SAG-AFTRA unterstützten Gesetzentwurf aufzuheben.

Bundesgesetzgeber haben außerdem Gesetze eingeführt, die darauf abzielen, die Stimmen und Konterfeis von Arbeitnehmern zu schützen. Präsident Biden unterzeichnete eine oberster Befehl zum Thema KI im Oktober und wies darauf hin, dass die Technologie die Produktivität verbessern, aber auch Arbeitskräfte verdrängen könne.

Präsident Biden und Gouverneur Gavin Newsom bei einer Diskussion über künstliche Intelligenz im Juni. Sowohl Biden als auch Newsom haben Durchführungsverordnungen zur KI erlassen und unterzeichnet.

(Susan Walsh / Associated Press)

Duncan Crabtree-Ireland, der nationale Geschäftsführer und Chefunterhändler von SAG-AFTRA, sagte, er halte es für wichtig, dass sowohl staatliche als auch bundesstaatliche Gesetzgeber die KI unverzüglich regulieren.

„Es muss aus verschiedenen Quellen kommen und [be] so zusammengestellt, dass das ultimative Bild entsteht, das wir alle sehen wollen“, sagte er.

Politische Entscheidungsträger außerhalb der USA haben bereits Fortschritte gemacht. Im Dezember wurde die Europäisches Parlament und die EU-Mitgliedstaaten haben eine bahnbrechende Einigung über das KI-Gesetz erzielt und den Vorschlag als „das weltweit erste umfassende KI-Gesetz“ bezeichnet. Die Gesetzgebung enthält unterschiedliche Regeln, die darauf basieren, wie riskant KI-Systeme sind, und verlangt auch, dass KI-Tools, die Text, Bilder und andere Inhalte generieren, wie ChatGPT von OpenAI, veröffentlichen, welche urheberrechtlich geschützten Daten zum Trainieren der Systeme verwendet wurden.

Während Bundes- und Landesgesetzgeber die Gesetzgebung verfeinern, beobachten Arbeitnehmer, wie sich KI auf ihre Arbeitsplätze auswirkt, und prüfen, ob die aktuellen Gesetze ausreichenden Schutz bieten.

Technologieunternehmen – darunter die von Microsoft unterstützten OpenAI, Stability AI, die Facebook-Muttergesellschaft Meta und Anthropic – sehen sich mit Klagen wegen Vorwürfen konfrontiert, sie hätten urheberrechtlich geschützte Werke von Künstlern und Autoren verwendet, um ihre KI-Systeme zu trainieren. Am Mittwoch reichte die New York Times eine Klage gegen Microsoft und OpenAI ein und beschuldigte die Technologieunternehmen, urheberrechtlich geschützte Werke zu verwenden, um KI-Produkte zu entwickeln, die mit der Nachrichtenagentur konkurrieren würden.

Tim Friedlander, Präsident und Mitbegründer der National Assn. von Voice Actors, sagte, dass seine Mitglieder Arbeitsplätze verlieren, weil einige Unternehmen beschlossen haben, KI-generierte Stimme zu verwenden. Schauspieler haben auch behauptet, dass ihre Stimmen ohne ihre Zustimmung oder Entschädigung geklont würden, ein Problem, mit dem auch Musiker konfrontiert sind.

„Eines der schwierigsten Dinge im Moment ist, dass es keine Möglichkeit gibt, zu beweisen, dass etwas menschlich oder synthetisch ist, oder nachweisen zu können, woher die Stimme kommt“, sagte er.

Der Arbeitnehmerschutz ist nur ein Problem im Zusammenhang mit KI, mit dem sich der kalifornische Gesetzgeber im Jahr 2024 befassen wird.

Senator Scott Wiener (D-San Francisco) hat im September den Safety in Artificial Intelligence Act eingeführt, der darauf abzielt, einige der größten von KI ausgehenden Risiken anzugehen, darunter den möglichen Missbrauch der Technologie in chemischen und nuklearen Waffen, Wahleinmischung usw Cyberangriffe. Auch wenn der Gesetzgeber „Innovationen nicht unterdrücken“ wolle, wolle er dennoch proaktiv sein, sagte Wiener.

„Wenn man nicht vorankommt, kann es zu spät sein, und das haben wir bei den sozialen Medien und anderen Bereichen gesehen, wo wir zumindest umfassende Schlaganfallregulierungssysteme hätten einrichten sollen, bevor das Problem auftritt“, sagte er .

Der Gesetzgeber befürchtet zudem, dass KI-Systeme Fehler machen könnten, die zu einer Ungleichbehandlung von Menschen aufgrund geschützter Merkmale wie Rasse und Geschlecht führen könnten. Die Abgeordnete Rebecca Bauer-Kahan (D-Orinda) unterstützt einen Gesetzentwurf, der es einer Person oder Organisation verbieten würde, ein KI-System oder einen KI-Dienst einzusetzen, das an „Folgeentscheidungen“ beteiligt ist, die zu „algorithmischer Diskriminierung“ führen.

Die Sorge, dass Algorithmen aufgrund der zum Trainieren der Computersysteme verwendeten Daten geschlechtsspezifische und rassistische Vorurteile verstärken können, ist in der Technologiebranche ein anhaltendes Problem. Amazon hat beispielsweise ein KI-Rekrutierungstool eingestellt, weil es eine Voreingenommenheit gegenüber Frauen zeigte, nachdem die Computermodelle mit Lebensläufen trainiert wurden, die überwiegend von Männern stammten. Reuters im Jahr 2018 gemeldet.

Die Verabschiedung von KI-Gesetzen hat sich bereits als schwierig erwiesen. Bauer-Kahans Gesetzentwurf gelangte nicht einmal zur Abstimmung ins Plenum. Eine Analyse der Gesetzgebung, AB 331, ergab, dass verschiedene Branchen und Unternehmen Bedenken geäußert hatten, dass sie zu weit gefasst sei und zu einer „Überregulierung in diesem Bereich“ führen würde.

Dennoch sagte Bauer-Kahan, sie plane, den Gesetzentwurf trotz des Widerstands, dem sie in der letzten Sitzung ausgesetzt war, im Jahr 2024 wieder einzuführen.

„Ich möchte nicht, dass diese Tools verschwinden, aber ich möchte sicherstellen, dass wir bei ihrer Markteinführung wissen, dass sie nicht diskriminierend sind“, sagte sie. „Diese Ausgewogenheit ist nicht zu viel verlangt.“

Eine weitere Herausforderung für Politiker im Jahr 2024 besteht darin, herauszufinden, welchen Themen Priorität einzuräumen ist, wenn es um die potenziellen Risiken der KI geht, da es in einem Wahljahr schwierig sein kann, umstrittene Gesetzesentwürfe zu verabschieden.

„Wenn es keine Einigkeit darüber gibt, wie der Schaden priorisiert wird und welche am dringendsten sind, kann es schwierig werden, herauszufinden, welche Interventionsform am effektivsten sein könnte“, sagte Ho von der Stanford University Professor der juristischen Fakultät.

Trotz aller Befürchtungen rund um KI, sagte Long, blicke sie weiterhin optimistisch in die Zukunft.

Sie spielte in Blockbuster-Filmen wie Marvels „Shang-Chi und die Legende der zehn Ringe“ mit und gewann 2021 als erste asiatische Amerikanerin einen Daytime Emmy für die herausragende Leistung einer Nebendarstellerin in der Netflix-Show „Dash and Lily“. .“

„Meine Branche ist ein kollaborativer Prozess zwischen vielen Menschen“, sagte sie. „Und solange wir Menschen haben, die unsere Geschichten verbreiten, wird es uns meiner Meinung nach gut gehen.“