Die Westfield Public Schools veranstalteten Ende März eine regelmäßige Vorstandssitzung in der örtlichen High School, einem roten Backsteinkomplex in Westfield, New Jersey, mit einer Anzeigetafel draußen, auf der die Besucher der Sportmannschaften „Heimat der Blue Devils“ stolz begrüßt wurden.
Doch für Dorota Mani lief es nicht wie gewohnt.
Im Oktober machten einige Mädchen der 10. Klasse der Westfield High School – darunter auch Frau Manis 14-jährige Tochter Francesca – die Schulleitung darauf aufmerksam, dass Jungen in ihrer Klasse Software mit künstlicher Intelligenz eingesetzt hätten, um sexuell eindeutige Bilder von ihnen zu fabrizieren, und dass sie die Fälschungen in Umlauf brachten Bilder. Fünf Monate später, sagen die Manis und andere Familien, habe der Bezirk kaum etwas unternommen, um die manipulierten Bilder öffentlich anzusprechen oder die Schulrichtlinien zu aktualisieren, um den ausbeuterischen Einsatz von KI zu verhindern.
„Es scheint, als würden die Verwaltung der Westfield High School und der Bezirk eine Meisterklasse absolvieren, um diesen Vorfall in Luft auflösen zu können“, ermahnte Frau Mani, die Gründerin einer örtlichen Vorschule, die Vorstandsmitglieder während des Treffens.
In einer Erklärung erklärte der Schulbezirk, er habe eine „sofortige Untersuchung“ eingeleitet, nachdem er von dem Vorfall erfahren hatte, die Polizei sofort benachrichtigt und mit ihr Rücksprache gehalten und der zweiten Klasse eine Gruppenberatung angeboten.
„Alle Schulbezirke kämpfen mit den Herausforderungen und Auswirkungen künstlicher Intelligenz und anderer Technologien, die den Schülern jederzeit und überall zur Verfügung stehen“, sagte Raymond González, der Schulleiter der Westfield Public Schools, in der Erklärung.
Überrumpelt von der plötzlichen Beliebtheit von KI-gestützten Chatbots wie ChatGPT im letzten Jahr, beeilten sich Schulen in den Vereinigten Staaten, die textgenerierenden Bots einzudämmen, um Betrug durch Schüler zu verhindern. Jetzt erschüttert ein alarmierenderes Phänomen der KI-Bilderzeugung die Schulen.
Jungen in mehreren Bundesstaaten haben weit verbreitete „Nacktheits“-Apps genutzt, um echte, identifizierbare Fotos ihrer bekleideten Klassenkameradinnen, die bei Veranstaltungen wie Schulbällen gezeigt wurden, in anschauliche, überzeugend aussehende Bilder der Mädchen mit entblößten, KI-generierten Brüsten und Genitalien zu verfälschen. Berichten von Schulen und der Polizei zufolge teilten Jungen in einigen Fällen die gefälschten Bilder in der Schulkantine, im Schulbus oder über Gruppenchats auf Plattformen wie Snapchat und Instagram.
Solche digital veränderten Bilder – bekannt als „Deepfakes“ oder „Deepnudes“ – können verheerende Folgen haben. Experten für sexuelle Ausbeutung von Kindern sagen, dass die Verwendung nicht einvernehmlicher, KI-generierter Bilder zur Belästigung, Demütigung und Schikanierung junger Frauen ihrer geistigen Gesundheit, ihrem Ruf und ihrer körperlichen Sicherheit schaden und Risiken für ihre Studien- und Karriereaussichten darstellen kann. Letzten Monat warnte das Federal Bureau of Investigation, dass es illegal sei, computergeneriertes Material über sexuellen Missbrauch von Kindern zu verbreiten, einschließlich realistisch aussehender, KI-generierter Bilder von identifizierbaren Minderjährigen, die sich sexuell eindeutig verhalten.
Doch der Einsatz ausbeuterischer KI-Apps durch Schüler in Schulen ist so neu, dass einige Bezirke offenbar weniger darauf vorbereitet sind als andere. Dies kann die Schutzmaßnahmen für Studierende prekär machen.
„Dieses Phänomen ist sehr plötzlich aufgetreten und kann dazu führen, dass viele Schulbezirke unvorbereitet und unsicher sind, was sie tun sollen“, sagte Riana Pfefferkorn, Forscherin am Stanford Internet Observatory, die über rechtliche Fragen im Zusammenhang mit computergenerierter Kindersexualität schreibt Bilder missbrauchen.
An der Issaquah High School in der Nähe von Seattle fragte im vergangenen Herbst ein Polizist, der Beschwerden von Eltern über explizite KI-generierte Bilder ihrer 14- und 15-jährigen Töchter untersuchte, einen stellvertretenden Schulleiter, warum die Schule den Vorfall nicht der Polizei gemeldet habe zu einem Bericht der Issaquah Police Department. Der Schulbeamte fragte dann, „was sie melden sollte“, heißt es in dem Polizeidokument, was den Ermittler dazu veranlasste, ihr mitzuteilen, dass Schulen gesetzlich dazu verpflichtet sind, sexuellen Missbrauch, einschließlich möglicher Darstellungen von sexuellem Kindesmissbrauch, zu melden. Die Schule meldete den Vorfall anschließend dem Kinderschutzdienst, heißt es in dem Polizeibericht. (Die New York Times erhielt den Polizeibericht durch eine Anfrage nach öffentlichen Aufzeichnungen.)
In einer Erklärung sagte der Schulbezirk Issaquah, er habe im Rahmen seiner Ermittlungen zu den Deepfakes mit Schülern, Familien und der Polizei gesprochen. Der Bezirk teilte auch „unser Mitgefühl“, heißt es in der Erklärung, und unterstützte die betroffenen Studenten.
Die Erklärung fügte hinzu, dass der Bezirk die „gefälschten, durch künstliche Intelligenz erzeugten Bilder aus größter Vorsicht den Kinderschutzdiensten gemeldet habe“ und stellte fest, dass „nach unserer Rechtsabteilung wir nicht verpflichtet sind, gefälschte Bilder der Polizei zu melden.“ ”
An der Beverly Vista Middle School in Beverly Hills, Kalifornien, kontaktierten die Schulleiter im Februar die Polizei, nachdem sie erfahren hatten, dass fünf Jungen KI-generierte explizite Bilder weiblicher Klassenkameraden erstellt und geteilt hatten. Zwei Wochen später genehmigte die Schulbehörde laut Bezirksdokumenten den Ausschluss von fünf Schülern. (Der Bezirk sagte, das kalifornische Bildungsgesetz verbiete es ihm, zu bestätigen, ob es sich bei den ausgewiesenen Schülern um die Schüler handelte, die die Bilder hergestellt hatten.)
Michael Bregy, Superintendent des Beverly Hills Unified School District, sagte, er und andere Schulleiter wollten einen landesweiten Präzedenzfall schaffen, wonach Schulen Schülern nicht erlauben dürften, sexuell eindeutige Bilder von Gleichaltrigen zu erstellen und zu verbreiten.
„Das ist extremes Mobbing, wenn es um Schulen geht“, sagte Dr. Bregy und stellte fest, dass die expliziten Bilder „verstörend und verletzend“ für Mädchen und ihre Familien seien. „Das werden wir hier auf keinen Fall tolerieren.“
Schulen in den kleinen, wohlhabenden Gemeinden Beverly Hills und Westfield gehörten zu den ersten, die Deepfake-Vorfälle öffentlich zugaben. Die Einzelheiten der Fälle – beschrieben in der Kommunikation des Bezirks mit den Eltern, in Schulratssitzungen, in Anhörungen zum Gesetzgeber und in Gerichtsakten – veranschaulichen die Variabilität der Reaktionen der Schulen.
Der Vorfall in Westfield begann letzten Sommer, als ein männlicher Oberschüler auf Instagram darum bat, eine Freundin einer 15-jährigen Klassenkameradin zu werden, die einen privaten Account hatte, wie aus einer Klage der jungen Frau und ihrer Familie gegen den Jungen und seine Eltern hervorgeht. (Die Manis sagten, sie seien nicht an der Klage beteiligt.)
Nachdem sie die Anfrage angenommen hatte, kopierte der männliche Student Fotos von ihr und mehreren anderen weiblichen Schulkameraden von ihren Social-Media-Konten, heißt es in Gerichtsdokumenten. Dann nutzte er eine KI-App, um sexuell eindeutige, „vollständig identifizierbare“ Bilder der Mädchen zu fabrizieren und teilte sie laut Gerichtsdokumenten über eine Snapchat-Gruppe mit Schulkameraden.
Westfield High begann Ende Oktober mit den Ermittlungen. Während die Schulleitung stillschweigend einige Jungen zur Seite nahm, um sie zu befragen, riefen sie sie und andere Zehntklässlermädchen, die den Deepfakes ausgesetzt waren, ins Schulbüro, indem sie ihre Namen über die Gegensprechanlage der Schule bekannt gaben, sagte Francesca Mani.
In dieser Woche schickte Mary Asfendis, die Direktorin der Westfield High, eine E-Mail an die Eltern, in der sie sie auf „eine Situation aufmerksam machte, die zu weit verbreiteten Fehlinformationen führte“. In der E-Mail wurden die Deepfakes weiter als „sehr schwerwiegender Vorfall“ beschrieben. Es hieß auch, dass die Schule trotz der Besorgnis der Schüler über eine mögliche Weitergabe von Bildern der Ansicht sei, dass „alle erstellten Bilder gelöscht wurden und nicht verbreitet werden“.
Dorota Mani sagte, die Verwaltung von Westfield habe ihr mitgeteilt, dass der Bezirk den männlichen Studenten, der beschuldigt wurde, die Bilder gefälscht zu haben, für ein oder zwei Tage suspendiert habe.
Bald darauf begannen sie und ihre Tochter, öffentlich über den Vorfall zu sprechen und forderten Schulbezirke, staatliche Gesetzgeber und den Kongress auf, Gesetze und Richtlinien zu erlassen, die explizite Deepfakes ausdrücklich verbieten.
„Wir müssen anfangen, unsere Schulpolitik zu aktualisieren“, sagte Francesca Mani, jetzt 15, kürzlich in einem Interview. „Denn wenn die Schule KI-Richtlinien hätte, wären Schüler wie ich geschützt.“
Eltern, darunter Dorota Mani, reichten im vergangenen Herbst wegen der expliziten Bilder ebenfalls Belästigungsbeschwerden bei Westfield High ein. Während der Sitzung im März teilte Frau Mani den Schulvorstandsmitgliedern jedoch mit, dass die High School den Eltern noch keinen offiziellen Bericht über den Vorfall vorgelegt habe.
Die Westfield Public Schools sagten, sie könnten sich aus Gründen der Vertraulichkeit der Schüler nicht zu Disziplinarmaßnahmen äußern. In einer Erklärung sagte Dr. González, der Superintendent, dass der Bezirk seine Bemühungen verstärkte, „indem er unsere Studenten ausbildete und klare Richtlinien festlegte, um sicherzustellen, dass diese neuen Technologien verantwortungsvoll genutzt werden“.
Die Schulen in Beverly Hills haben eine entschiedenere öffentliche Haltung eingenommen.
Als die Schulleitung im Februar erfuhr, dass Jungen der achten Klasse der Beverly Vista Middle School eindeutige Bilder von 12- und 13-jährigen Klassenkameradinnen erstellt hatten, schickten sie schnell eine Nachricht – Betreff: „Entsetzlicher Missbrauch künstlicher Intelligenz“ – an alle Bezirkseltern, Mitarbeiter sowie Schüler der Mittel- und Oberstufe. In der Botschaft wurden die Gemeindemitglieder aufgefordert, Informationen mit der Schule zu teilen, um sicherzustellen, dass der „beunruhigende und unangemessene“ Einsatz von KI durch die Schüler „sofort aufhört“.
Es wurde auch gewarnt, dass der Bezirk bereit sei, schwere Strafen zu verhängen. „Jeder Student, bei dem festgestellt wird, dass er KI-generierte Bilder dieser Art erstellt, verbreitet oder besitzt, muss mit Disziplinarmaßnahmen rechnen“, einschließlich einer Empfehlung zum Ausschluss, hieß es in der Mitteilung.
Dr. Bregy, der Schulleiter, sagte, Schulen und Gesetzgeber müssten schnell handeln, da der Missbrauch von KI dazu führe, dass sich Schüler in Schulen unsicher fühlten.
„Man hört viel über körperliche Sicherheit in Schulen“, sagte er. „Aber wovon Sie nichts hören, ist dieser Eingriff in die persönliche, emotionale Sicherheit der Schüler.“
