Zwei Teenager aus Miami, Florida, wurden im Dezember verhaftet, weil sie angeblich ohne Zustimmung KI-generierte Nacktbilder männlicher und weiblicher Klassenkameraden erstellt und weitergegeben hatten, wie aus Polizeiberichten hervorgeht, die WIRED über eine öffentliche Aktenanfrage erhalten hatte.
Den Verhaftungsberichten zufolge hätten die Jungen im Alter von 13 und 14 Jahren die Bilder der Schüler erstellt, die „zwischen 12 und 13 Jahre alt“ seien.
Der Fall Florida scheint die ersten Festnahmen und Strafanzeigen zu sein, die aufgrund der angeblichen Weitergabe von KI-generierten Nacktbildern ans Licht kommen. Die Jungen wurden wegen Straftaten dritten Grades angeklagt – der gleichen Straftat wie schwerer Autodiebstahl oder Freiheitsberaubung – gemäß einem 2022 verabschiedeten Landesgesetz, das es zu einer Straftat macht, „jede veränderte sexuelle Darstellung“ einer Person ohne deren Zustimmung zu teilen.
Der Elternteil eines der festgenommenen Jungen reagierte nicht rechtzeitig zur Veröffentlichung auf eine Bitte um Stellungnahme. Der Elternteil des anderen Jungen sagte, er habe „keinen Kommentar“ abgegeben. Der mit dem Fall beauftragte Detektiv und der mit dem Fall befasste Staatsanwalt antworteten nicht rechtzeitig zur Veröffentlichung auf eine Stellungnahme.
Mit der zunehmenden Verbreitung von KI-Tools zur Bilderstellung kam es zu mehreren aufsehenerregenden Vorfällen, bei denen Minderjährige angeblich KI-generierte Nacktbilder von Klassenkameraden erstellten und diese ohne Zustimmung teilten. In den öffentlich gemeldeten Fällen – an der Issaquah High School in Washington, der Westfield High School in New Jersey und der Beverly Vista Middle School in Kalifornien – wurden keine Festnahmen bekannt gegeben, obwohl Polizeianzeigen eingereicht wurden. An der Issaquah High School entschied sich die Polizei, keine Anklage zu erheben.
Die ersten Medienberichte zum Florida-Fall erschienen im Dezember und besagten, dass die beiden Jungen für zehn Tage von der Pinecrest Cove Academy in Miami suspendiert wurden, nachdem die Schulleitung von Vorwürfen erfahren hatte, dass sie ohne Zustimmung gefälschte Nacktbilder erstellt und geteilt hätten. Nachdem die Eltern der Opfer von dem Vorfall erfahren hatten, begannen mehrere, die Schule öffentlich zu drängen, die Jungen von der Schule zu verweisen.
Nadia Khan-Roberts, die Mutter eines der Opfer, sagte gegenüber NBC Miami im Dezember, dass der Vorfall für alle Familien, deren Kinder Opfer waren, traumatisch sei. „Unsere Töchter fühlen sich nicht wohl, wenn sie mit diesen Jungen durch die gleichen Gänge gehen“, sagte sie. „Es gibt mir das Gefühl, verletzt und ausgenutzt zu werden [of] und ich fühle mich ausgenutzt“, sagte ein Opfer, das anonym bleiben wollte, dem Fernsehsender.
WIRED hat diese Woche Festnahmeunterlagen erhalten, aus denen hervorgeht, dass der Vorfall am 6. Dezember 2023 der Polizei gemeldet wurde und dass die beiden Jungen am 22. Dezember festgenommen wurden. In den Unterlagen wird dem Paar vorgeworfen, „eine Anwendung künstlicher Intelligenz“ verwendet zu haben, um die gefälschten eindeutigen Bilder zu erstellen . Der Name der App wurde nicht genannt und den Berichten zufolge hätten die Jungen die Bilder untereinander geteilt.
„Der Vorfall wurde einer Schulleitung gemeldet“, heißt es in den Berichten, ohne anzugeben, wer ihn gemeldet hat oder wie diese Person von den Bildern erfahren hat. Nachdem die Schulleitung „Kopien der veränderten Bilder erhalten hatte“, interviewte die Schulleitung die darauf abgebildeten Opfer, heißt es in den Berichten, die sagten, sie hätten der Erstellung der Bilder nicht zugestimmt.
