Ein Sportdirektor einer High School im Raum Baltimore wurde am Donnerstag festgenommen, nachdem er laut Polizei mithilfe einer Software für künstliche Intelligenz einen rassistischen und antisemitischen Audioclip erstellt hatte, in dem er sich als Schulleiter ausgab.
Dazhon Darien, der Sportdirektor der Pikesville High School, habe die Aufnahme erfunden – einschließlich einer Tirade über „undankbare schwarze Kinder, die es nicht schaffen, aus einer Papiertüte herauszukommen“ –, um den Schulleiter Eric Eiswert zu verunglimpfen, heißt es die Polizeibehörde des Baltimore County.
Die gefälschte Aufnahme, die Mitte Januar auf Instagram gepostet wurde, verbreitete sich schnell und versetzte die Baltimore County Public Schools in Aufruhr, den 22. größten Schulbezirk des Landes mit mehr als 100.000 Schülern. Während der Bezirk die Ermittlungen durchführte, wurde Herr Eiswert, der die Äußerungen bestritt, mit Drohungen gegen seine Sicherheit überschüttet, teilte die Polizei mit. Er wurde außerdem in Verwaltungsurlaub geschickt, teilte der Schulbezirk mit.
Jetzt muss sich Herr Darien unter anderem wegen Störung des Schulbetriebs und Stalking des Schulleiters verantworten.
Herr Eiswert verwies eine Bitte um Stellungnahme an eine Berufsgruppe für Schulleiter, den Council of Administrative and Supervisory Employees, der einen Anruf eines Reporters nicht beantwortete. Herr Darien, der am Donnerstag eine Kaution hinterlegte, war für eine Stellungnahme nicht sofort erreichbar.
Der Fall Baltimore County ist nur der jüngste Hinweis auf eine Eskalation des KI-Missbrauchs in Schulen. In vielen Fällen handelt es sich um Deepfakes oder digital veränderte Videos, Audiodateien oder Bilder, die überzeugend echt wirken können.
Seit letztem Herbst bemühen sich Schulen in den Vereinigten Staaten darum, besorgniserregende Deepfake-Vorfälle aufzuklären, bei denen männliche Schüler mithilfe von KI-Apps zur „Nacktmachung“ gefälschte, unbekleidete Bilder ihrer Klassenkameradinnen erstellten, darunter einige Mittelschülerinnen im Alter von gerade einmal 12 Jahren Der Deepfake-Voice-Vorfall in Baltimore County weist auf ein weiteres KI-Risiko für Schulen im ganzen Land hin – dieses Mal für erfahrene Pädagogen und Bezirksleiter.
Deepfake-Racheverleumdungen können an jedem Arbeitsplatz vorkommen, sind jedoch für Schulbeamte, die mit dem Schutz und der Bildung von Kindern betraut sind, ein besonders beunruhigendes Gespenst. Ein Beamter des Baltimore County warnte am Donnerstag, dass die schnelle Verbreitung neuer generativer KI-Tools den Schulschutz und die Landesgesetze übersteige.
„Wir betreten auch eine neue, zutiefst besorgniserregende Grenze“, sagte Johnny Olszewski, der Beamte des Baltimore County, während öffentlicher Kommentare zur Verhaftung am Donnerstag. Er fügte hinzu, dass Gemeindevorsteher „einen umfassenderen Blick darauf werfen müssen, wie diese Technologie genutzt und missbraucht werden kann, um anderen Menschen zu schaden.“
Der Polizeibericht zum Fall Baltimore County zeigt, wie schnell sich schädliche Deepfake-Desinformationen in Schulen verbreiten und Pädagogen, Schülern und Familien dauerhaften Schaden zufügen können.
Polizeidokumenten zufolge erhob Herr Darien im Dezember Beschwerde gegen Herrn Eiswert, nachdem der Schulleiter mit den Ermittlungen gegen ihn begonnen hatte. Herr Darien hatte eine Bezirkszahlung in Höhe von 1.916 US-Dollar an seinen Mitbewohner genehmigt, so die Polizei, „unter dem Vorwand“, dass der Mitbewohner als Co-Trainer für die Mädchenfußballmannschaft von Pikesville arbeitete.
Kurz darauf, so die Polizei, nutzte Herr Darien die Internetdienste des Schulbezirks, um nach Tools für künstliche Intelligenz zu suchen, unter anderem von OpenAI, dem Entwickler des ChatGPT-Chatbots, und Microsofts Bing Chat.
(Die New York Times verklagte OpenAI und seinen Partner Microsoft im Dezember wegen Urheberrechtsverletzung von Nachrichteninhalten im Zusammenhang mit KI-Systemen.)
Nach Angaben der Polizei schickte Herr Darien Mitte Januar per E-Mail einen gefälschten Audioclip, in dem er sich als Rektor ausgab, an sich selbst und zwei weitere Mitarbeiter der High School. Die E-Mail mit der Betreffzeile „Pikesville Principal – Disturbing Recording“ wurde von einem Gmail-Konto gesendet, das offenbar einem unbekannten Dritten gehörte, aber den Polizeiunterlagen zufolge mit der Mobiltelefonnummer von Herrn Darien verknüpft war.
Einer dieser Schulangestellten schickte die gefälschte Aufzeichnung dann an Nachrichtenorganisationen und die National Association for the Advancement of Colored People, heißt es in Polizeidokumenten. Sie leitete es auch an einen Schüler weiter, von dem „sie wusste, dass er die Botschaft schnell in verschiedenen sozialen Medien und in der gesamten Schule verbreiten würde“, heißt es in den Dokumenten.
Bald veröffentlichte ein Instagram-Konto, das lokale Kriminalität verfolgt, den rassistischen gefälschten Ton, in dem es hieß, es handele sich um eine „Schimpftirade über schwarze Studenten“, und nannte den Schulleiter als Sprecher. Der Audioclip, der weniger als eine Minute dauert, wurde mehr als 27.000 Mal geteilt und löste mehr als 2.800 Kommentare aus, von denen viele die Entlassung des Direktors forderten.
Die Polizei sagt, dass die Deepfake-Schimpftirade „tiefgreifende Auswirkungen“ hatte und das Vertrauen zwischen Familien, Lehrern und Administratoren der Pikesville High erschütterte.
Verärgerte und verärgerte Eltern und Schüler überschwemmten die Schule mit Anrufen. Einige Lehrer, so die Polizei, befürchteten, „an verschiedenen Stellen in der Schule könnten Aufnahmegeräte angebracht worden sein“. Um Sicherheitsbedenken auszuräumen, verstärkte die Polizei ihre Präsenz in der Schule.
Die Polizei überwachte auch die Sicherheit von Herrn Eiswert, der eine Flut belästigender Nachrichten und Telefonanrufe erhielt, von denen einige ihm und seiner Familie mit Gewalt drohten.
In öffentlichen Kommentaren während einer Schulratssitzung im Januar sagte William Burke, der geschäftsführende Direktor des Rates der Verwaltungs- und Aufsichtsangestellten, der den Schulleiter vertritt, dass soziale Medien und Nachrichtenmedien es Kommentatoren ermöglicht hätten, Herrn Eiswert „ohne Beweise und …“ zu verurteilen keine Verantwortung.“
„Bitte urteilen Sie nicht voreilig“, flehte Herr Burke. „Bitte gestalten Sie die Ermittlungen sicher und fair.“
Zwei externe Experten, die die Aufnahme später für das Baltimore County Police Department analysierten, kamen zu dem Schluss, dass der Audioclip manipuliert war. Ein Experte sagte, es enthalte „Spuren von KI-generierten Inhalten mit nachträglicher Bearbeitung durch Menschen“, heißt es in Polizeidokumenten.
