Der Chatbot von PornHub warnt britische Nutzer vor der Suche nach Kindesmissbrauchsvideos und fordert sie auf, sich Hilfe zu suchen

Seit 2022 wurde die Suche von Millionen Menschen auf der britischen Website von Pornhub nach Kindesmissbrauchsvideos unterbrochen.

Jedes Mal, wenn Benutzer nach Wörtern oder Phrasen suchten, die mit Missbrauch in Verbindung stehen, was in 24 Monaten 4,4 Millionen Mal gezählt wurde, erschien ein umdenkender Chatbot mit einer Warnmeldung, die die Seite blockierte.

Die Warnmeldung teilte den Benutzern mit, dass die Art von Inhalten, nach denen sie suchen, illegal ist.

In einigen Fällen hat ein Chatbot mit künstlicher Intelligenz (KI) bei 50 Prozent der Nutzer auch Hinweise darauf gegeben, wo sie Hilfe suchen können.

Diese Nachricht kommt, nachdem das Nationale Zentrum für vermisste und ausgebeutete Kinder bekannt gegeben hat, dass es im Jahr 2022 mehr als 32 Millionen Meldungen über mutmaßlichen sexuellen Missbrauch von Kindern von Unternehmen und der Öffentlichkeit erhalten hat.

Die Organisation gab an, dass ihr rund 88 Millionen Bilder, Videos und andere Dateien vorgelegt wurden, die den Verdacht der Ausbeutung von Kindern aufzeigten – gegenüber einer rekordverdächtigen Zahl von 70 Millionen Bildern und Videos, die dem Zentrum im Jahr 2019 gemeldet wurden.

Nach Angaben des National Center for Missing and Exploited Children erleichtert die Entwicklung sozialer Plattformen wie Facebook, Instagram und Snapchat die Erkennung missbräuchlicher Inhalte.

Im Jahr 2020 entfernte Pornhub, nachdem es in einem Bericht der New York Times kritisiert wurde, etwa 10 Millionen Videos von seiner Website, um damit sämtliches Material über Kindesmissbrauch und andere belastende Inhalte von seiner Website zu entfernen.

Während jedes Jahr Millionen von Inhalten zum Thema Kindesmissbrauch aus dem Internet entfernt werden, werden Bilder und Videos immer noch in sozialen Medien geteilt, in privaten Chats gehandelt und im Dark Web verkauft.

Es gab auch Fälle, in denen ausbeuterisches Filmmaterial an andere Video-Sharing-Seiten für legale Pornografie verkauft wurde.

Der Pornhub-Chatbot ist Teil der Video-Sharing-Website-Kooperation mit zwei in Großbritannien ansässigen Kinderschutzorganisationen. Ziel der Zusammenarbeit war es herauszufinden, ob Menschen durch kleine KI-Eingriffe von der Suche nach illegalen Inhalten abgehalten werden können.

Die Internet Watch Foundation (IWF), die gemeinnützige Organisation, die ausbeuterische Kinderinhalte aus dem Internet entfernt, hat den Chatbot entwickelt. Die Lucy Faithfull Foundation, eine Wohltätigkeitsorganisation, die sich für die Verhinderung sexuellen Kindesmissbrauchs einsetzt, war die zweite Organisation, die an dem Prozess beteiligt war.

Laut einem neuen Bericht, der den von WIRED beobachteten kollaborativen KI-Test analysierte, führte der Einsatz des Chatbots dazu, dass weniger Menschen nach Material über sexuellen Kindesmissbrauch suchten.

Einige der Nutzer folgten auch den Ratschlägen der KI und suchten Unterstützung für ihre psychologischen Neigungen und ihr Verhalten.

Der KI-Chatbot identifizierte zwar keine einzelnen Benutzer, stellte den Menschen jedoch eine Reihe persönlicher Fragen. Der Benutzer wurde angewiesen, entweder eine eindeutige Antwort einzugeben oder eine vorab geschriebene Antwort auszuwählen.

Am Ende des Fragebogens wurde der Benutzer auf die Hilfsdienste der Lucy Faithfull Foundation hingewiesen.

Dem Bericht zufolge führte der Chatbot dazu, dass 1.656 Anfragen nach weiteren Informationen direkt über den Chatbot gestellt wurden, 490 Personen auf die Stop It Now-Website der Wohltätigkeitsorganisation klickten und etwa 68 Personen die vertrauliche Helpline von Lucy Faithfull anriefen oder mit ihr sprachen.

Joel Scanlan, Dozent an der University of Tasmania, der die Analyse des reThink Chatbot-Tests leitete, sagte: „Die tatsächlichen Rohzahlen der Suchanfragen sind tatsächlich ziemlich beängstigend hoch.“

Während des zweijährigen Versuchs gab es auf der britischen Website von Pornhub 4.400.960 Warnungen – dabei wurden Benutzer erkannt, die nach Wörtern und Phrasen suchten, die mit Kindesmissbrauch in Verbindung stehen.

Während der Prozess die beunruhigenden Interessen einiger Nutzer aufdeckte, erhielten 99 Prozent aller Suchanfragen während des Prozesses keine Warnung.

„Über die Dauer des Eingriffs nimmt die Zahl der Durchsuchungen erheblich ab“, erklärte Scanlan und stellte weiter fest, dass „die Abschreckungsnachrichten tatsächlich funktionieren“.