Beliebte Anwendungen der künstlichen Intelligenz (KI) wie der Bildgenerator Stabile Verbreitung wurden mit einer Datenbank voller Inhalte von trainiert sexueller Missbrauch von Minderjährigen. Dies ergab am Mittwoch eine Untersuchung des Internet Observatory der Stanford University.
Die Autoren des Berichts geben an, mindestens 1.008 Bilder von gefunden zu haben Kinderausbeutung in LAION-5B, einer beliebten Open-Source-Datenbibliothek, mit der verschiedene Unternehmen ihre Schulungen durchführen IA. Dieses extreme Material wäre aus beiden extrahiert worden soziale Netzwerke wie etwa pornografische Webseiten.
LAION ist eine gemeinnützige Organisation, die diese Datenbanken mit Milliarden von Daten verwaltet Internet. Nachdem sie alarmiert worden war, erklärte sie es Bloomberg Dadurch werden die den Unternehmen zur Verfügung gestellten Daten vorübergehend entzogen. Die Entwickler von Imagen, einem KI-Tool Googlestellte außerdem fest, dass ein anderer Buchladen, auf den sie zugegriffen hatten, „eine breite Palette unangemessener Inhalte wie pornografische Bilder, rassistische Beleidigungen und schädliche soziale Stereotypen“ enthielt.
Optimieren Sie pädophile Inhalte
Experten weisen auf das Vorhandensein von Inhalten hin Pädophile in dieser Datenbank können den Bildgeneratoren, die sie verwenden, bessere Möglichkeiten bieten, falsche Inhalte zu erstellen, die Situationen eines falschen Anrufs realistisch nachbilden Kinderpornografie.
„Sie verschaffen dem Modell den Vorteil, dass es Inhalte zur Ausbeutung von Kindern auf eine Art und Weise produzieren kann, die der Ausbeutung von Kindern im wirklichen Leben ähneln könnte“, sagt David Thiel, Autor des Berichts und Cheftechnologe am Stanford Internet Observatory. Darüber hinaus besteht die Gefahr einer erneuten Opferrolle die Opfer Beton.
Diese Möglichkeit weckt die Sorge der Experten. Ein weiterer im Juli von der kalifornischen Universität gemeinsam mit der Organisation Thorn veröffentlichter Bericht dokumentierte, dass die Verbesserung von KI-Programmen die Schaffung synthetischer, aber glaubwürdiger Bilder beschleunigte, die die sexuelle Ausbeutung „erleichtern“. Minderjährige alt.
