Das US-amerikanische Federal Bureau of Investigation (FBI) warnt vor einer Zunahme von Erpressungskampagnen, bei denen Kriminelle mithilfe künstlicher Intelligenz (KI) sexuelle Nachahmungen aus unschuldigen Fotos oder Videos von Menschen erstellen und diese dann belästigen oder erpressen.
Der jüngsten Ankündigung zufolge hat das FBI zahlreiche Berichte von Opfern erhalten.deren Fotos oder Videos verändert wurden». Die Videos, in denen sowohl Erwachsene als auch Minderjährige zu sehen sind, werden in sozialen Medien oder auf pornografischen Websites verbreitet.
«Besorgniserregend ist, dass die sich schnell entwickelnde Technologie es fast jedem ermöglicht, verfälschte sexuelle Inhalte zu erstellen, an denen offenbar nicht einwilligende Erwachsene, sogar Kinder, beteiligt sind” er sagt Phil Muncaster vom Team des globalen digitalen Sicherheitsunternehmens ESET. Dies führt dann zu Belästigung, Erpressung und Sextortion.
Manchmal findet das Opfer den Inhalt selbst, manchmal macht es jemand anderes darauf aufmerksam und manchmal nimmt der böswillige Akteur Kontakt mit ihm auf.
Was als nächstes passiert, ist eines von zwei Dingen:
Der böswillige Akteur verlangt, dass Sie ihm Folgendes geben:
- Geld durch die Drohung, den Inhalt mit Freunden und Familie zu teilen.
- und/oder Originalfotos oder -videos mit sexuellem Inhalt.
Im letzteren Fall kann es zu sexueller Erpressung kommen (Sextortion), eine Form der Erpressung, bei der der Täter das Opfer austrickst oder dazu zwingt, sexuelle Inhalte zu teilen, und dann damit droht, diese zu veröffentlichen, sofern das Opfer nicht zahlt oder weitere Fotos/Videos sendet. “Dies ist ein weiterer schnell wachsender Trend, vor dem das FBI im vergangenen Jahr warnen musste» warnt der ESET-Experte.
Normalerweise in Fällen Sextortion, freundet sich das Opfer mit einer Person an, die online vorgibt, jemand anderes zu sein. Der Betrüger betrügt das Opfer, bis es ihm gelingt, an die aufschlussreichen Fotos/Videos zu gelangen. Im Fall von Deepfake-Erpressung sind gefälschte Bilder das Mittel, mit dem Opfer erpresst werden – man muss nicht unbedingt Freunde in den sozialen Medien sein.
In diesem Zusammenhang verüben einige Kriminelle Sextortion-Betrügereien, bei denen sie E-Mails mit der Behauptung verschicken, sie hätten Schadsoftware auf dem Computer des Opfers installiert, die es ihnen angeblich ermöglicht habe, die Person, die sich Pornos anschaut, aufzuzeichnen. Sie enthalten persönliche Informationen, wie zum Beispiel ein altes E-Mail-Passwort, das aus einer alten Datenschutzverletzung stammt, um die Bedrohung – die fast immer leer ist – realistischer erscheinen zu lassen. Das Phänomen des Sextortion-E-Mail-Betrugs entstand aus dem gestiegenen öffentlichen Bewusstsein für Sextortion-Betrug.
Das Problem mit Deepfakes
Deepfakes werden mithilfe neuronaler Netze erstellt, die es Benutzern ermöglichen, das Aussehen oder den Ton einer Person effektiv zu fälschen. Bei visuellen Inhalten werden sie darin geschult, eingehende Videos aufzunehmen, sie durch einen Encoder zu komprimieren und sie dann mit einem Decoder zu rekonstruieren. Dies könnte genutzt werden, um das Gesicht eines Ziels effektiv auf den Körper einer anderen Person zu übertragen und sie die gleichen Gesichtsbewegungen wie diese nachahmen zu lassen.
Die Technologie gibt es schon seit einiger Zeit. Ein Beispiel war ein virales Video, in dem Tom Cruise Golf spielt, zaubert und Lutscher isst, das Millionen von Aufrufen erreichte, bevor es entfernt wurde. Natürlich wurde die Technologie auch genutzt, um die Gesichter von Prominenten und anderen Personen in anstößige Videos einzufügen.
Die schlechte Nachricht ist, dass die Technologie immer leichter für jedermann zugänglich ist und so ausgereift ist, dass auch Anfänger sie mit ziemlich überzeugenden Ergebnissen nutzen können. Aus diesem Grund sind das FBI (und andere) besorgt.
Wie man nicht Opfer von Deepfakes wird
Sobald solche synthetischen Inhalte veröffentlicht werden, stehen die Opfer möglicherweise vor „erheblichen Herausforderungen, um zu verhindern, dass gefälschte Inhalte online reproduziert oder entfernt werden“. Dies kann in den USA schwieriger sein als in der EU, wo die DSGVO-Regeln zum „Recht auf Löschung“ von Dienstanbietern verlangen, bestimmte Inhalte auf Wunsch des Einzelnen herunterzuladen. Dennoch ist es für Eltern oder Kinder eine schmerzhafte Erfahrung.
In der digitalen Welt, in der wir ständig unterwegs sind und etwas teilen müssen, klicken viele von uns auf die Schaltfläche „Veröffentlichen“ und erstellen einen Berg persönlicher Videos und Fotos, die überall im Internet zu finden sind. Diese sind zwar harmlos, aber leider sind viele dieser Bilder und Videos für jedermann leicht zugänglich. Diejenigen mit böswilliger Absicht scheinen immer einen Weg zu finden, diese Daten und die verfügbare Technologie für böse Zwecke zu nutzen. Auf diese Weise entstehen viele Deepfakes, denn heutzutage kann jeder solche Inhalte erstellen.
Es ist besser, dem Trend jetzt einen Schritt voraus zu sein, um den potenziellen Schaden für Sie und Ihre Familie zu minimieren. “Berücksichtigen Sie die folgenden Schritte, um das Risiko, überhaupt Opfer eines Deepfakes zu werden, zu verringern und die möglichen Auswirkungen im schlimmsten Fall zu minimieren” schlägt vor Muncaster von ESET:
Für dich
- Denken Sie sorgfältig nach, bevor Sie Fotos, Videos und andere Inhalte veröffentlichen. Der harmloseste Inhalt könnte theoretisch von böswilligen Akteuren ohne Ihre Zustimmung verwendet werden, um ihn in einen Deepfake umzuwandeln.
- Erfahren Sie mehr über die Datenschutzeinstellungen Ihrer Social-Media-Konten. Es ist sinnvoll, Profile und Freundeslisten privat zu machen, sodass Fotos und Videos nur mit Personen geteilt werden, die Sie kennen.
- Seien Sie immer vorsichtig, wenn Sie Freundschaftsanfragen von Personen annehmen, die Sie nicht kennen.
- Senden Sie niemals Inhalte an Personen, die Sie nicht kennen. Seien Sie besonders vorsichtig, wenn Sie von Leuten dazu gedrängt werden, bestimmte Inhalte anzusehen.
- Seien Sie vorsichtig bei „Freunden“, die sich online seltsam verhalten. Ihr Konto wurde möglicherweise gehackt und zum Extrahieren von Inhalten und anderen Informationen verwendet.
- Verwenden Sie immer sichere, eindeutige Passwörter und Multi-Faktor-Authentifizierung (MFA), um Ihre Social-Media-Konten zu schützen.
- Sie führen selbst regelmäßig Online-Suchen durch, um öffentlich verfügbare persönliche Informationen oder Video-/Fotoinhalte zu finden.
- Erwägen Sie eine umgekehrte Bildersuche, um Fotos oder Videos zu finden, die ohne Ihr Wissen online gestellt wurden.
- Senden Sie niemals Geld oder Fotos/Videos an unbekannte Personen. Das Einzige, was Sie erreichen werden, ist, dass sie Sie um mehr bitten.
- Melden Sie Erpressungsaktivitäten der Polizei und der entsprechenden Social-Media-Plattform.
- Bitte melden Sie Deepfake-Inhalte auf den Plattformen, auf denen sie veröffentlicht wurden.
Für Eltern
- Führen Sie regelmäßig Online-Suchen nach Ihren Kindern durch, um herauszufinden, wie viele persönliche Informationen und Inhalte online öffentlich verfügbar sind.
- Überwachen Sie die Online-Aktivitäten Ihrer Kinder innerhalb angemessener Grenzen und besprechen Sie mit ihnen die Risiken, die mit der Weitergabe persönlicher Inhalte verbunden sind.
- Überlegen Sie zweimal, ob Sie Inhalte Ihrer Kinder veröffentlichen, in denen deren Gesichter zu sehen sind.
Die billige Deepfake-Technologie wird sich weiter verbessern.demokratisierend» Erpressung und Belästigung. Vielleicht ist es der Preis, den wir für ein offenes Internet zahlen. Aber wenn wir vorsichtiger handeln, können wir die Wahrscheinlichkeit verringern, dass etwas Schlimmes passiert.
*Folge es Techgear.gr auf Google News, um sofort über alle neuen Artikel informiert zu werden!
