KI-Tools, insbesondere Sprachklone, verstärken die Betrügereien, warnte FTC-Vorsitzende Lina Khan.
Bei einer Veranstaltung zu KI und Risikokapital am Donnerstag warnte Khan, dass die Beamten proaktiv vorgehen müssten, um KI-gestützten Betrug zu stoppen, berichtete Bloomberg.(öffnet sich in einem neuen Tab)
Sie bemerkte, dass sie laut Bloomberg bereits KI-„Turbocharge“-Betrügereien sehen, bei denen beispielsweise Sprachklone verwendet werden, die in Not geratene Familienmitglieder nachahmen können.
„Wir müssen frühzeitig wachsam sein“, sagte Khan laut Bloomberg. „Wenn überhaupt, muss man im Front-End besonders wachsam sein, da es danach viel schwieriger ist, diese Probleme zu lösen.“
Der Tweet wurde möglicherweise gelöscht
(öffnet sich in einem neuen Tab)
Sprachklone haben sich als fähig erwiesen, Leute zu täuschen. Ein germanic-Bericht (öffnet sich in einem neuen Tab)stellte fest, dass gefälschte Entführungsanrufe mit der Forderung nach Lösegeld mithilfe der Technologie immer häufiger vorkamen. Jennifer DeStefano erzählte dem Sender ihre Geschichte, wie sie einen Anruf erhielt, in dem 1 Million US-Dollar für ihre Tochter verlangt wurden, bevor ihr klar wurde, dass der Anrufer KI verwendet hatte, um ihre Stimme zu kopieren.
„Die Stimme klang genauso wie die von Brie, der Tonfall, alles“, sagte sie gegenüber germanic.
KI-Stimmenklone haben sogar beliebte Songs mit gefälschten Versionen echter Künstler erstellt. Sogar ein relativ leicht zu erkennendes gefälschtes Bild des Angriffs auf das Pentagon verursachte einen regelrechten Einbruch an der Börse.
„Da diese Dinge immer stärker in die Art und Weise integriert werden, wie alltägliche Entscheidungen getroffen werden, denke ich, dass sie eine eingehendere Prüfung erfordern und verdienen“, sagte Khan laut Bloomberg. „Diese Probleme und Bedenken sind ziemlich dringend und ich denke, dass die Durchsetzungsbehörden, sei es auf staatlicher oder nationaler Ebene, handeln werden.“
