Helfen KI-Chatbots bei der Bekämpfung von Online-Betrug?

Kaspersky-Experten führten Untersuchungen durch, in denen die Fähigkeit von ChatGPT untersucht wurde, Phishing-Links zu erkennen. Während ChatGPT zuvor die Fähigkeit demonstriert hatte, Phishing-E-Mails zu erstellen und Malware zu schreiben, war seine Effektivität bei der Erkennung bösartiger Links begrenzt. Die Studie ergab, dass obwohl die ChatGPT kennt sich gut mit Phishing aus und kann das Ziel eines Phishing-Angriffs erraten, hatte hohe False-Positive-Raten von bis zu 64 %. Oft brachte er phantasievolle Erklärungen und falsche Beweise vor, um seine Urteile zu rechtfertigen.

Der ChatGPT, ein Sprachmodell für künstliche Intelligenz, war aufgrund seiner Fähigkeit, Phishing-E-Mails zu erstellen, ein Diskussionsthema in der Cybersicherheitswelt und hat Bedenken hinsichtlich seiner Auswirkungen auf die Arbeitsplatzsicherheit von Cyberexperten geäußert, selbst trotz Warnungen seiner Entwickler, dass es sehr schädlich ist frühzeitig die neue Technologie in solchen Hochrisikobereichen einzusetzen. Kaspersky-Experten beschlossen, ein Experiment durchzuführen, um die Fähigkeit von ChatGPT zur Erkennung von Phishing-Links aufzuzeigen und das während der Schulung erworbene Wissen über Cybersicherheit zu testen. Die Experten des Unternehmens testeten gpt-3.5-turbo, das Modell, das ChatGPT antreibt, auf mehr als 2.000 Links, die die Anti-Phishing-Technologien von Kaspersky in Kombination mit Tausenden von sicheren URLs als Phishing einstuften.

Im Experiment variierten die Erkennungsraten je nach verwendeter Aufforderung. Das Experiment basierte darauf, ChatGPT zwei Fragen zu stellen: „Führt dieser Link auf eine Phishing-Seite?” Und “Ist dieser Link sicher zu besuchen?’ Die Ergebnisse zeigten, dass ChatGPT bei der ersten Frage eine Erkennungsrate von 87,2 % und eine Falsch-Positiv-Rate von 23,2 % hatte. Die zweite Frage hatte eine höhere Erkennungsrate (93,8 %), aber auch eine höhere Falsch-Positiv-Rate (64,3 %). Während die Erkennungsrate sehr hoch ist, ist die False-Positive-Rate ebenfalls zu hoch, um implementiert zu werden.

Die schlechten Erkennungsergebnisse waren zu erwarten, aber könnte ChatGPT helfen, Angriffe zu klassifizieren und zu untersuchen? Da Angreifer in ihren Links normalerweise beliebte Marken erwähnen, um Benutzer glauben zu machen, dass die URL legitim ist und zu einem seriösen Unternehmen gehört, zeigt das KI-Sprachmodell beeindruckende Ergebnisse bei der Identifizierung potenzieller Phishing-Ziele. Beispielsweise hat ChatGPT erfolgreich ein Ziel aus mehr als der Hälfte der URLs extrahiert, darunter unter anderem große Technologieportale wie Facebook, TikTok und Google, Marktplätze wie Amazon und Steam sowie viele Banken aus der ganzen Welt – ohne zusätzliche Schulung.

Das Experiment zeigte auch, dass ChatGPT ernsthafte Probleme haben kann, wenn es darum geht, seine Position bei der Entscheidung zu beweisen, ob ein Link bösartig ist. Einige Erklärungen waren korrekt und sachlich, andere offenbarten bekannte Einschränkungen von Sprachmodellen, einschließlich Illusionen und Ungenauigkeiten: Viele Erklärungen waren trotz des zuversichtlichen Tons irreführend.

Beispiele für irreführende Erklärungen von ChatGPT

Wie kommentiert von Wladislaw TuschkanowLeitender Datenwissenschaftler bei Kaspersky,

ChatGPT hat sicherlich das Potenzial, menschlichen Analysten bei der Erkennung von Phishing-Angriffen zu helfen, aber lassen Sie uns nicht vorgreifen – Sprachmodelle haben immer noch ihre Grenzen. Während sie mit einem internen Phishing-Analysten auf Augenhöhe sein können, wenn es darum geht, Phishing-Angriffe zu argumentieren und potenzielle Ziele zu extrahieren, neigen sie dazu, Ungenauigkeiten zu haben und zufällige Ergebnisse zu liefern. Obwohl sie die Cybersicherheitslandschaft vielleicht noch nicht revolutionieren, könnten sie dennoch nützliche Werkzeuge für die Community sein

Das Machine-Learning-Team von Kaspersky ist führend bei der Anwendung von Machine-Learning-Technologien auf die Cybersicherheitsarbeit und aktualisiert Kaspersky-Produkte ständig mit der fortschrittlichsten Form von Technologie und Informationen. Um die Expertise von Kaspersky im Bereich maschinelles Lernen zu nutzen und geschützt zu bleiben, empfehlen die Experten des Unternehmens:

• Für die Cybersicherheit von Unternehmen ist Kaspersky Managed Detection and Response ein unverzichtbares Tool, mit dem Eindringversuche in einem frühen Stadium erkannt und verhindert werden können. Es verwendet fortschrittliche Modelle für maschinelles Lernen, um häufige Ereignisse herauszufiltern, und sendet nur die alarmierendsten an professionelle menschliche Analysten. Dieser Service verbessert die Fähigkeit eines Unternehmens, Cyber-Bedrohungen zu widerstehen, und optimiert gleichzeitig die Nutzung vorhandener Personalressourcen.
• Die Bereitstellung von Cyber-Hygieneschulungen für Ihre Mitarbeiter ist von entscheidender Bedeutung. Das Ausführen von simulierten Phishing-Angriffen kann auch dazu beitragen, dass sie wissen, wie sie Phishing-E-Mails erkennen können.
• Schließlich wird auch empfohlen, die neuesten Threat Intelligence-Informationen zu verwenden, um sich der tatsächlichen TTPs (Taktiken, Techniken und Verfahren) bewusst zu sein, die von Bedrohungsakteuren zur Verbesserung der Cybersicherheit verwendet werden.

^*Folge es Techgear.gr auf Google News, um sofort über alle neuen Artikel informiert zu werden!