KI-generierte Phishing-Mails und -Webseiten entdeckt

Cyberkriminelle nutzen zunehmend Künstliche Intelligenz (KI) in Form von Large Language Models (LLMs) für ihre schädlichen Zwecke. Die meisten von Kaspersky beobachteten Phishing-Beispiele zielen auf Nutzer von Kryptowährungsbörsen und -Wallets ab.

Experten des Kaspersky AI Research Center haben zudem Anzeichen identifiziert, die für KI-generiertes Phishing sprechen. So weisen mit KI-erstellte Phishing-Webseiten oft bestimmte Merkmale auf, die sie von manuell erstellten Seiten unterscheiden lassen:

• Typische KI-bezogene Disclaimer und Verweigerungen, bestimmte Befehle auszuführen, wie „Als KI-Sprachmodell…“.
• Aussagen über Wissensgrenzen des Modells wie „Ich kann zwar nicht genau das machen, was Sie wollen, aber ich kann etwas Ähnliches versuchen“ oder „Stand meiner Informationen ist Januar 2023“.
• Spezifische Phrasen wie „in der sich immer wandelnden Landschaft“ oder „in der sich ständig verändernden Welt“ gelten als potenzielle Anzeichen für den Einsatz eines Sprachmodells zur Textgenerierung.
• Nicht-lateinische Buchstaben, die diese imitieren, wie beispielsweise ein „m”, das mit einem Haken unten als ɱ aus dem Internationalen Phonetischen Alphabet (IPA) wiedergegeben wird.

Mit dem Einsatz von Large Language Models (LLMs) können Cyberkriminelle nicht nur Textinhalte generieren, sondern auch ganze Webseiten automatisiert erstellen, einschließlich der Meta-Tags, die in Suchmaschinen angezeigt werden. Diese Meta-Tags enthalten oft Spuren der KI-Nutzung. Zudem verschleiern manche Seiten ihre Absichten durch nicht-standardisierte Unicode-Zeichen, um automatisierte Schutzsysteme zu umgehen; dies macht es für Sicherheitslösungen komplizierter, solche Seiten als schädlich zu identifizieren.

Vladislav Tushkanov, Research Development Group Manager bei Kaspersky, kommentiert:

„Large Language Models werden immer besser, Cyberkriminelle nutzen diese zunehmend für ihre kriminellen Aktivitäten. Zwar lassen sich durch gelegentliche Fehler Hinweise auf die Nutzung solcher Tools erkennen, vor allem auf das steigende Maß an Automatisierung. Mit weiteren Fortschritten könnte es jedoch zunehmend schwerer werden, KI-generierte Inhalte von menschlich verfassten Texten zu unterscheiden. Deshalb ist es umso wichtiger, auf fortschrittliche Sicherheitslösungen zu setzen, die nicht nur Textinhalte, sondern auch Metadaten und andere Betrugsindikatoren analysieren.“

Tipps zum Schutz vor Phishing-Angriffen

• Rechtschreibung von Hyperlinks prüfen, bevor man diese anklickt. E-Mails und Webseiten sehen oft täuschend echt aus, doch Hyperlinks enthalten häufig kleine Fehler oder führen zu falschen Adressen.
• Webadresse direkt in den Browser eingeben, statt in E-Mails anzuklicken.
• Den Mauszeiger über den Link bewegen, um die Zieladresse zu prüfen; oft versteckt sich hinter dem angezeigten Link eine andere Adresse.
• Für jeden einzelnen Online-Account sichere und komplexe Passwörter verwenden. Ein sicheres Passwort besteht aus mindestens zwölf Ziffern und einer Kombination aus Klein- und Großbuchstaben sowie Zahlen und Sonderzeichen.
• Persönliche Informationen nicht mit Dritten teilen.
• Sicherheitslösungen nutzen, die umfassenden Schutz beim Surfen bieten und vor gefährlichen Webseiten, Downloads und Erweiterungen schützen.

(lb/Kaspersky)