Jeder Fünfte klickt auf KI-erstellte Phishing-Mails

Eine Untersuchung von SoSafe zeigt, wie erfolgreich KI-generierte Cyberattacken bereits  sind. Die größte Gefahr liegt dabei in der einfachen Skalierbarkeit von Spear-Phishing Angriffen – sowohl was Quantität als auch Qualität angeht. 

Neben viel Zuspruch wurden für die aktuellen Entwicklungen im Bereich Künstlicher Intelligenz (KI) auch einige kritische Stimmen in den vergangenen Wochen laut. Dabei warnen Cybersecurity-Expertinnen und Experten wie auch die von SoSafe, Europas führendem Anbieter für Security Awareness und Training, schon seit Längerem vor der Möglichkeit, dass Generative-AI bessere Phishing-E-Mails schreibt, als es der Mensch kann. Erste Untersuchungen* von SoSafe zeigen nun, dass diese Warnung berechtigt ist: Mit KI verfasste Phishing-E-Mails werden bereits von 78 Prozent der Menschen geöffnet und nicht auf den ersten Blick erkannt. Davon klickten 21 Prozent auf schädliche Inhalte in den KI-verfassten Phishing-Mails, wie Links oder Anhänge. 65 Prozent wurden von den KI-generierten Mails sogar dazu verleitet, persönliche Informationen in Eingabefeldern auf verlinkten Webseiten preiszugeben.  

Die von Menschen generierten Phishing-Angriffe klickten die Personen in der durchgeführten Studie vergleichsweise etwas häufiger an (27 %), während die Öffnungsraten bei KI- und menschengenerierten Phishing-E-Mails gleich hoch waren. Die Interaktionsraten waren bei den KI-generierten E-Mails sogar höher, da nur 60 Prozent der Personen zusätzliche Daten bei den von Menschen erstellten E-Mails preisgaben. 

„Wichtig anzumerken ist, dass unsere Studie auf Basis des ChatGPT-3.5-Modells mit allgemeinen Themen und Fragen durchgeführt wurde“, so Dr. Niklas Hellemann, CEO und  Gründer von SoSafe. „Selbst mit diesen einfachen und nicht personalisierten KI generierten Phishing-Mails zeigen unsere Daten, dass Menschen Schwierigkeiten haben,  KI-generierte Phishing-Angriffe zu erkennen. Da die Technologie mit ausgereifteren Modellen wie ChatGPT-4 und skalierter Personalisierung voranschreitet, erwarten wir,  dass die Angriffe noch gefährlicher werden – denn die größte Gefahr liegt in ihrem  Skalierungspotenzial.“ 

Generative-AI-Tools beschleunigen Phishing-Attacken

Untersuchungen des Social-Engineering-Teams von SoSafe zeigen, dass Generative-AI Tools Hackergruppen dabei helfen können, Phishing-Mails mindestens 40 Prozent  schneller zu verfassen. Schon mit einfachen Mitteln können Cyberkriminelle ihre Erfolgsraten daher signifikant steigern. Zugleich sinkt auch die Einstiegshürde für die  Durchführung von Spear-Phishing-Angriffen im großen Umfang, bei der Präferenzen und Gewohnheiten von bestimmten Zielpersonen als Basis für maßgeschneiderte Attacken dienen – denn auch die Personalisierung von Phishing-Angriffen wird durch KI skalierbar. KI-Tools können mit persönlichen Informationen gefüttert werden, die dabei helfen, die  Qualität der Spear-Phishing-Angriffe auch bei einer hohen Anzahl an Angriffszielen aufrecht zu erhalten. Des Weiteren bringen Generative-AI-Tools auch kreative Vorteile und verhelfen Cyberkriminellen zu neuen Ideen. So können Hackergruppen in geringerer Zeit weitaus mehr Phishing-Mails in allen Sprachen und in hoher Qualität versenden, als  es bisher der Fall war. Großangelegte Phishing-Attacken werden dadurch viel effizienter – und auch effektiver.  

Zunehmende Professionalisierung der Cyberattacken

„Mit dem Aufkommen von KI-gestützten ‚Large Language Models‘ und dem dadurch massiv gestiegenen Skalierungspotenzial spitzt sich die Cyberbedrohungslage weiter zu“, sagt Hellemann. „Erste Studien haben gezeigt, dass KI schon heute bessere Phishing-Mails schreiben kann als der Mensch. Unsere Daten verdeutlichen die Konsequenzen – denn bereits jeder Fünfte fällt auf KI-erstellte Phishing-Angriffe rein. Und das ist erst der Anfang: Die Technologie wird sich laufend weiterentwickeln und Cyberkriminellen weitere Optionen bieten. Schon der Sprung von ChatGPT-3 auf ChatGPT-4 hat die Skalierung der Personalisierung auf ein neues Level gehoben. Aktuell führen wir erste Studien mit diesen fortgeschrittenen Technologien durch und erwarten bald weitere Ergebnisse. Für Unternehmen ist es wichtig, mit dieser Entwicklung Schritt zu halten und Menschen dabei zu helfen, ihr Bewusstsein für Cybergefahren und den Einfluss neuer Technologien zu schärfen, um Attacken zu erkennen sowie zu melden.“ 

* Antwortdaten der SoSafe Awareness-Plattform, die im März 2023 rund 1.500 simulierte Phishing-Angriffe anonym auswertete und die Erfolgswahrscheinlichkeit von KI generierten (n = 747) im Vergleich zu von Menschen generierten Phishing-Templates (n  = 746) analysierte. Die KI-generierten Phishing-Vorlagen wurden mit dem ChatGPT-3.5- Modell ohne personalisierte Elemente erstellt. SoSafe arbeitet derzeit an weiteren  Untersuchungen, bei denen fortgeschrittene Technologien wie ChatGPT-4 zum Einsatz  kommen. Bei der Öffnungsrate handelt es sich um den durchschnittlichen prozentualen Anteil der geöffneten E-Mails auf Basis der zugestellten E-Mails. Die Klickrate gibt den durchschnittlichen prozentualen Anteil an, bei wie vielen zugestellten E-Mails auf Inhalte, wie Links oder Anhänge, geklickt wurde. Die Interaktionsrate beschreibt den Anteil an Personen, die auf einer verlinkten Website in Eingabefeldern weitere Informationen (z. B.  Passwörter) preisgegeben haben. 

www.sosafe-awareness.com/de