KI vs. KI: Wie Künstliche Intelligenz hilft, KI-generierte BEC-Angriffe abzuwehren

KI-generierte BEC-Angriffe sind kalkuliert geplante und umgesetzte Angriffsstrategien, die sich in Windeseile an veränderte Bedingungen anpassen. Künstliche Intelligenz ist aber auch der Schlüssel, um diese neuen Angriffe zu neutralisieren.

Nennen wir ihn John, Manager auf der mittleren Unternehmensebene. In seiner Funktion war es ihm bislang nicht in den Sinn gekommen, die Rechnungen seines langjährigen Lieferanten in Frage zu stellen. Folglich zögerte er nicht, der dringenden Dienstanweisung seines „CEO“ Folge zu leisten, und eine bestimmte Summe auf ein scheinbar neues, anderes Konto zu transferieren. Eine Entscheidung, die das Unternehmen über 100.000 Dollar kostete. Der Übeltäter? Kein unvorsichtiger Mitarbeiter, sondern ein KI-gestützter BEC-Angriff (Business Email Compromise). Dieser hatte die Sprachmuster des Chefs überzeugend nachgeahmt und ansonsten bestehende Beziehungen ausgenutzt. KI-generierte BEC-Fakes sind inzwischen bereits recht fortschrittlich und erfordern einen entsprechenden Ansatz auch bei der Bedrohungsabwehr.

Wie KI BEC-Angriffe erleichtert

Bei herkömmlichen Cybersicherheitsansätzen geht es primär darum, Bedrohungen zu erkennen und Lücken zu schließen. Aber KI-generierte BEC-Angriffe ändern die Spielregeln. Es handelt sich um sehr kalkuliert geplante und umgesetzte Angriffsstrategien, die sich im Handumdrehen an veränderte Bedingungen anpassen – und damit relativ problemlos Verteidigungsmaßnahmen umgehen, die für ein Zeitalter von simpler strukturierten Angriffen entwickelt wurden. Zwischen den Jahren 2013 und 2022 haben Firmen durch diese Art von Angriffen bereits rund 50,8 Milliarden Dollar verloren.

Und hier sind einige der Gründe, warum KI-gestützte BEC-Angriffe so schwer zu erkennen sind:

• Ausgefeilte Sprach- und Textgenerierung: KI-gestützte Tools sind in der Lage, Texte zu produzieren, die den Schreibstil eines CEOs oder die übliche Tonalität eines Vertriebsmitarbeiters oder Lieferanten perfekt imitieren. Solche Tools verstehen den Kontext und können eine E-Mail so anpassen, dass sie völlig seriös klingt.

• Personalisierung und Kontext: Angreifer nutzen KI schon seit Langem, um Daten zu Unternehmen zu sammeln – Namen, Funktionen, laufende Projekte und sogar aktuelle Nachrichten. Das verleiht den E-Mails einen hohen Grad von Relevanz, was die Glaubwürdigkeit weiter erhöht.

• Umgehen herkömmliche Filter: Verräterische Tippfehler oder krude Grammatik? Beides konnte bis vor nicht allzu langer Zeit dazu beitragen, eine betrügerische E-Mail als solche zu erkennen. Diese Zeiten sind vorbei. Ein KI-generierter Text fliegt nicht selten unter dem Radar einfacher Spam- oder Phishing-Erkennungssysteme und landet direkt in der Inbox beschäftigter (und ahnungsloser) Mitarbeiter.

Warum herkömmliche Abwehrmaßnahmen nicht ausreichen

Trotz aller Bemühungen – etwa Mitarbeiterschulungen und die Implementierung grundlegender Sicherheitstools – schlüpfen BEC-Angriffe immer wieder durch die Maschen.

Das gilt in einem verschärften Maß für KI-gestützte Bedrohungen:

• Menschliches Versagen bleibt ein Risiko: Selbst den sicherheitsbewusstesten Mitarbeiter kann es unvorbereitet treffen. Die Inbox läuft über, dringende Anfragen wollen sofort bearbeitet werden und Social-Engineering-Taktiken nutzen bestehende Beziehungen und das Vertrauensverhältnis zwischen Menschen. KI-generierte Angriffe bedienen sich genau dieser Faktoren, wenn sie E-Mails gestalten.

• Veraltete E-Mail-Sicherheitssysteme: Nicht wenige Unternehmen verlassen sich nach wie vor auf E-Mail-Sicherheitslösungen, die für typische Bedrohungen entwickelt wurden. Diese suchen etwa nach bestimmten Schlüsselwörtern, nach als schädlich bekannten Domains oder gängigen Phishing-Mustern. KI-generierte Angriffe sind sehr nuanciert und fähig, diese veralteten Abwehrmechanismen subtil zu umgehen.

• Die reaktive Natur von Sicherheit: Herkömmliche Abwehrmechanismen sind hervorragend geeignet, das zu blockieren, von dem wir bereits wissen, dass es schädlich ist. KI-generierte BEC-Angriffe entwickeln sich jedoch ständig weiter und passen sich unentwegt an veränderte Gegebenheiten an. Wenn es gelingt, hier ein neues Muster zu erkennen, sind die Angreifer längst zu einem neuen Ansatz übergegangen.

Im Grunde genommen kämpfen wir in einer Schlacht des 21. Jahrhunderts mit veralteten Waffen. Angesichts dessen sind die oben genannten Schadenshöhen aufgrund von KI-basierten BEC-Angriffen nicht überraschend.

KI versus KI

KI hat aber nicht nur BEC-Angriffe effektiver gemacht. Sie ist gleichzeitig der Schlüssel, mit dem sich diese Angriffe neutralisieren lassen. Fortschrittliche KI-gestützte Sicherheitslösungen wurden entwickelt, um KI-generierte Phishing-Bedrohungen zu adressieren und fungieren im Wesentlichen wie ein Berater in Sachen Bedrohungen:

• Proaktive Erkennung: KI-Sicherheitstools reagieren nicht nur auf bereits bekannte schädliche Muster, sondern analysieren riesige Datenmengen, um subtile Anomalien zu erkennen. Dabei kann es sich um Abweichungen vom typischen Schreibstil einer Person handeln, aber auch um ungewöhnliche Syntax oder Ungereimtheiten im E-Mail-Kontext, die einem Menschen leicht entgehen.

• Verhaltensanalyse: KI kann eine „Base Line“ erstellen, eine Art Normallinie für die Kommunikation innerhalb des Unternehmens. KI lernt welche bestehenden Beziehungen es gibt, wer einen bestimmten Tonfall oder Schreibstil bevorzugt und welches die üblichen Kommunikationsabläufe sind. Jede Abweichung wird dann als verdächtig markiert, selbst wenn die E-Mail zunächst harmlos erscheinen mag.

• Lernen und Anpassen: Die besten KI-gesteuerten Sicherheitssysteme erkennen nicht nur Bedrohungen, sie werden im Laufe der Zeit auch immer intelligenter. Durch die kontinuierliche Analyse neuer Angriffsmuster und BEC-Techniken verbessern sie ihre Fähigkeit, diese zu blockieren, und sind so einem potenziellen Angreifer einen Schritt voraus.

• Link-Isolierung zur Überprüfung: KI-gestützte Tools sind auch in der Lage, Links in einer E-Mail sorgfältig zu scannen. Verdächtige Links lassen sich isolieren und in einer sicheren Umgebung ausführen. Das verhindert, dass ein versehentlicher Klick zu einer Weiterleitung auf bösartig manipulierte Websites führt.

• Sandboxing von E-Mail-Anhängen: Ein Anhang kann als ein trojanisches Pferd für eine Malware dienen. Auf Basis eines KI-gestützten Sicherheitsansatzes lässt sich ein Anhang in einer sicheren „Sandbox“ öffnen und das Verhalten auf Anzeichen für schädliche Aktivitäten analysieren. Und das bevor die potenzielle Malware ins Innere eines Netzwerks gelangt.

Am besten betrachtet man KI als einen weiteren, besonders leistungsfähigen Analysten innerhalb des Sicherheitsteams. Dieser Analyst nimmt jede E-Mail unter die Lupe und filtert aus dem Rauschen der eingehenden Alerts die Angriffe heraus, die am ehesten geeignet sind, die menschliche Abwehr zu unterlaufen. Neben der reinen Technologie bleiben Schulungen aber auch weiterhin ein Schlüsselelement innerhalb der Sicherheitsstrategie.

Auch wenn KI-gestützte Tools bei der Abwehr von BEC eine zentrale Rolle spielen – die Technologie allein ist nicht narrensicher. Sollten Phishing-E-Mails die Schutzmechanismen überwinden – und ein kleiner Prozentsatz wird dies zweifellos tun – sind gut geschulte Mitarbeiter besser darauf vorbereitet, nicht auf mit Malware verseuchte Anhänge oder bösartige URLs zu klicken. Eine gut informierte Belegschaft bleibt nach wie vor eine wichtige Verteidigungslinie:

• Sicherheitsbewusstsein ist durch nichts zu ersetzen: Ermutigen Sie Ihre Belegschaft, aufmerksam zu bleiben, ungewöhnliche Anfragen nicht einfach hinzunehmen (selbst nicht, wenn sie von einer hochrangigen Führungskraft zu kommen scheinen) und sich über einen alternativen Kanal (z. B. einen Rückruf) zu vergewissern, bevor sie finanzielle oder sensible Transaktionen anstoßen.

• Kritisches Denken: Fördern Sie eine Kultur, in der sich die Mitarbeiter ermächtigt fühlen, E-Mails zu hinterfragen und potenzielle Bedrohungen zu melden, auch wenn sie zunächst legitim erscheinen. Weicht die Sprache leicht vom üblichen Tonfall ab? Wird ein Gefühl der Dringlichkeit erzeugt? Die Details machen oftmals den Unterschied.

KI-generierte BEC-Angriffe sind eine ernstzunehmende Bedrohung, aber sie müssen nicht zwangsläufig erfolgreich sein. Unternehmen haben die Möglichkeit, das Risiko dank KI-gestützter E-Mail-Sicherheitslösungen und gut geschulter Mitarbeiter drastisch zu senken.

Dennoch bleibt es ein „Wettrüsten“ von KI gegen KI, und in einer Welt, in der die Angriffe immer intelligenter werden, muss die Verteidigung noch intelligenter sein.

Autor: Usman Choudhary, CPTO und General Manager, VIPRE Security

vipre.com/de/