Auswirkungen und Gefahren von KI-basierten Tools für die IT-Sicherheit

Während KI neue Möglichkeiten für Effizienz, Kreativität und Personalisierung von Phishing-Ködern bietet, ist es wichtig, daran zu denken, dass die Schutzmaßnahmen an solche Angriffe bisher kaum angepasst sind. 

Es ist eine gute Gelegenheit, die Schulungsprogramme zu aktualisieren, um die Mitarbeiter über die neuen Technologien und Trends bei Phishing-/Smishing-/Vishing-Taktiken zu informieren und sie zu erhöhter Wachsamkeit anzuhalten. Wir werden möglicherweise eine Zunahme hochgradig individueller und überzeugender Köder in großem Maßstab erleben. Für Cyberkriminelle ist es heute viel einfacher und schneller, eine KI mit dem Verfassen einer Nachricht zu beauftragen, die einen Aufruf zum Teilen von vertraulichen Informationen enthält.

Der Empfänger einer Phishing-Nachricht ist zwar oft die erste Verteidigungslinie, aber es ist wichtig, dass Unternehmen auch in Maßnahmen wie E-Mail-, DNS-, Netzwerk- und Endpunktüberwachung sowie Reaktionsmöglichkeiten investieren. Phishing und andere Formen des Social Engineering sind auch ohne den Einsatz von KI-Erweiterungen für Angreifer sehr erfolgreich. Daher sind gut dokumentierte, einstudierte Vorgehensmuster zur Reaktion auf Vorfälle und deren Eindämmung für Ihr Sicherheitsprogramm unerlässlich. Unternehmen müssen sicherstellen, dass sie die Best Practices für die Multi-Faktor-Authentifizierung und die Aufklärung über Umgehungsversuche wie MFA-Bombing oder Social-Engineering-Taktiken einhalten.   

Und schließlich sollten sich Betriebe über neue Bedrohungsdaten im Zusammenhang mit per E-Mail übertragenen Bedrohungen informieren, zum Beispiel über die Verwendung von komprimierten Dateiformaten, .lnk- oder .one-Dateien, zusätzlich zu den herkömmlichen Methoden wie Office-Makros. Es sind Richtlinien nötig, die die Ausführungsmöglichkeiten zu regulieren.

Als Sicherheitsforscher haben sich mir die Möglichkeiten geradezu aufgedrängt, als Tools wie ChatGPT und Bing Chat auf breiter Basis verfügbar wurden, und was dies für uns sowohl in der wissenschaftlichen Gemeinschaft als auch in der Gesellschaft insgesamt bedeutet.

Am wichtigsten ist vielleicht, dass Technologien wie diese die Zukunft der Datenanalyse in großem Maßstab durch maschinelles Lernen vor Augen führen. Auch wenn sie nicht spezifisch für große Sprachmodelle wie ChatGPT sind, glaube ich, dass wir eine rasche Zunahme von Tools erleben werden, die nicht nur Daten, sondern analysierte Daten mit Anreicherung und Kontext zur Verfügung stellen. Die Menge an Daten, mit der selbst ein kleines Security Operations Center heute konfrontiert ist, ist erstaunlich, und die Fähigkeit, diese Daten effektiv zu korrelieren und zu analysieren und zur Untersuchung und Eindämmung überzugehen, ist eine zeitaufwändige Anforderung, die sehr teure Tools und Talente erfordert, um sie zu erfüllen. Ich stelle mir eine Zukunft vor, in der ein Analyst eine Warnung erhält und in der Lage ist, sich zu fragen: „Warum interessiert mich das?“ „Ist diese Meldung wichtiger als die Meldung, die vor 10 Minuten eingegangen ist? „Vorschläge für die nächsten Schritte zur Triage und forensischen Erfassung auf der Grundlage dieser Meldung“, und einen Partner (in Form von KI) zu haben, der ihm bei einem Vorfall zur Seite steht.  Manch einer mag Alarm schlagen, weil Arbeitsplätze wegfallen, aber ich würde sagen, das ist kein Grund zur Sorge.  Sicherheit ist wirklich eine Kunst, und man muss das menschliche Verhalten verstehen. KI ist nicht in der Lage, sich in die Lage eines Angreifers oder eines Opfers zu versetzen, und meiner Erfahrung nach kann sie dazu verleiten, sich zu sehr in die Lage des Angreifers zu versetzen. KI ist zwar eine leistungsstarke Ergänzung der Intelligenz, wird sie aber niemals ersetzen können. Und vielleicht sollten wir das auch so sehen – bei der KI geht es weniger um künstliche Intelligenz als vielmehr um die Erweiterung der Fähigkeiten und der Geschwindigkeit der menschlichen Intelligenz, Problemlösung und Kreativität.

Melissa Bischoping Director, Endpoint Security Research bei Tanium, www.tanium.com