KI spielt in Cybercrime-Foren weiterhin nur eine Nebenrolle

Eine aktuelle Untersuchung von Sophos X-Ops in einschlägigen Cybercrime-Foren zeigt: Bedrohungsakteure setzen KI nach wie vor nur zögerlich ein. Könnten die neuesten Entwicklungen das ändern?

Parallel zur Veröffentlichung des Reports „Beyond the Hype: The Business Reality of AI for Cybersecurity“ zur Nutzung von KI in der Unternehmens-IT-Sicherheit hat Sophos X-Ops einen Bericht über die Verwendung Künstlicher Intelligenz durch Cyberkriminelle vorgelegt. Die neue Untersuchung mit dem Titel „Cybercriminals Still Not Getting On Board the AI Train (Yet)“ dokumentiert nur minimale Veränderungen in der Art und Weise, wie Cyberkriminelle KI diskutieren und einsetzen.

Kaum Bewegung seit November

Besonders aufschlussreich sind die Ergebnisse im Vergleich zur Vorgängerstudie vom November 2023, die bereits eine ausgeprägte KI-Skepsis unter Cyberkriminellen feststellte. Die erneute Analyse der Cybercrime-Foren durch Sophos X-Ops zeigt nur geringfügige Verschiebungen: Zwar haben einzelne Bedrohungsakteure begonnen, generative KI in ihr Arsenal aufzunehmen – vorrangig für Spam-Kampagnen, Open-Source-Intelligence (OSINT) und in kleinerem Umfang für Social Engineering. Die überwiegende Mehrheit der Akteure in den untersuchten Foren bleibt jedoch weiterhin zurückhaltend. Wie schon 2023 setzen nur wenige Cyberkriminelle KI zur Automatisierung von Routineaufgaben ein – bei komplexeren Operationen spielt die Technologie praktisch keine Rolle.

Andere Themen dominieren die Foren

„KI ist in den von uns beobachteten Foren nach wie vor ein Randthema“, erläutert Chet Wisniewski, Field CTO bei Sophos. „In einem bekannten russischsprachigen Forum und auf einem einschlägigen Marktplatz wurden im vergangenen Jahr weniger als 150 Beiträge über GPTs oder LLMs veröffentlicht. Zum Vergleich: Im gleichen Zeitraum gab es über 1.000 Beiträge zu Kryptowährungen und mehr als 600 Threads im Bereich ‚Access‘, also dem Handel mit Zugangsdaten.“

DeepSeek als potenzieller Game-Changer?

Wisniewski sieht die verhaltene Reaktion der Cybercrime-Szene als Zeichen einer abwartenden Haltung: „Viele Akteure beobachten zunächst die weitere Entwicklung der Technologie und evaluieren Möglichkeiten zur Integration in ihre Arbeitsabläufe.“ Bewegung könnte durch das Open-Source-Modell DeepSeek entstehen, das aufgrund seiner offenen Architektur missbrauchsanfällig sein könnte. „Allerdings“, so Wisniewski weiter, „erfordert auch DeepSeek deutlich mehr Ressourcen, als dem durchschnittlichen Cyberkriminellen zur Verfügung stehen.“