Thought Leadership
Cyberkriminelle nutzen zunehmend große Sprachmodelle (LLMs) für sogenannte LLM-Hijacking-Angriffe und lassen Unternehmen und Privatpersonen für die anfallenden Cloud-Kosten aufkommen.
Unerwarteter Anstieg der Cloud-Kosten
Im Sommer 2024 bemerkte ein Nutzer von Amazon Web Services (AWS) einen plötzlichen Anstieg seiner Cloud-Kosten. Normalerweise beliefen sich seine monatlichen Ausgaben auf lediglich zwei Dollar, doch innerhalb weniger Stunden kletterte die Rechnung auf über 700 Dollar und erreichte bald mehrere tausend Dollar. Die Ursache: Cyberkriminelle hatten sich unbefugt Zugriff verschafft und nutzten offenbar das Modell Claude 3 Opus für eigene Zwecke. AWS erstattete dem Nutzer den Betrag, nachdem er den Vorfall auf der Plattform X geteilt hatte und die Cybersicherheits-Expertin Crystal Morin von der Firma Sysdig darauf aufmerksam wurde.
Viele Unternehmen, die ohnehin hohe Cloud-Ausgaben haben, merken jedoch oft gar nicht, dass ihre Systeme missbraucht werden. LLM-Hijacking erfolgt dabei ähnlich wie Cryptojacking: Statt Kryptowährungen zu schürfen, missbrauchen Angreifer die Rechenleistung von LLMs, indem sie gestohlene Zugangsdaten nutzen, um sich in Cloud-Umgebungen einzuschleusen.
LLMs als Angriffsziel
Forschungsergebnisse von Sysdigs Threat Research Team zeigen, dass Angreifer innerhalb weniger Tage nach der Veröffentlichung bereits Zugriff auf die V-3 und R1 Modelle des chinesischen Startups DeepSeek erlangt hatten. „Sie haben ihre Taktiken erweitert. Wir glauben, dass sie testen, welche Modelle sie nutzen können und wie weit sie damit gehen können“, erklärt Morin. (via Cybernews)
Microsoft hat kürzlich rechtliche Schritte gegen eine „aus dem Ausland agierende Bedrohungsgruppe“ eingeleitet, die sich auf das Ausnutzen von offengelegten Kundenzugangsdaten spezialisiert hat. Dabei beschaffen sich Angreifer Zugangsdaten über öffentliche Websites oder kaufen API-Schlüssel im Darknet, um automatisierte Skripte auszuführen und herauszufinden, auf welche Modelle sie zugreifen können.
Hohe Kosten durch unautorisierte Nutzung
Die finanziellen Auswirkungen können erheblich sein. „Wenn Angreifer kontinuierlich Ihr LLM nutzen, kann das sehr schnell sehr teuer werden“, so Morin.
Ein gängiges Werkzeug ist dabei der OAI Reverse Proxy (ORP), der als eine Art Vermittlungsserver fungiert, um Zugriffsbeschränkungen zu umgehen, Ratenlimits zu unterlaufen und verdächtige Aktivitäten zu verschleiern. Laut Sysdig wurde das DeepSeek-V3-Modell nur wenige Tage nach seiner Veröffentlichung bereits in einer ORP-Instanz auf der Plattform HuggingFace implementiert. Eine dieser Instanzen enthielt 55 aktive DeepSeek-API-Schlüssel.
DeepSeek ist im Vergleich zu anderen LLMs deutlich günstiger zu betreiben. Laut Sysdig können die monatlichen Cloud-Kosten für DeepSeek bei rund 7.000 Dollar liegen, während die Nutzung eines GPT-4-Modells über 580.000 Dollar kosten kann. Die niedrigeren Kosten machen DeepSeek für Angreifer besonders attraktiv.
„Enkrypt AI stellte fest, dass DeepSeek mehr Risiken und toxische Inhalte generieren kann als andere KI-Modelle, da es weniger Sicherheitsmechanismen enthält. Im Grunde gibt es den Nutzern mehr Freiheiten bei ihren Eingaben“, warnt Morin. Neben den finanziellen Folgen birgt LLM-Hijacking auch erhebliche Sicherheitsrisiken, etwa durch mögliche Datenlecks.
Schutzmaßnahmen gegen LLM-Hijacking
Unternehmen sollten gezielte Maßnahmen ergreifen, um sich gegen unbefugten Zugriff zu schützen. Der Schutz von Zugangsschlüsseln hat dabei oberste Priorität. Die Verwendung temporärer Anmeldedaten und das regelmäßige Rotieren von API-Schlüsseln sind entscheidende Sicherheitsvorkehrungen.
Da ein kompromittierter Zugangsschlüssel schwer zu entdecken ist, ist eine frühe Erkennung von Anomalien essenziell. „Dies ist nicht wie andere Angriffe, bei denen eine einzige Erkennungsmethode ausreicht. Es ist tatsächlich sehr herausfordernd“, sagt Morin. Unternehmen sollten deshalb manuelle Kostenwarnungen aktivieren, da diese oft nicht standardmäßig eingerichtet sind. Darüber hinaus hilft es, die Basisnutzung von Cloud-Diensten zu überwachen, um plötzliche Abweichungen oder ungewöhnliche Kostenanstiege schnell zu identifizieren.
Durch ein proaktives Sicherheitsmanagement können Unternehmen verhindern, dass sie zum Opfer von LLM-Hijacking werden und hohe finanzielle Verluste erleiden.
