Aqua Security veröffentlicht Lösung zur Absicherung von KI-Anwendungen

Aqua Security stellt neue Funktionen vor, die speziell für die Absicherung der Entwicklung und des Betriebs von generativen KI-Anwendungen entwickelt wurden, die Large Language Models (LLMs) nutzen. Da immer mehr Unternehmen LLMs einsetzen, werden neue Angriffsvektoren in ihre Anwendungen und Abläufe eingeführt.

Aqua leistet hier Pionierarbeit für die Absicherung von LLM-Anwendungen. Dies kann Unternehmen helfen, sicher und gleichzeitig auf dem neuesten Stand der Anwendungsentwicklung zu bleiben. Die neuen Funktionen verbessern die Code-Integrität, die Überwachung von LLM-Workloads in Echtzeit und speziell für LLMs erstellte spezifische Sicherheitsrichtlinien für generative KI. Sie fügen sich nahtlos in Aqua Securitys Cloud Native Application Protection Platform (CNAPP) ein und bieten eine einheitliche Lösung für ganzheitlichen Schutz über den gesamten Lebenszyklus von Cloud-Native-Anwendungen. Mit dieser Lösung stattet Aqua Sicherheitsteams, DevOps-Praktiker und Compliance-Experten mit den Werkzeugen und dem Fachwissen aus, um sicher durch die komplizierte Landschaft der LLM-Sicherheit zu navigieren. Durch die Überbrückung der Kluft zwischen Sicherheitsanforderungen und Entwicklungsprozessen ermöglicht es Aqua Unternehmen, Innovationen voranzutreiben und gleichzeitig potenzielle Risiken zu minimieren.

Die neuen Funktionen in der Cloud Native Application Protection Platform:

• Code-Integrität: Aqua Security setzt fortschrittliche Code-Scanning-Technologie ein, um die unsichere Nutzung von LLMs im Anwendungscode zu identifizieren und zu entschärfen, einschließlich unautorisiertem Datenzugriff, Fehlkonfigurationen und Schwachstellen, die spezifisch für LLM-gestützte Anwendungen sind. So kann Aqua beispielsweise den nicht autorisierten Zugriff auf LLM-Ausgaben erkennen, die möglicherweise versuchen, bösartigen Code auszuführen und Angriffe zu initiieren.
• Überwachung in Echtzeit: Die Laufzeitschutzfunktionen von Aqua Security überwachen aktiv LLM-betriebene Anwendungs-Workloads und verhindern unautorisierte Aktionen, die LLMs versuchen könnten, wie z. B. die Ausführung von bösartigem Code aufgrund von Prompt-Injection-Angriffen.
• Sicherheitsrichtlinien für generative KI: Aqua Security setzt spezifische Sicherheitsrichtlinien für generative KI ein, die als Leitplanken für Entwickler von LLM-gestützten Anwendungen dienen. Diese Richtlinien verhindern die unsichere Nutzung von LLMs und basieren auf Praktiken aus den OWASP Top 10 für LLMs und anderen anerkannten Industriestandards.

„Die weit verbreitete Einführung von LLM-gestützten Anwendungen ohne vollständigem Verständnis der Sicherheitsrisiken und -implikationen unterstreicht den dringenden Bedarf an Sicherheitstools, die es Unternehmen ermöglichen, diese Technologie vertrauensvoll zu nutzen, ohne die Innovation zu bremsen“, sagt Gilad Elyashar, Chief Product Officer, Aqua Security. „Das immense Versprechen von LLM-Anwendungen steht im Gegensatz zu den neuen Angriffsvektoren, wie z. B. Prompt Injections, unsichere LLM-Interaktionen und unautorisiertem Datenzugriff. OWASP hat die Top-10-Liste für LLM-Anwendungen erstellt, um das Bewusstsein für diese Risiken zu schärfen. Aqua Security bietet umfassenden Schutz für LLM-gestützte Anwendungen vom Code bis zur Cloud unter Verwendung der OWASP-Empfehlungen, verhindert und erkennt auf generative KI bezogene Angriffe und verfolgt Sicherheitslücken bis zu bestimmten Codezeilen zurück.“

(pd/Aqua Security)