Thought Leadership
Das Bochumer Start-up Edgeless Systems hat Continuum vorgestellt, eine Sicherheitslösung, die den Einsatz von “Confidential AI” in der Cloud ermöglicht.
Seit der Veröffentlichung von ChatGPT hat generative künstliche Intelligenz (KI) branchenübergreifend viele große Veränderungen angestoßen. Schon heute wird sie in vielen Anwendungen zur Produktivitätssteigerung eingebaut.
Allerdings stehen Unternehmen, öffentliche Einrichtungen und Verbraucher vor einem Problem: Wenn sie KI-Dienste mit sensiblen Daten “füttern” wollen, haben sie berechtigte Bedenken, dass dabei Datenlecks entstehen und KI-Modelle auf Basis der sensiblen Eingabedaten trainiert werden.
Dieses Problem will Edgeless Systems mit seinem neuen Produkt Continuum lösen, dessen Launch das Unternehmen heute bekannt gibt. Continuum ist eine neuartige Sicherheitslösung, die erstmals cloudbasierte “Confidential AI”-Dienste ermöglicht. Im Kern stellt Continuum sicher, dass Nutzeranfragen (oder “Prompts”) und die entsprechenden Antworten innerhalb eines KI-Dienstes durchgehend verschlüsselt bleiben, wodurch Klartext-Daten sowohl für den KI-Dienstanbieter als auch für die zugrunde liegende Cloud-Infrastruktur unzugänglich sind. Außerdem schützt es die oft sehr wertvollen Gewichte von KI-Modellen auf die gleiche Weise. Dafür nutzt Continuum die Confidential-AI-Fähigkeiten von Nvidia H100-GPUs und verknüpft sie mit modernster Kryptografie und Sandboxing-Technologie. Dadurch können Anbieter von KI-Diensten ihre Modelle und ihren Code aktualisieren, ohne die Sicherheit zu gefährden.
Continuum (Bildquelle: Edgeless Systems)
KI-Dienst-Anbieter können Continuum unkompliziert in ihre bestehenden Software-Stacks integrieren. Dadurch werden ihre KI-Modelle und ihr geistiges Eigentum geschützt. Anwender von KI-Diensten wiederum profitieren von Continuum, weil es Compliance und Datenschutz gewährleistet und damit die gängigen Bedenken hinsichtlich Datensicherheit und unbefugter Datennutzung in KI-Trainings obsolet macht.
Continuum arbeitet mit LLMs wie Mistral 7B und unterstützt beliebte KI-Frameworks wie Nvidia Triton Inference Server und vLLM.
www.edgeless.systems
