KI muss kontrolliert werden

Die Akzeptanzkurve einer disruptiven Technologie steigt zunächst schnell an, flacht dann aber ab, sobald Sicherheits- und Compliance-Kontrollen greifen und Nutzer zum nächsten Trend übergehen.

Das Aufkommen generativer KI-basierter Anwendungen wie ChatGPT, Google Gemini und in jüngerer Zeit DeepSeek bildete dabei keine Ausnahme. Wir erleben derzeit ihren Hype und Aufstieg. Laut Netskope Threat Labs kam es innerhalb von nur 48 Stunden im gesamten Kundenkreis des Unternehmens zu einem beeindruckenden Anstieg der DeepSeek-Nutzung um 1.052 %. Dies ist für CISOs ein Warnsignal. Der rasante Anstieg verdeutlicht, wie schnell neue KI-Tools in Unternehmen eindringen können und unterstreicht die Notwendigkeit robuster KI-Sicherheitskontrollen.

Deep Seek-Akzeptanz

Netskope Threat Labs hat die Deep Seek-Akzeptanz Trends vom 24. bis 29. Januar in verschiedenen Regionen der Welt analysiert und folgende Anstiege beobachtet: +1.256 % in Europa, +2.459 % in Asien und +415 % in den USA. Dies verdeutlicht, wie schnell sich generative KI-basierte Tools weltweit verbreiten – und oftmals können Sicherheitsteams in Unternehmen nicht schnell genug reagieren. 

Die weitverbreitete Einführung dieser Tools sorgt für erhebliche Sicherheitsbedenken hinsichtlich Datenschutz und Datenverwaltung. Zum einen, weil Mitarbeiter und/oder Nutzer unwissentlich vertrauliche Daten in KI-Tools eingeben und geistiges Eigentum sowie gesetzlich geschützte Informationen preisgeben können. Zum anderen bestehen bei der unkontrollierten Einführung von KI regulatorische und Compliance-Risiken, die zur Nichteinhaltung der DSGVO, des CCPA, des LGPD und branchenspezifischer Vorschriften führen können. 

Schatten-KI stellt eine weitere große Bedrohung für Sicherheitsteams dar. Denn ohne Transparenz und Governance können nicht genehmigte KI-Anwendungen zu Sicherheitslücken führen.

Es ist klar, dass ein strukturierter strategischer Ansatz mit proaktiven Kontrollen erforderlich ist, um den Einsatz von KI zu verwalten und die Governance sicherzustellen. Deswegen ist es wichtig, durch KI-Überwachung Transparenz zu schaffen, um zu verstehen: Wer nutzt diese Anwendungen? Und zu welchem Zweck? All dies unterstreicht, wie wichtig es ist, Richtlinien für die gemeinsame Nutzung von Daten zu implementieren und den unbefugten Zugriff auf KI-Tools einzuschränken.

Ein weiterer wichtiger Faktor ist die Schaffung einer Kultur, die innovative Technologien fördert, allerdings mit Vorsicht und Vorbehalten. Daher ist es wichtig, die Bedürfnisse der Belegschaft zu ermitteln. Gleichzeitig ist es jedoch notwendig, klare Leitlinien zu Anwendungsfällen und akzeptablen Tools bereitzustellen. Daneben sind Schulungen zu den Risiken, die mit der Eingabe vertraulicher Daten in genAI-Anwendungen verbunden sind, unerlässlich.

Die Welle der DeepSeek-Einführung ist ein Blick in die Zukunft der generativen KI. Eine Reihe von Faktoren, darunter die Verfügbarkeit günstigerer KI-Chips und Rechenleistung, die Ausweitung der Innovation außerhalb der USA und die raschere Bereitstellung von KI-Modellen, könnten zu noch schnelleren Einführungszyklen in Unternehmen führen. Basierend auf dem Modell müssen Unternehmen Kontrollen einführen, um sicherzustellen, dass keine sensiblen Unternehmensdaten hochgeladen und die KI damit trainiert wird. Sitzungsprotokolle, die an eine KI gesendet werden, können beispielsweise hochsensible Informationen enthalten. DLP (Data Loss Prevention), die die Übertragung sensibler Daten erkennt, meldet und blockiert, ist ein Muss.

Kein Stillstand in Sicht

Bislang ist im Bereich der KI kein Stillstand in Sicht. Jeden Tag werden mehr Anwendungen auf den Markt gebracht. Deswegen denken wir, dass Sicherheitsexperten bei ihrer Strategie zum Schutz ihrer Informationen nicht nachlassen dürfen. Die schnelle Einführung von DeepSeek dient als Fallstudie zur KI-Sicherheit. Daher müssen sich CISOs auf die Herausforderung vorbereiten, die nächste Welle von KI-Anwendungen zu meistern und proaktive Maßnahmen zum Schutz von Unternehmensdaten in Betracht ziehen, ohne die Entwicklung von Innovationen zu gefährden. Datensicherheit ist ein dynamischer, proaktiver Rahmen mit Echtzeit-Benutzer-Coaching, DLP und app-spezifischen Kontrollen, um einer sich ständig verändernden Bedrohungslandschaft voraus zu sein.