foto freepik

GenAI-Daten-Uploads steigen innerhalb eines Jahres um das 30-fache; drei von vier Unternehmen nutzen Apps mit integrierten genAI-Funktionen.

Netskope, ein Unternehmen für moderne Sicherheit und Netzwerke, hat eine neue Studie veröffentlicht, die einen 30-fachen Anstieg der Daten zeigt, die von Unternehmensanwendern im letzten Jahr an generative KI-Apps (genAI) gesendet wurden [1]. Dazu gehören sensible Daten wie Quellcode, regulierte Daten, Passwörter und Schlüssel sowie geistiges Eigentum. Dies erhöht das Risiko von kostspieligen Sicherheitsverletzungen, Compliance-Verstößen und Diebstahl geistigen Eigentums erheblich. Der Bericht hebt auch hervor, dass Schatten-KI jetzt die größte Schatten-IT-Herausforderung für Unternehmen ist, da 72 % der Unternehmensnutzer in den genAI-Apps, die sie für die Arbeit nutzen, ihre persönlichen Konten verwenden.

Der Generative AI Cloud and Threat Report 2025 von Netskope Threat Labs zeigt die allgegenwärtige Nutzung von genAI in Unternehmen auf. Zum Zeitpunkt der Reporterstellung hatte Netskope Einblick in 317 genAI-Apps wie ChatGPT, Google Gemini und GitHub Copilot. Eine umfassendere, unternehmensübergreifende Analyse ergab, dass 75 % der Unternehmensnutzer auf Anwendungen mit genAI-Funktionen zugreifen. Dadurch entsteht ein größeres Problem, mit dem sich Sicherheitsteams befassen müssen: die unbeabsichtigte Insider-Bedrohung.

»Trotz der ernsthaften Bemühungen von Unternehmen, unternehmenseigene genAI-Tools zu implementieren, zeigt unsere Studie, dass Schatten-IT zur Schatten-KI geworden ist. Dabei greifen fast drei Viertel der Nutzer immer noch über persönliche Konten auf genAI-Apps zu«, erläutert James Robinson, CISO von Netskope. »Dieser anhaltende Trend in Kombination mit den Daten, die geteilt werden, unterstreicht den Bedarf an fortschrittlichen Datensicherheitsfunktionen. Mit ihnen können Sicherheits- und Risikomanagementteams wieder Governance, Transparenz und eine akzeptable Nutzung von genAI in ihren Organisationen erlangen.«

GenAI-Risikominderung

Viele Unternehmen haben keinen oder einen eingeschränkten Überblick darüber, wie Daten im Rahmen der indirekten genAI-Nutzung verarbeitet, gespeichert und genutzt werden. Oft entscheiden sie sich für eine »Erst blockieren und dann Fragen stellen«-Politik, indem sie bestimmte Apps ausdrücklich zulassen und alle anderen blockieren. Die Sicherheitsverantwortlichen müssen jedoch eine sichere Aktivierungsstrategie verfolgen, da die Mitarbeiter Effizienz- und Produktivitätsvorteile aus diesen Tools ziehen wollen. »Unsere neuesten Daten zeigen, dass genAI nicht länger eine Nischentechnologie ist, sondern überall vorkommt«, sagt Ray Canzanese, Director of Netskope Threat Labs. »Sie wird zunehmend in alles integriert, von speziellen Anwendungen bis hin zu Backend-Integrationen. Diese Allgegenwärtigkeit stellt eine wachsende Herausforderung für die Cybersicherheit dar. Sie verlangt von Unternehmen einen weitreichenden Ansatz für das Risikomanagement. Andernfalls riskieren sie, dass ihre sensiblen Daten an Dritte weitergegeben werden, die sie zum Trainieren neuer KI-Modelle verwenden könnten, was wiederum Möglichkeiten für eine noch umfassendere Offenlegung von Daten schafft.«

Im vergangenen Jahr hat Netskope Threat Labs außerdem beobachtet, dass die Zahl der Unternehmen, die ihre genAI-Infrastruktur lokal betreiben, stark gestiegen ist – von weniger als 1 % auf 54 % – und dieser Trend wird sich voraussichtlich fortsetzen. Obwohl die Risiken einer unerwünschten Datenexposition durch Drittanbieter-Apps in der Cloud reduziert werden, bringt die Verlagerung auf eine lokale Infrastruktur neue Datensicherheitsrisiken mit sich. Das reicht von Lieferketten, Datenlecks und unsachgemäßer Handhabung der Datenausgabe bis hin zu Prompt Injection, Jailbreaks und Extraktion von Meta-Prompts. Infolgedessen fügen viele Unternehmen zu den bereits verwendeten cloudbasierten genAI-Apps eine lokal gehostete genAI-Infrastruktur hinzu.

»KI verändert nicht nur die Sicherheit von Perimetern und Plattformen – sie schreibt die Regeln neu«, sagt Ari Giguere, Vice President of Security and Intelligence Operations bei Netskope. »Da Angreifer ihre Bedrohungen mit generativer Präzision entwickeln, muss die Verteidigung ebenso generativ sein und sich in Echtzeit weiterentwickeln, um der daraus resultierenden ›Innovationsinflation‹ zu begegnen. Eine effektive Bekämpfung eines kreativen menschlichen Gegners wird immer einen kreativen menschlichen Verteidiger erfordern, aber auf einem KI-gesteuerten Schlachtfeld kann nur KI-gestützte Sicherheit Schritt halten.«

Eine CISO-Perspektive

Im Kampf gegen KI-gesteuerte Bedrohungen setzen viele Unternehmen auf Sicherheitstools, die bereits in ihren Technologiepaketen enthalten sind. Fast 100 % der Unternehmen arbeiten daran, ihre KI-Risiken mit Richtlinien zu reduzieren, die es ihnen ermöglichen, den Zugriff auf KI-Tools zu blockieren und/oder zu kontrollieren, welche Benutzer auf bestimmte KI-Tools zugreifen können und welche Daten mit diesen Tools geteilt werden können. Netskope empfiehlt Unternehmen, ihre Risikorahmenbedingungen zu überprüfen, anzupassen und speziell auf KI oder genAI zuzuschneiden, um einen angemessenen Schutz von Daten, Nutzern und Netzwerken zu gewährleisten. Um das Risiko durch genAI zu bewältigen, werden folgende Maßnahmen empfohlen:

Bewerten Sie Ihre genAI-Landschaft:
Informieren Sie sich darüber, welche genAI-Apps und lokal gehostete genAI-Infrastruktur Sie nutzen, wer sie nutzt und wie sie genutzt werden.
Verstärken Sie Ihre genAI-App-Kontrollen:
Überprüfen Sie Ihre Kontrollen regelmäßig anhand von Best Practices, zum Beispiel indem Sie nur zugelassene Apps erlauben, nicht zugelassene Apps blockieren, DLP einsetzen, um zu verhindern, dass sensible Daten mit nicht zugelassenen Apps geteilt werden, und Echtzeit-Nutzer-Coaching nutzen.
Inventarisieren Sie Ihre lokalen Kontrollen:
Wenn Sie eine genAI-Infrastruktur lokal betreiben, prüfen Sie relevante Frameworks wie die OWASP Top 10 for Large Language Model Applications, National Institute of Standards and Technology’s (NIST) AI Risk Management Framework und MITRE Atlas, um einen angemessenen Schutz von Daten, Nutzern und Netzwerken zu gewährleisten.

[1] Den vollständigen genAI Cloud and Threat Report können Sie hier einsehen. https://www.netskope.com/de/netskope-threat-labs/cloud-threat-report/generative-ai-2025

Weitere Informationen über Cloud-basierte Bedrohungen und die neuesten Erkenntnisse der Netskope Threat Labs finden Sie im Threat Research Hub von Netskope.

6568 Artikel zu „KI Daten Sicherheit“

News | Trends 2024 | Trends Security | IT-Security | Künstliche Intelligenz | Tipps

Großer KI-Optimismus der Sicherheitsexperten trifft auf die Datensilo-Realität

21. Dezember 2024

Datensilos hemmen generative KI dabei, Unternehmen zu schützen. Jedem vierten Unternehmen in Deutschland fehlt die klare Strategie zum KI-Einsatz für den Cyberschutz. Das Sicherheitsunternehmen Ivanti hat eine neue Studie veröffentlicht, die sich mit der ambivalenten Einstellung von Sicherheitsteams mit Blick auf generative KI (GenAI) beschäftigt. Der Bericht mit dem Titel »Generative KI und Cybersicherheit:…