Illustration Absmeier foto freepik

Datenschutz und Sicherheitsrisiken durch KI bereiten Führungskräften die größten Sorgen.

Damit KI-Agenten die ihnen zugedachten Aufgaben erfüllen können, benötigen sie oft Zugriff auf die Daten, Systeme und Ressourcen des Unternehmens.

Je mehr Zugriff sie dabei besitzen, desto mehr können sie leisten. Daher drängt es sich – vor allem in dieser »Wild-West-Phase« der Tests und Experimente – geradezu auf, den KI-Agenten einen Generalschlüssel in die Hand zu drücken [1].

Der umfassendere Zugriff birgt jedoch erhebliche Risiken. So stellen unzureichend abgesicherte, fehlerhaft implementierte oder schlecht verwaltete KI-Agenten neue Angriffspunkte für Prompt, Account-Hacking und andere Taktiken dar. Selbst ohne böswillige Absichten kann unerwartetes Verhalten zu Data Breaches, Image-Schäden und Compliance-Verstößen führen.

Den Umfrageteilnehmern sind diese Risiken durchaus bewusst. Als größte Sorgen im Zusammenhang mit KI nannten sie Datenschutz und Sicherheitsrisiken an erster bzw. zweiter Stelle – und zwar sowohl nach Schweregrad (als größte Sorge) als auch nach Häufigkeit (häufigste Nennung).

»Angesichts der Daten, auf die KI-Agenten jetzt oder in Zukunft zugreifen können, sind für sie die gleichen Kontrollen wie bei menschlichen Mitarbeitern notwendig.« – Vorstandsmitglied, Technologieunternehmen, Großbritannien

85 % der Führungskräfte betrachten Identitäts- und Zugriffsmanagement (IAM) als unverzichtbar für die erfolgreiche Einführung und Integration von KI.

Die Verwaltung der Identities von KI-Agenten unterscheidet sich von der bei menschlichen Identities, da es hier Unterschiede zwischen Definition, Lebenszyklus und Governance gibt.

KI-Agenten:

Haben nicht die Verantwortlichkeit einer konkreten Person
Haben kurze und dynamische Lebenszyklen, was schnelle Provisionierung und Deprovisionierung erfordert
Nutzen verschiedene nicht-menschliche Authentifizierungsverfahren wie API-Token und kryptografische Zertifikate
Benötigen sehr spezifische und detaillierte Berechtigungen für begrenzte Zeiträume und greifen häufig auf privilegierte Informationen zu, sodass starke Kontrollen notwendig sind, um langfristige Zugriffe zu verhindern
Besitzen häufig keine nachprüfbare Kontrollinstanz sowie durchgängige Protokollierung, was Audits nach Data Breaches sowie Behebungsmaßnahmen erschwert

Dass den Führungskräften diese Eigenschaften bewusst sind, zeigt sich in ihren Antworten über die größten Sicherheitsprobleme von Unternehmen in Bezug auf nicht-menschliche Identities. Die Kontrolle von Zugriffen und Berechtigungen für nicht-menschliche Identities (von 78 % der Umfrageteilnehmer genannt) liegt auf Platz 1, doch auch Sorgen in Bezug auf die Lebenszyklusverwaltung (69 %), den unzureichenden Überblick (57 %) und die Behebung von riskanten Accounts für nicht-menschliche Identities (53 %) wurden von den meisten Umfrageteilnehmer genannt.

»Angesichts der Zugriffsmöglichkeiten und Ausführungsberechtigungen von KI-Agenten sind Governance und Zugriffskontrolle absolut unverzichtbar.« – Vorstandsmitglied, Bank- und Finanzinstitut, USA

[1] https://www.okta.com/newsroom/articles/understanding-the-ai-agent-identity-challenge/

So nutzen Unternehmen KI wirklich

Künstliche Intelligenz ist längst im Unternehmensalltag angekommen. Doch während 91 % aller Unternehmen weltweit KI-Agenten einsetzen, verfügen nur 10 % über eine gezielte Strategie beim Einsatz von Non-Human Identities (NHI), wie aus dem »AI at Work« Report von Okta hervorgeht [1].

Die Umfrageergebnisse liefern detaillierte Einblicke, wie Führungskräfte global mit den Chancen und Risiken von KI umgehen und diese in ihren Unternehmen einsetzen. Ein besonderer Fokus liegt auf den Themen Sicherheit, Identitätsmanagement und dem verantwortungsvollen Umgang mit NHI.

Die Studie zeigt: KI ist für viele Unternehmen ein Muss – aber der Umgang mit Aspekten der Sicherheit, Datenschutz und Governance bleibt eine echte Herausforderung, gerade in Europa.

Die wichtigsten Zahlen im Überblick:

Weltweiter Fokus auf KI:
66 % der globalen Führungskräfte sehen KI als sehr wichtig für ihre Geschäftsstrategie. Während 23 % den Einsatz als »absolut essenziell« bezeichnen, sind die in Deutschland hingegen nur 17 %.
Effizienz, Automatisierung, Sicherheit:
Die Top-Gründe für den KI-Einsatz sind Effizienzsteigerung (70 %), Automatisierung (62 %) und Verbesserung der Sicherheit (62 %). In EMEA zählt aber vor allem »Speed to Market« – Sicherheit rangiert überraschend weit hinten.
KI für Sicherheit:
Weltweit setzen 65 % KI für Sicherheitszwecke ein – in Deutschland sind es nur 57 %. Besonders hoch ist der Wert in Großbritannien (70 %). 41 % der globalen Führungskräfte stimmen darin überein, dass KI »die beste Verteidigung gegen KI ist.« In Deutschland stimmen dem ganze 67 % zu.
Datenschutz bleibt Top-Sorge:
60 % der Führungskräfte nennen Datenschutz als größte Herausforderung beim KI-Einsatz, gefolgt von Sicherheitsrisiken (37 %) und ethischen Bedenken (29 %).
Identität im Fokus:
52 % der Entscheider halten Identity & Access Management für sehr wichtig beim KI-Einsatz – Hauptgründe sind Datenschutz (92 %), Compliance (78 %) und Governance (68 %).
Non-Human Identities im Aufwind:
Über 40 % der Unternehmen nutzen KI-Agenten und digitale Identitäten (APIs, Service Accounts) bereits in großem Umfang – die größten Bedenken bleiben hier jedoch eine effektive Zugriffskontrolle (78 %) und das unkontrollierte Informationswachstum solcher Identitäten (57 %).

»Der Aufstieg von KI-Agenten und Non-Human Identities (NHI) macht deutlich, wie dringend neue Sicherheits- und Governance-Konzepte gebraucht werden. KI ist mehr als nur ein Technologie-Upgrade – um echten Mehrwert zu schaffen, müssen Unternehmen klare Anwendungsfälle definieren und von Anfang an solide Grundlagen aufbauen«, erklärt Stephen McDermid, EMEA CSO bei Okta. »Ob im Kundenservice, Vertrieb oder zur Verbesserung der Sicherheit: Identitätsmanagement ist der Schlüssel, um das Potenzial von KI voll zu entfalten und gleichzeitig sensible Daten zu schützen.«

[1] Für den »AI at Work« Report hat Okta 260 C-Level-Führungskräfte aus neun Ländern befragt, darunter Australien, Kanada, Frankreich, Deutschland, Indien, Japan, Niederlande, Großbritannien und den USA.

https://www.okta.com/de-de/newsroom/articles/ai-at-work-2025–securing-the-ai-powered-workforce/

399 Artikel zu „KI-Agenten Sicherheit“

News | Business | Digitalisierung | Geschäftsprozesse | Infrastruktur | Künstliche Intelligenz | Logistik

Wenn Maschinen mitdenken: Wie KI-Agenten das Lager resilient und schneller machen

11. August 2025

Die Digitalisierung verändert die Logistik zunehmend. Eine treibende Kraft ist dabei die künstliche Intelligenz (KI). Sie automatisiert Abläufe, sorgt für mehr Transparenz und steigert die Leistungsfähigkeit in der Lieferkette. Doch was genau kann KI im Lager leisten – und welchen Unterschied machen spezialisierte KI-Agenten? Die Anforderungen an Lieferketten steigen kontinuierlich: Kunden fordern schnellere Zustellungen,…