Deutsche Sicherheitsverantwortliche vertrauen ihren Schutzmechanismen für KI-Agenten – zugleich fehlen vielerorts Transparenz, klare Zuständigkeiten und belastbare Zugriffsregeln. Das gefährliche Paradoxon zeigt: Wer autonome Systeme nicht als eigenständige digitale Identitäten behandelt, verliert schnell die Kontrolle über Berechtigungen, Datenflüsse und Risiken.

Management Summary

Vertrauen ersetzt keine Transparenz: Unternehmen müssen sämtliche KI-Agenten, ihre Einsatzorte und Verbindungen vollständig inventarisieren.
KI-Agenten brauchen eigene Identitäten: Geteilte Konten und menschliche Zugangsdaten verhindern eine saubere Zuordnung von Aktionen und Verantwortlichkeiten.
Berechtigungen müssen minimal und dynamisch sein: Least Privilege, kurzlebige Zugriffsrechte und kontinuierliche Prüfungen begrenzen die Angriffsfläche.
Geschäftsführung und IT müssen Risiken gemeinsam steuern: KI-Sicherheit ist keine reine Compliance-Aufgabe, sondern Voraussetzung für skalierbare Geschäftsprozesse.
IAM liefert einen pragmatischen Einstieg: Registrierung, Auditierbarkeit, menschliche Freigaben für kritische Aktionen und ein Not-Aus-Schalter schaffen kurzfristig wirksame Kontrollen.

Illustration Absmeier foto ki designer

Bild: KI-Agenten zwischen Schattenbetrieb und identitätsbasierter Sicherheitssteuerung.

Deutsche CISOs haben sehr hohes Vertrauen in ihre KI-Agenten-Sicherheit, aber deutsche Unternehmen verfügen über einen sehr niedrigen Reifegrad bei der KI-Governance.

Wahrnehmung und Wirklichkeit gehen in der IT-Sicherheit oft auseinander. Das war schon vor wenigen Jahren beim Thema der Schatten-IT so, als viele Entscheidungsträger dachten, ihre Netzwerke seien sicher, weil unter Kontrolle, aber nicht wussten, wie viele Anwendungen tatsächlich in den Unternehmensumgebungen im Einsatz sind. Nun wiederholt sich das Geschehen bei der Sicherheit für Künstliche Intelligenz (KI) mit der Schatten-KI. Viele IT-Sicherheitsverantwortliche wissen nicht, wie viele KI-Agenten wirklich im Netzwerk tätig sind, weil diese unter dem Radar der Überwachung fliegen. Der Grund: Es hapert an der Grundlage moderner KI-Governance, der Identitätssicherheit und dem Identitätsmanagement (IAM).

Dichtung und Wahrheit

Eine globale Umfrage unter CISOs aus dem Juli 2026 zeichnet ein widersprüchliches Bild: Zwar äußern deutsche Teilnehmer das höchste Vertrauen in ihre Kontrollmechanismen für KI-Agenten, sind jedoch gleichzeitig stark besorgt über KI-gestütztes Phishing (fast 81 Prozent – der höchste Wert für eine Einzelbedrohung). Die Realität in deutschen Unternehmen steht somit im Kontrast: Der Reifegrad der KI-Governance ist im internationalen Vergleich gering (58 Prozent stufen sich als ‚in Entwicklung‘ oder ‚reaktiv‘ ein). Als größte Hürde identifizieren die CISOs mit 50 Prozent organisatorische Silos, gefolgt von fehlender Transparenz bei KI-Identitäten, mangelnden Industriestandards und Budgetdefiziten. Dies unterstreicht die Diskrepanz zwischen Geschäftsführung und IT: Während erstere KI-Sicherheit primär als regulatorische Compliance-Aufgabe sieht, stehen IT-Verantwortliche vor der operativen Herausforderung, die Sicherheitslücken zu schließen.

Abbildung 1: Die größte Hürde für die KI-Sicherheit je Staat (Copyright: Okta, Inc.).

Die allgemeine KI-Sicherheitslage in Deutschland

Im Frühjahr legte bereits eine Studie offen, dass in Deutschland ein weiteres Paradoxon herrscht: 32 Prozent (14 Prozent regelmäßig, 18 Prozent gelegentlich) der damals Befragten sagten, dass sie ungenehmigte Schatten-KI am Arbeitsplatz nutzen und 14 Prozent vertrauliche Dokumente an KI-Tools übermitteln. Weltweit war das der zweitniedrigste Wert. Auf der anderen Seite aber gaben 68 Prozent zu, im vergangenen Jahr 2025 ein KI-Sicherheitsproblem gehabt zu haben, 44 Prozent erlitten sogar eine Sicherheitsverletzung. Das war global der höchste Wert – und eine weitere Untersuchung legte offen, dass in Deutschland in 28 Prozent aller Authentifizierungsversuche eine Bedrohung festgestellt worden ist.

Abbildung 2: Deutsche Geschäftsführer und Vorstände haben hohes Vertrauen in ihre Netzwerk-Transparenz und deutsche Angestellte nutzen wenig Schatten-KI – Fakten, die in falsche Sicherheit wiegen (Copyright: Okta, Inc.).

Die KI-Sicherheit bei der Wurzel anpacken

Die verschiedenen Ergebnisse unterstreichen deutlich, dass Wahrnehmung und Wirklichkeit in den deutschen Unternehmen weiter auseinanderliegen, als viele Verantwortliche denken. Um der Lage wieder Herr zu werden, bietet es sich an, wenn die Entscheidungsträger – sowohl von der geschäftlichen als auch der informationstechnologischen Seite – sich an drei Fragen orientieren: Wo sind meine KI-Agenten? Was dürfen Sie tun? Womit können sie sich verbinden?

Abbildung 3: Die Blaupause für das sichere KI-Agenten-Unternehmen entstand als pragmatischer Leitfaden aus den Erfahrungen von hunderten von IT-Entscheidungsträgern weltweit (Copyright: Okta, Inc.).

Die Antworten auf diese Fragen bilden das Fundament der Problemlösung. Nur wer den genauen Einsatzort und Umfang aller KI-Agenten und Tools im Netzwerk kennt, behält die notwendige Kontrolle. Aus Sicherheitsperspektive handelt es sich dabei um essenzielle, zu verwaltende IT-Komponenten. Nur, wenn man weiß, welche Zugriffsrechte und sonstigen Berechtigungen diese haben, kann man festlegen, in welchen Bahnen sich deren Aktivitäten bewegen sollen und nur, wenn man kartieren kann, womit sich die einzelnen KI-Agenten verbinden können, kann man bestimmen, ob die Konnektivität ausreicht, ungenügend oder übertrieben (und damit gefährdend) ist.

Mit diesen Erkenntnissen landet man beim Identitätsmanagement (IAM), denn all diese KI-Tools und KI-Agenten sind wie Virtuelle Mitarbeiter und brauchen daher vorrangige digitalen Identitäten, die mit allem bewährten der Identitätssicherheit ausgestattet werden: Zugriffsrechten gemäß dem Prinzip der Geringsten Privilegien und mit einem Not-Aus-Schalter, um im Ernstfall den Zugriff sofort unterbrechen zu können, sowie Zero Trust als Sichtbeschränkung, Eigentümern, Abhängigkeiten, Dokumentation, Compliance-Einhaltung und Auditierbarkeit. Dafür braucht es keine unternehmensweite KI-Governance, an der oft noch lange gefeilt wird. Stattdessen lässt sich dieses Vorgehen sofort in die Tat umsetzen, nämlich die KI-Agenten in das eigene Identitätsmanagement einzubringen. Wenn die Ressourcen fehlen, dann über einen modernen SaaS-Anbieter, der Identitätssicherheit als Service bereitstellt – KI-getrieben und in Echtzeit, um mit der KI-Bedrohungslandschaft Schritt halten zu können.

Fazit

Wenn Geschäftsführung und IT-Verantwortliche eng zusammenarbeiten und die Hürden verstehen, wird Künstliche Intelligenz zum echten Business-Beschleuniger, statt zum Sicherheitsrisiko oder bloßen Wunschtraum. Dafür braucht es keine komplexen Strategiepapiere. Es reicht ein Wandel im Bewusstsein: KI-Agenten müssen als virtuelle Mitarbeiter begriffen werden. Der logische nächste Schritt ist, diese zu registrieren, mit digitalen Identitäten auszustatten und konsequent über das IAM-Toolset zu steuern: Von granularen Zugriffsrechten und Compliance-Vorgaben bis hin zum Not-Aus-Schalter.

Thomas Heinz, Senior Manager Solutions Engineering bei Okta

infografik ki designer

Tipps für die Praxis

Bestandsaufnahme starten: Erfassen Sie genehmigte und nicht genehmigte KI-Agenten, Bots, Plug-ins, API-Schlüssel und Servicekonten in einem zentralen Register. Dokumentieren Sie für jeden Eintrag den geschäftlichen Zweck, den technischen Betreiber, den verantwortlichen Fachbereich, die verwendeten Modelle und die angebundenen Systeme. Ergänzen Sie automatisierte Erkennungsverfahren für Cloud-Dienste, Browser-Erweiterungen und ungewöhnliche API-Nutzung, damit auch Schatten-KI sichtbar wird. Das Register sollte regelmäßig überprüft und bei jeder Änderung eines Agenten aktualisiert werden.
Eigene Identitäten vergeben: Jeder Agent benötigt eine eindeutig zuordenbare Maschinenidentität statt gemeinsam genutzter Benutzerkonten. Verknüpfen Sie diese Identität mit einem verantwortlichen Eigentümer, einem klar beschriebenen Einsatzzweck und einem definierten Lebenszyklus von der Registrierung bis zur Stilllegung. Vermeiden Sie fest hinterlegte Zugangsdaten und nutzen Sie nach Möglichkeit zentral verwaltete Zertifikate, Schlüssel oder Tokens. So lassen sich Aktionen einem konkreten Agenten zuordnen und Zugänge beim Rollenwechsel oder Projektende gezielt entziehen.
Zugriffe begrenzen: Vergeben Sie nur die Rechte, Datenzugriffe und Verbindungen, die für den jeweiligen Auftrag erforderlich sind. Trennen Sie Lese-, Schreib-, Änderungs- und Löschrechte und beschränken Sie den Agenten auf definierte Anwendungen, Datensätze und Netzwerkziele. Prüfen Sie Berechtigungen regelmäßig auf ungenutzte oder zu weitreichende Freigaben und passen Sie diese an veränderte Aufgaben an. Besonders sensible Daten und produktive Systeme sollten nur nach einer zusätzlichen kontextabhängigen Prüfung erreichbar sein.
Kritische Aktionen freigeben lassen: Löschvorgänge, Zahlungen, Exporte oder Änderungen an Produktivsystemen sollten eine menschliche Bestätigung erfordern. Definieren Sie dafür Schwellenwerte, Risikoklassen und eindeutige Freigabeberechtigte. Die prüfende Person sollte vor der Zustimmung den geplanten Vorgang, die betroffenen Daten, das Zielsystem und die möglichen Folgen erkennen können. Protokollieren Sie Antrag, Entscheidung und Ausführung, damit die Freigabekette später nachvollziehbar bleibt.
Kurzlebige Berechtigungen nutzen: Zeitlich begrenzte Tokens und kontextabhängige Autorisierung reduzieren dauerhaft offene Zugänge. Erteilen Sie Rechte möglichst erst unmittelbar vor einer Aufgabe und lassen Sie sie nach deren Abschluss automatisch auslaufen. Berücksichtigen Sie bei der Freigabe Faktoren wie Gerät, Standort, Zielsystem, Datenklasse und Risikostufe. Lang laufende Schlüssel sollten schrittweise durch dynamisch ausgestellte Zugangsdaten ersetzt und verbleibende Geheimnisse regelmäßig rotiert werden.
Protokollierung sicherstellen: Entscheidungen, Tool-Aufrufe, Datenzugriffe und Identitätswechsel müssen nachvollziehbar und revisionsfähig sein. Erfassen Sie mindestens Zeitpunkt, Agentenidentität, Auftrag, verwendete Werkzeuge, betroffene Systeme, Ergebnis und genehmigende Person. Schützen Sie Protokolle vor nachträglicher Veränderung und führen Sie relevante Ereignisse in einer zentralen Überwachung zusammen. Legen Sie außerdem fest, welche Auffälligkeiten automatisch einen Alarm, eine Untersuchung oder eine Sperrung auslösen.
Not-Aus testen: Der Entzug von Tokens, Sitzungen und Verbindungen sollte technisch vorbereitet und regelmäßig erprobt werden. Benennen Sie eine verantwortliche Stelle, die einen Agenten bei Fehlverhalten, kompromittierten Zugangsdaten oder unerwarteten Aktionen sofort stoppen darf. Der Abschaltprozess sollte nicht nur die Anwendung beenden, sondern auch aktive Sitzungen widerrufen, Schlüssel sperren und angebundene Dienste isolieren. Testen Sie das Verfahren in Übungen und dokumentieren Sie, wie schnell der Agent tatsächlich handlungsunfähig wird.
Governance mit dem Geschäft verzahnen: Für jeden Agenten sollten Eigentümer, Zweck, Risikoklasse, erlaubte Daten und messbare Kontrollen festgelegt sein. Binden Sie Fachbereich, IT, Informationssicherheit, Datenschutz und gegebenenfalls Compliance bereits vor der Inbetriebnahme ein. Legen Sie verbindliche Kriterien für Freigabe, regelmäßige Neubewertung und Außerbetriebnahme fest. Berichten Sie an die Geschäftsleitung nicht nur über die Zahl eingesetzter Agenten, sondern auch über kritische Berechtigungen, offene Abweichungen, Sicherheitsvorfälle und den Fortschritt bei Gegenmaßnahmen.

FAQ: KI-Agenten sicher steuern

1. Was unterscheidet einen KI-Agenten von einem klassischen Chatbot?

Ein Chatbot liefert in erster Linie Antworten. Ein KI-Agent kann dagegen mehrstufige Aufgaben ausführen, Anwendungen ansprechen, Daten abrufen und eigenständig Aktionen anstoßen. Dadurch steigt der Nutzen, zugleich aber auch das Risiko weitreichender Zugriffsrechte [4].

2. Warum reicht klassisches IAM für KI-Agenten nicht immer aus?

Viele IAM-Umgebungen wurden für Menschen und deterministische Maschinenidentitäten entwickelt. KI-Agenten handeln jedoch dynamisch, nutzen Werkzeuge und delegierte Rechte. Deshalb brauchen sie eindeutige Identitäten, fein abgestufte Autorisierung und eine kontinuierliche Bewertung des Zugriffskontexts [1][5].

3. Welche drei Fragen sollten Unternehmen zuerst beantworten?

Wo befinden sich die Agenten? Womit können sie sich verbinden? Was dürfen sie tun? Diese drei Fragen verbinden Bestandsaufnahme, Verbindungssteuerung und Autorisierung zu einem handhabbaren Kontrollmodell [1].

4. Was ist Schatten-KI?

Schatten-KI bezeichnet nicht genehmigte KI-Dienste oder Agenten, die außerhalb etablierter Beschaffungs-, Sicherheits- und Datenschutzprozesse eingesetzt werden. Besonders kritisch wird dies, wenn persönliche Konten, vertrauliche Daten oder nicht registrierte Schnittstellen im Spiel sind [2][7].

5. Welche Berechtigungen sollte ein KI-Agent erhalten?

Nur die für seinen klar definierten Auftrag notwendigen Rechte. Empfehlenswert sind fein granulare, kontextabhängige und möglichst kurzlebige Berechtigungen. Hochriskante Aktionen sollten zusätzlich eine menschliche Freigabe auslösen [5].

6. Was bedeutet »Human in the Loop« bei KI-Agenten?

Dabei pausiert der Agent vor einer besonders sensiblen Aktion, bis eine autorisierte Person ausdrücklich zustimmt. Geeignet ist dieses Vorgehen etwa für Zahlungen, Datenlöschungen, externe Veröffentlichungen oder Änderungen an Produktivsystemen [5].

7. Welche Rolle spielt ein Not-Aus-Schalter?

Ein Not-Aus-Schalter muss den Zugriff eines Agenten schnell entziehen können – einschließlich Tokens, Sitzungen und angebundener Dienste. Er sollte technisch getestet, organisatorisch zugewiesen und in Incident-Response-Abläufe eingebunden sein [1][5].

8. Wie lässt sich KI-Governance pragmatisch beginnen?

Unternehmen können mit einem aktuellen Inventar, klaren Eigentümern und einer Klassifizierung nach Zweck, Datenzugriff und Risiko starten. Das NIST AI RMF strukturiert diesen Prozess entlang der Funktionen Govern, Map, Measure und Manage [3].

9. Welche Nachweise sind für Audit und Compliance wichtig?

Benötigt werden nachvollziehbare Informationen zu Identität, Eigentümer, Zweck, Berechtigungen, verwendeten Daten, Tool-Aufrufen, Freigaben und Änderungen. Auch die Risikoentscheidungen und regelmäßigen Kontrollen sollten dokumentiert sein [3][6].

10. Ist KI-Sicherheit nur eine Aufgabe der IT?

Nein. Die Geschäftsführung legt Risikotoleranz, Prioritäten und Verantwortlichkeiten fest; IT und Security setzen technische Kontrollen um; Fachbereiche verantworten Anwendungszweck und Daten. Die geringe Abstimmung zwischen CISO, Vorstand und Geschäftsleitung gilt laut aktueller Befragung selbst als Governance-Risiko [1].

Quellen

[1] https://www.okta.com/de-de/newsroom/articles/global-ciso-insights-2026/

[2] https://www.okta.com/newsroom/articles/ai-agents-at-work-2026-agentic-enterprise-security/

[3] https://www.nist.gov/itl/ai-risk-management-framework

[4] https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Informationen-und-Empfehlungen/Technologien_sicher_gestalten/Kuenstliche-Intelligenz/KI-Agenten/ki-agenten.html

[5] https://www.okta.com/identity-101/role-of-ai-in-iam/

[6] https://www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges

[7] https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Cyber-Sicherheitslage/Analysen-und-Prognosen/Threat-Intelligence/Blogeintraege/KI_gegenwaertige-Cyberbedrohungen.html

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt

3614 Artikel zu „KI Transparenz“

Business | Business Process Management | Geschäftsprozesse | Kommunikation | Künstliche Intelligenz | News | Services

Revenue Intelligence: Wie KI Transparenz in umsatzrelevante Kommunikationsprozesse bringt

23. April 2026

In vielen Vertriebsorganisationen entstehen täglich große Mengen an Kommunikationsdaten – aus Telefonaten, Videomeetings, Chats oder E‑Mails. Obwohl diese Interaktionen einen entscheidenden Einfluss auf Abschlussquoten, Kundenbindung und Forecast-Genauigkeit haben, bleiben die darin enthaltenen Informationen häufig ungenutzt. Moderne Revenue‑Intelligence‑Ansätze setzen genau an dieser Stelle an und zielen darauf ab, Kommunikationsdaten systematisch auszuwerten und für vertriebsnahe Entscheidungen nutzbar…