Illustration Absmeier foto ki designer

KI-Sicherheit wird zur Chefsache: Der TrendAI-Report zeigt, dass Unternehmen bei Governance, Sichtbarkeit und Erkennung KI-gestützter Risiken schneller von Pilotlogik auf belastbare Steuerung wechseln müssen. Für manage-it-Leserinnen und -Leser zählt jetzt vor allem, wie Führung, IT und Security gemeinsam klare Prioritäten setzen.

Management Summary

Governance vor Tempo: KI-Projekte brauchen klare Freigaben, Verantwortlichkeiten und Risikotoleranzen, bevor sie skaliert werden.
Sichtbarkeit als Pflichtkennzahl: Management und Security benötigen ein aktuelles KI-Inventar über Fachbereiche, Cloud-Dienste und eingebettete KI-Funktionen hinweg.
Erkennung statt Sicherheitsgefühl: Entscheidend ist nicht, ob Teams KI-ready wirken, sondern ob auffälliges, böswilliges oder unerwartetes KI-Verhalten messbar erkannt wird.
Deepfake-Resilienz testen: Zahlungsfreigaben, Lieferantenänderungen und vertrauliche Anweisungen sollten gegen Voice Cloning, Video-Imitation und KI-Phishing abgesichert werden.
Agentic AI kontrollierbar halten: Autonome KI-Systeme brauchen menschliche Freigaben, Eskalationswege, Protokollierung und risikobasierte Notfallmechanismen.

Der TrendAI-Report »Securing the AI-Powered Enterprise« basiert auf einer globalen Befragung von 3.700 Business- und IT-Entscheidern aus 23 Ländern, die in Unternehmen mit mehr als 250 Mitarbeitenden tätig sind. Für den DACH-Kontext umfasst die Stichprobe 200 Teilnehmende aus Deutschland sowie je 100 aus Österreich und der Schweiz. Die Ergebnisse zeigen eine wachsende Lücke zwischen dem Tempo der KI-Einführung und der Fähigkeit von Organisationen, die daraus entstehenden Risiken belastbar zu steuern: 46 Prozent der Befragten nennen begrenzte Sicherheits- oder Datenkompetenzen als Hindernis für eine sichere KI-Einführung; zugleich haben viele Organisationen bereits Druck verspürt, KI trotz potenzieller Sicherheitsrisiken freizugeben. [1]

Damit liefert der Report den Kontext für fünf Management-Prioritäten: KI-Governance muss mit dem Einführungstempo Schritt halten, regulatorische Unsicherheit braucht klare Entscheidungsstrukturen, Sichtbarkeit über KI-Nutzung wird zur Voraussetzung wirksamer Kontrolle, neue KI-gestützte Angriffe verlangen getestete Abwehrmaßnahmen und Agentic AI macht Plattformansätze mit klaren Eingriffsmechanismen notwendig. Ergänzend stützen etablierte Rahmenwerke wie das NIST AI Risk Management Framework die Einordnung von KI-Risiken als organisationsweite Führungsaufgabe. [2][3]

1. KI-Einführung verläuft schneller als Governance

Unternehmen führen KI in immer mehr Geschäftsprozessen ein, während Governance-Strukturen und interne Kontrollmechanismen häufig hinterherlaufen. Der TrendAI-Report macht diesen Governance-Rückstand messbar: 57 Prozent der Organisationen geben an, KI entwickle sich schneller, als sie sie absichern können; 67 Prozent berichten von Druck, KI trotz Sicherheitsbedenken freizugeben. Jeder siebte dieser Fälle betraf sogar extreme Bedenken, die dennoch übergangen wurden. Damit wird KI-Sicherheit zur Managementfrage, nicht nur zur technischen Kontrollaufgabe. [1]
Management-Empfehlung: Verankern Sie KI-Governance als Bestandteil von Unternehmenssteuerung, Risikomanagement und Compliance. Beauftragen Sie ein verbindliches KI-Register für alle Geschäftsbereiche und lassen Sie regelmäßig berichten, welche Anwendungen im Einsatz sind, welche Daten sie nutzen, wer verantwortlich ist und welchen Risikostatus sie haben. Neue KI-Anwendungen sollten erst produktiv gehen, wenn Fachbereich, IT-Security, Datenschutz und Legal eine dokumentierte Freigabe erteilt haben.

2. Vertrauen in KI-Regulierung bleibt gering

Der TrendAI-Report zeigt, dass viele Business-Entscheiderinnen und -Entscheider nur begrenztes Vertrauen in ihr Verständnis der rechtlichen Rahmenbedingungen für KI haben. Gleichzeitig verfügen lediglich rund 38 Prozent der Organisationen über umfassende KI-Richtlinien, während viele Policies noch im Aufbau sind. Diese Unsicherheit kann Investitionen bremsen, Verantwortlichkeiten verwässern und Entscheidungen verzögern. Das NIST AI Risk Management Framework unterstreicht deshalb die Bedeutung der Funktion »Govern«: Rollen, Verantwortlichkeiten, Risikotoleranz und Aufsicht müssen organisationsweit definiert werden. [1][2]
Management-Empfehlung: Etablieren Sie ein schlankes, entscheidungsfähiges KI-Governance-Gremium auf Führungsebene. Dieses sollte priorisieren, welche KI-Anwendungsfälle strategisch relevant sind, welche Risiken akzeptiert werden können und wo klare Grenzen gelten. Eine einfache Ampellogik hilft, Entscheidungen nachvollziehbar zu machen: grün für freigegebene Standardfälle, gelb für Anwendungen mit Auflagen und rot für nicht zulässige oder noch nicht bewertbare Nutzungsszenarien.

3. Unternehmen fehlt Sichtbarkeit über KI-Nutzung

Sichtbarkeit ist die Grundlage jeder wirksamen KI-Sicherheitsstrategie. Zwar berichten laut TrendAI-Report 77 Prozent der IT-Entscheider von umfassender Sichtbarkeit ihrer KI-Nutzung, zugleich räumen 22 Prozent nur teilweise Transparenz über KI-Deployments ein. Für Führungskräfte bedeutet das: Risiken entstehen nicht nur durch große strategische KI-Projekte, sondern auch durch unkoordinierte Nutzung in Fachbereichen, externe KI-Dienste oder eingebettete Funktionen in bestehenden Anwendungen. Ohne belastbares Lagebild fehlen die Grundlagen für Budgetentscheidungen, Risikopriorisierung und wirksame Kontrolle. [1]
Management-Empfehlung: Verlangen Sie ein regelmäßiges Lagebild zur KI-Nutzung im Unternehmen. Dieses sollte autorisierte Anwendungen, Schatten-KI, besonders sensible Datenflüsse und offene Risikothemen zusammenführen. Wichtig ist dabei ein konstruktiver Ansatz: Schatten-KI sollte nicht nur sanktioniert, sondern in geregelte Innovationskanäle überführt werden, damit nützliche Ideen sicher skaliert werden können.

4. KI beschleunigt Cyberbedrohungen

Der Report-Kontext zeigt: KI verändert nicht nur interne Governance, sondern auch die externe Bedrohungslage. Angreifer nutzen KI, um Aufklärung zu automatisieren, überzeugendere Phishing-Angriffe zu erstellen und Schwachstellen schneller auszunutzen. Laut TrendAI-Report haben viele Unternehmen bei etablierten Bedrohungen wie KI-gestütztem Phishing bereits solide Kontrollen aufgebaut; bei neueren Angriffsformen bleibt die Abwehr jedoch deutlich schwächer. Nur etwa die Hälfte der Befragten berichtet über getestete Kontrollen gegen Video-Deepfakes, und gegen Voice Cloning verfügen weniger als die Hälfte über getestete Sicherheitsmechanismen. ENISA beschreibt Social Engineering und Phishing als zentrale Bedrohungskategorien der aktuellen europäischen Bedrohungslandschaft; ergänzend prognostiziert Trend Micro eine weitere Beschleunigung KI-gestützter Cyberangriffe. [1][4][5]
Management-Empfehlung: Priorisieren Sie Schutzmaßnahmen dort, wo finanzielle, regulatorische oder reputationsbezogene Schäden besonders hoch wären. Dazu gehören Vier-Augen-Prinzipien, Rückrufprozesse, klare Freigabegrenzen und regelmäßige Executive-Übungen zu Deepfakes, Voice Cloning und KI-gestütztem Social Engineering.

5. Sichtbarkeit und Kontrolle erfordern einen Plattformansatz

Mit der Ausweitung von KI vergrößert sich auch die Angriffsfläche von Unternehmen. Fragmentierte Sicherheitstools erschweren es, Risiken über Fachbereiche, Cloud-Umgebungen, Endpunkte und Anwendungen hinweg konsistent zu steuern. Der TrendAI-Report verweist zusätzlich auf wachsende Unsicherheit im Umgang mit Agentic AI: Autonome KI-Systeme können Prozesse anstoßen, Daten abrufen oder Aktionen ausführen, wodurch Fragen zu Datenzugriff, Missbrauch, Aufsicht und Notfallmechanismen dringlicher werden. Das NIST Generative AI Profile empfiehlt für generative KI unter anderem strukturierte Governance, Tests, Incident Response, Deaktivierungsprotokolle und laufendes Risikomanagement. [1][3]
Management-Empfehlung: Definieren Sie wenige, aber verbindliche Steuerungskennzahlen für KI-Sicherheit – etwa Anteil inventarisierter KI-Anwendungen, Zahl nicht autorisierter KI-Zugriffe, Zeit bis zur Risikobewertung neuer Use Cases, Testergebnisse zu Deepfake-Abwehr und Status kritischer Gegenmaßnahmen. Ergänzen Sie diese Kennzahlen um klare Eingriffsmechanismen für Agentic AI, etwa Eskalationswege, menschliche Freigaben und risikobasierte Notfallabschaltungen. Diese Kennzahlen sollten regelmäßig im Management-Reporting erscheinen. Das Fazit ist klar: KI-Sicherheit ist kein Einzelprojekt, sondern ein dauerhafter Führungsprozess. Unternehmen, die Innovation mit Governance, Sichtbarkeit und belastbaren Kontrollen verbinden, können KI schneller und sicherer skalieren.

Albert Absmeier & KI

KI-Sicherheit in Unternehmen: Warum Governance, Sichtbarkeit und Deepfake-Abwehr jetzt entscheidend sind

Deutsche Unternehmen fühlen sich beim Schutz ihrer KI-Systeme gut vorbereitet – doch die Erkennung böswilligen oder unerwarteten KI-Verhaltens bleibt deutlich zurück. Der TrendAI-Report zeigt eine gefährliche Lücke zwischen Governance-Anspruch und operativer Sicherheitsrealität. Für Entscheider wird KI-Sicherheit damit zur Managementaufgabe: Sichtbarkeit, Testing, Deepfake-Abwehr und wirksame Eingriffsmechanismen müssen von Anfang an Teil jeder Enterprise-AI-Strategie sein.

Management Summary

Zwischen Anspruch und Wirklichkeit klafft eine Sicherheitslücke: Fast 90 Prozent der deutschen Entscheider halten ihre Teams für KI-ready, erkennen nach eigener Einschätzung aber nur rund 40 Prozent auffälligen KI-Verhaltens.
Sichtbarkeit wird zum zentralen Kontrollpunkt: Ohne vollständiges Inventar aller eingesetzten KI-Systeme bleiben Governance, Monitoring und Risikosteuerung Stückwerk.
Neue Angriffsformen verschärfen den Handlungsdruck: Deepfakes, Voice Cloning und KI-gestütztes Phishing verlangen getestete Kontrollen statt abstrakter Sicherheitskonzepte.
Agentic AI macht Eingriffsmechanismen unverzichtbar: Unternehmen benötigen klare Eskalationswege, Verantwortlichkeiten und technische Stop-Funktionen für autonome KI-Systeme.
KI-Sicherheit ist Führungsaufgabe: Entscheider müssen Innovation, Regulierung, Kulturwandel und Plattform-Security in einer belastbaren Enterprise-AI-Governance zusammenführen.

Viele deutsche Unternehmen fühlen sich für KI-Sicherheit gut vorbereitet, erkennen aber nur einen Teil böswilligen KI-Verhaltens. Entscheider müssen Enterprise-AI-Governance, KI-Inventar, Monitoring, Deepfake-Schutz und Eingriffsmechanismen schneller zusammenführen.

TrendAI, Anbieter von KI-Sicherheit und der Enterprise-Cybersecurity-Geschäftsbereich von Trend Micro Incorporated, veröffentlicht weitere Forschungsergebnisse des Reports »Securing the AI-Powered Enterprise« [1]. Diese zeigen, dass das Vertrauen in die eigene KI-Sicherheit und die tatsächliche Fähigkeit, KI-Bedrohungen zu erkennen, in Unternehmen in Deutschland sowie weltweit deutlich auseinanderklaffen.

Eine globale Befragung von 3.700 Business- und IT-Entscheidern, davon 200 in Deutschland, ergab, dass fast neun von zehn deutschen Entscheidern ihre Sicherheitsteams für gut auf das Tempo der KI-Einführung vorbereitet halten. Gleichzeitig schätzen die Befragten jedoch, dass im Schnitt nur 40 Prozent des böswilligen oder unerwarteten KI-Verhaltens überhaupt erkannt werden. Die Ergebnisse liegen damit nahe am weltweiten Durchschnitt. Die Kluft zwischen gefühlter und tatsächlicher Sicherheit ist also kein deutsches Phänomen, sondern betrifft Unternehmen weltweit gleichermaßen.

»Vorbereitung und Erkennung sind zwei unterschiedliche Dinge«, ordnet Richard Werner, Security Advisor bei TrendAI, ein. »Die Unternehmen haben in den letzten Jahren viel investiert, um Prozesse und Zuständigkeiten zum Management von KI-Risiken aufzubauen. Das schlägt sich in einer hohen gefühlten Vorbereitung nieder. Die eigene Einschätzung zur Erkennungsrate zeigt aber, dass diese Vorbereitung im Ernstfall offenbar an ihre Grenzen stößt.«

Sichtbarkeit: Eine Grundvoraussetzung mit bestehenden Lücken

Ein Ansatzpunkt, um diese Erkennungslücke zu schließen, liegt in der Sichtbarkeit der eigenen KI-Systeme. Denn nur wer weiß, welche KI-Anwendungen im Unternehmen überhaupt im Einsatz sind, kann deren Verhalten gezielt auf Auffälligkeiten hin überprüfen. Sieben bis acht von zehn deutschen Entscheidern berichten von einer umfassenden oder hohen Sichtbarkeit ihrer KI-Systeme. Gleichzeitig verfügt aber ein relevanter Anteil nur über teilweise oder noch im Aufbau befindliche Transparenz – etwa, weil KI-Systeme nur unvollständig erfasst sind oder ein formaler Überwachungsprozess noch etabliert wird.

Abwehrfähigkeit gegen neue KI-gestützte Angriffe

Neben dem Risiko durch die unternehmenseigenen KI-Systeme zeigt sich eine zweite Lücke bei der Abwehr externer, durch KI ermöglichter oder verstärkter Angriffe. Bei etablierten Bedrohungen wie KI-gestütztem Phishing haben sechs bis sieben von zehn deutschen Unternehmen bereits solide Kontrollen aufgebaut. Bei neueren Angriffsformen liegen die Werte dagegen durchgängig niedriger: Nur etwa die Hälfte der Befragten berichtet über getestete Kontrollen gegen Video-Deepfakes. Ein ähnliches Bild zeigt sich bei kombinierter Video-/Stimm-Imitation von Führungskräften – etwa bei CFO-Betrug. Gegen Voice Cloning verfügen weniger als die Hälfte der Befragten über getestete Sicherheitsmechanismen. Insbesondere beim Voice Cloning liegt Deutschland damit unter dem globalen Durchschnitt. Bei Video-Deepfakes und kombinierter Imitation bewegen sich deutsche Unternehmen dagegen etwa auf internationalem Niveau.

Governance-Lücken und ungeklärte Notfallmechanismen

Die Ursachen für die bestehenden Sichtbarkeits- und Erkennungslücken werden von IT- und Business-Entscheidern unterschiedlich bewertet. Für 41 Prozent der deutschen IT-Entscheider zählen begrenzte Sicherheits- und Datenkompetenzen zu den größten Hindernissen für eine sichere KI-Einführung. Unter den Business-Entscheidern nennen dagegen 39 Prozent kulturelle Widerstände gegen Veränderungen als zentrale Herausforderung.

Selbst wenn schädliches KI-Verhalten erkannt wird, ist damit noch nicht geklärt, wie Unternehmen im Ernstfall reagieren. Nur rund ein Drittel der Befragten befürwortet uneingeschränkt einen dedizierten »Kill Switch«, mit dem sich KI-Agenten im Notfall abschalten lassen. Knapp die Hälfte macht den Einsatz eines solchen Mechanismus vom jeweiligen Anwendungsfall abhängig. Klare, unternehmensweite Eskalationsprozesse für den Ernstfall fehlen damit in vielen Unternehmen noch.

Was jetzt zu tun ist

Mit dem Aufkommen von Agentic AI, also KI-Agenten, die zunehmend eigenständig handeln, wird diese ungeklärte Kontrollfrage noch dringlicher.

»Agentic AI bringt eine neue Risikokategorie mit sich, weil Systeme zunehmend eigenständig handeln, statt nur Empfehlungen zu geben«, so Richard Werner weiter. »Diese Lücke ernst zu nehmen, bedeutet nicht, in Alarmismus zu verfallen, sondern konsequent zu handeln: Sichtbarkeit, Testing und Eingriffsmechanismen sollten von Anfang an mitgedacht werden. Unternehmen, die das jetzt angehen, sind später klar im Vorteil.«

Für deutsche Unternehmen empfiehlt der japanische Sicherheitsanbieter einen Dreiklang aus einer vollständigen, laufend aktualisierten Inventarisierung aller eingesetzten KI-Systeme, einem gezielten Ausbau der Erkennungsfähigkeiten für Deepfakes und Voice Cloning, sowie regelmäßigem, KI-spezifischem Testing und Red Teaming, um die Wirksamkeit vorhandener Kontrollen nachweislich sicherzustellen.

FAQ

Was ist die wichtigste Erkenntnis des TrendAI-Reports?
Die Studie zeigt eine deutliche Diskrepanz zwischen gefühlter Vorbereitung und tatsächlicher Erkennungsfähigkeit. Viele Unternehmen haben Prozesse, Zuständigkeiten und Sicherheitsinitiativen für KI aufgebaut, können aber böswilliges oder unerwartetes KI-Verhalten nur begrenzt identifizieren. Genau diese Lücke ist kritisch, weil KI-Systeme zunehmend tief in Geschäftsprozesse eingebettet werden. Der TrendAI-Report „Securing the AI-Powered Enterprise“ verweist dabei insbesondere auf Governance-Lücken, fragmentierte Verantwortlichkeiten und fehlende Sichtbarkeit über KI-Nutzung hinweg. [1]
Warum ist KI-Sicherheit mehr als ein IT-Thema?
KI beeinflusst Entscheidungen, Automatisierung, Datenverarbeitung und Kundenprozesse. Damit entstehen Risiken für Compliance, Reputation, Betriebssicherheit und Geschäftsmodell. Das Management muss deshalb sicherstellen, dass KI-Governance, Risikoaufsicht und Sicherheitsarchitektur nicht isoliert in der IT verbleiben, sondern unternehmensweit verankert werden. Auch das NIST AI Risk Management Framework beschreibt KI-Risikomanagement als organisationsweite Aufgabe mit den Funktionen Govern, Map, Measure und Manage. [2]
Worin besteht die Erkennungslücke bei KI-Bedrohungen?
Die Befragten gehen davon aus, dass nur ein Teil problematischer KI-Aktivitäten sichtbar wird. Das kann unerwartetes Modellverhalten, missbräuchliche Prompts, Datenabfluss, nicht autorisierte KI-Nutzung oder manipulierte Inhalte betreffen. Für Unternehmen bedeutet das: Sicherheitsgefühl allein reicht nicht. Entscheidend sind messbare Detektionsfähigkeiten, kontinuierliches Monitoring und klare Reaktionsprozesse. NIST betont für generative KI zusätzlich strukturierte Tests, Evaluation, Validierung und Verifikation sowie Red Teaming als wichtige Maßnahmen. [2][3]
Welche Rolle spielt Sichtbarkeit über KI-Systeme?
Sichtbarkeit ist die Grundlage jeder wirksamen KI-Sicherheitsstrategie. Unternehmen müssen wissen, welche KI-Anwendungen, Modelle, Schnittstellen und Agenten im Einsatz sind, wer sie nutzt, auf welche Daten sie zugreifen und welche Entscheidungen sie beeinflussen. Ohne ein aktuelles KI-Inventar lassen sich Richtlinien kaum durchsetzen und Risiken nicht zuverlässig priorisieren. Der TrendAI-Bericht stellt Sichtbarkeit über KI-Nutzung und agentische Systeme ebenfalls als zentrales Prinzip moderner Enterprise-AI-Security heraus. [1]
Warum sind Deepfakes und Voice Cloning besonders relevant?
Deepfakes und geklonte Stimmen erhöhen das Risiko von Social Engineering, CEO- oder CFO-Fraud und manipulierter Kommunikation. Angriffe werden glaubwürdiger, schneller skalierbar und schwieriger zu erkennen. Unternehmen brauchen deshalb technische Erkennung, klare Freigabeprozesse für sensible Zahlungen oder Entscheidungen sowie Schulungen, die Mitarbeitende auf KI-gestützte Täuschungsszenarien vorbereiten. ENISA beschreibt Social Engineering und Phishing als zentrale Bedrohungskategorien der aktuellen Bedrohungslandschaft; Trend Micro prognostiziert zugleich eine weitere Professionalisierung KI-gestützter Täuschungs- und Angriffstechniken. [4][5]
Was bedeutet Agentic AI für die Sicherheitsarchitektur?
Agentic AI beschreibt KI-Systeme, die Aufgaben eigenständiger planen und ausführen können. Dadurch verändert sich das Risikoprofil: Systeme treffen nicht nur Vorschläge, sondern können Prozesse anstoßen, Daten abrufen oder Aktionen ausführen. Sicherheitsarchitekturen müssen daher Berechtigungen, Protokollierung, menschliche Freigaben, Laufzeitüberwachung und Notabschaltungen stärker berücksichtigen. TrendAI beschreibt Sicherheit für agentische Systeme als Governance über Nutzung, Kontext, Intent, Richtlinienkontrolle und menschliche Aufsicht an kritischen Entscheidungspunkten. [1]
Brauchen Unternehmen einen KI-„Kill Switch“?
Ein pauschaler Kill Switch ist nicht für jeden Anwendungsfall sinnvoll, aber Unternehmen brauchen in jedem Fall definierte Eingriffsmechanismen. Kritische KI-Systeme sollten abhängig von Risiko, Autonomiegrad und Geschäftsrelevanz gestoppt, isoliert oder auf einen sicheren Modus zurückgesetzt werden können. Wichtig sind klare Zuständigkeiten: Wer darf eingreifen, wann wird eskaliert und wie wird der Geschäftsbetrieb abgesichert? Der NIST Generative AI Profile empfiehlt ausdrücklich Deaktivierungsprotokolle, Incident Response, Rückfalloptionen und Kriterien für Stilllegung beziehungsweise Außerbetriebnahme. [3]
Welche Maßnahmen sollten Unternehmen kurzfristig priorisieren?
Kurzfristig zählen drei Punkte: ein vollständiges und laufend aktualisiertes KI-Inventar, spezifische Tests gegen Deepfakes, Voice Cloning und KI-gestütztes Phishing sowie regelmäßiges Red Teaming für KI-Anwendungen. Ergänzend sollten Unternehmen Richtlinien zur sicheren Nutzung generativer KI, klare Datenklassifizierung und Monitoring über Cloud-, Endpoint- und Applikationsumgebungen etablieren. NIST empfiehlt für generative KI strukturierte Governance, Mapping von Nutzungskontexten, Messung durch Tests und kontinuierliches Management von Risiken; ENISA verweist zugleich auf professionalisierte Social-Engineering- und Supply-Chain-Angriffe. [3][4]
Warum ist ein Plattformansatz sinnvoll?
Ein Plattformansatz hilft, fragmentierte Sicherheitsdaten zusammenzuführen und KI-Risiken über verschiedene Umgebungen hinweg konsistent zu steuern. Wenn Cloud, Endgeräte, Identitäten, Anwendungen und Datenflüsse getrennt überwacht werden, entstehen blinde Flecken. Eine integrierte Plattform verbessert Transparenz, Korrelation, Reaktionsgeschwindigkeit und Governance-Fähigkeit. TrendAI positioniert seine Enterprise-Security-Strategie ebenfalls als einheitlichen Plattformansatz, der Infrastruktur-, Anwendungs- und KI-Systemrisiken zusammenführt. [1]
Was ist die zentrale Management-Botschaft?
KI-Sicherheit muss so früh wie möglich in Strategie, Architektur und Betrieb integriert werden. Unternehmen dürfen sich nicht allein auf gefühlte Vorbereitung verlassen, sondern brauchen belastbare Nachweise: getestete Kontrollen, sichtbare KI-Nutzung, klare Verantwortlichkeiten und robuste Reaktionsmechanismen. Wer Governance, Sichtbarkeit und Plattform-Security verbindet, kann KI-Innovation sicherer skalieren. Diese Stoßrichtung deckt sich mit NISTs Ansatz, KI-Risiken über den gesamten Lebenszyklus zu steuern, sowie mit ENISAs Hinweis auf die zunehmende Komplexität KI-gestützter Cyberbedrohungen. [2][4]

Quellen

[1] TrendAI / Trend Micro: Securing the AI-Powered Enterprise / TrendAI Global AI Study, 2026. Globale Befragung von 3.700 Business- und IT-Entscheidern aus 23 Ländern durch SAPIO Research; Unternehmen mit mehr als 250 Mitarbeitenden; DACH-Stichprobe: 200 Teilnehmende aus Deutschland sowie je 100 aus Österreich und der Schweiz. TrendAI-Report
[2] NIST: Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023. NIST AI RMF 1.0
[3] NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, 2024. NIST Generative AI Profile
[4] ENISA: ENISA Threat Landscape 2025, 2025. ENISA Threat Landscape 2025
[5] Trend Micro: The AI-fication of Cyberthreats: Trend Micro Security Predictions for 2026, 2025. Trend Micro Security Predictions 2026

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt.

4022 Artikel zu „KI Kontrolle“

Favoriten der Redaktion | Geschäftsprozesse | IT-Security | Künstliche Intelligenz | News | Strategien | Tipps

KI-Agenten sicher steuern: Kontrolle beginnt bei Identitäten und Berechtigungen

13. September 2026

KI-Agenten entwickeln sich vom Analysewerkzeug zum operativen Akteur. Sobald sie Daten abrufen, Anwendungen steuern oder Prozesse auslösen, werden Identitäten, Berechtigungen und Abschaltmechanismen zur Managementaufgabe. Unternehmen brauchen deshalb klare Leitplanken, eindeutige Verantwortlichkeiten und technische Kontrollen, bevor KI in geschäftskritische Abläufe einzieht. Management Summary KI-Agenten sind digitale Identitäten: Wer Systeme und Daten eigenständig nutzt, benötigt ein…