Illustration Absmeier foto ki designer

KI-Agenten beschleunigen Angriff und Verteidigung – entscheidend sind kontrollierte Identitäten, begrenzte Rechte und nachvollziehbare Entscheidungen.

KI verändert die Kräfteverhältnisse in der Cybersicherheit: Angriffe werden schneller, skalierbarer und zunehmend autonom. Der Microsoft Digital Defense Report 2026 beschreibt eine Lage, in der Identitäten, KI-Systeme und Lieferketten zugleich zur Angriffsfläche werden. Für Unternehmen folgt daraus eine Managementaufgabe: KI-Agenten müssen wie privilegierte digitale Identitäten geführt, ihre Zugriffe begrenzt und ihre Entscheidungen kontrollierbar gemacht werden. Zugleich braucht die Verteidigung selbst Automatisierung, um auf Attacken in Maschinengeschwindigkeit reagieren zu können. [1][2]

Management Summary

Cyberabwehr wird zum Geschwindigkeitsproblem: KI komprimiert einzelne Angriffsschritte von Tagen auf Sekunden. Unternehmen müssen Erkennung, Priorisierung und Reaktion stärker automatisieren. [1]
Identitäten sind der zentrale Kontrollpunkt: Neben Menschen benötigen auch Anwendungen und KI-Agenten eindeutige Identitäten, minimale Rechte und eine laufende Überprüfung ihrer Zugriffe. [1]
KI ist Werkzeug und Angriffsziel zugleich: Prompt Injection, manipulierte Modelle, Datenabfluss und missbrauchte Werkzeuge erweitern die klassische Angriffsfläche. [2]
Schatten-KI ist ein Governance-Risiko: Nicht freigegebene Anwendungen entziehen sich Sicherheits-, Datenschutz- und Compliance-Kontrollen. Transparenz und sichere Alternativen sind wirksamer als pauschale Verbote. [3]
Resilienz braucht klare Verantwortung: Vorstand, CISO, CIO und Fachbereiche sollten gemeinsame Regeln für Freigaben, Hochrisikoaktionen, Protokollierung, Tests und Notfallverfahren festlegen. NIST empfiehlt dafür einen strukturierten, lebenszyklusweiten Risikomanagementansatz. [4]

Platz 1: Deutschland im ersten Halbjahr 2026 das am stärksten von Cyberangriffen betroffene Land der EU; Ransomware-Angriffe in Deutschland haben sich mehr als verdreifacht.
Cyberkriminelle nutzen KI, um schneller anzugreifen, Identitäten besser zu fälschen, KI-Modelle zu kompromittieren, und Daten zu stehlen.
Im öffentlichen Dienst nutzt fast jeder Zweite sogenannte Schatten-KI – eine Sicherheitslücke, die Deutschlands Souveränität und Sicherheit gefährdet.

Bislang unterstützte KI vor allem dabei, Phishing-Nachrichten zu erstellen, Schwachstellen zu finden oder Angriffsschritte zu beschleunigen. Der neue Microsoft Digital Defense Report (MDDR) beschreibt nun die nächste Entwicklungsstufe: agentische KI-Systeme, die Cyberangriffe zunehmend selbstständig planen und ausführen können. Ein Beispiel ist JADEPUFFER, ein im Juli 2026 erstmals beobachteter neuartiger Ransomware-Angriff, bei dem KI-Agenten wesentliche Teile der Angriffskette automatisiert durchführten. Gleichzeitig werden bekannte KI-Modelle selbst zum Ziel von Angriffen – teils durch gefälschte KI-Anwendungen, teils durch die gezielte Manipulation der KI-Modelle selbst.

Für Unternehmen entsteht damit ein neuer Wettlauf: Angriffe erfolgen zunehmend in Maschinengeschwindigkeit, wobei KI die Angriffsdauer von Tagen auf Minuten verkürzt. IT-Sicherheitsteams müssen darum jetzt selbst KI-Agenten einsetzen, um Bedrohungen schneller zu erkennen, zu untersuchen und einzudämmen. Die Sicherheitsexperten von Microsoft erwarten, dass KI-Agenten in Zukunft immer mehr gefährliche Cyber-Angriffe selbstständig durchführen werden.

Für Deutschland ist diese Entwicklung besonders relevant: Im ersten Halbjahr 2026 war Deutschland unter den EU-Mitgliedstaaten das Land, in dem Kunden am häufigsten von Cyberbedrohungen betroffen waren. Weltweit steht Deutschland auf dem 10. Platz – am häufigsten attackiert werden die USA, Israel und Ukraine. Die Zahl der bekanntgewordenen Ransomware-Angriffe in Deutschland stieg in den 12 Monaten bis Juni 2026 um 276 Prozent.

Weltweit greifen Cyberkriminelle zunehmend KI-Systeme direkt an, um sie durch falsche Informationen zu kompromittieren (model poisoning) oder schädliche Prompts einzuschmuggeln, die dann automatisiert vertrauliche Informationen aus Unternehmen und Organisationen nach außen abfließen lassen, ohne dass die KI-Nutzer das merken.

Unternehmen und Behörden, die ihren Mitarbeiter keine sichere KI zur Verfügung stellen, sind daher besonders gefährdet. Wie eine separat vom MDDR von Microsoft Deutschland in Auftrag gegebene Umfrage zeigt, nutzen im öffentlichen Dienst mittlerweile fast die Hälfte (49 Prozent) sogenannte Schatten-KI, also nicht autorisierte KI-Modelle, die weder sicher sind noch Souveränitätsanforderungen entsprechen.

»Mitarbeiterinnen und Mitarbeiter wollen effizient arbeiten und Probleme lösen – deshalb nutzen sie KI. Aber wenn ihnen keine sichere, für den Einsatz in der öffentlichen Verwaltung geeignete KI zur Verfügung gestellt wird, dann nutzen sie frei zugängliche KI-Modelle. Das ist sowohl ein Sicherheits- als auch ein Souveränitätsrisiko”, sagt Ralf Wigand, National Security Officer bei Microsoft Deutschland. „Wir leben in einer Zeit der Polykrisen. Verschiedene Krisen überlagern und verstärken sich, und den IT-Sicherheitsteams bleibt kaum noch Zeit zum Durchatmen. Geopolitische Instabilität, wirtschaftlicher Druck, rasanter technologischer Wandel und anhaltende Cyberbedrohungen greifen immer stärker ineinander. Dadurch werden die Auswirkungen größer und die Reaktionszeiten kürzer. Für IT-Teams bedeutet das: Sie müssen nicht mehr nur einzelne Krisen bewältigen, sondern mehrere gleichzeitig und die Kettenreaktionen, die daraus entstehen können.«

Wie die von Civey durchgeführte Umfrage von Entscheidungstragenden in Politik und Verwaltung von Bund, Ländern und Kommunen zeigt, wird die aktuelle Bedrohung durch Cyber-Angriffe von 64 Prozent der Befragten weiterhin als hoch oder sehr hoch eingeschätzt. Allerdings zeigt die Umfrage, dass die Abwehrbereitschaft steigt. Während vor einem Jahr weniger als 18 Prozent von einer hohen Abwehrbereitschaft ihrer Organisation sprachen, sind es jetzt mehr als 44 Prozent.

KI-Agenten zum Schutz vor KI-Agenten

Wenn Cyberangriffe zunehmend in Maschinengeschwindigkeit ablaufen, können Unternehmen nicht mehr mit menschlicher Geschwindigkeit darauf reagieren. Sie brauchen KI-Agenten, die ihre IT-Sicherheitsteams dabei unterstützen, die große Mengen an Sicherheitssignalen zu analysieren, zu priorisieren, Zusammenhänge schneller zu erkennen und auf Bedrohungen zu reagieren. KI wird damit nicht nur zum Werkzeug der Angreifer, sondern auch zu einem zentralen Instrument der Verteidigung.

Das setzt allerdings voraus, dass Unternehmen ihre eigenen KI-Systeme konsequent absichern. Jeder KI-Agent, der auf Unternehmensdaten und -systeme zugreift, schafft auch einen neuen möglichen Zugangspunkt für Angreifer. Unternehmen müssen deshalb wissen, welche Agenten sie einsetzen, ihnen eindeutige digitale Identitäten zuweisen und ihre Zugriffsrechte klar begrenzen und kontrollieren.

Als großer Nutzer und Beitragender zu Open Source-Projekten sieht Microsoft sehr klar, dass diese neue Bedrohungslage zunehmend auch eine Herausforderung für Open Source-Anwendungen ist. Das klassische Sicherheitsmodell für Open Source – die Developer Community sucht, findet und schließt Schwachstellen – wird kaum mit der Angriffsgeschwindigkeit von KI-Agenten mithalten können. Regierungen und ihre Cyber-Sicherheitsbehörden müssen darum dringend mit Organisationen wie Akrites, der Open Source Security Foundation und anderen zusammenarbeiten; Akrites ist eine Koalition der Linux Foundation, die Schwachstellen in Open Source-Software für kritische Infrastruktur schließt.

Neuartige Angriffsmethoden durch KI

Der Microsoft Digital Defense Report 2026 identifiziert viele neue Methoden, wie Cyberkriminelle und staatliche Akteure versuchen, Informationen und Daten zu stehlen, oder Profite zu machen.

Model Tampering

Das Model Tampering von KI-Modellen ist die Grundlage für kaum zu erkennende »Sleeper Agent«-Angriffe, bei der die Täter das Verhalten der KI gezielt kontrollieren. Manche KI-Modelle wurden von den Angreifern so manipuliert, dass sie absichtlich Schwachstellen in Computercode einbauen oder Informationen nach außen abfließen lassen, wenn die Nutzer dieser KI-Modelle für bestimmte Organisationen arbeiten oder bestimmte Aufgaben erfüllen wollen.

Schädliche Browser-Extensions

Microsoft hat auch schädliche Browser-Extensions entdeckt, die vorgeben bestimmte KI-Modelle wie ChatGPT und DeepSeek zu unterstützen, aber in Wirklichkeit die Chats mit diesen KI-Modellen abgreifen. Diese Extensions wurden fast 900.000-mal installiert und in mehr als 20.000 Unternehmen eingesetzt.

Falsche Identitäten

Mit Hilfe von KI nimmt auch das Stehlen und Vortäuschen falscher Identitäten rapide zu. Cyberkriminelle nutzen KI um millionenfache, auf die Opfer zugeschnittene Phishing-Angriffe zu lancieren und somit vorzutäuschen, dass manipulierte E-Mails oder SMS von Vorgesetzen oder Kollegen kommen. Mit KI manipulieren die Kriminellen Dokumente, imitieren Stimmen und verschicken Emails gekonnt im Stil von vertrauten Personen. Fast 85 Prozent aller von Microsoft im zweiten Quartal dieses Jahres geprüften Phishing-Emails täuschten gezielt falsche Identitäten vor.

E-Mail-Bombardierungen

Eine neue Phishing-Methode sind E-Mail-Bombardierungen. Mitarbeiter werden mit einer Flut an eindeutig dubiosen E-Mails bombardiert, und erhalten dann eine angeblich vom IT-Team geschickte Phishing-E-Mail die verspricht sie vor der E-Mail-Flut zu schützen, dann aber Passwörter abgreift oder Malware installiert. Auch QR-Codes werden für Phishing genutzt: Zwischen Juli 2025 und Juni 2026 deckte Microsoft mehr als 145 Millionen QR Code Phishing-Versuche auf.

[1] Der Microsoft Digital Defense Report 2026 umfasst, sofern nicht anders angegeben, den Zeitraum von Juli 2025 bis Juni 2026. Vergleiche zum Vorjahr beziehen sich auf den Berichtszeitraum 2025 von Juli 2024 bis Juni 2025. Alle Zahlenangaben sind gerundet; mögliche Abweichungen sind rundungsbedingt.

Civey befragte für Microsoft Deutschland vom 11. bis 30. September 2026 online 750 Entscheider in der deutschen Politik und Verwaltung – in Bund, Ländern und Kommunen.

Microsoft Digital Defense Report 2026, Microsoft, Oktober 2026, PDF-Download:

https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/2026-Microsoft-Digital-Defense-Report.pdf

Tipps für Unternehmen

Bestandsaufnahme schaffen: Alle produktiven KI-Modelle, Agenten, Plug-ins, Browser-Erweiterungen, MCP-Server und Datenzugriffe in einem zentralen Register erfassen.
Rechte konsequent begrenzen: Für jeden Agenten eine eigene Identität, den kleinstmöglichen Berechtigungsumfang, kurzlebige Zugangsdaten und getrennte Lese- und Schreibrechte vorsehen.
Hochrisikoaktionen absichern: Zahlungen, Löschungen, Rechteänderungen, externe Veröffentlichungen und Datenexporte nur nach zusätzlicher technischer Prüfung oder menschlicher Freigabe zulassen. [2]
Unvertrauenswürdige Inhalte isolieren: Eingaben aus E-Mails, Webseiten, Dateien und Tool-Ausgaben als potenziell manipuliert behandeln und von Systemanweisungen trennen.
Schatten-KI aktiv reduzieren: Nutzung sichtbar machen, zulässige Werkzeuge einfach bereitstellen, Mitarbeitende schulen und vertrauliche Daten technisch klassifizieren.
Abwehr automatisieren: KI-gestützte Korrelation und Priorisierung zunächst in klar begrenzten Szenarien einsetzen; Wirksamkeit, Fehlalarme und Eskalationen messen.
Notfallfähigkeit testen: Übungen für kompromittierte Agenten, gestohlene Identitäten, manipulierte Modelle und Datenabfluss in bestehende Incident-Response-Pläne aufnehmen.

FAQ: KI-Agenten und Cyberabwehr

1. Was unterscheidet agentische KI von einem klassischen Chatbot?

Ein Chatbot beantwortet typischerweise Anfragen. Ein KI-Agent kann dagegen planen, Werkzeuge aufrufen, Daten verarbeiten und Aktionen in angebundenen Systemen ausführen. Dadurch steigt der Nutzen, aber auch die mögliche Wirkung eines Fehlers oder Angriffs. [2]

2. Greifen KI-Agenten bereits vollständig autonom an?

Der MDDR 2026 beschreibt einen Übergang von KI-unterstützten Angriffsschritten hin zu mehr autonomer Ausführung. Zugleich betont Microsoft, dass viele beobachtete Einsätze weiterhin einzelne Teile bestehender Angriffsketten beschleunigen. Die Autonomie ist daher je nach Fall unterschiedlich ausgeprägt. [1]

3. Warum ist Identitätsmanagement für Agenten so wichtig?

Agenten greifen über Konten, Token oder APIs auf Daten und Systeme zu. Ohne eigene Identität, minimale Rechte und nachvollziehbare Protokolle lassen sich Aktionen schwer zuordnen oder begrenzen. Microsoft bezeichnet Identität als primäre Kontrollschicht der Verteidigung. [1]

4. Was ist Prompt Injection?

Bei einer Prompt Injection werden manipulierte Anweisungen direkt oder über externe Inhalte wie Webseiten, E-Mails und Dokumente in den Arbeitskontext eines Modells eingeschleust. Ein Agent kann dadurch sein ursprüngliches Ziel verlassen, Werkzeuge missbrauchen oder Daten offenlegen. [2]

5. Reicht eine menschliche Freigabe für jede Agentenaktion?

Nein. Eine pauschale Freigabe für jeden Schritt kann Prozesse blockieren und zu unkritischem Durchklicken führen. Sinnvoll ist eine risikobasierte Steuerung: Routineaktionen innerhalb enger Grenzen laufen automatisch, irreversible oder extern wirksame Aktionen benötigen eine zusätzliche Kontrolle. [2][4]

6. Wie sollten Unternehmen Schatten-KI behandeln?

Sie sollten zunächst Nutzung und Datenflüsse sichtbar machen, danach Werkzeuge nach Risiko klassifizieren und sichere Alternativen anbieten. Microsoft nennt Datenabfluss, Compliance-Verstöße, fehlende Auditierbarkeit und unkontrollierte Agentenaktivitäten als typische Risiken nicht genehmigter KI. [3]

7. Welche Sicherheitskontrollen haben kurzfristig Priorität?

Prioritär sind phishing-resistente Mehrfaktor-Authentifizierung, Passkeys, starke Verwaltung privilegierter Konten, minimale Agentenrechte, getrennte Umgebungen, Protokollierung und Freigaben für Hochrisikoaktionen. Diese Maßnahmen adressieren Identitätsmissbrauch und übermäßige Autonomie. [1][2]

8. Können bestehende Sicherheitsstandards weiterverwendet werden?

Ja. Zero Trust, Secure Software Development, Incident Response und das NIST AI Risk Management Framework bleiben nutzbar, müssen aber um agentenspezifische Risiken wie Tool-Missbrauch, Memory Poisoning, Zielmanipulation und kaskadierende Fehler ergänzt werden. [2][4]

9. Wie lässt sich der Erfolg KI-gestützter Cyberabwehr messen?

Geeignete Kennzahlen sind unter anderem Zeit bis zur Erkennung, Zeit bis zur Eindämmung, Anteil automatisiert priorisierter Signale, Fehlalarmquote, Zahl verhinderter Rechteausweitungen sowie Umfang und Dauer manueller Eskalationen. Die Messung sollte vor und nach der Einführung vergleichbar sein.

10. Was gehört auf die Agenda der Geschäftsleitung?

Die Geschäftsleitung sollte Risikobereitschaft, Verantwortlichkeiten, zulässige Anwendungsfälle, Investitionen in Identitäts- und Datenkontrollen sowie Eskalationswege festlegen. Zusätzlich sollte sie regelmäßig prüfen lassen, welche Agenten produktiv arbeiten, welche Rechte sie besitzen und wie schnell sie deaktiviert werden können. [4]

Quellen

[1] Microsoft Digital Defense Report 2026, Microsoft, 1. Oktober 2026: https://www.microsoft.com/en-us/security/security-insider/threat-landscape/2026-digital-defense-report

[2] AI Agent Security Cheat Sheet, OWASP: https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html

[3] Schatten-KI-Entdeckung im globalen sicheren Zugriff, Microsoft Learn, 17. Juni 2026: https://learn.microsoft.com/de-de/entra/global-secure-access/concept-shadow-ai-discovery

[4] AI Risk Management Framework, NIST, Stand 2026: https://www.nist.gov/itl/ai-risk-management-framework

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt

7354 Artikel zu „Cyber KI“

Business | Digitale Transformation | IT-Security | Künstliche Intelligenz | News | Trends 2026 | Trends Security

DACH-Unternehmen stellen neue Anforderungen an KI und Cybersecurity-Anbieter

22. September 2026

Management Summary Der Arctic Wolf AI & Cybersecurity Trends Report 2026 zeigt: Unternehmen setzen KI zunehmend als festen Bestandteil ihrer Sicherheitsstrategie ein, bleiben bei autonomen Entscheidungen jedoch vorsichtig. Für DACH-Unternehmen rücken kontrollierbare KI, menschliche Aufsicht, digitale Souveränität und europäische Sicherheitsstrukturen in den Mittelpunkt der Anbieterbewertung. Der manage-it-Blick darauf: KI wird zum Pflichtbaustein moderner Security Operations…