Von Michael Kleist, Area Vice President CEE bei CyberArk

Das aktuelle »Bundeslagebild Cybercrime 2024« des Bundeskriminalamts hat es nochmal bestätigt: Die Gefährdungslage durch Cyberkriminalität bleibt in Deutschland unverändert hoch, teilweise ist sogar von steigenden Gefahren auszugehen [1]. Ein Grund dafür ist die zunehmende KI-Nutzung durch Angreifer.

Michael Kleist, Area Vice President CEE bei CyberArk

Auch das Lagebild kommt zum Schluss, dass KI verstärkt für kriminelle Aktivitäten eingesetzt wird. Als Beispiel dafür werden Phishing-Kampagnen und -Attacken genannt, die KI-gestützt einfacher, schneller und vor allem qualitativ besser erstellt und durchgeführt werden können. Auch bei der Entwicklung von Malware-Code sei ein stärkerer KI-Einsatz zu beobachten. Außerdem sei es im Jahr 2024 häufiger vorgekommen, dass bekannte KI-Tools missbräuchlich für cyberkriminelle Handlungen genutzt wurden.

Darüber hinaus sehen wir auch in dem verstärkten KI-Einsatz in den Unternehmen selbst eine neue Sicherheitsgefahr. So hat eine von uns kürzlich durchgeführte Untersuchung ergeben, dass 94 % der befragten Unternehmen in Deutschland inzwischen KI nutzen [2]. 89 % bestätigen dabei, dass der KI-Zugriff auf große Mengen sensibler Daten für Trainingszwecke erhebliche Risiken mit sich bringt. Besonders problematisch ist dabei, dass 66 % nicht alle verwendeten »Schatten-KI«-Tools sichern und verwalten können.

Es steht außer Frage, dass die generative KI die nächste Stufe der Entwicklung intelligenter Systeme darstellt und auch Angreifern gänzlich neue Chancen bieten wird. Folglich müssen Unternehmen adäquate Abwehrmaßnahmen ergreifen. Dazu gehören prinzipiell die Identitätssicherheit und ein mehrschichtiger Sicherheitsansatz. Es geht darum, einen umfassenden Schutz in der Infrastruktur zu etablieren, und zwar mit Maßnahmen wie

Multi-Faktor-Authentifizierung,
Privileged Access Management,
Endpoint Privilege Management oder der Nutzung von
Least-Privilege-Prinzipien.

Insgesamt sollte im Zentrum jeder durchgängigen Sicherheitsinitiative eine identitätsbasierte Zero-Trust-Strategie stehen, die nicht bei den menschlichen Identitäten Halt macht, sondern auch die überbordende Anzahl maschineller Identitäten einbezieht. Dann spielt es auch keine Rolle, ob es um einen KI-basierten Angriff geht. Zero Trust, also »Never Trust, Always Verify« muss das Motto lauten.

[1] https://www.bka.de/SharedDocs/Downloads/DE/Publikationen/JahresberichteUndLagebilder/Cybercrime/cybercrimeBundeslagebild2024.html?nn=28110

[2] https://www.cyberark.com/resources/ebooks/2025-identity-security-landscape

KI mutiert zur größten Cyberbedrohung

Künstliche Intelligenz (KI) ist ein mächtiges Werkzeug – aber genau darin liegt auch die Gefahr. Sie wird zunehmend zur größten Cyberbedrohung, weil sie Angreifern neue Möglichkeiten eröffnet, schneller, raffinierter und schwerer erkennbar zuzuschlagen.

Warum KI eine wachsende Bedrohung ist

Phishing auf neuem Niveau: KI generiert täuschend echte E-Mails, die konventionelle Sicherheitssysteme umgehen.
Malware-Entwicklung: Sprachmodelle können Schadcode schreiben und sogar automatisch mutieren.
Deepfakes & Identitätsdiebstahl: KI erzeugt realistische Fake-Personen und Stimmen – ideal für Social Engineering.
Skalierbarkeit: Angriffe lassen sich massenhaft automatisieren und personalisieren.

Unternehmen als Zielscheibe

»Schatten-KI«-Tools: Viele Firmen nutzen KI-Anwendungen, ohne sie ausreichend zu sichern.
Datenrisiken: KI greift auf sensible Unternehmensdaten zu – oft unkontrolliert.
Cloud & SaaS: Komplexe Infrastrukturen bieten Angreifern viele Einfallstore.

Was hilft gegen KI-basierte Angriffe?

Zero-Trust-Strategien: »Never trust, always verify« – jede Identität muss geprüft werden.
Multi-Faktor-Authentifizierung & Least Privilege: Nur notwendige Zugriffsrechte, mehrfach abgesichert.
KI-gestützte Verteidigung: Autonome Systeme erkennen Anomalien und reagieren in Echtzeit.
Schnelligkeit zählt: Nach einem Angriff bleiben oft nur 15–30 Minuten zur Reaktion.

Ausblick

Die Zahl und Qualität KI-gesteuerter Angriffe wird weiter steigen. Gleichzeitig entwickeln sich auch die Verteidigungssysteme rasant. Es entsteht ein regelrechter »Trainingskampf« zwischen guter und böser KI.

Genki Absmeier

Wie setzt man KI-gestützte Sicherheitsstrategien konkret um?

KI-gestützte Sicherheitsstrategien lassen sich nicht einfach »aktivieren« – sie müssen systematisch und strategisch aufgebaut werden. Hier sind die konkreten Schritte, mit denen Unternehmen die Macht von KI für mehr Cybersicherheit nutzen können:

Identitäten absichern mit KI

Laut dem aktuellen Bericht zur Identity Security 2025 entstehen durch KI eine Vielzahl neuer »Maschinenidentitäten«, oft ohne ausreichende Kontrolle. Ein wirksamer Ansatz:

Privilegien verwalten: KI hilft, nur notwendige Zugriffsrechte zu vergeben und deren Nutzung laufend zu überwachen.
Verhaltensanalysen: KI erkennt auffällige Aktivitäten von Benutzer- oder Maschinenkonten in Echtzeit.
Integrationsschicht schaffen: Alle Identitäten – Mensch und Maschine – müssen in einer zentralen Plattform verwaltet werden.

KI-native Workflows schaffen

»AI-First«-Unternehmen denken nicht nur in Tools, sondern in neuen digitalen Abläufen:

Sicherheitsprozesse automatisieren (etwa Bedrohungsanalyse & Reaktion).
Proaktive Angriffssimulationen durch KI (zum Beispiel Penetrationstests).
Flexible Response-Playbooks mit KI-Unterstützung für Incident Management.

KI selbst absichern

KI-Systeme sind anfällig für Manipulation und Fehlverhalten. Schutzmaßnahmen:

Training & Testing: KI-Modelle regelmäßig auf Bias, Robustheit und Angriffsresistenz testen.
Explainability-Tools nutzen: um Entscheidungen der KI nachvollziehbar zu machen.
Audit-Trails und Monitoring für jede KI-Aktion.

Mensch & Maschine als Einheit

Die Cyberbedrohung durch KI wächst – aber die Verteidigung durch KI kann mithalten. Was zählt:

Schulung der Mitarbeitenden in »AI Literacy« (Erkennung von KI-Phishing etc.).
Koordination zwischen menschlicher Expertise und KI-Automatisierung.
Notfallpläne auf Basis KI-simulierten Szenarien entwickeln.

Genki Absmeier

1308 Artikel zu „KI Cyberbedrohung „

Trends 2025 | News | IT-Security | Kommunikation | Künstliche Intelligenz | Tipps

Cyberbedrohungen im Jahr 2025: Wie KI Phishing-Taktiken verändert

18. Februar 2025

Die Fortschritte innerhalb der künstlichen Intelligenz (KI) haben das Erscheinungsbild von Phishing-E-Mails drastisch verändert. Noch bis vor kurzem gab es einige Indikatoren, an denen man Phishing-Versuche recht zuverlässig erkennen konnte: inkorrekte Grammatik, Logos in schlechter Auflösung, allgemein gehaltene/generische Begrüßungsformeln und unpassender Kontext. Dank KI erstellen Cyberkriminelle mittlerweile hochkomplexe und personalisierte Angriffe, die sehr viel schwerer…