CISOs müssen die neuen Cyberbedrohungen durch KI frühzeitig erkennen. Gleichzeitig müssen sie KI-basierte Lösungen einsetzen, um ihnen einen Schritt voraus zu sein.

IT-Sicherheitsteams mussten sich schon immer an neue Entwicklungen anpassen. Aber die Trends, die sich dieses Jahr abzeichnen, stellen sie vor besonders große Herausforderungen. Das immer schnellere Tempo bei KI-Innovationen, zunehmend raffinierte Angriffe und neue gesetzliche Vorschriften verlangen von den Chief Information Security Officers (CISOs), sich in einer zunehmend komplexen Cybersecurity-Landschaft zurechtzufinden.

Denn einerseits erweitern Softwareanbieter ihre bestehenden Produkte in rasantem Tempo um KI-Funktionen. Andererseits vergrößern die dafür benötigten Large Language Models (LLMs) die potenzielle Angriffsfläche für böswillige Akteure – eine Gelegenheit, die sie zweifellos auszunutzen versuchen. Deshalb ist es für CISOs von entscheidender Bedeutung, daraus resultierende Bedrohungen im Auge zu behalten und Strategien zur Risikominderung zu finden.

Gleichzeitig entwickeln sich die Cybersecurity-Vorschriften dynamisch, insbesondere in der Europäischen Union [1]. Daher ist eine enge Zusammenarbeit zwischen IT-Sicherheits- und Rechtsteams unerlässlich, um Compliance sicherzustellen und Risiken effektiv zu minimieren. Neue Technologien und Regulierungen stehen immer im Wechselspiel, sodass CISOs sowohl übergeordnete Compliance-Anforderungen als auch konkrete neue Sicherheitsherausforderungen im Blick behalten müssen, um ihre Organisation effektiv zu schützen.

Die gute Nachricht ist: Trotz der möglichen Sicherheitsherausforderungen, die generative KI (GenAI) mit sich bringt, bietet sie auch Chancen zur Verbesserung der Sicherheit in der Softwareentwicklung. Durch die proaktive Identifizierung von Schwachstellen und zunehmende Automatisierung trägt KI dazu bei, die Zusammenarbeit zwischen Entwicklungs- und Sicherheitsteams wesentlich zu verbessern.

Drei Trends werden daher die B2B-Cybersecurity-Landschaft im Jahr 2025 besonders prägen:

1. Schwachstellen in proprietären LLMs können zu weitreichenden, sicherheitskritischen Vorfällen führen.

Softwareanbieter sind schnell dabei, ihre Lösungen mit KI-Funktionen auszustatten. Häufig verwenden sie dafür pro-prietäre LLMs als Grundlage. Finden Hacker jedoch Schwachstellen in diesen Modellen, eröffnen sich völlig neue Angriffsvektoren mit potenziell weitreichenden Konsequenzen. Die zunehmende Konsolidierung der KI-Branche erhöht das Risiko zusätzlich.

Das Grundproblem: Proprietäre Modelle geben nur wenig Aufschluss über die Herkunft des Codes oder bereits getroffene Schutzmaßnahmen. Das macht es für IT-Sicherheitsfachkräfte sehr viel schwieriger, sie zu verstehen und zu managen. Im schlimmsten Fall haben böswillige Akteure Malware eingeschleust oder noch wenig bekannte Angriffs-vektoren im Funktionsbereich eines Modells ausgenutzt.

Da die Softwareindustrie stark von einigen wenigen proprietären LLMs abhängig ist, können solche Angriffe eine Kettenreaktion im gesamten Softwareökosystem auslösen und möglicherweise zu großflächigen Ausfällen oder anderen Beeinträchtigungen führen.

2. Cloud-native und KI-Anwendungen verstärken den Bedarf nach flexiblem IAM.

Die zunehmende Verbreitung von Cloud-nativen Anwendungen und KI-Anwendungen stellt das Identity & Access Management (IAM) vor neue Herausforderungen. Es muss im Jahr 2025 flexibler werden, um der Zunahme von nicht-menschlichen, servicebasierten Identitäten Rechnung zu tragen.

IAM-Systeme haben bereits ihren traditionell statischen Ansatz hinter sich gelassen und sich zu einer flexibleren und anpassungsfähigeren Lösung weiterentwickelt, welche die für moderne digitale Interaktionen erforderliche Agilität mitdenkt. Dieser Trend wird sich in den kommenden Jahren noch verstärken.

Insbesondere KI-gestützte Anwendungen erfordern ein transparentes Nachvollziehen von transitiven Identitäten. Dafür sind IAM-Systeme erforderlich, die einen sicheren und effizienten Zugriff gewährleisten, selbst bei sich stetig wandelnden Rollen und Berechtigungsänderungen.

3. KI wird zu mehr DevOps-Sicherheit beitragen.

In einer kürzlich durchgeführten Umfrage gaben 58 % der Entwicklerinnen und Entwickler an, dass sie sich prinzipiell für die Anwendungssicherheit verantwortlich fühlen [2]. Die Nachfrage nach DevOps-Fachkräften, die auch über IT-Sicherheitskenntnisse verfügen, übersteigt jedoch nach wie vor das Angebot.

Künstliche Intelligenz trägt vor diesem Hintergrund maßgeblich zum Cybersecurity-Know-how von DevOps-Teams bei, indem sie Routineaufgaben automatisiert und intelligente Programmierempfehlungen gibt. So hilft KI, den Skills Gap zu schließen. Gleichzeitig kann IT-Sicherheit direkt in die gesamte Build-Pipeline integriert werden, sodass potenzielle Schwachstellen bereits in der Designphase erkannt werden. Wiederverwendbare Sicherheitstemplates, die sich in die Arbeitsabläufe der Entwicklungsteams einfügen, unterstützen diesen Prozess.

Indem KI bei der Bereitstellung von Diensten in Cloud-Umgebungen automatisch Rollen und Berechtigungen zuweist, wird auch die Authentifizierung und Autorisierung verbessert. Dies führt zu mehr IT-Sicherheit, geringeren Risiken und einer besseren Zusammenarbeit zwischen Entwicklungs- und IT-Sicherheitsteams.

Fazit: KI ist entscheidend für die Bewältigung der aktuellen Bedrohungslage. Da sich die Technologielandschaft ständig weiterentwickelt und Cyberbedrohungen immer raffinierter werden, müssen CISOs die neuen, von KI ausgehenden Bedrohungen erkennen und gleichzeitig KI-gestützte Lösungen nutzen, um ihnen stets einen Schritt voraus zu sein.

Der Einsatz von KI ermöglicht es Unternehmen, IT-Sicherheitsaufgaben zu automatisieren, Schwachstellen zu identifizieren und in Echtzeit auf Bedrohungen zu reagieren. Dadurch können sie ihre Sicherheitslage verbessern und der dynamischen Bedrohungslandschaft einen Schritt voraus bleiben.

André Braun,
Head of DACH
bei GitLab

[1] https://www.zdf.de/nachrichten/politik/eu-gesetz-kuenstliche-intelligenz-100.html

[2] https://about.gitlab.com/developer-survey/

Illustration: © Gabweal, Swevil, GenAI | Dreamstime.com

1208 Artikel zu „KI Cyberbedrohung „

Trends 2025 | News | IT-Security | Kommunikation | Künstliche Intelligenz | Tipps

Cyberbedrohungen im Jahr 2025: Wie KI Phishing-Taktiken verändert

18. Februar 2025

Die Fortschritte innerhalb der künstlichen Intelligenz (KI) haben das Erscheinungsbild von Phishing-E-Mails drastisch verändert. Noch bis vor kurzem gab es einige Indikatoren, an denen man Phishing-Versuche recht zuverlässig erkennen konnte: inkorrekte Grammatik, Logos in schlechter Auflösung, allgemein gehaltene/generische Begrüßungsformeln und unpassender Kontext. Dank KI erstellen Cyberkriminelle mittlerweile hochkomplexe und personalisierte Angriffe, die sehr viel schwerer…

André Braun, Head of DACH bei GitLab

[1] https://www.zdf.de/nachrichten/politik/eu-gesetz-kuenstliche-intelligenz-100.html

[2] https://about.gitlab.com/developer-survey/

1208 Artikel zu „KI Cyberbedrohung „

André Braun,
Head of DACH
bei GitLab