Künstliche Intelligenz (KI) verändert die Cyberbedrohungslandschaft grundlegend. Sie ermöglicht es Verteidigern zwar, Bedrohungen schneller und präziser zu erkennen und darauf zu reagieren, senkt aber auch die Hürden für Angreifer, die damit Angriffe noch schneller in die Wege leiten und skalieren können. Das Ergebnis ist ein Wettrüsten, das schnellere, geschicktere und proaktivere Abwehrmaßnahmen erfordert, um fortgeschrittenen Cyberbedrohungen einen Schritt voraus zu sein und Sicherheitsverletzungen zu verhindern.
Der CrowdStrike 2025 Global Threat Report zeigt, wie Angreifer KI nutzen, um Unternehmen auszubeuten [1]. Angreifer setzen KI zunehmend in Social-Engineering-Kampagnen ein. Gleichzeitig nehmen Angriffe auf Cloud-Umgebungen zu – beispielsweise LLMjacking, bei dem Angreifer mithilfe gestohlener Anmeldedaten und API-Schwachstellen KI- oder ML-Modelle von Unternehmen kapern. Da Angreifer KI schnell und in großem Umfang als Waffe einsetzen, müssen Security-Teams den KI-Vorteil für sich nutzen, um die Sicherheit ihrer Unternehmen zu gewährleisten.
Hier bietet die sogenannte Agentic AI (agentische KI) Unternehmen einen unglaublichen Fortschritt im Bereich der durch KI ermöglichten Funktionen. Während generative KI (GenAI) aufgrund ihrer Fähigkeit, Inhalte zu erstellen und bei Aufgaben zu assistieren, weit verbreitet ist, sorgt Agentic AI für eine wesentliche Verbesserung in der Leistungsfähigkeit, indem sie komplexe, mehrstufige Aufgaben autonom erledigt – und im Gegensatz zu reaktiven GenAI-Tools nicht auf einen Klick oder eine Eingabeaufforderung zur Aktivierung angewiesen ist. Agentic AI wurde entwickelt, um anpassungsfähig zu sein und in Echtzeit zu arbeiten. Sie handelt im Namen menschlicher Verteidiger und bietet ein Maß an Geschwindigkeit, Konsistenz und Intelligenz, das mit herkömmlicher Automatisierung einfach nicht zu erreichen ist.
Im Gegensatz zur herkömmlichen Automatisierung, die starren Arbeitsabläufen oder regelbasierter Logik folgt, ist Agentic AI darauf ausgelegt, Kontexte dynamisch zu interpretieren, Entscheidungen zu treffen und Maßnahmen zu ergreifen – kontinuierlich und autonom. Agentic AI kann eigenständig End-to-End-Untersuchungs- und Reaktionsworkflows über Endpunkte, Identitäten und Cloud-Umgebungen hinweg ausführen und diese auf Basis von Analystenfeedback und Bedrohungsverläufen den Ergebnissen von Bedrohungsanalysen in Echtzeit anpassen, um die Entscheidungsfindung kontinuierlich zu optimieren. Dank dieser Agilität eignen sich diese KI-gestützten Funktionen besonders gut, um mit den schnellen und raffinierten Angreifern von heute Schritt zu halten.
Die Kluft zwischen Erkennung und Reaktion schließen. Für moderne Security Operations Center (SOCs) ist Agentic AI eine wegweisende Innovation. SOCs stehen unter enormem Druck: Sie müssen immer mehr Warnmeldungen bearbeiten, die Breakout-Times werden immer kürzer und es herrscht ein anhaltender Mangel an qualifizierten Analysten. Herkömmliche Methoden zur manuellen Triage von Warnmeldungen sind nicht mehr tragbar. Analysten verbringen viel zu viel Zeit damit, Fehlalarme zu filtern und weniger dringende Vorfälle zu verfolgen, was zu übermäßigen Eskalationen führt und nur wenig Kapazitäten für die Reaktion auf echte oder dringendere Bedrohungen frei lässt.
Eine Möglichkeit, wie Agentic AI diese Herausforderungen direkt angehen kann, besteht darin, Entscheidungen auf Expertenniveau maschinell in Echtzeit zu treffen. Sie kann eingehende Warnmeldungen autonom bewerten, Störsignale herausfiltern, den Schweregrad bestimmen und nächste Schritte empfehlen – wodurch der Triage-Prozess erheblich beschleunigt und die Belastung überlasteter Analysten reduziert wird.
In der Praxis hat dieses Modell bereits signifikante Ergebnisse erzielt. So ermöglicht beispielsweise CrowdStrike Charlotte AI Detection Triage Sicherheitsteams durch die Automatisierung der manuellen Triage eine Zeitersparnis von bis zu 40 Stunden pro Woche bei einer Genauigkeit von über 98 % im Vergleich zu Entscheidungen von Menschen [2] [3]. Charlotte AI wurde innerhalb eines Rahmens mit begrenzter Autonomie entwickelt und ermöglicht es Unternehmen, festzulegen, wie und wann automatisierte Entscheidungen getroffen werden. Damit haben Analysten sowohl die volle Kontrolle über die Festlegung von Schwellenwerten, als auch die Entscheidung, wann eine Überprüfung durch den Menschen erforderlich ist, und behalten den konstanten Gesamtüberblick. Diese bewusste Balance zwischen Automatisierung und Kontrolle hilft Unternehmen dabei, ihre Reaktionsfähigkeit zu skalieren und gleichzeitig das Vertrauen in KI-gesteuerte Maßnahmen und Ergebnisse zu wahren.
Begrenzte Autonomie stellt sicher, dass KI-Agenten innerhalb klar definierter Parameter arbeiten, zum Beispiel durch die Festlegung ihres Datenzugriffs, die Begrenzung ihrer Reaktionsmaßnahmen und die Durchsetzung von Eskalationspfaden. Dieses Framework schafft Leitplanken, die die Entscheidungsfindung der KI an die Risikotoleranz und die Betriebsprotokolle eines Unternehmens anpassen. Eine weitere wichtige Leitplanke für Agentic AI ist die Nachvollziehbarkeit durch Analysten und Auditoren. Die Fähigkeit, KI-gesteuerte Maßnahmen zu erklären und zu begründen, ist für die Aufrechterhaltung von Vertrauen, Transparenz und regulatorischer Vertretbarkeit in autonomen Sicherheitsabläufen von entscheidender Bedeutung.
Den Wandel von der reaktiven zur proaktiven Verteidigung vorantreiben. Agentic AI ist ein Kraftmultiplikator für Sicherheitsanalysten und -teams. Durch die Übernahme repetitiver und zeitaufwändiger Aufgaben ermöglicht Agentic AI menschlichen Analysten, sich auf übergeordnete Aufgaben zu konzentrieren, wie beispielsweise die Untersuchung komplexer Bedrohungen, die Validierung von Erkennungen und die Anwendung von kritischem Denken und Kontextverständnis in komplexen Bedrohungsszenarien. Das Ergebnis ist ein effizienteres und widerstandsfähigeres SOC, in dem KI und menschliches Fachwissen Hand in Hand arbeiten, um die Verweildauer zu reduzieren und die Sicherheitsergebnisse zu verbessern.
Das Potenzial der Agentic AI geht jedoch weit über einzelne Tools oder Funktionen hinaus. Es steht für einen grundlegenden Wandel in der Herangehensweise von Unternehmen an die Cybersicherheit: weg von reaktiven Maßnahmen hin zu proaktiven Abwehrstrategien. Durch die Automatisierung zeitaufwändiger und sich wiederholender Aufgaben können sich Sicherheitsverantwortliche auf das Wesentliche konzentrieren: das Verhalten von Angreifern zu verstehen, komplexe Bedrohungen aufzuspüren und Sicherheitsverletzungen zu stoppen, bevor sie zu einem Problem werden.
Die Herausforderungen für die Verteidiger werden auch künftig immer größer, da die Bedrohungslage immer komplexer wird und Angreifer KI nutzen, um ihre Angriffe auszuweiten. Sicherheitsteams brauchen mehr als nur schrittweise Verbesserungen. Sie benötigen intelligente Systeme, die maschinelle Präzision mit menschlicher Intuition und Wissen kombinieren und in Echtzeit auf Bedrohungen reagieren.
Als strategischer Wegbereiter, der die Arbeitsweise des SOC von Grund auf verändert, ist Agentic AI nicht nur eine weitere Automatisierungsebene im Sicherheitsstack. Durch den Einsatz KI-gestützter Innovationen mit der richtigen Balance zwischen Autonomie und Überwachung können Unternehmen die Kontrolle zurückgewinnen, die Überlastung von Sicherheitsanalysten und Teams reduzieren und den KI-Vorteil endgültig wieder auf die Seite der Verteidiger verlagern.
Fabio Fratucello,
Field CTO World Wide
bei CrowdStrike
[1] https://www.crowdstrike.com/en-us/global-threat-report/
[2] Die Zeitersparnis wird durch die Multiplikation der durchschnittlichen Anzahl der von Charlotte AI triagierten Warnmeldungen mit einer vom Falcon Complete-Team geschätzten Triage-Zeit von 5 Minuten pro Warnmeldung berechnet. Die individuellen Ergebnisse können aufgrund von Faktoren wie dem Gesamtvolumen der Warnmeldungen variieren.
[3] Die Genauigkeitsbewertung ist ein Maß für die Übereinstimmung der Triage–Entscheidungen von Charlotte AI mit den Expertenentscheidungen des CrowdStrike Falcon Complete Next-Gen MDR-Teams.
Illustration: © Collagery | shutterstock.com
7878 Artikel zu „KI IT Sicherheit“
Trends 2025 | News | Trends Infrastruktur | Industrie 4.0 | IT-Security | Künstliche Intelligenz | Whitepaper
Zunehmende Cyberrisiken in der Fertigung: 61 Prozent der Cybersicherheitsexperten planen Einführung von KI

Laut des Berichts zum Stand der intelligenten Fertigung zählt Cybersicherheit mittlerweile nach der Wirtschaftslage zu den größten externen Bedenken. Rockwell Automation hat die Ergebnisse des zehnten Jahresberichts zum Stand der intelligenten Fertigung bekannt gegeben. Der Bericht basiert auf Erkenntnissen von über 1500 Führungskräften in der Fertigung aus 17 der wichtigsten Industrieländer und zeigt: Cybersicherheit…
Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz | Tipps
Die meisten KI-Tools haben massive Sicherheitsprobleme

Cybersicherheitsexperten sagen, dass »unkontrollierte KI-Nutzung« gefährliche blinde Flecken schafft, da Untersuchungen zeigen, dass 84 % der KI-Tool-Anbieter Sicherheitsverletzungen erlitten haben. Vor drei Wochen enthüllte das ChatGPT-Leck »geteilte Gespräche« und machte Tausende von Benutzerchats – einige davon mit Namen, Adressen und anderen persönlich identifizierbaren Informationen – in den Google-Suchergebnissen sichtbar. Die Links, die ursprünglich über…
News | Cloud Computing | IT-Security | Künstliche Intelligenz | Produktmeldung
Code-Sicherheit in Echtzeit: Checkmarx stellt Developer Assist für KI-native IDEs vor
Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz
KI-Einsatz im Blindflug: Unternehmen bringen sich durch fehlende Sicherheitsmaßnahmen in Gefahr

Viele Unternehmen verzichten auf Maßnahmen zur sicheren Anwendung von KI. Das zeigt die repräsentative Umfrage von G DATA CyberDefense, Statista und brand eins: Nur zwei von fünf Firmen schulen ihre Mitarbeitenden oder haben unternehmensweite KI-Guidelines etabliert [1]. Zwar ergreifen viele Verantwortliche bereits vereinzelt Maßnahmen, jedoch noch zu wenig und ohne Strategie. Die Risiken sind groß,…
News | Infrastruktur | Künstliche Intelligenz | Produktmeldung | Strategien
Agentenbasierte KI mit einem Höchstmaß an Vertrauen und Sicherheit

Kyndryl nutzt seine jahrzehntelange Erfahrung im Bereich IT-Infrastrukturen, um ein leistungsfähiges unternehmensweites Framework bereitzustellen: Es basiert auf intelligenten KI-Agenten, die lernen, sich anpassen und weiterentwickeln und so Daten in konkretes Handeln übersetzen. Das »Kyndryl Agentic AI Framework« organisiert sich selbst, skaliert flexibel und führt Aufgaben sicher über unterschiedliche IT-Landschaften und komplexe Workflows hinweg aus,…
News | Business | Favoriten der Redaktion | IT-Security | Kommentar | Künstliche Intelligenz | Strategien
Sicherheitsprobleme bei Grok: Unkontrollierte KI vergrößert die Angriffsfläche

Das neueste Grok-Debakel liest sich wie eine Fallstudie darüber, wie man keinen AI-Chatbot auf den Markt bringt. Elon Musks xAI, frisch aus dem Hype-Zyklus für Grok 4.0, befand sich im Schadensbegrenzungsmodus, nachdem der Bot antisemitische Klischees verbreitet, Hitler gelobt und mit einer Art von »Wahrheitssuche«-Rhetorik nachgelegt hatte, die zu einem Dog-Whistle für »alles ist erlaubt«…
News | Business Process Management | Digitalisierung | Effizienz | Services
Hyperautomatisierung in der Finanzbranche: Effizienz, Sicherheit und Skalierbarkeit durch KI

Die Digitalisierung hat den Finanzsektor tiefgreifend verändert. Banken, Versicherungen und Finanzdienstleister stehen vor der Herausforderung, ihre Prozesse zu optimieren, Kosten zu senken und gleichzeitig den steigenden regulatorischen Anforderungen gerecht zu werden. Hyperautomatisierung spielt dabei eine Schlüsselrolle. Doch was genau verbirgt sich hinter diesem Konzept, und wie profitieren Finanzunternehmen konkret davon? Was ist Hyperautomatisierung? Hyperautomatisierung…
News | Cloud Computing | IT-Security | Künstliche Intelligenz | Ausgabe 5-6-2025
KI zwingt Unternehmen, Abstriche in Sachen Hybrid-Cloud-Sicherheit zu machen – Public Cloud als größtes Risiko

KI verursacht größeres Netzwerkdatenvolumen und -komplexität und folglich auch das Risiko. Zudem gefährden Kompromisse die Sicherheit der hybriden Cloud-Infrastruktur, weshalb deutsche Sicherheits- und IT-Entscheider ihre Strategie überdenken und sich zunehmend von der Public Cloud entfernen. Gleichzeitig gewinnt die Netzwerksichtbarkeit weiter an Bedeutung.
Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz | Whitepaper
KI boomt – die Sicherheitsrisiken auch

Generative künstliche Intelligenz (Generative Artificial Intelligence, GenAI) ist im Jahr 2025 keine experimentelle Technologie mehr, sondern eine unternehmenskritische Lösung, die Unternehmen unterstützt, innovativ zu arbeiten und Daten zu schützen. Zwar ermöglicht GenAI theoretisch beispiellose Produktivitätssteigerungen, gleichzeitig führt sie zu neuen, komplexen Risiken: Während der GenAI-Traffic 2024 um über 890 Prozent gestiegen ist, haben sich sicherheitsrelevante Vorfälle…
Trends 2025 | News | Trends Infrastruktur | Industrie 4.0 | Künstliche Intelligenz
Deutschland übertrifft Europa bei GenAI-Investitionen und ROI mit KI-Einsatz in Prozessoptimierung, Cybersicherheit und Qualitätskontrolle

Eine globale Studie zeigt, dass deutsche Hersteller trotz Herausforderungen bei der Personalentwicklung und Datennutzung die höchsten GenAI-Renditen in Europa erzielen. Rockwell Automation, das Unternehmen für industrielle Automatisierung und digitale Transformation, hat die deutschen Ergebnisse seines 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt [1]. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in…
News | IT-Security | Künstliche Intelligenz | Marketing | Services
Künstliche Intelligenz in der IT-Sicherheit: Wie Partner mit KI-gestützter Security Neu- und Zusatzgeschäft generieren können

Künstliche Intelligenz spielt sowohl bei Cyberangriffen als auch bei der Cyberabwehr eine immer größere Rolle. Wer sich jetzt richtig aufstellt und marktführende KI-basierende Security-Lösungen ins Portfolio aufnimmt, sichert sich für die kommenden Jahre nachhaltiges Wachstum. Künstliche Intelligenz ist die wichtigste Zukunftstechnologie, sagen drei Viertel der Unternehmen, die vom Branchenverband Bitkom über ihre Einstellung zu…
News | Digitalisierung | Favoriten der Redaktion | IT-Security | Kommunikation | Services | Tipps | Whitepaper
Sicherheit für Kinder und Jugendliche: Couragiert im digitalen Raum

TU-Projekt erforscht Risiken der Online-Interaktion bei Jugendlichen und entwickelt das Bildungsprogramm »FairNetzt« gegen Cybermobbing, Hatespeech und andere Gefahren im Netz. Kinder und Jugendliche wachsen in einer digitalen Welt auf, die neben Chancen auch erhebliche Risiken birgt, deren Folgen weit über kurzfristige negative Emotionen hinausreichen können. Das abgeschlossene Teilforschungsprojekt »Sicherheit für Kinder in der digitalen Welt«…
Trends 2025 | News | Trends Security | Cloud Computing | IT-Security | Künstliche Intelligenz
KI zwingt Abstriche in Sachen Hybrid-Cloud-Sicherheit zu machen

KI verursacht größeres Netzwerkdatenvolumen und -komplexität und folglich auch das Risiko. Zudem gefährden Kompromisse die Sicherheit der hybriden Cloud-Infrastruktur, weshalb deutsche Sicherheits- und IT-Entscheider ihre Strategie überdenken und sich zunehmend von der Public Cloud entfernen. Gleichzeitig gewinnt die Netzwerksichtbarkeit weiter an Bedeutung. 63 Prozent der deutschen Sicherheits- und IT-Entscheider berichten, dass sie im Laufe…
Trends 2025 | News | Trends Security | IT-Security | Strategien | Whitepaper
Cyberkriminalität befeuert durch KI: End-to-end-Sicherheit ist gefragt

Fast 70 Prozent der deutschen Unternehmen spüren die Auswirkungen der offensiven Nutzung künstlicher Intelligenz durch Cyberkriminelle. Doch noch fehlen den meisten die Konzepte, um den teils völlig neuartigen Bedrohungsszenarien durch KI zu begegnen. Das sind Ergebnisse des aktuellsten »State of AI Cybersecurity«-Report von Darktrace [1]. KI ermöglicht nämlich auch nur mittelmäßig ausgebildeten Angreifern raffinierte und…
Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz | Tipps | Whitepaper
Datensicherheit: KI macht Mitarbeiter zu Insider-Bedrohungen

GenAI-Daten-Uploads steigen innerhalb eines Jahres um das 30-fache; drei von vier Unternehmen nutzen Apps mit integrierten genAI-Funktionen. Netskope, ein Unternehmen für moderne Sicherheit und Netzwerke, hat eine neue Studie veröffentlicht, die einen 30-fachen Anstieg der Daten zeigt, die von Unternehmensanwendern im letzten Jahr an generative KI-Apps (genAI) gesendet wurden [1]. Dazu gehören sensible Daten…
News | IT-Security | Kommentar | Künstliche Intelligenz
KI-Sicherheit beginnt bei der Architektur – DeepSeek-R1 als Warnsignal

Künstliche Intelligenz revolutioniert nicht nur Geschäftsprozesse, sondern bringt auch neue, hochkomplexe Sicherheitsrisiken mit sich. Ein aktuelles Beispiel ist DeepSeek-R1, ein KI-Modell, das mit sogenanntem Chain-of-Thought (CoT) Reasoning arbeitet. Diese Methode soll die Nachvollziehbarkeit von KI-Entscheidungen verbessern, indem sie Denkschritte explizit offenlegt. Doch genau hier liegt die Schwachstelle: Unsere aktuelle Analyse zeigt, dass Angreifer diese Transparenz…
Trends 2025 | News | IT-Security | Künstliche Intelligenz | Nachhaltigkeit
IT 2025: Im Spannungsfeld zwischen Nachhaltigkeit, Sicherheit, KI und Geopolitik

Neben den Themen IT-Security und künstliche Intelligenz (KI) müssen sich Unternehmen in der IT im Jahr 2025 mit den aktuellen geopolitischen Entwicklungen und Nachhaltigkeit auseinandersetzen. Für seinen jährlich erscheinenden Digital Infrastructure Report hat der Netzwerkanbieter Colt Technology Services 1.500 CIOs und IT-Verantwortliche in Europa, Nord- und Südamerika, Asien und dem Nahen Osten befragt. Der…
Trends 2025 | News | Business | Business Process Management | Effizienz | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | Nachhaltigkeit
Trends in der Automatisierung: Sicherheit, KI und Nachhaltigkeit sind Zukunftstreiber

Cyber Resilience Act fördert umfassendere Sicherheitsmaßnahmen. Immer mehr KI-gestützte Anwendungen fließen in Automatisierungssysteme ein. Nachhaltige Produktion wird zum strategischen Ziel. Die Zukunft liegt in Ökosystemen und kollaborativen Innovationen. Erhöhte Sicherheitsmaßnahmen, künstliche Intelligenz und mehr Nachhaltigkeit. Das sind die Automatisierungstrends aus Sicht von Bosch Rexroth für das Jahr 2025. (Bildquelle: Bosch Rexroth AG, mithilfe von…
Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz
KI & Cybersecurity: Drei Sicherheitstrends für 2025

Die gute Nachricht: Dank KI werden Unternehmen 2025 noch mehr Möglichkeiten und fortschrittlichere Tools zur Verfügung stehen, mit denen sie ihre IT-Systeme und Mitarbeitenden effektiv vor Cyberangriffen schützen können. Die schlechte Nachricht: KI ist keine Technologie, die ausschließlich für gute Zwecke genutzt wird. Auch Cyberkriminelle werden sie sich zunutze machen, um Unternehmen gleich mehrere Schritte…
News | IT-Security | Künstliche Intelligenz
Diese vier KI-gestützten Cybersicherheitstools sichern 2025 Ihr Unternehmen

Die technologische Revolution auf Grund des Einsatzes der künstlichen Intelligenz (KI) hat vielen Bereichen der Wirtschaft große Vorteile ermöglicht. Gegenwärtig können beispielsweise Unternehmen weltweit dank der zahlreichen verfügbaren KI-gestützten Tools und Systeme von einer höheren Produktivität und verbesserten Effizienz profitieren. Diese Fortschritte in der KI-Technologie sind jedoch zu einem zweischneidigen Schwert geworden. Auch die KI-bezogenen…