Anwendungssicherheit und KI: Was AppSec-Teams ihre KI wirklich fragen

Was würden AppSec-Teams wohl eine nahezu allwissende Entität fragen? Die Antwort darauf kennt Cycode. Der Pionier im Bereich Application Security Posture Management (ASPM) hat die ersten 100 Konversationen der Nutzer von Maestro, einem elaborierten KI-Agenten für die Anwendungssicherheit ausgewertet und aus ihnen die sechs häufigsten Fragen destilliert.

 

KI-Agenten sind in vielen Unternehmensbereichen auf dem Vormarsch und schicken sich an, auch in der Anwendungssicherheit (Application Security, kurz: AppSec) für Entlastung zu sorgen. Spannender als die Frage, ob digitale Mitarbeitende zukünftig eine Rolle spielen werden, ist die nach ihrem tatsächlichen Einsatzzweck seitens der AppSec-Teams. Cycode hat die sechs zentralen Fragen recherchiert, die KI-Agenten für die Anwendungssicherheit gestellt werden.

 

»Was ist der Kontext dieses Repos?« – KI als Kontextlieferant

Die häufigsten Anfragen von AppSec-Teams an ihre KI-Agenten drehen sich nicht um einzelne Findings oder Schwachstellen. Vielmehr geht es ihnen in den allermeisten Fällen um das Verständnis komplexer Codebasen. Häufig fragen sie nach Abhängigkeiten, Runtime-Imports, Build-Prozessen oder verwendeten Pipelines, um fremde oder historisch gewachsene Repositories schneller einordnen zu können. Besonders in großen Organisationen fehlt oft der Überblick über Systeme und Anwendungen, die das AppSec-Team nicht selbst aufgesetzt beziehungsweise entwickelt hat. KI fungiert an dieser Stelle als eine Art virtueller Staff Engineer, der technischen Kontext in Sekunden verfügbar macht.

 

»Bin ich betroffen?« – KI als Echtzeit-Exposure-Scanner

Viele AppSec-Teams nutzen KI-Agenten vor allem, um die Auswirkungen neuer Bedrohungen sofort einschätzen zu können. Statt CVEs oder Supply-Chain-Angriffe manuell über zahlreiche Repositories hinweg zu prüfen, stellen sie direkte Fragen wie: »Nutzen wir diese kompromittierte Library?« oder »Welche Services sind betroffen?« Die KI wird damit zum Echtzeit-Analyzer für Blast Radius und Exposure. Entscheidend ist hierbei nicht die ausführliche Erklärung der Schwachstelle, sondern die schnelle Antwort darauf, ob akuter Handlungsbedarf besteht.

 

»Was ist wirklich kritisch?« – KI als Triage-Engine

Angesichts hunderter Findings pro Stunde wollen AppSec-Teams eines ganz sicher nicht: zusätzliche Alerts. Stattdessen suchen sie nach einer belastbaren Priorisierung. KI-Agenten sollen also einschätzen, welche Schwachstellen tatsächlich ausnutzbar, welche Systeme exponiert oder welche Findings im konkreten Umfeld irrelevant sind. Besonders wertvoll sind Antworten wie »Diese Schwachstelle ist nicht ausnutzbar. Hier ist warum …«. Die KI reduziert damit nicht nur den Analyseaufwand, sondern auch Unsicherheiten. Auf diese Weise hilft sie AppSec-Teams, eine sinnvolle Triage durchzuführen und ihre begrenzten Ressourcen auf die wenigen wirklich kritischen Risiken zu konzentrieren.

 

»Wo benutzen wir das noch?« – KI als AppSec-Suchmaschine

Viele Anfragen an KI-Agenten sind letztlich komplexe Suchoperationen über Repositories, Pipelines und Cloud-Umgebungen hinweg. AppSec-Teams wollen wissen, wo bestimmte Libraries genutzt werden, welche Services ein Container-Image verwenden oder wo verdächtige Installationsskripte auftauchen. Solche Recherchen dauern manuell oft Stunden und erfordern üblicherweise mehrere Tools sowie tiefes Plattformwissen. KI-Agenten bündeln diese Informationen, verstehen Anfragen in natürlicher Sprache und geben auch in klarer Weise Auskunft. Sie avancieren damit zu einer zentralen Such- und Korrelationsschicht für eine moderne Anwendungssicherheit.

 

»Ist dieses Verhalten verdächtig?« – KI als Malware-Analyst

AppSec-Teams setzen KI-Agenten zunehmend ein, um verdächtige Skripte, obfuskierten Code oder ungewöhnliche Installations-Hooks zu analysieren. Die Assistenten prüfen beispielsweise npm-Lifecycle-Scripts, Dockerfiles oder Bash-Kommandos auf möglichen Datenabfluss und erklären potenzielle Angriffspfade direkt im Kontext des Codes. Gerade bei Supply-Chain-Risiken oder manipulierten Open-Source-Paketen spart das enorm viel Zeit. KI wird hier weniger als Chatbot genutzt, sondern als schneller Malware- und Behavioral-Analyst für technische Tiefenanalysen.

 

»Muss ich sofort handeln?« – KI als Transparenzbeschleuniger

Der größte Mehrwert von KI im Bereich der Anwendungssicherheit liegt nicht nur in schnellerer Triage. Sie schafft vor allem auch schneller Transparenz. Teams wollen von ihren KI-Agenten wissen, ob sie eskalieren müssen, ob ein Incident real ist oder ob ein Risiko aktuell tolerierbar bleibt. Statt lange Daten aus verschiedenen Systemen zusammenzutragen, liefern sie verdichtete, handlungsorientierte Einschätzungen. Damit werden sie zum Entscheidungsbeschleuniger in Situationen, in denen Unsicherheit, Kontextwechsel und Zeitdruck den größten operativen Aufwand verursachen.

 

»Die Analyse unseres KI-Agenten Maestro belegt, dass AppSec-Teams KI-Agenten vor allem für ihre komplexesten und zeitaufwendigsten Aufgaben einsetzen«, betont Jochen Koehler, Vice President of Sales EMEA bei Cycode. »Quasi überall dort, wo kognitiver Aufwand und viele Kontextwechsel nötig sind. KI-Agenten dienen somit weniger als elaborierte Suchmaschine, sondern als Katalysator für manuelle Analysearbeit und die Entscheidungsfindung.«

 

(Quelle: Cycode)

Jochen Koehler, Vice President of Sales EMEA bei Cycode (Quelle: Cycode)

 

 

 

 

 

9224 Artikel zu „KI Sicherheit“

Cybersicherheit: Lohnt sich der KI-Aufwand für kleine Sicherheitsteams?

Kurzfazit KI bringt Nutzen, wenn sie konkrete Engpässe adressiert (z. B. Priorisierung, Triage, Mustererkennung) und sauber in Prozesse eingebettet ist. Viele »KI«-Funktionen erzeugen sonst vor allem Zusatzaufwand: neue Workflows, mehr Komplexität und mehr Pflegebedarf. Für KMU sind zwei Wege realistisch: gezielte Integration in die eigene Security-Toolchain oder Auslagerung an einen MDR-Anbieter – jeweils mit klaren Prüffragen…

Data Security Posture Management: Datensicherheit mit KI – Sensible Informationen automatisch finden und schützen

Moderne DSPM-Lösungen verschaffen Unternehmen Transparenz über ihre sensiblen Daten und die Risiken, denen sie ausgesetzt sind. Eine Schlüsselrolle spielt dabei KI: Sie ermöglicht es, große und verteilte Datenbestände weitgehend automatisiert zu klassifizieren.

Verhaltensanalysen für KI-Agenten in Cloud-Umgebungen: Transparenz und Anomalieerkennung als Sicherheitsfaktor

Wie Security-Teams autonome Software-Agenten über den Lebenszyklus hinweg beobachten, Normalverhalten modellieren und Abweichungen frühzeitig erkennen können.   Mit der zunehmenden Verbreitung von KI-Agenten in Unternehmen entsteht eine neue Herausforderung für die IT-Sicherheit: Autonome Systeme handeln eigenständig, interagieren miteinander und greifen auf Daten sowie Dienste zu – häufig bei eingeschränkter Nachvollziehbarkeit von Entscheidungen und Aktionen. Klassische…

LLM prägt das Zusammenspiel von Analyse, Automatisierung und Nutzerverhalten neu – KI verändert E-Mail-Sicherheit und Awareness

Generative künstliche Intelligenz entwickelt sich rasant zu einem bestimmenden Faktor der Cybersicherheit. Während Angreifer Sprachmodelle nutzen, um täuschend echte Phishing-Nachrichten in großer Zahl zu erzeugen, reagieren Sicherheitsanbieter mit neuen Analyseverfahren, automatisierter Kontextbewertung und verhaltensorientierten Schulungskonzepten.

Vorbereitung auf offensive KI: Neue Anforderungen an die Sicherheitsbewertung von IT‑Infrastrukturen

Die rasante Entwicklung offensiver künstlicher Intelligenz verändert die Bedrohungslandschaft für Unternehmen grundlegend. Autonome Systeme sind inzwischen in der Lage, digitale Umgebungen selbstständig zu analysieren, Schwachstellen zu identifizieren und Exploits nahezu ohne menschliches Zutun zu entwickeln. Dadurch verkürzen sich Entwicklungs- und Angriffszyklen erheblich – von ehemals Monaten auf teilweise nur noch wenige Tage. Klassische Sicherheitsansätze geraten…

KI entdeckt jahrzehntealte Sicherheitslücken. Der Wendepunkt für Cybersecurity

  Kommentar von Heather Ceylan, CISO at Box Mit Claude Mythos hat Anthropic ein KI-Modell vorgestellt, das in der Lage ist, tief in Codebasen einzutauchen und selbst hochkomplexe, bislang unentdeckte Schwachstellen aufzuspüren. Zwischen 16 und 27 Jahre alte Bugs und Schwachstellen, die in zentraler Infrastruktur existierten und weder durch menschliche Experten noch durch bestehende Tools…

Cyberrisiko Digitalisierung und KI – warum Identitäten zum zentralen Sicherheitsfaktor in Kliniken werden

Statement zur DMEA 2026 von Olaf Milde, Manager Solutions Engineering Central Europe bei Imprivata   Mit der wachsenden digitalen Vernetzung der Akteure im Gesundheitswesen und dem Einsatz von KI-Agenten steigt auch die Angriffsfläche für Cyberkriminelle. Krankenhäuser gelten heute als besonders attraktive Ziele für Angreifer: Sie verarbeiten hochsensible Patientendaten, betreiben komplexe IT-Infrastrukturen und sind gleichzeitig auf…

Warum KI das klassische Sicherheitsmodell aushebelt

KI beschleunigt Angriffe schneller, als klassische Sicherheitsmodelle reagieren können. Warum Erkennung und Reaktion nicht mehr ausreichen – und weshalb Eindämmung zur entscheidenden Disziplin für Unternehmenssicherheit wird.   Jahrelang war »assume a breach«, also »von einem Sicherheitsvorfall auszugehen« eine nützliche Denkweise in der Sicherheit, um eine bessere Erkennung und Reaktion zu fördern. Mit Initiativen wie Project…

70 Prozent der Unternehmen genehmigen KI-Projekte trotz Sicherheitsbedenken

Jeder sechste Entscheider in Deutschland stuft Besorgnis als »extrem« ein – und wurde dennoch zugunsten von Wettbewerbsdruck und internen Forderungen übergangen.   TrendAI, ein Geschäftsbereich von Trend Micro und Anbieter von KI-Sicherheit, veröffentlicht neue Forschungsergebnisse, die zeigen, dass Unternehmen weltweit den Einsatz von künstlicher Intelligenz vorantreiben, obwohl bekannte Sicherheits- und Compliance-Risiken bestehen [1]. Eine neue…

Lage der Cybersicherheitsexperten bleibt trotz KI angespannt – Hochmotivierte Teams sichern am besten

Cybersecurity gehört zu den abwechslungsreichsten, spannendsten, aber auch anstrengendsten Berufsfeldern. Die Nonprofit-Organisation für Cybersecurity-Experten ISC2 führt jedes Jahr eine Studie durch, die diesen ­Bereich sowohl aus Sicht der Mitarbeitenden als auch aus der Perspektive der Unternehmen weltweit ­beleuchtet. »manage it« hat anlässlich der neuesten Workforce-Studie mit Casey Marks, Chief Operating Officer bei ISC2 über die deutschen Studienergebnisse gesprochen.

Enterprise-KI made in Germany: Neue Maßstäbe für Produktivität und Sicherheit

Startup Aiconiq.io maximiert KI-Wirkung auf Kosten und Erträge durch unternehmensindividuelles KI-Hirn.   Mit Aiconiq.io startet ein deutsches KI-Unternehmen, das künstliche Intelligenz konsequent als Produktivitäts- und Kostensenkungsfaktor versteht: Die Enterprise-KI von Aiconiq.io stellt den wirtschaftlichen Nutzen ins Zentrum. Das Herzstück der KI-Innovation von Aiconiq.io ist das patentierte »Corporate Brain« – eine unternehmensindividuelle KI-Wissensbasis. Mit seinem Wissen…

KI beschleunigt Cyberangriffe – Unternehmen müssen Sicherheit neu denken

Cyberangreifer nutzen vor allem grundlegende Schwächen im Identitäts‑ und Zugriffsmanagement aus und gehen mit Hilfe von KI schneller, skalierbarer und automatisierter vor. Unternehmen wird geraten, mit einer »Shift‑Left«-Strategie frühzeitig auf KI‑gestützte Sicherheit, Identität als kritische Infrastruktur und kontinuierliche Risiko‑ und Schwachstellenbewertung zu setzen. Besondere Priorität haben dabei die Absicherung von Identitäten, Anwendungen, Lieferketten und KI‑Plattformen…

Sicherheitslücken exponieren Unternehmen: KI-gesteuerte Angriffe nehmen zu

IBM hat den 2026 X-Force Threat Intelligence Index veröffentlicht, aus dem hervorgeht, dass Cyberkriminelle grundlegende Sicherheitslücken in dramatisch höherem Maße ausnutzen, was nun durch KI-Tools beschleunigt wird, mit denen Angreifer Schwachstellen schneller als je zuvor identifizieren können [1]. IBM X-Force beobachtete einen Anstieg von 44 % bei Angriffen, die mit der Ausnutzung öffentlich zugänglicher Anwendungen…

So ticken KI-Agenten für Cybersicherheit wirklich ​

Immer mehr Security Operation Centers (SOC) setzen im Kampf gegen Hacker und Downtimes auf die Hilfe künstlicher Intelligenz. KI-Agenten, die wie SOC-Teams miteinander autonom kollaborieren, sind in diesem Zusammenhang die neueste Evolutionsstufe. Ontinue, der führende Experte für Managed Extended Detection and Response (MXDR), wirft einen Blick unter die Haube solcher Multi-Agenten-Systeme.   Multi-Agenten-Systeme (MAS), bestehend…

Cloudspeicher und KI: Sicherheitsfunktionen zwischen Anspruch und Realität

Cloudspeicher können sich perspektivisch zu intelligenten Assistenzsystemen entwickeln. KI-gestützte Frühwarnmechanismen und automatisierte Sicherheitsfunktionen gelten dann als zentrale Bausteine für Vertrauen und digitale Souveränität.   Plötzlich sind die Daten aus dem Cloudspeicher weg. Das Fotoarchiv ist verschwunden, die Diplomarbeit gelöscht oder die Präsentation für den nächsten Tag nicht aufzufinden. Was ist passiert? Jemand hat es geschafft,…

Cybersicherheit: Zwischen KI-Gefahr, Lieferketten-Risiken und Passkey-Revolution

Wie wird die Cybersicherheitslandschaft im Jahr 2026 und in der Zukunft aussehen?   Auch im Jahr 2026 wird sich das Schlachtfeld der Cybersicherheit weiterentwickeln. Internetnutzer und Unternehmen werden einer Vielzahl von Bedrohungen und Herausforderungen gegenüberstehen. Karolis Arbaciauskas, Produktleiter des Cybersicherheitsunternehmens NordPass, gibt uns einen Expertenausblick auf das laufende Jahr. »Künstliche Intelligenz wird sowohl die Tools…

Digitale Souveränität, Sicherheit, KI: Wie sich Europas IT-Strategien neu ausrichten 

Unternehmen in Europa stehen vor einem Dilemma: Entweder sie halten am Status quo fest und riskieren eine folgenschwere Abhängigkeit von einzelnen Anbietern – oder sie akzeptieren die tiefgreifenden technologischen Veränderungen und machen ihre IT wirklich zukunftsfähig. Das Festhalten an proprietären Single‑Vendor‑Lösungen ist längst nicht mehr nur eine Frage der Technologie. Es ist ein finanzielles Risiko und kann zur Bedrohung für das…

KI-gestützte Ausfallsicherheit: Die Zukunft des Site Reliability Engineering

Die Integration von KI in das Site Reliability Engineering revolutioniert die Arbeitsweise von SRE-Teams, indem sie von reaktiver Problemlösung zu proaktiver Systemoptimierung übergehen. KI automatisiert nicht nur repetitive Aufgaben wie Patch-Management und Log-Analyse, sondern ermöglicht auch eine vorausschauende Fehlerdiagnose und effizienteres Incident Management. Entscheidend für den Erfolg ist jedoch, dass KI als strategischer Partner eingesetzt…

Eine neue Klasse operativer und sicherheitsrelevanter Risiken: KI-Agenten

OWASP hat erstmals die Top 10 for Agentic Applications veröffentlicht. Der Bericht macht deutlich, welche erheblichen geschäftlichen Risiken von agentischer KI ausgehen können – insbesondere, weil diese Systeme eigenständig Entscheidungen treffen und ohne menschliches Eingreifen handeln [1].   Dazu ein Kommentar von Keren Katz, Co-Lead, OWASP Agentic AI Project; Senior Group Manager of AI Security,…

Psychologische Sicherheit für KI-Initiativen macht KI-Projekte erfolgreich(er)

83 Prozent der Führungskräfte sehen messbare Effekte psychologischer Sicherheit für KI-Initiativen. Psychologische Sicherheit ist ein entscheidender Erfolgsfaktor für KI-Initiativen, da sie Innovation fördert und Ängste vor Fehlern abbaut. Trotz technischer Fortschritte und Investitionen hemmt fehlende psychologische Sicherheit die Umsetzung von KI-Projekten, da Mitarbeitende aus Angst vor negativen Konsequenzen zögern, Verantwortung zu übernehmen oder neue Ideen…