Illustration Absmeier foto freepik ki

Report »Future of Application Security in the Era of AI« belegt: Unternehmen generieren bis zu 60 % ihres Codes mittels KI-Coding-Assistenten. Allerdings untersagen mittlerweile 20 % deren Nutzung offiziell.

Die Studie »Future of Application Security in the Era of AI« von Checkmarx zeichnet ein umfassendes Bild davon, wie KI-gestützte Softwareentwicklung die Risikolandschaft nachhaltig verändert – und gibt konkrete Handlungsempfehlungen für das kommende Jahr [1]. Befragt wurden rund 1.500 CISOs, AppSec-Verantwortliche und Entwickler aus Nordamerika, Europa und dem asiatisch-pazifischen Raum. Ziel war es, besser nachzuvollziehen, wie Unternehmen in einer zunehmend von maschinell erzeugter Software geprägten Welt agieren.

Die Ergebnisse machen deutlich: KI-generierter Code etabliert sich zunehmend als neuer Standard, doch die Governance hält mit dieser Entwicklung nicht Schritt. Die Hälfte der Befragten nutzt bereits KI-gestützte Secure-Coding-Assistenten, und 34 % geben an, dass mehr als 60 % ihres Codes von KI generiert wird. Zeitgleich verfügen nur 18 % der Unternehmen über klare Richtlinien zur Nutzung solcher Tools. Mit der wachsenden Nutzung von KI-Coding-Assistenten schwindet die Verantwortung der Entwickler – und die Angriffsfläche vergrößert sich.

Der Report zeigt darüber hinaus, dass wirtschaftlicher Druck riskante Praktiken zunehmend normalisiert. 81 % der befragten Unternehmen stellen wissentlich unsicheren Code bereit, und 98 % waren im vergangenen Jahr von einem damit verbundenem Sicherheitsvorfall betroffen – ein deutlicher Anstieg gegenüber 91 % im Jahr 2024. Für die kommenden 12 bis 18 Monate rechnen 32 % der Befragten mit Sicherheitsvorfällen bei Application Programming Interfaces (APIs) – etwa durch Schatten-APIs oder Business-Logic-Angriffe. Dennoch setzt weniger als die Hälfte der Unternehmen auf grundlegende Schutzmaßnahmen wie Dynamic Application Security Testing (DAST) oder Infrastructure-as-Code-Scanning. Während DevSecOps in der Branche intensiv diskutiert wird, nutzt nur die Hälfte der Befragten zentrale Tools – und lediglich 51 % der befragten US-Unternehmen haben bislang eine DevSecOps-Strategie implementiert.

»Angesichts des hohen Tempos der KI-gestützten Entwicklung darf Sicherheit nicht länger ein bloßes Anhängsel sein. Sie muss vom Code bis in die Cloud mitgedacht und integriert werden«, betont Eran Kinsbruner, Vice President Portfolio Marketing bei Checkmarx. »Unsere Untersuchungen zeigen, dass Entwicklerinnen und Entwickler schon heute große Teile ihres Codes von KI generieren lassen, obwohl es in den meisten Unternehmen an Governance mangelt. Kombiniert mit der Tatsache, dass 81 % aller Befragten wissentlich unsicheren Code bereitstellen, entsteht eine explosive Mischung – und es ist nur eine Frage der Zeit, bis es zum großen Knall kommt.«

Der Report skizziert darüber hinaus zentrale strategische Schritte auf dem Weg zu ganzheitlicher Anwendungssicherheit: Unternehmen müssen vom Bewusstsein zum Handeln übergehen, »Code-to-Cloud«-Sicherheitsmaßnahmen verankern, eine klare Governance für den Einsatz von KI in der Entwicklung definieren, Security-Tools konsequent operationalisieren und Teams auf die »Agentic AI in AppSec«-Ära vorbereiten. Nicht zuletzt gilt es, eine Unternehmenskultur zu fördern, die Entwickler stärkt und ihnen Verantwortung für Sicherheit überträgt.

»Wer den Risiken immer einen Schritt voraus sein will, braucht präventive Security-Tools«, so Kinsbruner weiter. »Ebenso wichtig sind eine klare Governance für den Einsatz von KI und gezielte Investitionen in Agentic AI – auf diese Weise werden mögliche Probleme in Echtzeit erkannt und automatisch behoben. KI-generierter Code wird sich künftig noch stärker durchsetzen. Unternehmen, die angesichts dieses Wandels sichere Software bereitstellen, verschaffen sich einen entscheidenden Wettbewerbsvorteil.«

Patrick Siffert, Regional Director DACH & Iberia bei Checkmarx, ergänzt: »Unternehmen in Deutschland, Österreich und der Schweiz entwickeln ihre Technologien in einem nie dagewesenen Tempo weiter. Die Hälfte der Befragten nutzt bereits KI-Coding-Assistenten – gleichzeitig geben 88 % an, wissentlich unsicheren Code bereitzustellen. Angesichts der zunehmenden Nutzung von KI, Cloud-Technologien und IIoT müssen CISOs und AppSec-Teams Sicherheit als strategische Priorität behandeln. Wir brauchen umfassenden Schutz vom Code bis in die Cloud sowie eine klare Governance für KI-generierten Code, um unsere Innovationen zuverlässig zu schützen.«

[1] Den vollständigen Report »Future of Application Security in the Era of AI” finden Sie hier. https://checkmarx.com/report-future-of-appsec-2025/

Die Veröffentlichung des Reports folgt auf die Ankündigung des Developer Assist Agent, der Erweiterungen für etablierte KI-native Integrated Development Environments (IDEs) wie Windsurf by Cognition, Cursor und GitHub Copilot bietet. Dieses innovative Tool – das erste in einer Reihe von Agentic-AI-Lösungen zur Verbesserung der Sicherheit für Entwickler:innen, AppSec-Verantwortliche und CISOs – unterstützt Entwickler:innen direkt in ihrer IDE mit kontextbezogener Prävention, automatisierter Behebung und konkreten Handlungsempfehlungen in Echtzeit.

160 Artikel zu „KI Coding“

Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz | Whitepaper

KI boomt – die Sicherheitsrisiken auch

7. Juni 2025

Generative künstliche Intelligenz (Generative Artificial Intelligence, GenAI) ist im Jahr 2025 keine experimentelle Technologie mehr, sondern eine unternehmenskritische Lösung, die Unternehmen unterstützt, innovativ zu arbeiten und Daten zu schützen. Zwar ermöglicht GenAI theoretisch beispiellose Produktivitätssteigerungen, gleichzeitig führt sie zu neuen, komplexen Risiken: Während der GenAI-Traffic 2024 um über 890 Prozent gestiegen ist, haben sich sicherheitsrelevante Vorfälle…