Nur 44 Prozent der Unternehmen können einen sicheren KI-Betrieb garantieren

Illustration Absmeier foto freepik ki

Während die Mehrheit der Unternehmen (93 Prozent) selbstbewusst davon ausgeht, dass ihre KI-Systeme vor Eingriffen und Manipulationen geschützt sind, besteht diese Sicherheit tatsächlich lediglich bei 44 Prozent.

 

Delinea, Anbieter von Lösungen für Identitätssicherheit und zentrale Autorisierung, stellt die Ergebnisse seiner aktuellen Studie zum Thema künstliche Intelligenz (KI) in Verbindung mit Identitätssicherheit vor. An der Umfrage haben weltweit über 1.700 IT-Entscheidungsträger teilgenommen. Demnach bestätigen lediglich 44 Prozent der Befragten, dass ihre Sicherheitsarchitektur vollständig für den sicheren Einsatz von KI gerüstet ist – und das, obwohl sie insgesamt großes Vertrauen in ihre aktuellen Fähigkeiten haben.

 

Die Umfrage offenbart eine beträchtliche Kluft: Einerseits verlassen sich Unternehmen auf die Strategien, mit denen sie ihre KI-Systeme absichern, andererseits weisen ihre KI-Tools erhebliche Funktionsdefizite auf. Obwohl 93 Prozent von ihnen glauben, dass sie ausreichend Maßnahmen ergriffen haben, um ihre Machine Identities vor KI-gestützten Manipulationen und Angriffen zu schützen, haben tatsächlich nur 61 Prozent vollständige Einsicht in sämtliche Identitäten. Lediglich 48 Prozent haben Identity Governance für ihre KI-Systeme eingerichtet. Diese eingeschränkte Sichtbarkeit kann unter anderem kritische Folgen für Unternehmen nach sich ziehen, die Agentic AI implementiert haben – laut Umfrage sind das 66 Prozent der befragten Unternehmen. Denn dieses Defizit macht die KI-Agenten anfällig für verschiedene Risiken wie ungeprüfte automatisierte Entscheidungen oder den Zugriff durch Cyberkriminelle.

 

»Agentic AI braucht Agentic Security«, so Andreas Müller, VP Enterprise Sales Central & Eastern Europe bei Delinea. »Unternehmen müssen ihre Herangehensweise an Identitäten ändern und adaptive, risikobewusste Systeme aufbauen, die jede Aktion verifizieren und absichern – unabhängig davon, ob sie von Menschen oder Machine Identities ausgelöst werden. Im Gegensatz zu klassischen rollenbasierten Ansätzen erfordern gerade KI-Agenten deutlich granularere und dynamischere Identity-Access-Kontrollen. Darüber hinaus ist es für jedes Unternehmen entscheidend, ein umfassendes KI-Governance-Modell zu etablieren, damit sie die Technologie sicher und im Sinne ihrer Zweckbestimmung einsetzen kann.«

 

Die wichtigsten Ergebnisse im Überblick:

 

  • Weitverbreiteter Einsatz von KI innerhalb des KI- und Security-Betriebs:
    Die Mehrheit der Unternehmen (94 Prozent) setzt KI im Rahmen ihres IT-Bertriebs in irgendeiner Form ein. Mehr als die Hälfte (60 Prozent) nutzt im Speziellen Generative oder Agentic AI. Bei 40 Prozent der Unternehmen kommen KI-Agenten zur Verbesserung des Sicherheitsbetriebs zum Einsatz.
  • Schatten-KI bleibt eine Herausforderung:
    Über die Hälfte der befragten Unternehmen (56 Prozent) sagt, dass sie mindestens einmal im Monat von Problemen mit Schatten-KI betroffen sind. Ein Drittel (32 Prozent) erlebt solche Vorfälle sogar mehrmals monatlich. Dies unterstreicht die Herausforderungen, die mit unerlaubter KI-Nutzung einhergehen.
  • KI-basierte Sicherheitsrisiken:
    Für Unternehmen gelten die folgenden KI-Risiken in Bezug auf Identitätssicherheit als besonders akut:

o        KI-generierte Phishing-E-Mails und Deep Fakes

o        Diebstahl von Anmeldedaten mithilfe von KI

o        Agentic-AI-Systeme mit unautorisiertem Zugang

o        Unerlaubter Einsatz von KI-Tools

o        Intransparente KI-Zugangsprozesse

 

Trotz des breiten Einsatzes von KI scheint in vielen Unternehmen eine große Lücke im Bereich der KI-Governance zu klaffen. Lediglich 57 Prozent von ihnen berichten von akzeptablen Nutzungsrichtlinien für KI-Tools; nur 55 Prozent nutzen Zugangskontrollen für KI-Agenten. Dieser mangelhafte Überblick macht Unternehmen anfällig für Risiken, die sowohl von der unerlaubten Nutzung von KI-Tools als auch von unsachgemäß gemanagten KI-Systemen ausgehen. Die gute Nachricht: Fast die Hälfte der Unternehmen (47 Prozent) ist zuversichtlich, dass ihre geplanten Sicherheitsinitiativen den Einsatz von KI innerhalb der nächsten zwei Jahre noch sicherer machen werden. Da KI IT- und Sicherheitsprozesse zunehmend verändert, müssen Unternehmen der robusten Identity Governance sowie anpassungsfähigen Sicherheitskontrollen höchste Priorität einräumen, damit sie neuen Risiken wirksam begegnen können.

 

[1] Die Studie wurde von Delinea in Auftrag gegeben und vom 08. – 10. Juli 2025 von Censuswide durchgeführt. An der Online-Umfrage haben insgesamt 1.758 IT-Entscheidungsträger aus Deutschland (251), Großbritannien, den Vereinigten Staaten, Australien, Singapur und den Vereinigten Arabischen Emiraten teilgenommen.
Der vollständige Studienbericht steht hier zum Download bereit: https://delinea.com/resources/2025-ai-in-identity-security

 

7943 Artikel zu „KI Sicherheit“

Cybersicherheit mit KI: Hybride SOC-Modelle gegen Cyberbedrohungen

Künstliche Intelligenz (KI) birgt großes Potenzial für die Cybersicherheit in Unternehmen. Insbesondere im Security Operation Center (SOC) kann KI Prozesse optimieren, Analysten entlasten und Bedrohungen frühzeitig erkennen. Das gelingt jedoch nur in Synergie mit menschlichem Know-how und umfassender Cybersecurity-Erfahrung.   KI zeigt sich in der Cybersicherheit als echtes Janusgesicht. Einerseits steigt durch Deepfakes, KI-gestütztes Phishing…

Zunehmende Cyberrisiken in der Fertigung: 61 Prozent der Cybersicherheitsexperten planen Einführung von KI

Laut des Berichts zum Stand der intelligenten Fertigung zählt Cybersicherheit mittlerweile nach der Wirtschaftslage zu den größten externen Bedenken.   Rockwell Automation hat die Ergebnisse des zehnten Jahresberichts zum Stand der intelligenten Fertigung bekannt gegeben. Der Bericht basiert auf Erkenntnissen von über 1500 Führungskräften in der Fertigung aus 17 der wichtigsten Industrieländer und zeigt: Cybersicherheit…

Die meisten KI-Tools haben massive Sicherheitsprobleme

Cybersicherheitsexperten sagen, dass »unkontrollierte KI-Nutzung« gefährliche blinde Flecken schafft, da Untersuchungen zeigen, dass 84 % der KI-Tool-Anbieter Sicherheitsverletzungen erlitten haben.   Vor drei Wochen enthüllte das ChatGPT-Leck »geteilte Gespräche« und machte Tausende von Benutzerchats – einige davon mit Namen, Adressen und anderen persönlich identifizierbaren Informationen – in den Google-Suchergebnissen sichtbar. Die Links, die ursprünglich über…

KI-Einsatz im Blindflug: Unternehmen bringen sich durch fehlende Sicherheitsmaßnahmen in Gefahr

Viele Unternehmen verzichten auf Maßnahmen zur sicheren Anwendung von KI. Das zeigt die repräsentative Umfrage von G DATA CyberDefense, Statista und brand eins: Nur zwei von fünf Firmen schulen ihre Mitarbeitenden oder haben unternehmensweite KI-Guidelines etabliert [1]. Zwar ergreifen viele Verantwortliche bereits vereinzelt Maßnahmen, jedoch noch zu wenig und ohne Strategie. Die Risiken sind groß,…

Agentenbasierte KI mit einem Höchstmaß an Vertrauen und Sicherheit

  Kyndryl nutzt seine jahrzehntelange Erfahrung im Bereich IT-Infrastrukturen, um ein leistungsfähiges unternehmensweites Framework bereitzustellen: Es basiert auf intelligenten KI-Agenten, die lernen, sich anpassen und weiterentwickeln und so Daten in konkretes Handeln übersetzen.  Das »Kyndryl Agentic AI Framework« organisiert sich selbst, skaliert flexibel und führt Aufgaben sicher über unterschiedliche IT-Landschaften und komplexe Workflows hinweg aus,…

Sicherheitsprobleme bei Grok: Unkontrollierte KI vergrößert die Angriffsfläche

Das neueste Grok-Debakel liest sich wie eine Fallstudie darüber, wie man keinen AI-Chatbot auf den Markt bringt. Elon Musks xAI, frisch aus dem Hype-Zyklus für Grok 4.0, befand sich im Schadensbegrenzungsmodus, nachdem der Bot antisemitische Klischees verbreitet, Hitler gelobt und mit einer Art von »Wahrheitssuche«-Rhetorik nachgelegt hatte, die zu einem Dog-Whistle für »alles ist erlaubt«…

Hyperautomatisierung in der Finanzbranche: Effizienz, Sicherheit und Skalierbarkeit durch KI

Die Digitalisierung hat den Finanzsektor tiefgreifend verändert. Banken, Versicherungen und Finanzdienstleister stehen vor der Herausforderung, ihre Prozesse zu optimieren, Kosten zu senken und gleichzeitig den steigenden regulatorischen Anforderungen gerecht zu werden. Hyperautomatisierung spielt dabei eine Schlüsselrolle. Doch was genau verbirgt sich hinter diesem Konzept, und wie profitieren Finanzunternehmen konkret davon?   Was ist Hyperautomatisierung? Hyperautomatisierung…

KI zwingt Unternehmen, Abstriche in Sachen Hybrid-Cloud-Sicherheit zu machen – Public Cloud als größtes Risiko

KI verursacht größeres Netzwerkdatenvolumen und -komplexität und folglich auch das Risiko. Zudem gefährden Kompromisse die Sicherheit der hybriden Cloud-Infrastruktur, weshalb deutsche Sicherheits- und IT-Entscheider ihre Strategie überdenken und sich zunehmend von der Public Cloud entfernen. Gleichzeitig gewinnt die Netzwerksichtbarkeit weiter an Bedeutung.

KI boomt – die Sicherheitsrisiken auch

Generative künstliche Intelligenz (Generative Artificial Intelligence, GenAI) ist im Jahr 2025 keine experimentelle Technologie mehr, sondern eine unternehmenskritische Lösung, die Unternehmen unterstützt, innovativ zu arbeiten und Daten zu schützen. Zwar ermöglicht GenAI theoretisch beispiellose Produktivitätssteigerungen, gleichzeitig führt sie zu neuen, komplexen Risiken: Während der GenAI-Traffic 2024 um über 890 Prozent gestiegen ist, haben sich sicherheitsrelevante Vorfälle…

Deutschland übertrifft Europa bei GenAI-Investitionen und ROI mit KI-Einsatz in Prozessoptimierung, Cybersicherheit und Qualitätskontrolle

Eine globale Studie zeigt, dass deutsche Hersteller trotz Herausforderungen bei der Personalentwicklung und Datennutzung die höchsten GenAI-Renditen in Europa erzielen.   Rockwell Automation, das Unternehmen für industrielle Automatisierung und digitale Transformation, hat die deutschen Ergebnisse seines 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt [1]. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in…

Künstliche Intelligenz in der IT-Sicherheit: Wie Partner mit KI-gestützter Security Neu- und Zusatzgeschäft generieren können

Künstliche Intelligenz spielt sowohl bei Cyberangriffen als auch bei der Cyberabwehr eine immer größere Rolle. Wer sich jetzt richtig aufstellt und marktführende KI-basierende Security-Lösungen ins Portfolio aufnimmt, sichert sich für die kommenden Jahre nachhaltiges Wachstum.   Künstliche Intelligenz ist die wichtigste Zukunftstechnologie, sagen drei Viertel der Unternehmen, die vom Branchenverband Bitkom über ihre Einstellung zu…

Sicherheit für Kinder und Jugendliche: Couragiert im digitalen Raum

TU-Projekt erforscht Risiken der Online-Interaktion bei Jugendlichen und entwickelt das Bildungsprogramm »FairNetzt« gegen Cybermobbing, Hatespeech und andere Gefahren im Netz. Kinder und Jugendliche wachsen in einer digitalen Welt auf, die neben Chancen auch erhebliche Risiken birgt, deren Folgen weit über kurzfristige negative Emotionen hinausreichen können. Das abgeschlossene Teilforschungsprojekt »Sicherheit für Kinder in der digitalen Welt«…

KI zwingt Abstriche in Sachen Hybrid-Cloud-Sicherheit zu machen

KI verursacht größeres Netzwerkdatenvolumen und -komplexität und folglich auch das Risiko. Zudem gefährden Kompromisse die Sicherheit der hybriden Cloud-Infrastruktur, weshalb deutsche Sicherheits- und IT-Entscheider ihre Strategie überdenken und sich zunehmend von der Public Cloud entfernen. Gleichzeitig gewinnt die Netzwerksichtbarkeit weiter an Bedeutung.   63 Prozent der deutschen Sicherheits- und IT-Entscheider berichten, dass sie im Laufe…

Cyberkriminalität befeuert durch KI: End-to-end-Sicherheit ist gefragt

Fast 70 Prozent der deutschen Unternehmen spüren die Auswirkungen der offensiven Nutzung künstlicher Intelligenz durch Cyberkriminelle. Doch noch fehlen den meisten die Konzepte, um den teils völlig neuartigen Bedrohungsszenarien durch KI zu begegnen. Das sind Ergebnisse des aktuellsten »State of AI Cybersecurity«-Report von Darktrace [1]. KI ermöglicht nämlich auch nur mittelmäßig ausgebildeten Angreifern raffinierte und…

Datensicherheit: KI macht Mitarbeiter zu Insider-Bedrohungen

GenAI-Daten-Uploads steigen innerhalb eines Jahres um das 30-fache; drei von vier Unternehmen nutzen Apps mit integrierten genAI-Funktionen.   Netskope, ein Unternehmen für moderne Sicherheit und Netzwerke, hat eine neue Studie veröffentlicht, die einen 30-fachen Anstieg der Daten zeigt, die von Unternehmensanwendern im letzten Jahr an generative KI-Apps (genAI) gesendet wurden [1]. Dazu gehören sensible Daten…

KI-Sicherheit beginnt bei der Architektur – DeepSeek-R1 als Warnsignal

Künstliche Intelligenz revolutioniert nicht nur Geschäftsprozesse, sondern bringt auch neue, hochkomplexe Sicherheitsrisiken mit sich. Ein aktuelles Beispiel ist DeepSeek-R1, ein KI-Modell, das mit sogenanntem Chain-of-Thought (CoT) Reasoning arbeitet. Diese Methode soll die Nachvollziehbarkeit von KI-Entscheidungen verbessern, indem sie Denkschritte explizit offenlegt. Doch genau hier liegt die Schwachstelle: Unsere aktuelle Analyse zeigt, dass Angreifer diese Transparenz…

IT 2025: Im Spannungsfeld zwischen Nachhaltigkeit, Sicherheit, KI und Geopolitik

Neben den Themen IT-Security und künstliche Intelligenz (KI) müssen sich Unternehmen in der IT im Jahr 2025 mit den aktuellen geopolitischen Entwicklungen und Nachhaltigkeit auseinandersetzen.   Für seinen jährlich erscheinenden Digital Infrastructure Report hat der Netzwerkanbieter Colt Technology Services 1.500 CIOs und IT-Verantwortliche in Europa, Nord- und Südamerika, Asien und dem Nahen Osten befragt. Der…

Trends in der Automatisierung: Sicherheit, KI und Nachhaltigkeit sind Zukunftstreiber

Cyber Resilience Act fördert umfassendere Sicherheitsmaßnahmen. Immer mehr KI-gestützte Anwendungen fließen in Automatisierungssysteme ein. Nachhaltige Produktion wird zum strategischen Ziel. Die Zukunft liegt in Ökosystemen und kollaborativen Innovationen.   Erhöhte Sicherheitsmaßnahmen, künstliche Intelligenz und mehr Nachhaltigkeit. Das sind die Automatisierungstrends aus Sicht von Bosch Rexroth für das Jahr 2025. (Bildquelle: Bosch Rexroth AG, mithilfe von…