foto freepik

Bis 2030 werden mehr als 40 % der Unternehmen Sicherheits- oder Compliance-Vorfälle durch unautorisierte Schatten-KI erleben.

Gartner hat zentrale Schwachstellen identifiziert, die aus übersehenen Risiken und unbeabsichtigten Folgen des Einsatzes generativer KI (GenAI) entstehen. CIOs sind gefordert, diese verborgenen Herausforderungen proaktiv anzugehen, um den tatsächlichen Nutzen von GenAI zu realisieren und das Scheitern von KI-Projekten zu verhindern.

»GenAI-Technologien und -Verfahren entwickeln sich in einem bislang beispiellosen Tempo, übertroffen nur vom Hype, der sie begleitet. Das macht es CIOs schwer, sich in dieser dynamischen Landschaft zurechtzufinden«, erklärt Arun Chandrasekaran, Distinguished VP Analyst bei Gartner.

Während sich Unternehmen häufig auf kurzfristige GenAI-Themen wie Geschäftsnutzen, Sicherheit oder Datenbereitschaft konzentrieren, geraten oft kritische blinde Flecken aus dem Blick. Diese Effekte zweiter oder dritter Ordnung sind auf den ersten Blick schwer zu erkennen. Risiken wie Schatten-KI, technische Schulden, Kompetenzverlust, Anforderungen an die Datenhoheit, Interoperabilitätsprobleme und Abhängigkeiten von Anbietern bilden unterschwellige Gefahrenströme, die den langfristigen Erfolg erheblich gefährden können.

Gartner prognostiziert, dass genau diese Blindspots bis 2030 den Unterschied ausmachen werden zwischen Unternehmen, die KI sicher und strategisch skalieren, und jenen, die in Abhängigkeiten geraten, den Anschluss verlieren oder sich selbst von innen heraus destabilisieren.

Um wettbewerbsfähig und widerstandsfähig zu bleiben, müssen CIOs sowohl sichtbare Herausforderungen als auch versteckte Risiken im Zusammenhang mit der Einführung von GenAI angehen und die folgenden blinden Flecken priorisieren:

Explosion von Schatten-KI

Eine Gartner-Umfrage unter 302 Cybersicherheitsleitern im Zeitraum März – Mai 2025 ergab, dass 69 % der Organisationen vermuten oder Beweise dafür haben, dass Mitarbeiter verbotene öffentliche GenAI verwenden.

Die rasche Einführung nicht genehmigter KI-Tools kann sowohl sichtbare als auch unsichtbare Auswirkungen wie IP-Verlust, Datenexposition und erhöhte Sicherheitsrisiken haben. Gartner prognostiziert, dass bis 2030 mehr als 40 % der Organisationen Sicherheits- oder Compliance-Vorfälle im Zusammenhang mit nicht autorisierter Schatten-KI erleben werden.

»Um diese Risiken zu adressieren, sollten CIOs klare unternehmensweite Richtlinien für die Nutzung von KI-Tools definieren, regelmäßige Audits für Shadow-AI-Aktivitäten durchführen und die Bewertung von GenAI-Risiken in ihre SaaS-Bewertungsprozesse integrieren«, sagte Chandrasekaran.

Technische Schulden durch KI

Gartner prognostiziert, dass bis 2030 50 % der Organisationen mit verzögerten KI-Upgrades und/oder steigenden Wartungskosten aufgrund unkontrollierter technischer Schulden durch GenAI konfrontiert sein werden.

»Unternehmen sind begeistert von der Geschwindigkeit der Lieferung von Ergebnissen durch GenAI. Die hohen Kosten für die Wartung, Reparatur oder den Ersatz von KI-generierten Artefakten wie Code, Inhalt und Design können jedoch den versprochenen Return on Investment von GenAI schmälern«, sagte Chandrasekaran. »Durch die Festlegung klarer Standards für die Überprüfung und Dokumentation von KI-generierten Assets und die Verfolgung technischer Schuldenmetriken in IT-Dashboards können Unternehmen proaktive Schritte tätigen, um kostspielige Störungen zu verhindern.«

Steigende Nachfrage nach Daten- und KI-Souveränität

Gartner prognostiziert, dass bis 2028 65 % der Regierungen weltweit einige Anforderungen an die technologische Souveränität einführen werden, um die Unabhängigkeit zu verbessern und sich vor extraterritorialen regulatorischen Eingriffen zu schützen.

Regulatorische Einschränkungen beim grenzüberschreitenden Datenaustausch oder Modellsharing können unternehmensweite KI-Einführungen verlangsamen, die Gesamtkosten des Eigentums (TCO) erhöhen und zu suboptimalen Ergebnissen führen.

Um diese Herausforderungen zu bewältigen, müssen CIOs die Datensouveränität von Anfang an in ihre KI-Strategien einbauen, indem sie frühzeitig rechtliche und Compliance-Teams einbeziehen und Anbieter priorisieren, die ihre Anforderungen an Daten- und KI-Souveränität erfüllen.

Erosion von Fähigkeiten

Die Überabhängigkeit von KI kann kritische menschliche Expertise, Urteilsvermögen und implizites Wissen, das nicht leicht kodifiziert oder ersetzbar ist, erodieren. Diese Erosion erfolgt schrittweise und bleibt oft unbemerkt, sodass CIOs das Risiko möglicherweise nicht erkennen, bis die Organisation ohne KI nicht mehr funktionsfähig ist oder wenn KI in Randfällen, die menschliche Intuition erfordern, versagt.

»Um den schrittweisen Verlust des Unternehmensgedächtnisses und der Fähigkeiten zu verhindern, sollten Organisationen identifizieren, wo menschliches Urteilsvermögen und Handwerkskunst unerlässlich sind, und KI-Lösungen so gestalten, dass sie diese Fähigkeiten ergänzen, nicht ersetzen«, sagte Chandrasekaran.

Ecosystem Lock-In und Interoperabilität

Organisationen, die das Potenzial von GenAI in großem Maßstab nutzen möchten, wählen aus Gründen der Geschwindigkeit und Einfachheit oft einen einzigen Anbieter. Diese tiefe Abhängigkeit kann die technische Agilität eines Unternehmens und die zukünftige Verhandlungsmacht bei Preisen, Bedingungen oder Servicelevels beeinträchtigen.

Viele CIOs unterschätzen, wie eng ihre Daten, Modelle oder Workflows an anbieter-spezifische APIs, Datenbanken und Plattform-Tools gebunden werden.

»Die Priorisierung offener Standards, offener APIs und modularer Architekturen im KI-Stack-Design hilft Unternehmen, Anbieterabhängigkeiten zu vermeiden«, sagte Chandrasekaran. »Darüber hinaus müssen CIOs Interoperabilität zu einem Standard in GenAI-Piloten und -Bewertungen machen.«

Gartner-Kunden können mehr in »Generative AI’s Invisible Undercurrents: 10 Blind Spots CIOs Aren’t Watching but Should« lesen. https://www.gartner.com/en/articles/ai-strategy-for-business

4426 Artikel zu „KI Risiken“

News | Effizienz | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | New Work | Strategien | Tipps

Die Risiken und Vermeidung von Schatten-KI

13. November 2025

Schatten-KI, ähnlich wie Schatten-IT, bezieht sich auf die ungeprüfte und dezentrale Nutzung von KI-Diensten durch Mitarbeitende außerhalb der offiziellen IT-Prozesse. Während dies schnelle Produktivitätsgewinne bringen kann, birgt es erhebliche Risiken für Sicherheit, Compliance, Datenqualität und Betriebsstabilität. Haupt-Risiken Datenlecks und Datenschutzverletzungen: Hochsensible Daten wie Kundendaten, interne Strategien oder personenbezogene Informationen (PII) können in externe Modelle oder…