foto magnific

Mehrschichtige Sicherheitsstrategien können helfen, Bedrohungen durch Prompt-Injection-Angriffe, Deepfakes und Kompromittierung von KI-Anwendungen und Software-Lieferketten abzuwehren.

Gartner, ein Unternehmen für Wirtschafts- und Technologieanalysen, hat vier kritische und schwer vorhersehbare Bedrohungen identifiziert, bei denen Angreifer derzeit einen deutlichen Vorteil haben und Schwachstellen in Unternehmen besonders erfolgreich ausnutzen können. Dazu zählen Deepfakes, die Kompromittierung von KI-Anwendungen, Prompt-Injection-Angriffe sowie Risiken in Software-Lieferketten.

Das Gartner ThreatScape ordnet Bedrohungen anhand von zwei Dimensionen sechs unterschiedlichen Kategorien zu:

Unterscheidung von Bedrohungen nach Qualität und Umfang der verfügbaren Informationen (»Bedrohungssignal«)
Bewertung von Bedrohungen anhand der organisatorischen Fähigkeit, ihnen wirksam zu begegnen, sowie der Frage, ob Angreifer oder Verteidiger im Vorteil sind

»Sicherheitsinitiativen führender KI-Anbieter erzeugen zusätzliche Aufmerksamkeit in einer ohnehin komplexen und dynamischen Bedrohungslandschaft«, sagte John Watts, VP Analyst bei Gartner. »Verantwortliche für Cybersicherheit müssen in der Lage sein, die relevanten Bedrohungssignale aus dieser Informationsflut herauszufiltern, um Veränderungen in der Bedrohungslage frühzeitig zu erkennen und angemessen darauf reagieren zu können.«

»Die Sicherheitsinitiativen führender KI-Unternehmen sorgen in einer ohnehin komplexen Bedrohungslandschaft für zusätzliche Unübersichtlichkeit«, sagte John Watts, VP Analyst bei Gartner. »Verantwortliche für Cybersicherheit müssen die entscheidenden Bedrohungssignale aus diesem Rauschen herausfiltern, um Veränderungen in der Bedrohungslage frühzeitig zu erkennen und angemessen darauf reagieren zu können.«

Watts erläuterte, wie CISOs diesen vier kritischen Bedrohungen begegnen können.

Kompromittierung von KI-Anwendungen

Die Kompromittierung von KI-Anwendungen zählt zu den besonders kritischen Bedrohungen, da Angreifer verstärkt produktionsreife, öffentlich zugängliche und interne KI-Tools in Unternehmen ins Visier nehmen. Die Angriffsfläche umfasst inzwischen eigens entwickelte Agenten, Integrationen von Drittanbietern und rein interne Anwendungen. Fehlen angemessene Schutzmechanismen, können dabei sensible Daten oder Zugangsdaten offengelegt werden.

»Cybersicherheitsteams müssen ihre Programme über den klassischen Softwareschutz hinaus erweitern und auch neue Angriffsflächen berücksichtigen, die durch GenAI-Modelle oder agentische Werkzeuge entstehen«, sagte Watts. »Das Gartner-Framework für Trust, Risk and Security Management (TRiSM) hilft dabei zu erkennen, an welchen Stellen KI-spezifische Gegenmaßnahmen gezielt in die Entwicklung von KI-Anwendungen integriert werden sollten.«

Die Absicherung von KI-Anwendungen erfordert jedoch nicht zwangsläufig einen Neuanfang. Zahlreiche spezialisierte Anbieter im Bereich KI-Sicherheit stellen mit wachsender Reife der Unternehmen zunehmend umfassende Lösungen bereit. Um dieser Bedrohung zu begegnen, sollten CISOs bewährte Methoden aus Secure Development Lifecycle und Threat Modeling konsequent auf KI-Anwendungen übertragen. Darüber hinaus empfiehlt es sich, die Datensicherheit durch eine präzisere Datenklassifizierung, zweckgebundene Zugriffskontrollen (PBAC) und ein Laufzeit-Monitoring zu stärken.

Identitätsvortäuschung mithilfe von Deepfakes

Mit dem Aufkommen von GenAI haben Umfang, Qualität und Zugänglichkeit von Deepfakes in Sprache, Video und Bild deutlich zugenommen – sowohl bei vorab aufgezeichneten Inhalten als auch bei Echtzeitmanipulationen. Dadurch eröffnen sich Angreifern neue Möglichkeiten, Identitäten über unterschiedlichste Angriffsflächen hinweg vorzutäuschen. Deepfakes können genutzt werden, um biometrische Authentifizierungsverfahren zu kompromittieren, Social-Engineering-Angriffe in Echtzeit zu unterstützen oder Rekrutierungsprozesse zu unterwandern.

»Der Einsatz von Deepfakes durch Angreifer entwickelt sich rasant weiter und ist inzwischen weit verbreitet, sodass Betrug und Phishing immer schwerer zu erkennen sind«, sagte Watts. »Eine einzelne Cybersicherheitsmaßnahme bietet hier keinen vollständigen Schutz. Unternehmen sollten deshalb auf eine Kombination aus robusteren Prozessen, mehr Sensibilisierung und – wo möglich – verfügbaren Technologien zur Deepfake-Erkennung setzen.«

Cybersicherheitsteams sollten daher über die reine Deepfake-Erkennung hinausgehen und ihre Kontrollen so stärken, dass die Integrität von Echtzeitkommunikation sowie biometrischen Authentifizierungs- und Verifizierungsprozessen geschützt wird. Dabei sind insbesondere folgende Maßnahmen relevant:

Eine belastbare Gegenstrategie entwickeln und anerkennen, dass Deepfake-Erkennung allein nicht ausreicht, um Angriffe auf Basis gefälschter Identitäten zuverlässig zu erkennen und zu verhindern. Stattdessen sollten mehrere, je nach Anwendungsfall abgestimmte Schutzebenen etabliert werden.
Die biometrische Identitätsprüfung absichern, indem neben kontextbezogenen Signalen auch die Erkennung von Präsentations- und Injektionsangriffen berücksichtigt wird.
Online-Meetings absichern, indem Richtlinien für bedingten Zugriff eingeführt werden, die eine starke Authentifizierung der Teilnehmenden und die Auswertung relevanter Metadaten aus Anrufen sicherstellen.

Bedrohungen in der Software-Lieferkette

»Die Weiterentwicklung von GenAI-Angeboten wird den Trend zu Angriffen auf die Software-Lieferkette über Schwachstellen in Open-Source-Software weiter beschleunigen«, sagte Watts. »Unternehmen sollten deshalb vertrauenswürdige Komponentenregister aufbauen, ihre CI/CD-Pipelines härten und leistungsfähige Mechanismen zur Erkennung und Reaktion auf operative Anomalien etablieren.«

Cybersicherheitsteams sollten umfassende Verzeichnisse ihrer Software-Assets aufbauen und gleichzeitig in jeder Entwicklungsphase wirksame Kontrollen verankern. So lassen sich aufkommende Bedrohungen besser abwehren, die sowohl klassische Anwendungen als auch moderne KI-gestützte Pipelines betreffen. Vor diesem Hintergrund sollten CISOs:

von allen Anbietern SBOMs (und AIBOMs) verlangen und jede Komponente vor der Bereitstellung mithilfe aktueller Bedrohungsinformationen auf Risiken bewerten.
kuratierte Repositorien für Drittanbieter-Code, Container-Images und KI-Modelle nutzen sowie Branch-Schutz für Code-Repositorien durchsetzen.
Artefakte während des Build-Prozesses signieren, Zugriffe auf Build-Systeme nach dem Prinzip der geringsten Rechte beschränken und die Laufzeitaktivitäten agentischer Werkzeuge kontinuierlich überwachen.

Prompt-Injection

Prompt Injection ist eine Cybersicherheitsbedrohung, die gezielt auf KI-Systeme abzielt – insbesondere auf Anwendungen mit großen Sprachmodellen (LLMs). Dabei manipulieren Angreifer Eingaben so, dass das Modell sein Verhalten verändert, sensible Informationen preisgibt, unbefugte Aktionen ausführt oder Schutzmechanismen umgeht. Mit der zunehmenden Einführung von GenAI in Unternehmen steigt auch das Risiko solcher Angriffe, wodurch Prompt Injection zu einer zentralen Herausforderung für Cybersicherheitsteams wird.

Um Bedrohungen durch Prompt Injection wirksam zu begegnen, sollten Cybersicherheitsteams auf eine mehrschichtige Gegenstrategie setzen. Dazu gehören KI-Sicherheitstests zur proaktiven Identifikation von Schwachstellen, robuste System-Prompts zur Steuerung des KI-Verhaltens sowie Laufzeitschutzmechanismen, die verdächtige Aktivitäten überwachen und blockieren. Zu den wichtigsten Maßnahmen für CISOs zählen:

eine Eingabevalidierung und -bereinigung implementieren, um potenziell schädliche Prompts frühzeitig herauszufiltern.
Monitoring und Warnmechanismen für ungewöhnliches KI-Verhalten einrichten, das auf eine erfolgreiche Prompt Injection hinweisen könnte.
Tests auf Prompt Injection in den Entwicklungslebenszyklus von KI-Systemen integrieren.
die Ergebnisse dieser Tests nutzen, um Laufzeitkontrollen gezielt weiterzuentwickeln.

Weitere Informationen finden Sie hier. https://www.gartner.com/en/ai

5027 Artikel zu „Cybersicherheit“

News | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | Services | Tipps

Cybersicherheit: Lohnt sich der KI-Aufwand für kleine Sicherheitsteams?

13. Mai 2026

Kurzfazit KI bringt Nutzen, wenn sie konkrete Engpässe adressiert (z. B. Priorisierung, Triage, Mustererkennung) und sauber in Prozesse eingebettet ist. Viele »KI«-Funktionen erzeugen sonst vor allem Zusatzaufwand: neue Workflows, mehr Komplexität und mehr Pflegebedarf. Für KMU sind zwei Wege realistisch: gezielte Integration in die eigene Security-Toolchain oder Auslagerung an einen MDR-Anbieter – jeweils mit klaren Prüffragen…