KI-Sicherheit wird zur Führungsaufgabe – Verantwortung durch Design als neuer Standard

Künstliche Intelligenz ist zum operativen Nervensystem moderner Unternehmen geworden – und gleichzeitig zu einer neuen, schwer kontrollierbaren Angriffsfläche. Der Artikel zeigt, dass klassische IT‑Security‑Modelle nicht ausreichen, weil KI‑Systeme nicht wie traditionelle Software reagieren: Sie brechen nicht sichtbar, sondern lassen sich subtil manipulieren, vergiften oder über Schnittstellen aushebeln. Bedrohungen entstehen entlang des gesamten KI‑Lebenszyklus – von Daten über Modelle bis zur Inferenz. Unternehmen müssen daher Sicherheit vor der Entwicklung denken und KI wie kritische Infrastruktur behandeln: überprüfbar, nachvollziehbar, geschützt und mit klarer Governance. »Responsible by Design« wird damit zum strategischen Wettbewerbsvorteil, weil Vertrauen, Integrität und Resilienz künftig über den Erfolg von KI‑Initiativen entscheiden.

KI wird zur Angriffsfläche – Manipulierte Daten, kompromittierte Modelle und Inferenzangriffe bedrohen die Integrität geschäftskritischer KI‑Systeme.
Bedrohungen entstehen entlang des gesamten Lebenszyklus – Datenvergiftung, versteckte Modell‑Backdoors und unsichtbare Prompt‑Injection erfordern neue Sicherheitsmechanismen.
Sicherheit muss »by Design« erfolgen – Herkunftsverfolgung, Modell‑Signierung, Reproduzierbarkeit und adversarielle Tests werden Pflichtbestandteile.
Governance rückt in den Vorstand – Verantwortlichkeiten für Trainingsdaten, Modellabschaltungen und Risikoentscheidungen müssen klar geregelt sein.
Vertrauen wird zum Wettbewerbsvorteil – Unternehmen, die KI überprüfbar, robust und erklärbar gestalten, setzen den Maßstab für vertrauenswürdige KI.

Künstliche Intelligenz ist zum Nervensystem moderner Unternehmen geworden – und zugleich zu einer neuen Angriffsfläche für Cyberkriminelle, die Daten, Modelle und Schnittstellen gezielt manipulieren. KI-Sicherheit ist heute strategische Führungsaufgabe und »Verantwortung durch Design« zum entscheidenden Wettbewerbsvorteil für vertrauenswürdige KI.

Künstliche Intelligenz ist zentraler Bestandteil moderner Unternehmen. Sie prognostiziert die Nachfrage, bevor die Märkte reagieren, genehmigt Kredite in Millisekunden, erkennt Cyberanomalien, die Menschen nicht entdecken könnten, und generiert Erkenntnisse, die Entscheidungen beeinflussen. Da KI-Systeme sich jedoch von isolierten Pilotprojekten zu geschäftskritischer Infrastruktur entwickeln, verändert sich auch ihr Status: von einem Vermögenswert zu einer Angriffsfläche.

Cyberkriminelle nutzen Schwachstellen in der KI, um die unsichtbare Logik zu manipulieren. Im Gegensatz zu herkömmlichen Systemen bricht die KI nicht immer mit einer Fehlermeldung zusammen. Sie lässt sich subtil beeinflussen oder in die Irre, ohne dass eine einzige Firewall dies erkennt.

Wo beginnen die Bedrohungen?

KI lernt aus den Informationen, die sie erhält. Aber was ist, wenn diese Daten vergiftet sind? Beispielsweise kann ein Empfehlungssystem aufgrund manipulierter Bewertungen beginnen, Fälschungen anstatt Originalprodukte anzubieten. Einige gut platzierte, vergiftete Proben bauen subtile Hintertüren ein. Werden diese Bedingungen ausgelöst, verhält sich das Modell so, wie vom Angreifer beabsichtigt.

Schutzmaßnahmen für diese Phase sind die Herkunftsverfolgung (um die Datenherkunft zu verfolgen), Einflussfunktionen (um Ausgabeverzerrungen bis zu den Daten zurückzuverfolgen) und Datenvalidierungspipelines mit Anomalie-Erkennung. Techniken wie Label-Konsistenzprüfungen, Ausreißererkennung und Einflussverfolgung können Anomalien identifizieren, bevor sie systemisch werden.

Die Modelle lassen sich für Cyberangriffe einsetzen

Nach dem Training ist das Modell selbst in Gefahr. Einige Unternehmen nutzen vorab trainierte Modelle oder lagern das Training aus. Werden diese jedoch kompromittiert, bestehen sie alle Standardvalidierungen, verbergen aber gleichzeitig böswillige Verhaltensweisen unter der Oberfläche.

Denn Modelle verhalten sich so lange normal, bis sie durch eine obskure Phrase oder eine seltene Bedingung ausgelöst werden. In diesem Moment produzieren sie verzerrte, falsche oder gefährliche Ergebnisse – und kompromittieren so die Sicherheit der KI-Lieferkette.

Die Abwehr besteht aus Modell-Fingerprinting und -Signierung, Reproduzierbarkeitsvalidierung und Sandbox-basierte Adversarial-Tests vor der Bereitstellung. Unternehmen sollten Modelle wie hochwertige digitale Verträge behandeln: unveränderlich, überprüfbar und über ihren gesamten Lebenszyklus hinweg erklärbar.

Die Schnittstelle ist die neue Frontlinie

Selbst wenn die Daten sauber und das Modell sicher sind, nutzen Angreifer nun die Art und Weise aus, wie KI Eingaben erhält. In generativen KI-Tools betten Cyberkriminelle beispielsweise unsichtbare Eingabeaufforderungen in Dokumente ein und bringen so die Modelle dazu, vertrauliche Zusammenfassungen preiszugeben oder Rollenbeschränkungen zu umgehen. Diese Inferenzangriffe nehmen rapide zu.

Unternehmen begegnen diesen Angriffen mit kontextbezogenen Eingabeaufforderungen, Eingabesegmentierung, Ausgabefilterung und Laufzeitprotokollierung von Anomalien im Einbettungsraum. Zu den fortgeschrittenen Implementierungen gehören ratenbegrenzende Inferenz-APIs, Sandboxing-Ausgaben nach Benutzerrolle und die Erkennung von Eingabeaufforderungsmanipulationen, die Anweisungen über Interaktionen hinweg verketten.

Feedback-Schleifen als Angriffsvektoren

KI-Systeme aktualisieren sich auf Basis von Benutzerinteraktionen, markieren Muster anhand von Klicks oder verfeinern die Ausgaben auf der Grundlage von Feedback. Es gab jedoch Fälle, in denen koordinierte Benutzerinteraktionen Empfehlungsmaschinen so neu trainierten, dass sie schädliche, extreme oder unethische Inhalte anzeigten. Eine langsame, stille Korrosion der Modellausrichtung durch manipulierte Signale ist die Folge.Um dieses Feedback-Loop-Poisoning zu verhindern, sind Human-in-the-Loop-Verstärkung, geschützte Umschulungs-Workflows und Prüfpfade erforderlich, die die Herkunft von Verhaltensänderungen verfolgen. KI-Systeme sollten niemals ohne Aufsicht selbstständig aktualisiert werden. Die Drift-Überwachung muss über die Leistung hinausgehen und messen, ob sich das Modell noch im Rahmen der Absicht, Ethik und Richtlinien verhält, für die es entwickelt wurde.

Sicherheit als Strategie

Die Absicherung von KI kann nicht nachträglich erfolgen. Die Systeme sind zu zentral und die Folgen zu real. Wenn KI versagt, ist dies nicht nur technischer Natur, sondern existenziell: Vertrauen bricht zusammen und Kunden wandern ab. Regulierungsbehörden stellen schwierige Fragen.

Aus diesem Grund verfolgen zukunftsorientierte Unternehmen eine Philosophie der »Verantwortung durch Design« (Responsible by Design). Sie integrieren kryptografische Sicherheiten für die Modellintegrität, simulieren feindseliges Verhalten, um Abwehrmechanismen zu testen, und prüfen ihre synthetischen und realen Datenquellen rigoros. Darüber hinaus setzen sie Tools zur Erklärbarkeit ein, um Modelle für Menschen verständlich zu machen und nicht nur leistungsfähig in Bezug auf Metriken.

Vor allem bedeutet dies, die Governance zu überdenken. Wer ist im Unternehmen für KI-Risiken verantwortlich? Wer genehmigt das Schema für die Trainingsdaten? Wer hat das Recht, ein Modell mitten in einer Entscheidung abzuschalten? Das sind jetzt Fragen für die Vorstandsetage, nicht mehr für Backend-Engineering-Tickets.

Vertrauen: der neue Wettbewerbsvorteil

In den kommenden Jahren werden Unternehmen nicht mehr nur darum konkurrieren, wie schnell sie KI einsetzen können oder ob sie über die besten Modelle verfügen. Der Unterschied ist dann, KI zu verteidigen und sie zuverlässig, überprüfbar und widerstandsfähig zu machen.

Die größte Stärke der KI ist ihre Lernfähigkeit. Gleichzeitig ist dies aber auch ihre Schwäche: Denn so kann sie auch falsche Dinge lernen. Unternehmen, die KI nicht als Automatisierungsmaschine, sondern als ein System betrachten, das mit jeder Aktion Vertrauen verdienen muss, setzen den Maßstab für vertrauenswürdige KI.

Balakrishna DR (Bali),
EVP – Global Services Head,
AI and Industry Verticals,
Infosys

Illustration: © Davidgra | Dreamstime.com

324 Artikel zu „KI-Sicherheit“

News | IT-Security | Kommentar | Künstliche Intelligenz

KI-Sicherheit beginnt bei der Architektur – DeepSeek-R1 als Warnsignal

3. März 2025

Künstliche Intelligenz revolutioniert nicht nur Geschäftsprozesse, sondern bringt auch neue, hochkomplexe Sicherheitsrisiken mit sich. Ein aktuelles Beispiel ist DeepSeek-R1, ein KI-Modell, das mit sogenanntem Chain-of-Thought (CoT) Reasoning arbeitet. Diese Methode soll die Nachvollziehbarkeit von KI-Entscheidungen verbessern, indem sie Denkschritte explizit offenlegt. Doch genau hier liegt die Schwachstelle: Unsere aktuelle Analyse zeigt, dass Angreifer diese Transparenz…

Jetzt 25 % Ticketrabatt für »manage it« Leser