Künstliche Intelligenz ist den Kinderschuhen entwachsen. KI-Agenten – autonome Systeme, die planen, entscheiden und handeln – greifen in operative Geschäftsprozesse ein. Sie steuern Lieferketten, bewerten Kreditrisiken, priorisieren Serviceanfragen und optimieren Produktionsabläufe. Die Effizienzgewinne: kürzere Reaktionszeiten, präziserer Ressourceneinsatz oder automatisierte Entscheidungsketten. Doch mit der Autonomie wachsen Verantwortung und Angriffsfläche.

Die regulatorische Antwort auf diese Entwicklung ließ nicht lange auf sich warten: Mit dem EU AI Act, der NIS2-Richtlinie sowie sektorspezifischen Regeln wie DORA für Finanzdienstleister wird die Forderung nach einem nachweislich kontrollierten Einsatz von KI-Systemen zu einer zentralen Compliance-Aufgabe für die Enterprise-IT.

KI braucht eigene Sicherheitsstrategie.

Warum Gesetzgeber in Europa das Tempo verschärfen, liegt in der Natur von autonomen KI-Systemen. Sie agieren nicht in einem abgeschlossenen Raum. Vielmehr benötigen sie Zugriff auf Datenbanken, Schnittstellen und Umsysteme. Damit eröffnen sie Angriffsvektoren, die in klassischen IT-Sicherheitskonzepten nicht vorgesehen sind. Beispiel Prompt Injection: Dabei handelt es sich um eine Methode, bei der manipulierte Eingaben das Modellverhalten gezielt umlenken. Hinzu kommen Data Poisoning – die Vergiftung von Trainingsdaten – fehlerhafte Modellergebnisse, die unbemerkt in kritische Prozesse einfließen, und die grundsätzlich eingeschränkte Nachvollziehbarkeit von Entscheidungen in komplexen neuronalen Netzen. Kurz: Wer autonome Systeme betreibt, benötigt Sicherheitskonzepte, die über Perimeterschutz und Endpoint Security hinausgehen.

Open Weights: Wirklich souverän.

Oft gelten deshalb offene Modelle als Gegenentwurf zu den geschlossenen Systemen der großen Anbieter. Allerdings macht die Offenlegung der Modellgewichte ein neuronales Netz mit Milliarden von Parametern nicht transparent. Das Modell bleibt eine Black Box, weil auch mit zugänglichem Quellcode nicht im Detail klar wird, warum es zu einer bestimmten Entscheidung gelangt. Von einer Auditierbarkeit der KI im eigentlichen Sinne kann somit keine Rede sein.

Der tatsächliche Wettbewerbsvorteil offener Modelle liegt anderswo: im souveränen Betrieb. Unternehmen, die ein Open-Weights-Modell in einer kontrollierten Infrastruktur betreiben, behalten die Hoheit über ihre Daten und ihr geistiges Eigentum. Dabei handelt es sich um einen dedizierten Container auf zertifizierter Hardware im deutschen Rechtsraum. Hier fließen Trainingsdaten weder an Drittanbieter ab, noch entstehen Abhängigkeiten von Inferenzschnittstellen, deren Betriebsbedingungen sich jederzeit ändern können. Governance verschiebt sich damit von der kaum lösbaren Aufgabe, das Modell selbst zu durchleuchten, hin zu einer beherrschbaren Disziplin: der Kontrolle über die Betriebsumgebung.

Die Infrastruktur entscheidet über die Sicherheit.

Zudem hängt die Sicherheit eines KI-Systems nicht allein vom Modell ab. Entscheidend ist, wo und wie es betrieben wird: in welchem Rechtsraum die Daten verarbeitet werden, wer physischen und logischen Zugriff auf die Infrastruktur hat und ob die Betriebsumgebung den regulatorischen Anforderungen genügt. Gerade in verteilten Architekturen mit Cloud-, SaaS- und Edge-Komponenten muss Sicherheit in die gesamte Architektur eingewoben sein – nicht an einem einzelnen Kontrollpunkt festgemacht. noris network setzt diesen Anspruch in einem durchgängigen Infrastrukturkonzept um: von Hochleistungs-Housing für GPU-Server über dedizierte GPU-Cluster als Managed Service bis hin zu souveränen Cloud-Plattformen – darunter die quelloffene noris Sovereign Cloud und die VMware-basierte noris Enterprise Cloud, beide BSI C5 testiert und in deutschen Hochsicherheitsrechenzentren betrieben. Ein eigenes Security Operations Center überwacht die gesamte Umgebung und liefert Angriffserkennung sowie Incident Response dort, wo KI-spezifische Angriffsmuster herkömmliche Schutzmechanismen unterlaufen.

Security über alle Schichten hinweg.

Und weil in verteilten Infrastrukturen kein einzelner Schutzwall genügt, hat der Anbieter Sicherheitsfunktionen in sämtliche Ebenen der IT-Architektur integriert. Das beginnt mit der physischen Rechenzentrumssicherheit nach EN 50600 und ISO 27001, setzt sich in der Netzwerksegmentierung und Verschlüsselung fort und endet in einem aktiven Monitoring durch das Security Operations Center. Für KI-basierte Anwendungen bedeutet das konkret: Auch die Schnittstellen, über die KI-Agenten auf Daten und Systeme zugreifen, sind in dieses durchgängige Sicherheitskonzept eingebunden. Modellzugriffe werden protokolliert, API-Endpunkte durch mehrschichtige Authentifizierung abgesichert und selbstverständlich werden keinerlei Nutzdaten persistent gespeichert. So entsteht eine Sicherheitsarchitektur, die Bedrohungen antizipiert.

Leistungsdichte und Nachhaltigkeit im Einklang.

KI-Workloads zählen zu den energieintensivsten Anwendungen moderner IT. Das Training großer Sprachmodelle und der Betrieb von Inferenz-Clustern treiben den Stromverbrauch in Dimensionen, die eine verantwortungsvolle Standortwahl und ein durchdachtes Energiekonzept erfordern. noris network begegnet dieser Herausforderung mit einem konsequent nachhaltigen Betriebsmodell: Sämtliche Rechenzentren werden mit 100 Prozent regenerativer Energie versorgt, zertifiziert nach ISO 14001 und ISO 50001. Unternehmen, die ihre KI-Workloads bei noris network betreiben, können die entsprechenden Verbräuche in ihrer Scope-2-Bilanz als CO₂-reduziert ausweisen. Ergänzt wird dieses Nachhaltigkeitskonzept durch umfassende Zertifizierungen: ISO 27001 inklusive BSI-Grundschutz, EN 50600 und BSI C5 Typ 2.

Unbestritten ist: Wer KI dauerhaft sicher und verantwortungsvoll betreiben will, braucht mehr als ein leistungsfähiges Modell. Voraussetzung ist eine Infrastruktur, die Souveränität, Sicherheit und Skalierbarkeit vom GPU-Rack bis zum Sprachmodell, vom Security Operations Center bis zur souveränen Cloud vereint.

Dominik Schön,
Executive Senior Manager
bei noris network AG

Illustration: © Vladimir Yudin, Ns Creations | Dreamstime.com

1254 Artikel zu „KI-Agenten Sicherheit“

News | IT-Security | Künstliche Intelligenz | Services

KI-Agenten brauchen Identitäten – sonst werden sie zum Sicherheitsrisiko

9. Juli 2026

KI-Agenten ziehen in Unternehmen ein – oft schneller, als IT- und Security-Teams sie kontrollieren können. Im Gespräch mit manage it erklärt Sven Kniest, Vice President Central and Eastern Europe bei Okta, warum KI-Governance ohne kontinuierliche Identitätsprüfung ins Leere läuft und weshalb digitale Identitäten zur Voraussetzung für sichere Agentic Enterprises werden. Die manage it traf…