Illustration Absmeier foto freepik

KI-Agenten (engl. »AI agents«) erobern die Arbeitswelt, doch der Hype birgt auch Gefahren. Während Unternehmen weltweit auf diese Technologie setzen, zeigt sich: Schnelligkeit geht oft zu Lasten der Sicherheit. Nach einer aktuellen IBM-Studie sehen Unternehmen KI-Agenten nicht länger als Experiment, sondern als unverzichtbaren Bestandteil ihrer digitalen Transformation [1]. Führungskräfte erwarten bis 2025 einen achtfachen Anstieg von KI-gestützten Arbeitsabläufen. Sie versprechen sich davon eine höhere Prozesseffizienz, sinkende Kosten und veränderte Workflows. Bereits 69 Prozent der Führungskräfte sehen in der verbesserten Entscheidungsfindung den größten Nutzen von KI-Agenten.

Doch ihre wachsende Bedeutung geht mit erheblichen Risiken einher. Eine Analyse von Palo Alto Networks zeigt, dass drei von vier laufenden agentenbasierten KI-Projekten erhebliche Sicherheitsprobleme bergen. Der Grund liegt weniger im Code, sondern in fehlender Governance. In über 3.000 Gesprächen mit europäischen Führungskräften wurde deutlich, dass viele Projekte ohne klare Zieldefinitionen, verbindliche Kontrollmechanismen oder abgestimmte Sicherheitsrichtlinien gestartet werden. Doch welche Risiken stehen im Zentrum? Und wie können Unternehmen ihnen begegnen?

Hier ein Überblick:

Fehlende Zieldefinition: Wenn Projekte ins Leere laufen

Viele Unternehmen beginnen ihre agentenbasierten KI-Initiativen mit der Technologie, nicht mit den Zielen. Projekte starten, ohne zuvor messbare Geschäftsziele oder Risikogrenzen festzulegen. Dieser »Outcome Drift« führt zu Abweichungen, unklaren Verantwortlichkeiten und steigenden Budgets, während der Mehrwert ausbleibt. Laut Gartner drohen bis 2027 etwa 40 Prozent der Projekte abgebrochen zu werden, weil keine klaren Zielsetzungen vorhanden sind [2].

Der Ansatz muss sein, Projekte rückwärts zu denken. Nur wenn Unternehmen zu Beginn zwei bis drei konkrete, vom Vorstand genehmigte Ziele festlegen, lassen sich Investitionen steuern und Risiken begrenzen. Ausgehend von gewünschten Ergebnissen und Benchmarks wird die Architektur von KI-Agenten so entwickelt, dass jede Handlung einer autorisierten Identität mit dokumentiertem Zweck zugeordnet werden kann. Dadurch entstehen weniger blinde Flecken und Projekte bleiben steuerbar.

Zu weit gefasste Berechtigungen: Wenn Agenten mehr dürfen, als sie sollten

Ein häufiges Problem in der Praxis ist die Vergabe übermäßiger Zugriffsrechte. Agenten erhalten volle Systemrechte oder unzureichend überwachte Berechtigungen. Das ist vergleichbar damit, einem Praktikanten uneingeschränkten Zugang zu allen Unternehmenssystemen zu geben – es erhöht das Risiko unnötig und entspricht nicht dessen Aufgabenfeld. Dieses Vorgehen öffnet Angreifern Tür und Tor.

Abhilfe schaffen Leitplanken, die von Beginn an in die Planung und das Design eingebaut werden. Jede Handlung muss klar autorisiert, nachvollziehbar und im Zweifel durch einen Menschen überprüft werden.

Dazu zählen Zero-Trust-Prinzipien, Identitäts- und Privilegientrennung sowie Kontrollen von untergeordneten Agenten. Kurzlebige Zugangsdaten, mehrstufige Authentifizierung und eine strikte Trennung von Berechtigungen verhindern Kontrollverlust. Ebenso zum Fundament gehören dabei Aktionsprotokolle und kontinuierliche Überwachung. Grundsätzlich gilt: Unternehmen sollten Agenten wie eigenständige Identitäten behandeln. So wird blindes Vertrauen durch sorgfältige Kontrolle ergänzt.

Governance-Lücken: Wenn wichtige Akteure außen vor bleiben

Das dritte Risiko ist fehlende Governance. Noch immer betrachten viele Unternehmen agentenbasierte KI als isoliertes IT-Projekt. Bereiche wie Recht, Betrieb, Compliance oder Risikomanagement werden erst spät einbezogen – oder gar nicht. So entstehen Schattenprojekte, Verantwortlichkeiten bleiben unklar und die Sicherheit gerät ins Hintertreffen.

Palo Alto Networks empfiehlt daher die Einrichtung eines »Governance Council«. Dieses funktionsübergreifende Gremium soll klare Entscheidungsrechte besitzen, regelmäßig an den Vorstand berichten und verbindliche Standards setzen. Governance wird so zur Grundlage, die Projekte widerstandsfähig, regelkonform und strategisch abgestimmt macht. Unternehmen, die frühzeitig alle relevanten Akteure einbinden und diese Strukturen fest im Board verankern, schaffen damit nicht nur Sicherheit, sondern auch die Basis für eine langfristig erfolgreiche Implementierung von KI-Agenten.

Best Practices

Um agentenbasierte KI-Projekte sicher aufzusetzen, sollten Unternehmen bereits im nächsten Quartal folgende Maßnahmen prüfen:

Governance

Ein »Agentic Governance Council« einrichten und Verantwortlichkeiten klar festlegen
Ein zentrales Register führen, das alle Agenten, Datenzugriffe und Verantwortliche dokumentiert
Vor dem Go-live realistische Szenarien und Stresstests («Premortems«) durchführen

Zieldefinitionen

Pro Anwendungsfall messbare Ziele definieren und Risiken mit Grenzwerten versehen
Kritische, irreversible Entscheidungen grundsätzlich einem Menschen vorbehalten
Jede Aktion einer autorisierten Identität mit klar dokumentiertem Zweck zuordnen

Schutzmechanismen

Sichtbarkeit und Kontrolle bei KI-Applikationen
Identitäten von Menschen, Systemen und Agenten unter einer einheitlichen Sicherheitsrichtlinie verwalten
Zugriffsrechte strikt nach dem Prinzip »Least Privilege« vergeben und regelmäßig erneuern
Ein kontinuierliches Monitoring etablieren und Menschen in kritische Freigaben einbinden

Ohne klare Zieldefinition, Berechtigungsgrenzen, Leitplanken und automatisierte Kontrollmechanismen drohen bestehende Schwachstellen in Netzwerk-, Cloud- und SaaS-Umgebungen noch verstärkt zu werden. »Die Ergebnisse machen deutlich, dass es bei KI-Agenten nicht um reine Technik geht, sondern um die richtigen Rahmenbedingungen«, so Thomas Maxeiner, Director Technical Solutions bei Palo Alto Networks. »Von Anfang an müssen Governance, klare Zielsetzungen und sichere Identitätskontrollen mitgedacht werden. Nur so lassen sich Innovation und Sicherheit in Einklang bringen.«

[1] https://de.newsroom.ibm.com/IBM-Studie-Unternehmen-betrachten-KI-Agenten-als-unverzichtbar-und-nicht-nur-experimentell

[2] https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027

Verantwortungsbewusster Einsatz von KI-Agenten: Maßnahmen und Empfehlungen

1. Oktober 2025

Illustration Absmeier foto freepik ki

Es gibt mehr Herausforderungen und Risiken, die mit der Einführung von KI-Agenten in Unternehmen verbunden sind, als bisher angenommen. Gerade Unternehmen, die bereits KI-Agenten einsetzen, haben ein höheres Bewusstsein für die damit verbundene Management-Komplexität, und erkennen, dass diese Komplexität oft die verfügbaren Mitarbeiterressourcen übersteigt. Ohne klare Governance, Ressourcenplanung und Transparenz drohen erhebliche Risiken wie Überlastung, Sicherheitslücken und Kontrollverlust. Konkrete Maßnahmen für einen verantwortungsbewussten Einsatz von KI-Agenten helfen, diese Risiken zu minimieren.

Unternehmen, die bereits KI-Agenten einsetzen, zeigen ein größeres Bewusstsein für die bevorstehenden Management-Herausforderungen. Unter den von PagerDuty Befragten, deren Unternehmen nur einen KI-Agenten einsetzen, sind 67 % der Meinung, dass die KI-bedingte Komplexität die Anzahl der Mitarbeiter übersteigen wird, die ihr Unternehmen für deren Verwaltung zur Verfügung hat [1]. Diese Sorge ist unter denjenigen, die mehrere KI-Agenten im Einsatz haben, mit 76 % noch höher. Im Gegensatz dazu rechnen nur 23 % der Befragten von Unternehmen ohne KI-Agenten mit dieser Herausforderung.

Schlussfolgerung: Erst durch die praktische Umsetzung von KI-Lösungen wird das tatsächliche Ausmaß der organisatorischen und operativen Komplexität deutlich.

Dieser Befund ist hochinteressant und lässt sich als Warnsignal für Unternehmen interpretieren, die KI-Agenten einführen wollen. Die Kernaussagen und ihre Bedeutung:

Bedeutung für das Management

Illusion der Einfachheit
- Von außen wirkt KI oft wie ein »Plug-and-Play«-Tool.
- In der Praxis zeigt sich: Mehr Agenten = mehr Schnittstellen, Abhängigkeiten und Kontrollbedarf.
Ressourcenfalle
- Unternehmen unterschätzen, wie viele Fachkräfte für Governance, Monitoring und Compliance nötig sind.
- KI ersetzt nicht automatisch Personal, sondern verschiebt Aufgaben in Richtung Steuerung und Kontrolle.
Governance-Defizite
- Ohne klare Regeln für Rollen, Verantwortlichkeiten und Eskalationsprozesse droht Chaos.
- KI-Agenten können Entscheidungen beschleunigen – aber auch Fehler potenzieren, wenn niemand die Aufsicht hat.
Lernkurve durch Erfahrung
- Unternehmen ohne KI-Einsatz sehen die Risiken noch nicht.
- Erst im Betrieb wird sichtbar, wie komplex Modell-Drift, Datenqualität, Transparenz und Security wirklich sind.

Die Zahlen zeigen deutlich: Je tiefer Unternehmen in KI einsteigen, desto klarer erkennen sie die Management-Herausforderungen. Wer heute noch glaubt, KI-Agenten seien ein Selbstläufer, wird morgen von der Realität eingeholt.

Handlungsempfehlungen für Führungskräfte.

Frühzeitig Governance etablieren (Rollen, Prozesse, Eskalationspfade).
Ressourcen für Monitoring & Compliance einplanen.
Transparenz schaffen – nachvollziehbare Entscheidungen der KI-Agenten.
Schrittweise Skalierung statt unkontrollierter Einführung mehrerer Agenten.

Nur so lässt sich verhindern, dass die versprochene Effizienz von KI in operative Überlastung und Kontrollverlust umschlägt.

KI-Agenten sind keine Selbstläufer.

Wer die Einführung von KI-Agenten nicht mit klarer Governance, Ressourcenplanung und Transparenz begleitet, riskiert Überlastung und Kontrollverlust. Welche Gefahren drohen und welche konkreten Maßnahmen sind notwendig um KI-Agenten verantwortungsbewusst einzusetzen.

KI-Agenten entfalten ihr Potenzial nur dann, wenn Unternehmen sie kontrolliert und verantwortungsbewusst einsetzen. Ohne klare Leitplanken drohen erhebliche Risiken. Hier die Gefahren und die notwendigen Maßnahmen in strukturierter Form zusammengefasst:

Gefahren beim unbedachten Einsatz von KI-Agenten

Überlastung & Kontrollverlust
- Mehrere Agenten erzeugen exponentiell steigende Komplexität.
- Fehlende Ressourcen für Monitoring führen zu Blindflug.
Sicherheitsrisiken
- KI-Agenten greifen auf sensible Daten zu (Kunden, Finanzen, IP).
- Studien zeigen: 96  % der Experten sehen KI-Agenten als wachsende Angriffsfläche.
- Gefahr von Datenlecks, Missbrauch oder Manipulation (z. B. durch Prompt Injection).
Rechtliche & Compliance-Probleme
- DSGVO-Verstöße durch unkontrollierte Datenverarbeitung.
- Unklare Haftungsfragen bei Fehlentscheidungen oder Schäden.
Fehlerhafte Entscheidungen & Halluzinationen
- KI-Agenten können falsche Schlüsse ziehen oder ungewollte Aktionen ausführen.
- Ohne menschliche Kontrolle droht operative Instabilität.
Ethische Risiken & Bias
- Verzerrte Trainingsdaten führen zu Diskriminierung oder unfairen Entscheidungen.
- Reputationsschäden durch intransparente Ergebnisse.

Konkrete Maßnahmen für verantwortungsbewussten Einsatz

Governance & Richtlinien
- Einführung klarer KI-Guidelines (Nutzungszwecke, Datenarten, Verantwortlichkeiten).
- Einrichtung eines KI-Governance-Boards mit IT, Recht, Compliance und Fachbereichen.
Ressourcenplanung
- Aufbau von KI-Operations-Teams (vergleichbar mit DevOps/SecOps).
- Schulung der Mitarbeiter im Umgang mit KI-Agenten.
Transparenz & Nachvollziehbarkeit
- Dokumentation aller KI-Entscheidungen (Audit-Trails).
- Einsatz von Explainable AI (XAI), um Ergebnisse nachvollziehbar zu machen.
Sicherheitsarchitektur
- Identitäts- und Zugriffsmanagement für KI-Agenten (wie für menschliche Nutzer).
- Kontinuierliches Monitoring auf Anomalien, Modell-Drift und Fehlverhalten.
Schrittweise Einführung
- Start mit Pilotprojekten in klar abgegrenzten Prozessen.
- Skalierung erst nach erfolgreicher Validierung und Risikobewertung.
Notfall- und Eskalationspläne
- Definierte Prozesse für KI-Ausfälle oder Fehlentscheidungen.
- »Human-in-the-Loop«-Mechanismen für kritische Entscheidungen.

Management-Essenz

Gefahr: Ohne Governance, Ressourcen und Transparenz drohen Überlastung, Sicherheitslücken, Kontrollverlust.
Maßnahme: KI-Agenten wie digitale Mitarbeiter behandeln – mit klaren Rollen, Rechten, Monitoring und Rechenschaftspflichten.

Damit wird klar: KI-Agenten sind kein Selbstläufer. Sie brauchen denselben organisatorischen Rahmen wie Menschen – nur dann werden sie zum echten Wettbewerbsvorteil statt zum Risiko.

Genki Albert Absmeier

[1] https://www.pagerduty.com/resources/insights/learn/executives-adopting-ai-agents/

Quelle: PagerDuty (c)

4270 Artikel zu „KI Risiken“

News | Künstliche Intelligenz | New Work | Strategien

Bachelorarbeit und KI – Chancen und Risiken bei der akademischen Abschlussarbeit

16. September 2025

Die künstliche Intelligenz ist in unserem Leben allgegenwärtig. Auch in den Hochschulen und Universitäten hat sie längst Einzug gehalten. Referate, Seminararbeiten und Abschlussarbeiten erstellen die Studierenden ganz oder teilweise mithilfe von Apps wie ChatGPT, Go Thesis oder DeepL Write. Vor allem wenn der Zeitdruck groß wird, wie am Ende des Studiums, wird gern KI eingesetzt.…