Agentische KI verbreitet sich in deutschen Unternehmen schnell. Ohne klaren Rahmen entsteht eine Blackbox, in der Agenten auf zu viele Daten zugreifen und Entscheidungen kaum noch nachvollziehbar sind. Werden KI-Agenten in eine zentrale Prozessplattform eingebettet, lässt sich Governance von Beginn an im Workflow verankern.

Der Einsatz von Agentic AI entwickelt sich in Deutschland schneller als die dafür nötigen regelnden Strukturen. Laut den Ergebnissen einer Anfang 2026 veröffentlichten Deloitte-Studie (»State of AI in the Enterprise«) nutzen 27 Prozent der deutschen Unternehmen agentische KI, um Aufgaben zu automatisieren und effizienter zu arbeiten [1]. Nur 19 Prozent verfügen aber über ausgereifte Governance-Strukturen, um KI-Agenten kontrolliert in eine bestehende Struktur einzubinden.

Die Folge: KI-Agenten greifen auf mehr Daten zu als nötig, Entscheidungen sind nicht mehr exakt nachvollziehbar, und das Risiko von Halluzinationen steigt.

KI-Agenten: Grenzen von Prozessautomatisierung überwinden.

Wie jede Technologie hatte auch die Prozessautomatisierung bislang ihre Grenze. Sie verlief dort, wo regelbasierte Logik nicht mehr ausreichte: bei komplexen, stark kontextabhängigen Entscheidungen. Diese mussten Mitarbeiter weiterhin selbst treffen. Hier setzen jetzt KI-Agenten an, die sich bei Prozessplattformen direkt in bestehende Workflows einbetten lassen. Die User geben ihnen eine klar definierte Aufgabe, die sie eigenständig ausführen. Das Ergebnis sind teil- oder vollautomatisierte Arbeitsschritte unter menschlicher Kontrolle. Zentrale Prozessplattformen bringen Prozesse, Daten, Rollen, Systeme und menschliche Kontrollpunkte strukturiert und unter Einhaltung geltender (IT-)Governance-Richtlinien zusammen. KI-Agenten lassen sich einfach und geprüft integrieren.

Praxisbeispiel: KI-gestützte Kontierung im Rechnungseingang.

Ein typisches Beispiel ist die Rechnungseingangsprüfung. Eine Rechnung trifft ein, die Daten werden extrahiert, die Rechnung durchläuft mehrere Freigaben und geht schließlich in die Buchhaltung, wo sie kontiert wird. Die Kontierung ist oft ein manueller Schritt; eine Automatisierung scheitert meist daran, da jedes Unternehmen seine Sachkonten anders führt.

Damit entsteht ein idealer Anwendungsfall für einen KI-Agenten, der in einen bestehenden Workflow zwischengeschaltet wird. Der Agent kontiert auf Basis von Stamm- und historischen Daten. Der Zugriff auf die Stammdaten ist zwingend erforderlich und bei Prozessplattformen problemlos möglich, da diese ohnehin darauf zugreifen. Die historischen Daten aus zahlreichen, manuell ausgeführten früheren Kontierungsvorgängen helfen dem Agenten, Vorschläge zu liefern, zu begründen und bei Unklarheiten den Menschen als Prüfinstanz einzubeziehen.

Qualität durch Datensparsamkeit und menschliche Kontrollpunkte.

Aus Sicherheits- und Qualitätsgründen ist es essenziell, bei der Datenauswahl sehr sorgfältig vorzugehen und sie auf das für die jeweilige Aufgabe zwingend Notwendige zu beschränken. Denn je mehr Daten zur Verfügung stehen, desto schwieriger wird es für den Agenten, die relevanten Daten zu identifizieren und die richtigen Entscheidungen zu treffen. Damit steigt das Risiko von Halluzinationen und Qualitätsverlust.

Human-in-the-Loop, also die menschliche Zwischenkontrolle, ist gerade am Anfang aus Qualitätsgründen wichtig. Da der KI-Agent seine Entscheidungen begründet, erkennen Anwender mögliche Fehler schnell und können gegensteuern, indem sie zum Beispiel die Datenauswahl anpassen oder den Prompt verbessern. Denn: Um dem KI-Agenten innerhalb des Workflows eine Aufgabe zu übergeben, ist ein präziser Prompt erforderlich.

Governance by Design.

Der Prozessrahmen definiert den Handlungsspielraum des Agenten. Er erhält eine klar begrenzte Aufgabe, greift ausschließlich auf freigegebene Daten zu und übergibt die Kontrolle an definierten Punkten zurück an den Menschen. Der Datenzugriff erfolgt rollenbasiert und beschränkt sich konsequent auf das für die jeweilige Aufgabe Notwendige. Diese klar definierten Prozesse, Berechtigungen, Datenzugriffe und Freigabepunkte unterstützen Governance by Design. Wichtig ist, dass die eingesetzten KI-Modelle nicht aus Kundendaten lernen und die Datenverarbeitung DSGVO-konform in europäischen Rechenzentren erfolgt.

Low-Code-Technologie als Methode.

Low-Code-Technologie ist beispielsweise eine gute Methode für die KI-basierte Prozessautomatisierung. Mithilfe visueller Prozessdesigner bauen Anwender per Drag-and-Drop selbstständig individuelle Workflows, legen dafür Berechtigungen fest und definieren Abweichungen vom Standardablauf. Vorkonfigurierte oder individuelle KI-Agenten lassen sich einfach an geeigneten Stellen in den Workflows einsetzen. Da für den Bau der -Prozessabläufe kaum Programmierkenntnisse erforderlich sind, werden Fachabteilungen und administrative Bereiche unmittelbar in das Prozessdesign eingebunden. So entstehen innerhalb weniger Wochen bis Monate Prozesse für einfache sowie hochkomplexe Einsatzszenarien, die zu speziellen Anwendungsfällen passen.

Abbildung 1: Das Flussdiagramm zeigt, wie eine Prozessplattform KI-Agenten (Punkt 5) gezielt in bestehende Workflows einbettet – mit klar definierten Aufgaben, begrenztem Datenzugriff, rollenbasierten Berechtigungen und menschlichen Kontrollpunkten für nachvollziehbare Entscheidungen.

Low-Code-Plattformen eignen sich grundsätzlich für alle Unternehmen. Am meisten profitieren jedoch jene, deren Prozesse sehr dynamisch und flexibel sein müssen, wie etwa Firmen mit verteilten Standorten und unterschiedlichen Anforderungen, mit hohem Dokumentenaufkommen (zum Beispiel Rechnungen oder Bestellungen) oder mit komplexen Freigabeschleifen.

Die Schweizer Hächler-Gruppe nutzt beispielsweise Low-Code-Technologie als unternehmensweiten Standard zur -Prozessautomatisierung [2]. Beim Spezialisten aus der Bau- und Immobilienbranche sind bereits über 20 Workflows aus verschiedenen Fachbereichen in der Plattform JobRouter abgebildet. Auch die Schott AG setzt auf diesen Ansatz und hat unter anderem ihre Eingangsrechnungen so digitalisiert [3].

Abbildung 2: Prozessplattformen schaffen den Rahmen, in dem KI-Agenten kontrolliert arbeiten. Um dem KI-Agenten innerhalb des Workflows eine Aufgabe zu übergeben, ist ein präziser Prompt erforderlich.

Agentenumgebungen werden wachsen.

Prozessplattformen wie JobRouter bieten bereits vorgefertigte KI-Agenten zur Einbindung in Workflows. Dieses Angebot wird schrittweise ausgebaut. Es besteht bereits eine separate Agentenumgebung, die auf verschiedene Systeme zugreifen und weitere APIs anbinden kann. Zudem ist es möglich, kundenspezifische Agenten bereitzustellen.

Axel Ensinger,
Geschäftsführer,
JobRouter GmbH

https://www.jobrouter.com/de

[1] https://www.deloitte.com/de/de/Industries/technology/research/ki-studie.html

[2] https://haechlergruppe.ch/

[3] https://www.schott.com/de-de

Illustration: © 2037519, GenAI | Dreamstime.com

2722 Artikel zu „Governance KI“

Business | Favoriten der Redaktion | Geschäftsprozesse | IT-Security | Künstliche Intelligenz | News | Services | Tipps

KI-Risiken im Griff: Warum Governance über Haftung und Versicherbarkeit entscheidet

17. Oktober 2026

Wer haftet, wenn KI einen Fehler macht? Bitkom-Leitfaden zeigt, wie Unternehmen KI-Risiken erkennen, steuern und absichern können [1]. Mit der wachsenden Autonomie künstlicher Intelligenz steigen nicht nur Effizienzpotenziale, sondern auch Haftungs-, Sicherheits- und Reputationsrisiken. Ein aktueller Bitkom-Leitfaden zeigt, wie Unternehmen KI-Schäden systematisch bewerten, Kontrollmechanismen etablieren und Versicherungslücken erkennen können. Für Entscheider wird damit klar:…