Viele Unternehmen testen autonome KI-Agenten, doch der Weg vom Prototypen in den produktiven Betrieb erweist sich als anspruchsvoll. Im Interview erklärt Martin Kraft von DRUID AI, warum Agentic AI vor allem eine Frage von Architektur, Governance und operativer Reife ist.

Agentic AI verspricht Unternehmen einen nächsten Schritt in der Automatisierung: Systeme, die nicht nur analysieren, sondern Entscheidungen vorbereiten, Workflows anstoßen und Prozesse dynamisch unterstützen. Doch je näher solche Agenten an reale Geschäftsprozesse rücken, desto deutlicher werden die Anforderungen an Sicherheit, Identitäten, Nachvollziehbarkeit und Kontrolle. Das Gespräch zeigt, warum der produktive Einsatz autonomer KI-Agenten weniger an der Modellleistung scheitert als an der Fähigkeit von Organisationen, diese Systeme zuverlässig, auditierbar und verantwortbar zu betreiben.

Unternehmen experimentieren mit Agentic AI, haben aber Schwierigkeiten, den Schritt in die Produktivität zu schaffen. Welche strukturellen, technischen und organisatorischen Hürden werden dabei am häufigsten unterschätzt?

Was ich immer wieder sehe, ist, dass der Schritt von der Experimentierphase hin zu echter Produktivität deutlich größer ist, als viele Organisationen erwarten. Agentic AI hört sehr schnell auf, ein technisches Experiment zu sein, und wird zu einer architektonischen und operativen Herausforderung, oft früher, als Teams damit rechnen. Das ist nichts, was man wie ein einfaches Deployment oder ein zusätzliches Feature auf bestehende Systeme behandeln kann, auch wenn es häufig genau so seinen Anfang nimmt.

Vieles beginnt bei der Architektur. Auf dem Papier wirken Architekturdarstellungen oft sauber und gut beherrschbar, aber dieses Bild ist irreführend. In der Praxis steht jede einzelne Box für Monate, teilweise Jahre an Entwicklungsarbeit, und jede Verbindung bringt zusätzliche Komplexität mit sich. Es geht dabei nicht nur um Funktionalität, sondern darum, dass Sicherheit, Identitäten, Logging, Versionierung, Tests und operative Kontrolle konsistent zusammenspielen.

Martin Kraft,
Managing Director EMEA & APAC,
DRUID AI

Warum unterschätzen viele Unternehmen den Aufwand, der mit der Entwicklung von Kernkomponenten wie Orchestrierung verbunden ist?

Der Aufwand wird oft unterschätzt, weil Unternehmen glauben, dass sie Kernkomponenten, insbesondere Orches-trierung, selbst entwickeln können. Das höre ich sehr häufig: »Das können wir selbst.« Orchestrierung ist jedoch keine dünne Schicht, auch wenn sie gerade am Anfang oft so behandelt wird. Sie muss CI/CD-Pipelines, Versionsmanagement, Identitäts- und Zugriffssteuerung, Compliance-Anforderungen und die Fähigkeit zur Weiterentwicklung des Systems über die Zeit hinweg zusammenführen. Das sauber umzusetzen, produktionsreif und nachhaltig, ist extrem schwierig, und die meisten Organisationen merken das erst, wenn sie bereits tief in der Umsetzung stecken.

Eine weitere Hürde ist die Denkweise, die Unternehmen aus früheren KI- oder Automatisierungswellen mitbringen. Viele Organisationen gehen Agentic AI noch immer als Big-Bang-Transformation an oder versuchen, direkt mit dem schwierigsten Problem zu starten. Dieser Ansatz ist riskant, und wir sehen ihn immer noch überraschend häufig. Realistischer ist es, mit einem klar definierten Geschäftsproblem zu beginnen, bei dem ein Agent Mehrwert liefern kann, und darauf schrittweise aufzubauen.

Zum Schluss wird auch das Thema Bereitschaft oft missverstanden. Bereit zu sein bedeutet nicht nur, über die richtige Technologie oder die passenden Modelle zu verfügen. Organisationen brauchen die operative Reife, um diese Systeme über längere Zeit zu betreiben, Veränderungen zu managen, Versionswechsel zu handhaben und Agenten zu betreiben und zu überwachen, sobald sie Teil produktiver Workflows werden. Wenn es kein klares Geschäftsziel gibt oder die Organisation auf dieses Maß an Komplexität nicht vorbereitet ist, wird der Schritt in die Produktivität sehr schwierig.

Das Versprechen autonomer KI-Agenten wirft erhebliche Fragen zu Governance, Identität und Kontrolle auf. Wo sehen Sie derzeit die größten Risiken für Unternehmen?

Aus meiner Sicht beginnt das eigentliche Risiko dort, wo Autonomie als etwas Einfaches oder Bequemes verstanden wird und nicht als etwas, das bewusst gestaltet und begrenzt werden muss. In regulierten Umgebungen trägt diese Annahme sehr schnell nicht mehr. Ein großer Teil der aktuellen Diskussion geht davon aus, dass Agenten einfach die Rechte und Berechtigungen eines menschlichen Nutzers übernehmen können. Das klingt zunächst praktisch, wird aber sehr schnell problematisch, wenn man es aus einer Governance- und Sicherheitsperspektive betrachtet.

Sobald ein Agent mit weitreichenden Berechtigungen arbeitet, kann er sich sehr viel schneller durch Systeme bewegen als jeder Mensch. Werden Zugangsdaten kompromittiert, hat man es nicht mehr mit einer Person zu tun, die über längere Zeit hinweg auf Daten zugreift, sondern mit einem automatisierten System, das in sehr kurzer Zeit große Teile der Organisation erreichen kann. Das ist ein völlig anderes Risikoprofil.

Warum sind diese Fragen in stark regulierten Märkten wie Deutschland besonders kritisch?

Diese Fragen sind besonders kritisch, weil Governance und Identität oft zum entscheidenden Faktor dafür werden, ob Agentic AI überhaupt jemals in die Produktion geht. In Märkten wie Deutschland, in denen Unternehmen unter sehr strengen regulatorischen Rahmenbedingungen wie der DSGVO und zunehmend auch dem EU AI Act operieren, sind diese Fragen keineswegs theoretisch. Sie entscheiden ganz konkret darüber, ob ein System genehmigt, auditierbar betrieben und skaliert werden kann.

Hinzu kommen nicht-menschliche Identitäten. Agenten sind weder klassische Nutzer noch klassische Service-Accounts, werden in vielen Umgebungen aber genau so behandelt. Wenn Agenten nicht als eigenständige Identitäten mit klarer Authentifizierung, Autorisierung und Protokollierung geführt werden, verlieren Sicherheitsteams schnell den Überblick darüber, was tatsächlich passiert. In diesem Moment wird Governance extrem schwierig, weil sich nicht mehr sauber nachvollziehen lässt, wer was wann und warum getan hat.

Genau hier werden Erklärbarkeit, Auditierbarkeit und Beobachtbarkeit entscheidend. In regulierten Umgebungen reicht es nicht aus, dass ein System das richtige Ergebnis liefert. Man muss Schritte protokollieren können, verstehen, wie Entscheidungen zustande gekommen sind, und nachweisen, dass Zugriffsgrenzen eingehalten wurden. Ohne dieses Maß an Kontrolle werden autonome Agenten in Umfeldern, die durch Vorgaben wie die DSGVO oder den EU AI Act geprägt sind, nur schwer Akzeptanz finden.

Wie realistisch ist die Vorstellung vollständig autonomer KI-Systeme in regulierten Unternehmensumgebungen in absehbarer Zeit?

Wenn man sich anschaut, wie Unternehmen heute tatsächlich arbeiten, ist vollständige Autonomie eher ein theoretisches Konzept als eine praktische Realität. Ich halte vollständig autonome KI-Systeme in regulierten Unternehmensumgebungen auf absehbare Zeit nicht für realistisch, zumindest nicht in der Art und Weise, wie der Begriff heute häufig verwendet wird. Selbst wenn die Technologie technisch in der Lage wäre, Entscheidungen zu treffen und Aktionen durchgängig auszuführen, bleibt die Frage, wie wohl sich Organisationen damit fühlen würden, dies ohne Aufsicht zuzulassen.

In der Praxis brauchen Unternehmen Kontrollpunkte, auch wenn das langfristige Ziel darin besteht, mehr Autonomie zu ermöglichen. Sie brauchen Menschen im Prozess, insbesondere dann, wenn Agenten Entscheidungen treffen, die Kunden, Finanzen oder Compliance betreffen. Das ist nicht nur eine technische Frage, sondern auch eine Frage von Verantwortung und Rechenschaftspflicht.

Realistisch ist vielmehr ein Modell, in dem Agenten Teile von Workflows automatisieren und Empfehlungen geben, sich dabei aber innerhalb klar definierter Grenzen bewegen. Orchestrierung spielt hier eine wichtige Rolle, weil sie es ermöglicht, Autonomie in kleinere, kontrollierbare Schritte zu unterteilen, anstatt alles einem einzelnen, monolithischen Agenten zu überlassen. Autonomie wird zunehmen, aber in regulierten Umgebungen geht es nicht um maximale Autonomie, sondern um Zuverlässigkeit, Transparenz und Kontrolle.

Vielen Dank für das Gespräch.

Agentic AI ist ein Architektur‑Thema
In einem weiteren Interview auf www.manageit.de erklärt Martin Kraft Unternehmen, die Agenten produktiv einsetzen wollen, wie sie ihre Datenbasis, Prozesse, Governance‑Strukturen und Testing‑Methoden neu denken müssen. Autonome Systeme funktionieren nur, wenn sie kontrolliert, auditierbar und orchestriert sind – und wenn Menschen weiterhin die Verantwortung tragen.
Agentic AI markiert den Übergang von klassischen Systems of Insight zu Systems of Action: KI‑Agenten informieren nicht mehr nur, sondern treffen Entscheidungen, stoßen Workflows an und verbessern Prozesse dynamisch. Damit verschiebt sich der Fokus weg vom einzelnen Modell hin zu einer belastbaren Unternehmensarchitektur aus Datenqualität, Orchestrierung, Governance und kontinuierlichem Testing.
Unternehmen benötigen Genauigkeit im hohen 90‑ProzentBereich, auditierbare Datenflüsse und Mechanismen,
die strukturiertes wie unstrukturiertes Wissen kontextfähig halten. Knowledge Graphs werden zum zentralen Baustein für Erklärbarkeit und Lernschleifen. Prozessdesign wird dynamisch: Agenten interpretieren Intentionen, Rollen und Berechtigungen in Echtzeit und handeln innerhalb klar definierter Grenzen.
Skalierung gelingt nur über Micro‑Agents, wiederverwendbare Sicherheitsmuster und sogenannte Authoring Agents, die Design, Datenmodellierung und Testing automatisieren. Testing und CI/CD werden anspruchsvoller, da nicht nur Funktionen, sondern Verhalten, Tonalität und Modellwechsel kontrolliert werden müssen.
Trotz wachsender Autonomie bleibt menschliche Aufsicht unverzichtbar: Organisationen benötigen Verantwortlichkeit, Vertrauen und klare Eingriffspunkte. Agentic AI ist damit keine radikale Abkehr, sondern die nächste Evolutionsstufe der Unternehmens‑KI – mit neuen Anforderungen an Architektur, Governance und operative Kontrolle.
https://ap-verlag.de/agentic-ai-richtig-bauen-von-systems-of-insight-zu-systems-of-action/107178/

Illustration: © Cary Peterson, GenAI | Dreamstime.com

1447 Artikel zu „KI-Agenten“

Ausgabe 9-10-2026 | Digitale Transformation | IT-Security | Künstliche Intelligenz | News | Security Spezial 9-10-2026

Governance by Design: KI sicher in den Workflow einbinden – Mit Prozessplattformen KI-Agenten steuerbar machen

25. Oktober 2026

Agentische KI verbreitet sich in deutschen Unternehmen schnell. Ohne klaren Rahmen entsteht eine Blackbox, in der Agenten auf zu viele Daten zugreifen und Entscheidungen kaum noch nachvollziehbar sind. Werden KI-Agenten in eine zentrale Prozessplattform eingebettet, lässt sich Governance von Beginn an im Workflow verankern.

Martin Kraft, Managing Director EMEA & APAC, DRUID AI

1447 Artikel zu „KI-Agenten“

Martin Kraft,
Managing Director EMEA & APAC,
DRUID AI