foto freepik

Agentic AI bietet Unternehmen große Vorteile, muss aber von menschlichen Instanzen überwacht werden, um regulatorische Vorgaben und ethische Standards zu erfüllen. Unternehmen müssen einen robusten Governance-Rahmen für agentische KI etablieren.

Agentic AI verspricht Unternehmen erhebliche Effizienzgewinne. Sie zerlegt komplexe Aufgaben in kleinere, überschaubare Teilaufgaben, die sich einfacher lösen lassen. KI-Agenten, die bestimmte Rollen wahrnehmen oder auf bestimmte Tätigkeiten spezialisiert sind, führen diese Aufgaben dann automatisiert aus. Anschließend setzt ein übergeordneter Agent die Ergebnisse zusammen, um die Gesamtaufgabe zu lösen.

Damit ermöglicht agentische KI mehr und bessere Automatisierung. Sie birgt aber auch Risiken: Algorithmen könnten diskriminierende Entscheidungen treffen, die Entscheidungen von KI-Agenten sind unter Umständen nicht transparent nachvollziehbar oder es entstehen Sicherheitslücken. Unternehmen laufen Gefahr, gegen regulatorische Vorgaben und ethische Standards zu verstoßen.

Agentic AI benötigt einen Governance-Rahmen. Im Zentrum steht dabei die Überwachung durch Menschen, denn eine selbstgesteuerte Überwachung durch Agenten reicht nicht aus. Pegasystems zeigt auf, wie Unternehmen Schritt für Schritt eine robuste Governance für Agentic AI etablieren.

Governance-Richtlinien definieren.
Zunächst klären Unternehmen die internen Verantwortlichkeiten für ihre KI-Systeme. Zudem legen sie Standards fest, die auf regulatorischen Anforderungen wie dem EU AI Act und der DSGVO basieren.
Risikoanalyse und -management implementieren.
Im zweiten Schritt identifizieren sie Hochrisiko-Anwendungen. Außerdem führen sie kontinuierliche Monitorings für diskriminierende KI-Entscheidungen («Bias«), Sicherheit und Datenschutz ein.
Transparenz- und Erklärbarkeitsmaßnahmen umsetzen.
Unternehmen wählen erklärbare KI-Modelle aus oder implementieren ergänzende Mechanismen für die Nachvollziehbarkeit von KI-Modellen in die Agentic AI. Zudem richten sie eine Dokumentation der KI-Entscheidungen für Audits und Regulierungsbehörden ein.
Human-in-the-Loop-Mechanismus etablieren.
Im nächsten Schritt integrieren Organisationen menschliche Kontrolle in kritische Entscheidungsprozesse. Zusätzlich definieren sie klare Eingriffsmechanismen bei Fehlentscheidungen und legen die Verantwortung für finale Entscheidungen fest.
Kontinuierliche Überwachung und Anpassung.
Die Governance-Richtlinien sollten regelmäßig evaluiert und aktualisiert werden. Dazu implementieren Unternehmen ein »AI Governance Board« oder ähnliche Kontrollinstanzen.
Schulung und Sensibilisierung der Mitarbeitenden.
In Trainingsprogrammen informieren Unternehmen ihre Entwickler und Entscheidungsträger zu ethischen und rechtlichen Anforderungen. Damit schaffen sie eine Governance-Kultur, in der die Verantwortung für Künstliche Intelligenz ernst genommen wird.

»Wenn Unternehmen beim Einsatz von agentischer KI für Transparenz, Fairness und Sicherheit sorgen, minimieren sie nicht nur Risiken. Sie verschaffen sich auch Wettbewerbsvorteile, weil sie das Vertrauen in ihre KI-Systeme stärken«, erklärt Florian Lauck-Wunderlich, Head of AI and Advanced Analytics Consulting EMEA bei Pegasystems. »Dabei verfolgen sie am besten einen strukturierten Governance-Ansatz mit klaren Verantwortlichkeiten, regelmäßigen Audits und menschlicher Kontrolle.«

163 Artikel zu „KI-Agenten“

News | Kommunikation | Künstliche Intelligenz | Marketing | Tipps

Das neue SEO: Webseiten für die Kommunikation mit KI-Agenten vorbereiten

19. März 2025

Unternehmen müssen das Thema KI-Agenten aus zwei unterschiedlichen Perspektiven betrachten. Einerseits geht es darum, welche Aufgaben Mitarbeitende bereits heute mit KI-Agenten wie ChatGPT Tasks oder Operator automatisieren können. Andererseits stellt sich die Frage, welche Anpassungen auf der Unternehmenswebsite notwendig sind, um die Interaktion mit KI-Agenten entweder zu optimieren oder gezielt zu unterbinden. Was sind…