foto freepik ki

Generative KI wird immer beliebter, allerdings steht bereits die nächste Generation Machine-Learning-basierter Technologien in den Startlöchern – Agentic AI.

Bei traditionellen KI-Modellen erfolgt das Prompting ausschließlich auf Modellebene, wobei Antworten in einem einstufigen Prozess generiert werden. Agentic AI hingegen bewältigt komplexe Aufgaben und interagiert dabei mit unterschiedlichen Systemen. Ein praktisches Beispiel hierfür ist ein KI-gestützter Helpdesk, der mithilfe von Natural Language Processing IT-Support-Tickets versteht und bearbeitet, Passwörter zurücksetzt, Software-Updates installiert oder wenn nötig Tickets an das Team weiterleitet.

Agenten sind eine der bedeutendsten Innovationen im KI-Sektor, möglicherweise sogar wichtiger als zukünftige Generationen von Foundation Models [1]. Laut einer Prognose von Gartner wird die Agentic AI bis 2028 mindestens 15 % der täglichen Entscheidungen im Arbeitsumfeld treffen, gegenüber 0 % im Jahr 2024 [2].

Unternehmen können mit KI-Agenten noch effizienter werden, Kosten sparen und IT-Teams für wichtigere Projekte einsetzen, die menschliche Entscheidungen erfordern. Neben diesen Vorteilen gibt es allerdings auch einige Herausforderungen. Deshalb sind vor den Einsatz von KI-Agenten verschiedene Punkte anzugehen. Ansonsten könnten diese Aspekte Vertrauen verspielen oder die Sicherheit der Systeme sowie der Ergebnisse beeinträchtigen.

Herausforderung 1: Modelllogik und kritisches Denken

Bei Agentic AI übernimmt ein Agent die Rolle des »Planers« und koordiniert die Aktionen anderer Agenten. Das zugrunde liegende Modell beinhaltet auch eine Funktion, die als »kritischer Denker« agiert. Sie liefert Feedback zu den Ergebnissen, die sowohl vom Planer als auch von den ausführenden Agenten erzielt werden. Mit der Zeit sammelt das Modell immer mehr Erkenntnisse und verbessert die Ergebnisse kontinuierlich.

Damit dies gelingt, benötigt das Modell umfassendes Feedback und realitätsnahe Trainingsdaten, die Ziele, Pläne, Maßnahmen und Ergebnisse umfassen. Für diesen Prozess sind zahlreiche Iterationen nötig – oft Hunderte oder sogar Tausende von Plänen und Resultaten. Erst dann hat das Modell genug Daten gesammelt, um zuverlässig und effizient zu arbeiten und tatsächlich kritische Entscheidungen treffen zu können.

Herausforderung 2: Zuverlässigkeit und Vorhersehbarkeit

Die Interaktion mit Computern folgt heute klaren Prozessen, zum Beispiel bei der Entwicklung von Softwaresystemen. Hier sitzt ein Entwickler am Rechner und schreibt Code, der dem Computer Schritt für Schritt Anweisungen gibt. Agentic AI funktioniert anders: Es wird lediglich ein Ziel vorgegeben, und der Agent entscheidet selbstständig, wie dieses zu erreichen ist. Dabei zeigt der Software-Agent ein gewisses Maß an Autonomie, wodurch Ergebnisse variieren können.

Bei der Einführung von ChatGPT und anderen LLM-basierten generativen KI-Systemen war zunächst Ähnliches zu beobachten. Allerdings hat sich die Situation in den letzten zwei Jahren durch Feinabstimmung, menschliches Feedback und gezieltes Training erheblich verbessert und die Ergebnisse sind mittlerweile konsistent. Ein ähnlicher Ansatz ist nötig, damit auch Systeme für Agentic AI zuverlässiger und vorhersehbarer werden.

Herausforderung 3: Datenschutz und -sicherheit

Einige Organisationen zögern beim Einsatz von Agentic AI, weil die Datenschutz- und Sicherheitsbedenken noch schwerwiegender sind als bei generativer KI. Sämtliche Interaktionen der Anwender mit dem LLM sind bei Agentic AI im Modell eingebettet und können nicht gelöscht werden. Angreifer könnten mit »Prompt Injection«-Attacken also sensible Daten gewinnen. Darüber hinaus haben Softwareagenten Zugriff auf viele verschiedene Systeme mit hoher Autonomie. Private Informationen aus verschiedenen Quellen könnte also offengelegt werden.

Um dem entgegenzuwirken, sollten Unternehmen schrittweise vorgehen, Daten so viel wie möglich containerisieren und sicherstellen, dass diese ausschließlich innerhalb des vorgesehenen Bereichs verwendet werden. Zusätzlich müssen sie Daten anonymisieren, Benutzerinformationen verschleiern und persönliche Informationen wie Adressen und andere vertrauliche Details vor ihrer Übermittlung an das Modell entfernen.

Dabei sind die folgenden drei Systeme für Agentic AI zu unterscheiden. Jede hat besondere Sicherheitsanforderungen:

1 – Agentic AI für Verbraucher – Systeme, die auf externen Modellen basieren. Unternehmen haben keine Kontrolle über die KI selbst, sondern nur über die gesendeten Daten und Eingabeaufforderungen.

2 – Agentic AI für Mitarbeitende – Intern entwickelte Lösungen mit geringem Risiko. Dennoch besteht die Gefahr, dass nicht qualifizierte interne Anwender auf hochsensible Daten zugreifen.

3 – Kundenorientierte Systeme für Agentic AI – Da die Interaktion mit Kunden Risiken mit sich bringt, ist strikte Segmentierung erforderlich, um Kundendaten zu schützen.

Herausforderung 4: Datenqualität und -relevanz

Nach der Anonymisierung der Daten und Benutzer sollte das Modell Ergebnisse liefern, die auf hochwertigen Daten basieren und genau auf die Eingabe abgestimmt sind. Das ist nicht immer einfach. Generative KI-Modelle liefern oft nicht die erwarteten Ergebnisse, da ihnen präzise und aktuelle Daten fehlen. Agentic AI ist deshalb auf Daten aus einer Vielzahl unterschiedlicher Plattformen und Quellen angewiesen.

Eine Daten-Streaming-Plattform (DSP) kann hier hilfreich sein, da sie Entwicklern Tools gibt, mit denen sie relevante Antworten auf Basis hochwertiger Daten finden [3]. Apache Kafka kann beispielsweise Daten aus unterschiedlichen Quellen einbringen. Apache Flink wiederum steht zur Verfügung, um mit anderen Modellen zu kommunizieren. All dies ist entscheidend, schließlich sind Agentic-AI-Systeme auf zuverlässige und aktuelle Daten angewiesen, um Halluzinationen zu vermeiden und präzise Antworten zu liefern.

Herausforderung 5: ROI und Fachkräfte

KI ist für viele Unternehmen noch Neuland. Sie benötigen dazu zum einen neue Hardware, GPUs und eine Dateninfrastruktur mit effizienten Speicherlösungen. Zum anderen müssen sie auch eigene Inferenzmodelle entwickeln. Dafür sind entweder neue Fachkräfte mit spezifischen Fähigkeiten nötig, oder bestehende Mitarbeiter müssen im Bereich KI weitergebildet werden [4]. Das bedeutet, dass der Return on Investment erst spät erreicht wird, insbesondere für Early Adopter.

Trotz dieser Hürden wird sich Agentic AI wie zuvor generative KI durchsetzen. Einige KI-Anbieter haben diesen Weg bereits eingeschlagen. Bei Microsoft Copilot wurden zuvor nur einige Code-Prozesse automatisiert, mittlerweile setzt der Anbieter Agentic AI, um Code zu erstellen und zu überprüfen.

Bevor Unternehmen von den Vorteilen der Agentic AI profitieren, sind noch einige Herausforderungen in Sachen Zuverlässigkeit, Datenschutz, Datenqualität und Modelllogik zu bewältigen. Zudem sind erhebliche Anfangsinvestitionen zu erwarten. Die potenziellen Vorteile für Unternehmen könnten allerdings sogar noch deutlich größer sein, als bei der generativen KI.

Adi Polak, Director of Advocacy and Developer Experience Engineering bei Confluent

[1] https://www.deeplearning.ai/the-batch/how-agents-can-improve-llm-performance/

[2] https://www.engineering.com/gartner-identifies-top-10-strategic-technology-trends-for-2025/

[3] https://www.confluent.io/de-de/data-streaming/

[4] https://spectrum.ieee.org/your-next-great-ai-engineer

[5] https://copilot.microsoft.com/

62 Artikel zu „Agentic AI“

News | Trends 2025 | Künstliche Intelligenz

Vier KI-Trends für 2025: Authentizität, Anwendbarkeit, Agentic AI und Menschen

13. Januar 2025

Qlik gibt einen Ausblick auf Trends, die die Zukunft von KI und datengesteuerten Unternehmen im Jahr 2025 und darüber hinaus prägen werden. Das Qlik AI Council rät Unternehmen, 2025 vor allem auf diese vier Trends zu achten: Trend 1: Authentizität – Dr. Rumman Chowdhury, CEO und Gründer von Humane Intelligence und Mitglied des Qlik AI…