Illustration Absmeier foto magnific ki

KI-Agenten versprechen mehr Automatisierung, schnellere Entscheidungen und produktivere Teams. In der Praxis zeigt sich jedoch: Ohne saubere Daten- und Kontextarchitektur verbrauchen sie unnötig viele Tokens, liefern schwer überprüfbare Ergebnisse und treiben die Betriebskosten nach oben. Unternehmen müssen deshalb nicht nur den KI-Einsatz steuern, sondern ihre Wissensbasis so strukturieren, dass Agenten gezielt, nachvollziehbar und effizient arbeiten können.

Management Summary

Der Kostendruck bei KI-Projekten steigt: Wenn Agenten zu viel Kontext verarbeiten, werden Tokenverbrauch und Laufzeiten schnell zum Skalierungsproblem.
Nutzungslimits und Kosten-Dashboards reichen nicht aus. Entscheidend ist eine Architektur, die Unternehmenswissen gezielt, kontrolliert und wiederverwendbar bereitstellt.
Knowledge Layer, Context Graph und Agentengedächtnis machen KI-Agenten effizienter, weil sie relevante Informationen kontextbezogen abrufen, statt ganze Datenbestände neu zu durchsuchen.
Thin Agents reduzieren Komplexität: Regeln, Rollen, Datenbeziehungen und Entscheidungshistorie bleiben zentral gepflegt, während Agenten nur das abrufen, was sie für den nächsten Schritt benötigen.
Für IT- und Fachverantwortliche wird Datenarchitektur damit zum strategischen Hebel: Sie senkt Kosten, verbessert Nachvollziehbarkeit und schafft die Basis für skalierbare, compliancefähige KI.

Das KI-Budget ist überschritten, das Tokenkontingent gedeckelt, der Rollout des KI-Systems auf dem Prüfstand. Doch Nutzungslimits, Modell-Routing und Kosten-Dashboards behandeln oft nur die Symptome. Wer die Performance von KI-Agenten steigern und ihre Kosten reduzieren will, muss an der Architektur ansetzen. Der Graph- und KI-Experte Neo4j zeigt vier Ansätze, um KI-Agenten effizienter und Ergebnisse belastbarer zu machen.

Wie groß der Kostendruck bereits ist, zeigt eine McKinsey-Umfrage: 93 Prozent der befragten Unternehmen überziehen ihre KI-Budgets – knapp die Hälfte um bis zu 30 Prozent [1]. Sind die Tokenpools nach kurzer Zeit aufgebraucht, gelten strenge Obergrenzen und monatliche Kontingente.

Tokenmaxxing beschreibt dabei eine KI-Nutzung, bei der hoher Tokenverbrauch zum vermeintlichen Maßstab für Produktivität wird. Doch mehr Aufwand schafft nicht automatisch mehr Wert. Wenn Agenten unaufgeräumte Datensilos durchsuchen, irrelevante Informationen analysieren, Arbeitsschritte wiederholen und bei jeder Anfrage neu beginnen, kostet das Zeit und Geld.

Vier Architekturhebel für effizientere KI-Agenten

AI-FinOps, eingebettete KI-Governance, klare Verantwortlichkeiten und Richtlinien schaffen Transparenz und Kontrolle im KI-Betrieb. Doch Effizienz ist auch eine Architekturfrage. Tokenmaxxing lässt sich nicht allein durch eine Begrenzung der Tokenzahl vermeiden. Entscheidend ist eine strukturierte Wissensgrundlage, über die KI-Agenten gezielt auf den jeweils relevanten Kontext zugreifen können. Vier Hebel in der Daten- und Kontextarchitektur sind dabei entscheidend:

Knowledge Layer: Die Ontologie als Wissenslandkarte

Unternehmenswissen ist weit mehr als das, was in Handbüchern, Datenbanken oder Prozessbeschreibungen festgehalten ist. Es ist aus Erfahrung entstanden und tief in den Mitarbeitenden, Routinen, Beziehungen und der Unternehmenskultur verankert. Wie lässt sich diese gemeinsame Wissensbasis so abbilden, dass KI-Agenten sie nutzen können?

Genau hier setzt die Knowledge Layer an: eine gemeinsame, kontrollierte Schicht, die Ontologie, Unternehmensdaten und Gedächtnis bündelt. Die Wissensschicht setzt sich aus drei Bausteinen zusammen:

einer Ontologie als lebendige Landkarte des Unternehmens, die Rohdaten mit Geschäftsbegriffen und Prozessen verknüpft;
den Unternehmensdaten, die diese Landkarte mit Substanz füllen;
einem Gedächtnis (Memory), das frühere Entscheidungen und Ergebnisse festhält

Organisatorisches Wissen wird dadurch abfragbar. Agenten greifen auf eindeutig definierte Begriffe, Zuständigkeiten, Zusammenhänge und frühere Entscheidungen zu – und zwar im Kontext einer gemeinsamen, kontrollierten Wissensgrundlage.

Context Graph: Navigationssystem für situative Entscheidungen

Agentische KI-Systeme sind darauf ausgelegt, Aufgaben über mehrere Schritte hinweg weitgehend autonom auszuführen. Damit lassen sich Informationen nicht mehr »auf Vorrat« in einen Prompt packen. Vielmehr müssen Agenten situativ auf Daten zugreifen und diese bewerten können.

Ein Context Graph – in Form eines Knowledge-Graphen – ermöglicht genau das. Er verbindet die Wissensbasis der Knowledge Layer mit früheren Entscheidungen, Reasoning-Spuren, Ergebnissen und Begründungszusammenhängen. Ein Agent erkennt dadurch nicht nur, wo er steht, sondern auch, warum dieser Zustand entstanden ist und welcher Schritt als Nächstes sinnvoll ist. Oder anders gesagt: Die Knowledge Layer beantwortet das Was, der Context Graph das Warum.

Für den einzelnen Arbeitsschritt ruft ein Agent dabei nur den relevanten Ausschnitt des Graphen auf. Das begrenzt die Datenmenge im Kontextfenster und reduziert die Zahl der nötigen Suchvorgänge. Zugleich hält der Context Graph fest, welche Daten, Regeln und Zwischenschritte in eine Entscheidung eingeflossen sind. So lässt sich prüfen, wie und auf welcher Informationsbasis die KI zu einem Ergebnis kam – eine wichtige Voraussetzung für Audits und Compliance, etwa im Rahmen des EU AI Act.

Agentengedächtnis: Arbeiten ohne unnötige Neustarts

LLMs besitzen in der Regel kein dauerhaftes Gedächtnis: Sie »vergessen«, verlieren sich in Teilaufgaben und Detailfragen oder kommen nur über Umwege ans Ziel. Das Agentengedächtnis (Agent Memory) bezeichnet die Fähigkeit eines KI-Agenten, Informationen über längere Zeit zu speichern, abzurufen und für weitere Entscheidungen oder Aktionen zu nutzen. Besonders wichtig ist dabei das Kurzzeitgedächtnis (Short-Term Memory). Es speichert den aktuellen Arbeitskontext und hält den Agenten auf Kurs: Was ist das Ziel? Woran wird gerade gearbeitet? Welcher Agent übernimmt welche Teilaufgabe? Und was wurde bereits erledigt?

Wie der Context Graph ist auch das Agentengedächtnis Teil der Knowledge Layer, wobei das Kurzzeitgedächtnis den Fokus auf den Arbeitsstand und den bisherigen Verlauf des Agenten legt. Innerhalb der Knowledge Layer wird dieser Zustand in einer persistenten Speicher- oder Datenbankschicht außerhalb des LLM abgelegt. Bei längeren Workflows funktioniert dieses Gedächtnis wie ein Fahrtenbuch: Versionierte Checkpoints halten fest, wo der Agent steht und welche Schritte bereits abgeschlossen sind. Nach einer Unterbrechung kann er so am zuletzt bestätigten Stand weiterarbeiten, statt von vorn zu beginnen.

Thin Agents: Mit leichtem Gepäck effizienter ans Ziel

Auf dieser Architektur aus Knowledge Layer, Context Graph und Agentengedächtnis setzen die sogenannten Thin Agents auf. Wie wendige Fahrzeuge nutzen sie die Wissensinfrastruktur, um Kurven schneller zu nehmen und sicher ans Ziel zu gelangen. Dabei reisen sie mit leichtem Gepäck: Unternehmenswissen, Geschäftsregeln, Zugriffsrechte und Entscheidungskontext führen sie nicht ständig mit. Stattdessen rufen sie diese Informationen unterwegs genau dann ab, wenn sie gebraucht werden. Um im Bild zu bleiben: In der Knowledge Layer bildet die Ontologie die Wissenslandkarte, der Context Graph übernimmt bei konkreten Entscheidungen die Navigation und das Agentengedächtnis dient als Fahrtenbuch.

Damit bleibt der Fokus auf den eigentlichen Aufgaben: Nutzerabsicht verstehen, nächste Schritte planen, Aktionen ausführen. Es entstehen kürzere Systemprompts, weniger doppelte Logik und geringerer Pflegeaufwand. Regeln und Wissen werden zentral gepflegt – das reduziert Redundanz und verhindert, dass Agenten mit der Zeit auf unterschiedlichen Wissensständen arbeiten.

Welchen Unterschied ein gezielter Zugriff auf verknüpftes Wissen machen kann, zeigt eine Studie des National Innovation Centre for Data (NICD) [2]. Bei 510 komplexen Fragen lieferte der graphgestützte Ansatz deutlich mehr faktisch richtige Antworten und weniger Halluzinationen. Der sogenannte Truthfulness-Score liegt rund 80 Prozent höher als beim rein vektorbasierten RAG-System. Zugleich steigt der Anteil beantworteter Fragen von knapp 29 auf mehr als 65 Prozent. Weil das System gezielt relevante Abschnitte und Zusammenhänge abruft, muss es nicht jedes Mal ganze Dokumente verarbeiten – und setzt die verfügbaren Tokens damit deutlich effizienter ein.

»KI-Leistung ist heute weitgehend austauschbar. Der eigentliche Wettbewerbsvorteil liegt im Unternehmenswissen. Wenn jedes Unternehmen dieselben leistungsstarken Modelle per Token mieten kann, liegt der dauerhafte Wettbewerbsvorteil woanders: im verlässlichen, kontrollierten Verständnis des eigenen Geschäfts«, erklärt Dr. Jesús Barrasa, AI Field CTO bei Neo4j. »Durchsetzen werden sich die Unternehmen, deren Agenten ihr Geschäft wirklich verstehen. Dafür müssen sie die aber zunächst an ihrer Datengrundlage arbeiten. Das heißt ihr Unternehmenswissen sauber formalisieren und so bereitstellen, dass alle Agenten darauf aufbauen können.«

[1] https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-cost-of-intelligence-how-cios-can-manage-ai-demand-at-scale

[2] https://arxiv.org/html/2606.05901v2

FAQ

Warum verbrauchen KI-Agenten oft unnötig viele Tokens?
Weil sie häufig zu viel irrelevanten Kontext verarbeiten, Datenbestände mehrfach durchsuchen oder ohne Gedächtnis nach jeder Unterbrechung neu starten. Dadurch steigen Kosten und Antwortzeiten, ohne dass die Ergebnisqualität automatisch besser wird.

Was leistet eine Knowledge Layer?
Sie bündelt Ontologie, Unternehmensdaten und Gedächtnis zu einer kontrollierten Wissensschicht. Agenten können dadurch Begriffe, Zuständigkeiten, Zusammenhänge und frühere Entscheidungen gezielt nutzen.

Worin liegt der Nutzen eines Context Graph?
Ein Context Graph verbindet Daten, Regeln, Entscheidungen und Begründungen. Er hilft Agenten, situativ den passenden Ausschnitt des Unternehmenswissens abzurufen und macht zugleich nachvollziehbar, warum ein Ergebnis entstanden ist.

Was sind Thin Agents?
Thin Agents sind schlank konzipierte KI-Agenten, die Wissen, Regeln und Kontext nicht dauerhaft mitführen. Sie greifen bei Bedarf auf zentrale Wissens- und Kontextstrukturen zu und bleiben dadurch wartbarer, effizienter und leichter skalierbar.

Was sollten Unternehmen jetzt priorisieren?
Sie sollten KI-Anwendungsfälle inventarisieren, zentrale Wissensstrukturen aufbauen, Daten- und Zugriffsregeln klären und Agentenarchitekturen so gestalten, dass Kostenkontrolle, Qualität und Compliance von Anfang an zusammengedacht werden.

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt

497 Artikel zu „Token“

Ausgabe 5-6-2026 | News | Infrastruktur | Künstliche Intelligenz | Lösungen

Wie Unternehmen KI-Kosten im Griff behalten – Von Tokenmaxxing zu Kontext

22. Juni 2026

Agentische KI ist der Trend in der Unternehmens-IT. Doch der zunehmende Einsatz autonomer Agentensysteme treibt den Ressourcenverbrauch in die Höhe. Kontextmodelle helfen KI-Agenten, schneller und effizienter ,ans Ziel zu kommen – und ermöglichen Unternehmen, ihre KI-Kosten im Griff zu behalten.

Vier Architekturhebel für effizientere KI-Agenten

Knowledge Layer: Die Ontologie als Wissenslandkarte

Context Graph: Navigationssystem für situative Entscheidungen

Agentengedächtnis: Arbeiten ohne unnötige Neustarts

Thin Agents: Mit leichtem Gepäck effizienter ans Ziel

[1] https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-cost-of-intelligence-how-cios-can-manage-ai-demand-at-scale

[2] https://arxiv.org/html/2606.05901v2

FAQ

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt

497 Artikel zu „Token“