©Magnific / Madhanajah; KI generiert

Das KI-Budget ist überschritten, das Tokenkontingent gedeckelt, der Rollout des KI-Systems auf dem Prüfstand. Doch Nutzungslimits, Modell-Routing und Kosten-Dashboards behandeln oft nur die Symptome. Wer die Performance von KI-Agenten steigern und ihre Kosten reduzieren will, muss an der Architektur ansetzen. Der Graph- und KI-Experte Neo4j zeigt vier Ansätze, um KI-Agenten effizienter und Ergebnisse belastbarer zu machen. 

Wie groß der Kostendruck bereits ist, zeigt eine McKinsey-Umfrage: 93 Prozent der befragten Unternehmen überziehen ihre KI-Budgets – knapp die Hälfte um bis zu 30 Prozent. Sind die Tokenpools nach kurzer Zeit aufgebraucht, gelten strenge Obergrenzen und monatliche Kontingente. 

Tokenmaxxing beschreibt dabei eine KI-Nutzung, bei der hoher Tokenverbrauch zum vermeintlichen Maßstab für Produktivität wird. Doch mehr Aufwand schafft nicht automatisch mehr Wert. Wenn Agenten unaufgeräumte Datensilos durchsuchen, irrelevante Informationen analysieren, Arbeitsschritte wiederholen und bei jeder Anfrage neu beginnen, kostet das Zeit und Geld.

Knowledge Layer-Framework (Quelle: Neo4j)

Vier Architekturhebel für effizientere KI-Agenten

AI-FinOps, eingebettete KI-Governance, klare Verantwortlichkeiten und Richtlinien schaffen Transparenz und Kontrolle im KI-Betrieb. Doch Effizienz ist auch eine Architekturfrage. Tokenmaxxing lässt sich nicht allein durch eine Begrenzung der Tokenzahl vermeiden. Entscheidend ist eine strukturierte Wissensgrundlage, über die KI-Agenten gezielt auf den jeweils relevanten Kontext zugreifen können. Vier Hebel in der Daten- und Kontextarchitektur sind dabei entscheidend:

1. Knowledge Layer: Die Ontologie als Wissenslandkarte

Unternehmenswissen ist weit mehr als das, was in Handbüchern, Datenbanken oder Prozessbeschreibungen festgehalten ist. Es ist aus Erfahrung entstanden und tief in den Mitarbeitenden, Routinen, Beziehungen und der Unternehmenskultur verankert. Wie lässt sich diese gemeinsame Wissensbasis so abbilden, dass KI-Agenten sie nutzen können? 

Genau hier setzt die Knowledge Layer an: eine gemeinsame, kontrollierte Schicht, die Ontologie, Unternehmensdaten und Gedächtnis bündelt. Die Wissensschicht setzt sich aus drei Bausteinen zusammen:  

  • einer Ontologie als lebendige Landkarte des Unternehmens, die Rohdaten mit Geschäftsbegriffen und Prozessen verknüpft;
  • den Unternehmensdaten, die diese Landkarte mit Substanz füllen;
  • einem Gedächtnis (Memory), das frühere Entscheidungen und Ergebnisse festhält

Organisatorisches Wissen wird dadurch abfragbar. Agenten greifen auf eindeutig definierte Begriffe, Zuständigkeiten, Zusammenhänge und frühere Entscheidungen zu – und zwar im Kontext einer gemeinsamen, kontrollierten Wissensgrundlage.

2. Context Graph: Navigationssystem für situative Entscheidungen

Agentische KI-Systeme sind darauf ausgelegt, Aufgaben über mehrere Schritte hinweg weitgehend autonom auszuführen. Damit lassen sich Informationen nicht mehr „auf Vorrat“ in einen Prompt packen. Vielmehr müssen Agenten situativ auf Daten zugreifen und diese bewerten können.

Ein Context Graph – in Form eines Knowledge-Graphen – ermöglicht genau das. Er verbindet die Wissensbasis des Enterprise Knowledge Layer mit früheren Entscheidungen, Reasoning-Spuren, Ergebnissen und Begründungszusammenhängen. Ein Agent erkennt dadurch nicht nur, wo er steht, sondern auch, warum dieser Zustand entstanden ist und welcher Schritt als Nächstes sinnvoll ist. Oder anders gesagt: Die Knowledge Layer beantwortet das Was, der Context Graph das Warum.

Für den einzelnen Arbeitsschritt ruft ein Agent dabei nur den relevanten Ausschnitt des Graphen auf. Das begrenzt die Datenmenge im Kontextfenster und reduziert die Zahl der nötigen Suchvorgänge. Zugleich hält der Context Graph fest, welche Daten, Regeln und Zwischenschritte in eine Entscheidung eingeflossen sind. So lässt sich prüfen, wie und auf welcher Informationsbasis die KI zu einem Ergebnis kam – eine wichtige Voraussetzung für Audits und Compliance, etwa im Rahmen des EU AI Act.

3. Agentengedächtnis: Arbeiten ohne unnötige Neustarts

LLMs besitzen in der Regel kein dauerhaftes Gedächtnis: Sie „vergessen“, verlieren sich in Teilaufgaben und Detailfragen oder kommen nur über Umwege ans Ziel. Das Agentengedächtnis (Agent Memory) bezeichnet die Fähigkeit eines KI-Agenten, Informationen über längere Zeit zu speichern, abzurufen und für weitere Entscheidungen oder Aktionen zu nutzen. Besonders wichtig ist dabei das Kurzzeitgedächtnis (Short-Term Memory). Es speichert den aktuellen Arbeitskontext und hält den Agenten auf Kurs: Was ist das Ziel? Woran wird gerade gearbeitet? Welcher Agent übernimmt welche Teilaufgabe? Und was wurde bereits erledigt?

Wie der Context Graph ist auch das Agentengedächtnis Teil der Knowledge Layer, wobei das Kurzzeitgedächtnis den Fokus auf den Arbeitsstand und den bisherigen Verlauf des Agenten legt. Innerhalb der Knowledge Layer wird dieser Zustand in einer persistenten Speicher- oder Datenbankschicht außerhalb des LLM abgelegt. Bei längeren Workflows funktioniert dieses Gedächtnis wie ein Fahrtenbuch: Versionierte Checkpoints halten fest, wo der Agent steht und welche Schritte bereits abgeschlossen sind. Nach einer Unterbrechung kann er so am zuletzt bestätigten Stand weiterarbeiten, statt von vorn zu beginnen.

4. Thin Agents: Mit leichtem Gepäck effizienter ans Ziel

Auf dieser Architektur aus Knowledge Layer, Context Graph und Agentengedächtnis setzen die sogenannten Thin Agents auf. Wie wendige Fahrzeuge nutzen sie die Wissensinfrastruktur, um Kurven schneller zu nehmen und sicher ans Ziel zu gelangen. Dabei reisen sie mit leichtem Gepäck: Unternehmenswissen, Geschäftsregeln, Zugriffsrechte und Entscheidungskontext führen sie nicht ständig mit. Stattdessen rufen sie diese Informationen unterwegs genau dann ab, wenn sie gebraucht werden. Um im Bild zu bleiben: In der Knowledge Layer bildet die Ontologie die Wissenslandkarte, der Context Graph übernimmt bei konkreten Entscheidungen die Navigation und das Agentengedächtnis dient als Fahrtenbuch.

Damit bleibt der Fokus auf den eigentlichen Aufgaben: Nutzerabsicht verstehen, nächste Schritte planen, Aktionen ausführen. Es entstehen kürzere Systemprompts, weniger doppelte Logik und geringerer Pflegeaufwand. Regeln und Wissen werden zentral gepflegt – das reduziert Redundanz und verhindert, dass Agenten mit der Zeit auf unterschiedlichen Wissensständen arbeiten.

Welchen Unterschied ein gezielter Zugriff auf verknüpftes Wissen machen kann, zeigt eine Studie des National Innovation Centre for Data (NICD). Bei 510 komplexen Fragen lieferte der graphgestützte Ansatz deutlich mehr faktisch richtige Antworten und weniger Halluzinationen. Der sogenannte Truthfulness-Score liegt rund 80 Prozent höher als beim rein vektorbasierten RAG-System. Zugleich steigt der Anteil beantworteter Fragen von knapp 29 auf mehr als 65 Prozent. Weil das System gezielt relevante Abschnitte und Zusammenhänge abruft, muss es nicht jedes Mal ganze Dokumente verarbeiten – und setzt die verfügbaren Tokens damit deutlich effizienter ein. 

„KI-Leistung ist heute weitgehend austauschbar. Der eigentliche Wettbewerbsvorteil liegt im Unternehmenswissen. Wenn jedes Unternehmen dieselben leistungsstarken Modelle per Token mieten kann, liegt der dauerhafte Wettbewerbsvorteil woanders: im verlässlichen, kontrollierten Verständnis des eigenen Geschäfts“, erklärt Dr. Jesús Barrasa, AI Field CTO bei Neo4j. „Durchsetzen werden sich die Unternehmen, deren Agenten ihr Geschäft wirklich verstehen. Dafür müssen sie die aber zunächst an ihrer Datengrundlage arbeiten. Das heißt ihr Unternehmenswissen sauber formalisieren und so bereitstellen, dass alle Agenten darauf aufbauen können.“

Disclaimer:
„Für den oben stehenden Beitrag sowie für das angezeigte Bild- und Tonmaterial ist allein der jeweils angegebene Nutzer verantwortlich. Eine inhaltliche Kontrolle des Beitrags seitens der Seitenbetreiberin erfolgt weder vor noch nach der Veröffentlichung. Die Seitenbetreiberin macht sich den Inhalt insbesondere nicht zu eigen.“