Korbinian Zollner, Director für Solutions Architecture bei Starburst in München ©Starburst

Große und kleine Unternehmen melden in den vergangenen Wochen, dass ihre KI-Kosten vollkommen aus dem Ruder laufen. Wenn die Rechnung kommt, ist das Kind bereits in den Brunnen gefallen. Dies kann aber verhindert werden.

Von Korbinian Zollner, Director für Solutions Architecture bei Starburst in München, erklärt, warum Unternehmen für bessere Kostenkontrolle den Data Layer im Blick haben müssen:

Die meisten Unternehmen kontrollieren ihre KI-Kosten an der falschen Stelle. Sie vergleichen Modellpreise, beschränken den Zugriff und suchen nach günstigeren Inferenzkosten. Diese Maßnahmen senken durchaus Kosten, doch sie greifen oft zu spät. Bis eine überdimensionierte Eingabe ein Modell erreicht oder ein Team einen Datensatz in eine andere Umgebung dupliziert, ist bereits ein Großteil der Kosten entstanden. Gleiches gilt, bis ein Agent die Hälfte des Unternehmensdatenbestands durchforstet, um eine eng gefasste Frage zu beantworten.

Die KI-Kosten spiegeln meist nur, wie ein Unternehmen seine Daten aufbereitet, abruft, verwaltet und bereitstellt. Eine schlankere Grundlage entscheidet, wie viele Informationen ein User jedes Mal bewegen, speichern, scannen und an ein Modell senden muss. Das Ausmaß dieses Problems zeigt sich immer deutlicher. Gartner schätzt, dass agentenbasierte KI-Modelle pro Aufgabe fünf- bis 30-mal mehr Token benötigen als ein Standard-Chatbot. Das Analystenhaus warnt, dass sinkende Token-Preise nicht vollständig bei Unternehmenskunden ankommen. Jeder Token kostet Geld, und wie viele Token eine Aufgabe verbraucht, bestimmt die zugrundeliegende Datenarchitektur – nicht das Modell darüber.

Modelle nicht mehr mit dem gesamten Data Warehouse füttern

Viele generative KI-Dienste berechnen ihre Gebühren nach Token, API-Aufrufen oder Verarbeitungszeit. Die FinOps Foundation hat festgestellt, dass die Verwaltung von Kosten und Token-Nutzung zu den größten Herausforderungen zählt, weil sich Ausgaben nur schwer zuordnen, prognostizieren und mit dem geschäftlichen Nutzen verknüpfen lassen. Überwachung spielt zweifellos eine Rolle, doch sie zeigt einem Unternehmen nur, was es bereits verbraucht hat. Die größeren Einsparungen erzielen Unternehmen, wenn sie die Anforderungen des Modells von vornherein reduzieren.

Abfragesysteme unterstellen allzu oft, dass mehr Kontext automatisch zu einer besseren Antwort führt. Diese Annahme verleitet Unternehmen dazu, noch mehr Inhalte einzuspeisen. Seiten mit nur lose zusammenhängenden Dokumenten oder pauschale Tabellenextrakte in jede Eingabeaufforderung zu packen, ist aber nicht zielführend. Unternehmen verbrauchen auf diese Weise Token, erhöhen den Verarbeitungsaufwand und überlassen es dem Modell, relevante Informationen vom Rauschen zu trennen. Ein Modell, das die Abfrage nach einer überfälligen Rechnung erledigen soll, braucht nicht die gesamte Kundenhistorie. Es benötigt das relevante Konto, die Rechnung, die Zahlungsbedingungen und die genehmigten Geschäftsdefinitionen.

Diese Selektivität hängt davon ab, wie ein Unternehmen seine Daten aufbereitet. Kuratierte Datenprodukte bündeln einen fokussierten Datensatz mit genau den Metadaten, Eigentumsverhältnissen, Herkunftsinformationen, Qualitätskennzahlen und Zugriffsregeln, die ein KI-System braucht, um ihn richtig zu verstehen und zu nutzen.

Proaktive Kostenkontrolle durch kuratierte Datenprodukte

Innerhalb dieser Kontextschicht lassen sich Kostenvorgaben konkret umsetzen. Die Voraussetzung ist, dass KI-Systeme auf kuratierte Datenprodukte – fokussierte Datensätze samt Metadaten, Eigentumsverhältnissen, Herkunftsnachweisen und Zugriffsregeln – zurückgreifen. Unternehmen können dann nachvollziehen, welche Datenquellen welche Workloads versorgen, und Zugriffsrichtlinien durchsetzen, die den Aktionsradius einzelner Mitarbeiter oder Anwendungen begrenzen. Diese Transparenz erlaubt es, Verbrauchsmuster mit konkreten Anwendungsfällen zu verknüpfen und Zugriffsgrenzen schon vor unnötigen Abfragen zu ziehen. Anfragen lassen sich zu den richtigen Daten lenken, statt zum umfassendsten verfügbaren Datensatz. Das Ziel heißt nicht, Ausgaben im Nachhinein zu überwachen, sondern den Bedarf des Modells bereits vor dem ersten Aufruf zu senken.

Starburst setzt dies mit AIDA (AI Data Assistant) in die Praxis um. Statt ein Modell umfassenden Tabellenscans oder lose zusammenhängenden Dokumenten auszusetzen, beantwortet AIDA geschäftliche Fragen ausschließlich anhand kontrollierter, kuratierter Daten. Dies erfolgt unter den vom Unternehmen definierten Zugriffskontrollen und im passenden geschäftlichen Kontext. So verkleinert die KI-Schnittstelle den an ein Modell gesendeten Datenumfang von Grund auf, statt ihn erst nachträglich zu beschneiden.

Nicht jedes Datenproblem mit einer weiteren Kopie lösen

KI-Projekte neigen dazu, Datenkopien zu erzeugen. Datensätze wandern aus operativen Systemen in ein Data Warehouse, dann in eine Projektumgebung, eine Vektordatenbank und in eine Testspeicherumgebung. Jede einzelne Entscheidung mag sinnvoll erscheinen, doch in der Summe verursachen sie Speicherkosten, doppelte Pipelines, Abstimmungsaufwand und mehrere konkurrierende Versionen der Wahrheit. Jede neue Kopie schafft mehr Wartungsaufwand und erhöht das Risiko, dass Daten aus dem Takt geraten. Teams verbringen ihre Zeit damit, Pipelines zu reparieren und widersprüchliche Datensätze abzugleichen, während proprietäre Formate und eng gekoppelte Systeme einen Anbieterwechsel erschweren und verteuern.

Zentralisierung spielt weiterhin eine Rolle, wenn Leistung oder häufige Wiederverwendung die Datenverschiebung rechtfertigen, soll aber nicht automatisch den ersten Schritt bilden. Föderierter Zugriff erlaubt es KI-Systemen, ausgewählte Daten direkt an ihrem Speicherort abzufragen, während offene Tabellenformate die Speicherung für verschiedene Compute-Engines nutzbar machen. Teams sollten entscheiden, was sie verschieben, was sie an Ort und Stelle belassen und was sie materialisieren, weil der Leistungsgewinn die Duplizierung rechtfertigt.

KI macht vernachlässigte Daten teuer

Offene Formate und föderierter Zugriff beseitigen nicht die Kosten einer mangelhaften Datenpflege. Kleine Dateien, redundante Snapshots und eine schwache Partitionierung zwingen Systeme dazu, weit mehr Daten zu scannen und zu verarbeiten, als jede Abfrage tatsächlich braucht. Das mag noch überschaubar bleiben, wenn ein vorhersehbares Set an Dashboards nur einige Male am Tag läuft. Es wird deutlich teurer, sobald KI-Anwendungen und Agenten dieselben Daten kontinuierlich und weniger vorhersehbar abfragen.

Komprimierung, Aufbewahrungsrichtlinien, das Ablaufen von Snapshots, die Bereinigung verwaister Dateien und die Abfrageoptimierung wirken sich direkt auf die KI-Kosten aus. Vernachlässigt ein Unternehmen diese Aufgaben, verursacht jede Anfrage unnötigen Speicher- und Rechenaufwand, noch bevor das Modell überhaupt zum Einsatz kommt. Das Ziel besteht nicht einfach darin, weniger Daten zu speichern, sondern sicherzustellen, dass KI-Systeme bei jeder Interaktion auf die richtigen Daten zugreifen, ohne unnötige Infrastruktur zu beanspruchen.

Governance gehört ins Kostenmodell

Unternehmen behandeln Governance oft als Compliance-Aufgabe, die der Innovation nachgelagert ist. Im KI-Bereich kostet diese Trennung bares Geld. Ein Unternehmen, das nicht nachvollziehen kann, welche Daten ein Modell genutzt hat, wo es sie verarbeitet hat oder wer zum Zugriff berechtigt war, muss sein System womöglich vor der Inbetriebnahme neu konzipieren.

Eine gute Governance senkt zudem den Datenverbrauch. Der Grundsatz der Datenminimierung gemäß DSGVO verlangt, dass personenbezogene Daten angemessen, relevant und auf das Notwendige beschränkt bleiben. Das ist ein Rechtsgrundsatz und zugleich solide KI-Ökonomie. Der EU AI Act ergänzt risikobasierte Verpflichtungen für Anbieter und Betreiber und macht deutlich, dass Kontrollen und Rechenschaftspflicht weiter an Bedeutung gewinnen. Datensouveränität gehört in denselben Projektschritt. Unternehmen sollten wissen, wo ihre Daten liegen, welche Modelle darauf zugreifen können, ob sie Rechtsräume überschreiten und wie sie den Zugriff protokollieren. Wer Daten dort belässt, wo es praktikabel ist, beim Zugriff Richtlinien anwendet und nur den genehmigten Teil bereitstellt, senkt Transferkosten und Compliance-Risiken.

Führungskräfte sollten sich fragen, wie viele Daten ein Anwendungsfall tatsächlich braucht, ob ihr System vertrauenswürdige Kontextinformationen erhält, warum eine weitere Kopie entsteht und ob sich der Datenverbrauch bis zum Ergebnis zurückverfolgen lässt. Die Kostenkontrolle bei KI beginnt schon vor dem ersten Modellaufruf. Das Modell mag die Antwort liefern – die Datenarchitektur bestimmt, was die Antwort letztlich kostet.

Weitere Informationen finden Sie unter www.starburst.ai

Disclaimer:
„Für den oben stehenden Beitrag sowie für das angezeigte Bild- und Tonmaterial ist allein der jeweils angegebene Nutzer verantwortlich. Eine inhaltliche Kontrolle des Beitrags seitens der Seitenbetreiberin erfolgt weder vor noch nach der Veröffentlichung. Die Seitenbetreiberin macht sich den Inhalt insbesondere nicht zu eigen.“