Gartner – Inferenzkosten für Agentic-Workflows steigen bis 2028 um mehr als das Fünffache

Gartner hat in einer aktuellen Analyse davor gewarnt, sinkende Preise pro Token mit sinkenden KI-Gesamtkosten zu verwechseln. Zwar werden die zugrunde liegenden Foundation-Modelle laufend effizienter und günstiger, gleichzeitig wächst die Komplexität eingesetzter Agentic-Workflows jedoch so stark, dass die tatsächlichen Inferenzkosten je Aufgabe bis 2028 um mehr als das Fünffache steigen sollen – verglichen mit einfachen Chatbot-Interaktionen bereits heute mindestens fünfmal so hoch.

Verantwortlich dafür sind laut Gartner-Analyst Will Sommer drei parallele Effekte: Effizientere Modelle ermöglichen den Einsatz noch leistungsfähigerer, aber teurerer Varianten, und anspruchsvolle Agenten-Workflows verbrauchen durch fortlaufendes Abwägen, Nachfragen und Selbstüberprüfen ein Vielfaches der Tokens einer einfachen Anfrage. "Wo ein einfacher Chatbot eine Anfrage lesen, interpretieren und schnell beantworten muss, muss ein KI-Agent ständig abwägen, verhandeln und sich selbst hinterfragen", so Sommer.

Für Projektverantwortliche und Entscheider im Mittelstand bedeutet das: Business Cases für Agentic-AI-Initiativen dürfen nicht auf Basis heutiger Pilotkosten hochgerechnet werden. Wer den Kostenpfad nicht von Beginn an entlang eines optimierten Produkt-Ökosystems statt generischer autonomer Intelligenz plant, riskiert laut Gartner Kosten in einer völlig anderen Größenordnung als ursprünglich budgetiert.

Quelle: Gartner – Gartner Predicts AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028