Am 22. Oktober 2026 veröffentlicht der Newsletter OnlyCFO einen Gastbeitrag von Peter Walker, Head of Insights bei OpenRouter, einem Gateway, das über ein einziges Konto Zugang zu mehreren hundert Sprachmodellen bietet. Der Herausgeber stuft die KI-Kosten als auf dem Weg zum größten Ausgabenposten der Unternehmen ein und ordnet das Thema der Finanzfunktion zu.

Die Daten von OpenRouter zeigen eine seltene Kombination: Das verarbeitete Volumen steigt von einer halben Billion Token pro Woche im Januar 2025 auf 164 Billionen bis Ende September 2026, während der durchschnittlich gezahlte Preis von 0,77 $ auf 0,14 $ pro Million Token fällt. Der Autor folgert, dass sich Inference wie ein Commodity verhält und nicht wie Software, die bei einem Anbieter im Rahmen eines Jahresvertrags erworben wird.

Vier Kräfte erklären diese Entwicklung. Das Angebot explodiert: 862 Modelle wurden seit 2024 gestartet, von denen 27 mehr als eine Billion Token pro Woche verarbeiten. Open-Weight-Modelle tragen rund 60 % der Token bei 26 % der Ausgaben; zwei Drittel stammen von chinesischen Labs, wobei das Hosting jedoch unabhängig vom Modell gewählt wird, und 44 % dieser Token werden von Anbietern mit Sitz in den USA bereitgestellt. Agenten wurden am 6. Februar 2026 zur wichtigsten Tokenquelle; da sie bei jedem Schritt denselben Kontext erneut senden, wird Prompt Caching zur entscheidenden Preisvariable, und die Cache-Hit-Rate erreicht bei aktuellen Modellen 88 %. Schließlich wechselt der Marktführer ständig: fünfmal in acht Quartalen.

Nutzung und Ausgaben entkoppeln sich: Bei KI-nativen Start-ups vervielfacht sich die Tokennutzung um das 18-Fache, die Ausgaben nur um das 5,1-Fache. Der Rückgang beruht auf günstigeren, leistungsfähigeren Modellen, der Optimierung des Cachings und den Wirtschaftsmodellen der Frontier-Labs. Für dasselbe Open-Weight-Modell liegt der tatsächlich gezahlte Preis zwischen 43 % und 89 % unter dem Listenpreis, und der laut Preisliste günstigste Anbieter ist in der Praxis oft nicht der günstigste.

Der Autor schlägt daher vor, nach den „Landed Costs" einzukaufen: dem Preis nach Cache-Rabatt, zuzüglich der Kosten für Latenz und für Wiederholungsversuche. Eine Anfrage im Wert von einem Dollar, die in einem von fünf Fällen fehlschlägt, kostet 1,25 $ pro erfolgreicher Antwort. Hinzu kommen Zero Data Retention, verfügbar für 93 % der Token, und die Verfügbarkeit: 96,9 % Erfolgsquote nach automatischem Failover.

Er schließt mit vier Ratschlägen für CFOs: Mehr Verbrauch bedeutet nicht mehr Ausgaben, ein offenes Modell variiert je nach Anbieter, Guardrails sind unerlässlich, und Pläne müssen überarbeitbar bleiben.