Prompt caching

Gecachte Tokens kosten 10 Prozent des normalen Preises. Lance Martin, Developer Advocate bei Anthropic, führt zurück, warum das wichtig ist, auf eine Eigenschaft der Claude Messages API: sie ist zustandslos. Ein Agent, der Aktionen in einer Schleife durchläuft, packt seinen Verlauf, seine Tool-Beschreibungen und seine Anweisungen bei jedem Zug neu, sodass er ohne Caching den vollen Preis für Kontext zahlt, den er bereits bezahlt hat. Caching berechnet das Prefill einmal und nutzt es wieder, wenn ein Präfix exakt übereinstimmt, bis auf das einzelne Zeichen.

Das «Claude Code»-Team bei Anthropic behandelt dies als Architektur, nicht als Optimierung: eine Änderung an irgendeiner Stelle im Präfix macht alles danach ungültig. Ihr Systemprompt lässt zuerst statische Inhalte und Tools laufen, dann CLAUDE.MD, dann den Sitzungskontext, dann die Nachrichten. Ein Zeitstempel, eine nichtdeterministische Tool-Reihenfolge oder ein zusätzlich eingefügtes Tool bricht die Kette. Auch der Modellwechsel mitten in einer Sitzung ist ausgeschlossen, daher Subagenten mit einer Übergabenachricht. Der Plan-Modus fügt EnterPlanMode und ExitPlanMode als zusätzliche Tools hinzu, statt vorhandene durch schreibgeschützte Varianten zu ersetzen, und die Tool-Suche hält ungenutzte «MCP»-Tools als Stubs mit defer_loading: true vor.

Peter Walker, der die Analytik bei OpenRouter leitet, datiert den Moment, in dem Agenten zur größten Quelle von Tokens wurden, auf den 6. Februar 2026 und setzt die Cache-Rate aktueller Modelle bei 88 Prozent an. «GPT-5.6» berechnet Cache-Writes mit dem 1,25-Fachen und hält Reads bei minus 90 Prozent, bei agentischen Zyklen, in denen Reads die Writes im Verhältnis von etwa 153 zu 1 übertreffen. @peakji von Manus nennt die Cache-Trefferquote die wichtigste Kennzahl für einen produktiven KI-Agenten; das «Claude Code»-Team beobachtet sie wie die Verfügbarkeit, mit Alerts und erklärten Vorfällen.