# lancemartin-anthropic-prompt-auto-caching-claude-2026-02

## Veille

Auto-Caching von Claude-Prompts: technischer Mechanismus, cache_control-API, 90% Token-Einsparung, cache-freundliches Design

## Titre Article

Prompt auto-caching with Claude

## Date

2026-02

## URL

https://x.com/RLanceMartin/status/2024573404888911886

## Keywords

prompt caching, auto-caching, cache_control, ephemeral, cached tokens, hash prefix, cache hit, cache miss, LLM inference, prefill, decode, vLLM, SGLang, Claude messages API, stateless, agents, token cost, latency, breakpoint

## Authors

Lance Martin (@RLanceMartin, Anthropic)

## Ton

**Profil**: Perspektive eines Developer Advocate bei Anthropic, technisches und pädagogisches Register, Niveau mittel bis fortgeschritten

**Beschreibung**: Lance Martin nimmt einen erklärenden, schrittweisen Ton an, ausgehend vom „Warum“ (Agenten bezahlen bei jedem Durchlauf den gesamten Kontext erneut) hin zum „Wie“ (kryptografischer Hash-Mechanismus, Prefill/Decode). Der Stil entspricht dem eines gut strukturierten technischen Tutorials mit eingestreuten JSON-Codebeispielen. Der Autor zitiert aktiv weitere Beitragende (@trq212 zu Claude Code, @peakji von Manus, @sankalp, @kipply), was den Eindruck einer Expertengemeinschaft erzeugt. Die Zielgruppe besteht aus Entwicklern, die die Claude-API nutzen und Kosten sowie Latenz optimieren möchten.

## Pense-betes

- **Erhebliche Einsparung**: Gecachte Tokens kosten 10 % des Preises nicht gecachter Tokens. Ohne Caching bezahlt man bei jedem Agenten-Durchlauf für das gesamte Context Window.
- **Zustandslose API**: Die Claude-Messages-API erinnert sich nicht an vergangene Aktionen. Das Agenten-Harness muss bei jedem Durchlauf neu zusammenstellen: neuer Kontext + vergangene Aktionen + Tool-Beschreibungen + allgemeine Anweisungen. Der Großteil des Kontexts ist von einem Durchlauf zum nächsten identisch.
- **Technischer Mechanismus**: Der `cache_control`-Breakpoint ist ein „Schreibpunkt“, der einen kryptografischen Hash aller Blöcke bis zu diesem Punkt erzeugt, begrenzt auf den Workspace. Bei der nächsten Anfrage sucht Claude rückwärts (maximal 20 Blöcke) nach einer Hash-Übereinstimmung. Ein einziges abweichendes Zeichen = Cache-Miss.
- **Auto-Caching (neu)**: Neuer einzelner Parameter `cache_control: {"type": "ephemeral"}` auf Request-Ebene (statt Block-Ebene). Der Breakpoint verschiebt sich automatisch zum letzten cachefähigen Block. Kein manuelles Verschieben des Breakpoints mehr nötig.
- **Kompatibel mit blockweisem Caching**: Auto-Caching funktioniert zusätzlich zum blockweisen Caching (z. B. ein fester Breakpoint beim System-Prompt).
- **Zitat von @peakji (Manus)**: Die Cache-Trefferquote ist „die einzig wichtigste Metrik“ für einen KI-Agenten in Produktion.
- **Zwei Phasen der LLM-Inferenz**: (1) Prefill = Prompt-Verarbeitung, (2) Decode = Generierung der Output-Tokens. Caching vermeidet, das Prefill für bereits gesehenen Kontext erneut durchzuführen.
- **Risiko, den Cache zu brechen**: Das Ändern der Konversationshistorie riskiert, den Cache zu brechen. Verweist auf die Lehren von @trq212 zum cache-freundlichen Design.
- **Ergänzend zum Beitrag von @trq212**: Dieser Beitrag erklärt das technische „Was/Warum/Wie“ des Cachings, während @trq212 die praktischen Lehren aus Claude Code im Detail beschreibt (Plan-Modus, Compaction, Tool-Suche).

## RésuméDe400mots

Lance Martin, Developer Advocate bei Anthropic, stellt den Prompt-Caching-Mechanismus für die Claude-API vor und kündigt die neue Auto-Caching-Funktion an, die dessen Nutzung erheblich vereinfacht. Tokens, die den Cache nutzen, kosten nur 10 % des Normalpreises, was eine entscheidende Ersparnis für agentische Anwendungen darstellt.

Das grundlegende Problem besteht darin, dass die Claude-Messages-API **zustandslos** ist: Sie behält zwischen den Aufrufen nichts. Ein Agent, der Aktionen in einer Schleife ausführt, muss bei jedem Durchlauf den neuen Kontext zusammen mit der Historie der Aktionen, den Tool-Beschreibungen und den allgemeinen Anweisungen neu verpacken. Ohne Caching bezahlt man bei jedem Durchlauf den vollen Preis des gesamten Context Window, obwohl der Großteil des Inhalts identisch ist.

Prompt Caching löst dieses Problem, indem es die beiden Phasen der LLM-Inferenz nutzt: **Prefill** (Prompt-Verarbeitung) und **Decode** (Generierung). Die Prefill-Berechnung kann einmal durchgeführt, gespeichert und dann wiederverwendet werden, wenn ein Teil des zukünftigen Prompts identisch ist. Genau das tun Frameworks wie vLLM und SGLang.

Technisch gesehen verwendet das Caching einen `cache_control`-Parameter, der als Breakpoint fungiert. Dieser Breakpoint erzeugt einen **kryptografischen Hash** aller Content-Blöcke bis zu diesem Punkt, begrenzt auf den Workspace des Nutzers. Bei nachfolgenden Anfragen sucht Claude rückwärts (bis zu 20 Blöcke) nach einer Übereinstimmung. Der Treffer muss exakt sein: Ein einziges abweichendes Zeichen erzeugt einen anderen Hash und einen Cache-Miss.

Die wichtigste Neuerung ist das **Auto-Caching**: Ein einziger Parameter `cache_control: {"type": "ephemeral"}`, der auf Request-Ebene (statt bei jedem Block) gesetzt wird, bewirkt, dass sich der Breakpoint automatisch zum letzten cachefähigen Block verschiebt. Je länger die Konversation wird, desto automatischer folgt der Breakpoint. Diese Funktion bleibt kompatibel mit dem blockweisen Caching für Fälle, in denen spezifische Breakpoints gesetzt werden sollen (zum Beispiel beim System-Prompt).

Martin zitiert @peakji von Manus, der die Cache-Trefferquote als „die einzig wichtigste Metrik für einen KI-Agenten in Produktion“ betrachtet, und verweist auf den Begleitartikel von @trq212, der die praktischen Lehren aus Claude Code im Detail beschreibt: wie der Prompt strukturiert werden sollte, um die Trefferquote zu maximieren, warum man Tools oder das Modell während einer Sitzung niemals wechseln sollte, und wie Funktionen (Plan-Modus, Compaction) unter Einhaltung der Cache-Beschränkungen konzipiert werden. Zusammen bilden die beiden Artikel einen vollständigen Leitfaden zum Aufbau cache-optimierter Agenten auf der Claude-API.

## GrapheDeConnaissance

- Lance Martin —travaille_chez→ Anthropic (ORGANISATION, 0.98)
- Lance Martin —publie→ auto-caching (TECHNOLOGIE, 0.97)
- API Claude messages —est_instance_de→ API stateless (CONCEPT, 0.99)
- Tokens cachés —mesure→ 10% du prix des tokens non cachés (MESURE, 0.99)
- cache_control —permet→ hash cryptographique du préfixe (CONCEPT, 0.97)
- Auto-caching —améliore→ gestion des breakpoints cache (CONCEPT, 0.96)
- Auto-caching —converge_avec→ caching bloc par bloc (TECHNOLOGIE, 0.95)
- prefill et decode —fait_partie_de→ Inférence LLM (CONCEPT, 0.98)
- Prompt caching —réduit→ recalcul du prefill (CONCEPT, 0.97)
- @peakji —affirme_que→ le cache hit rate est la métrique la plus importante pour un agent en production (AFFIRMATION, 0.95)
- @peakji —travaille_chez→ Manus (ORGANISATION, 0.96)
- @trq212 —publie→ leçons pratiques cache Claude Code (DOCUMENT, 0.93)
- vLLM —utilise→ caching du prefill (CONCEPT, 0.9)
- SGLang —utilise→ caching du prefill (CONCEPT, 0.9)

---
Canonical: https://www.thekb.eu/de/fiches/lancemartin-anthropic-prompt-auto-caching-claude-2026-02/