# lancemartin-anthropic-prompt-auto-caching-claude-2026-02

## Veille

Auto-caching dei prompt Claude: meccanismo tecnico, API cache_control, risparmio del 90% sui token, design cache-friendly

## Titre Article

Prompt auto-caching with Claude

## Date

2026-02

## URL

https://x.com/RLanceMartin/status/2024573404888911886

## Keywords

prompt caching, auto-caching, cache_control, ephemeral, cached tokens, hash prefix, cache hit, cache miss, LLM inference, prefill, decode, vLLM, SGLang, Claude messages API, stateless, agents, token cost, latency, breakpoint

## Authors

Lance Martin (@RLanceMartin, Anthropic)

## Ton

**Profilo**: prospettiva di un developer advocate presso Anthropic, registro tecnico e pedagogico, livello da intermedio ad avanzato

**Descrizione**: Lance Martin adotta un tono esplicativo e progressivo, partendo dal "perché" (gli agenti ripagano l'intero contesto a ogni turno) per arrivare al "come" (meccanismo dell'hash crittografico, prefill/decode). Lo stile è quello di un tutorial tecnico ben strutturato con esempi di codice JSON intercalati. L'autore cita attivamente altri contributori (@trq212 per Claude Code, @peakji di Manus, @sankalp, @kipply), creando un effetto di comunità di esperti. Il pubblico target è costituito da sviluppatori che utilizzano l'API Claude e vogliono ottimizzare costi e latenza.

## Pense-betes

- **Risparmio massiccio**: i token in cache costano il 10% del prezzo dei token non in cache. Senza caching, si paga per l'intera finestra di contesto a ogni turno dell'agente.
- **API stateless**: l'API messages di Claude non ricorda le azioni passate. L'harness dell'agente deve reimpacchettare a ogni turno: nuovo contesto + azioni passate + descrizioni degli strumenti + istruzioni generali. La maggior parte del contesto è identica da un turno all'altro.
- **Meccanismo tecnico**: il breakpoint `cache_control` è un "punto di scrittura" che crea un hash crittografico di tutti i blocchi fino a quel punto, con ambito limitato al workspace. Alla richiesta successiva, Claude guarda all'indietro (max 20 blocchi) per trovare una corrispondenza di hash. Un solo carattere di differenza = cache miss.
- **Auto-caching (novità)**: nuovo parametro singolo `cache_control: {"type": "ephemeral"}` a livello di richiesta (non di blocco). Il breakpoint si sposta automaticamente all'ultimo blocco cacheable. Non è più necessario spostare manualmente il breakpoint.
- **Compatibile con il caching a livello di blocco**: l'auto-caching funziona in aggiunta al caching blocco per blocco (ad es. un breakpoint fisso sul system prompt).
- **Citazione di @peakji (Manus)**: il cache hit rate è "la singola metrica più importante" per un agente IA in produzione.
- **Due fasi dell'inferenza LLM**: (1) Prefill = elaborazione del prompt, (2) Decode = generazione dei token in output. Il caching evita di rifare il prefill per il contesto già visto.
- **Rischio di rompere la cache**: modificare lo storico della conversazione rischia di rompere la cache. Rimanda alle lezioni di @trq212 per un design cache-friendly.
- **Complementare al post di @trq212**: questo post spiega il "cosa/perché/come" tecnico del caching, mentre @trq212 dettaglia le lezioni pratiche di Claude Code (plan mode, compaction, tool search).

## RésuméDe400mots

Lance Martin, developer advocate presso Anthropic, presenta il meccanismo di prompt caching per l'API Claude e annuncia la nuova funzionalità di auto-caching che ne semplifica notevolmente l'uso. I token che utilizzano la cache costano solo il 10% del prezzo normale, il che rappresenta un risparmio critico per le applicazioni agentiche.

Il problema fondamentale è che l'API messages di Claude è **stateless**: non conserva nulla tra una chiamata e l'altra. Un agente che esegue azioni in loop deve reimpacchettare, a ogni turno, il nuovo contesto insieme allo storico delle azioni, alle descrizioni degli strumenti e alle istruzioni generali. Senza caching, si paga il prezzo pieno dell'intera finestra di contesto a ogni turno, anche se la maggior parte del contenuto è identica.

Il prompt caching risolve questo problema sfruttando le due fasi dell'inferenza LLM: **prefill** (elaborazione del prompt) e **decode** (generazione). Il calcolo del prefill può essere eseguito una sola volta, salvato, e poi riutilizzato se parte del prompt futuro è identica. È ciò che fanno framework come vLLM e SGLang.

Dal punto di vista tecnico, il caching utilizza un parametro `cache_control` che funge da breakpoint. Questo breakpoint crea un **hash crittografico** di tutti i blocchi di contenuto fino a quel punto, con ambito limitato al workspace dell'utente. Nelle richieste successive, Claude guarda all'indietro (fino a 20 blocchi) per trovare una corrispondenza. La corrispondenza deve essere esatta: un solo carattere di differenza produce un hash diverso e un cache miss.

La novità principale è l'**auto-caching**: un singolo parametro `cache_control: {"type": "ephemeral"}` posizionato a livello di richiesta (anziché a livello di ogni blocco) fa sì che il breakpoint si sposti automaticamente all'ultimo blocco cacheable. Man mano che la conversazione si allunga, il breakpoint segue automaticamente. Questa funzionalità resta compatibile con il caching blocco per blocco per i casi in cui si vogliono impostare breakpoint specifici (ad esempio sul system prompt).

Martin cita @peakji di Manus, che considera il cache hit rate "la singola metrica più importante per un agente IA in produzione", e rimanda al post complementare di @trq212, che dettaglia le lezioni pratiche tratte da Claude Code: come strutturare il prompt per massimizzare gli hit, perché non si dovrebbe mai cambiare strumenti o modello a metà sessione, e come progettare funzionalità (plan mode, compaction) rispettando i vincoli della cache. Insieme, i due articoli costituiscono una guida completa alla costruzione di agenti ottimizzati per la cache sull'API Claude.

## GrapheDeConnaissance

- Lance Martin —travaille_chez→ Anthropic (ORGANISATION, 0.98)
- Lance Martin —publie→ auto-caching (TECHNOLOGIE, 0.97)
- API Claude messages —est_instance_de→ API stateless (CONCEPT, 0.99)
- Tokens cachés —mesure→ 10% du prix des tokens non cachés (MESURE, 0.99)
- cache_control —permet→ hash cryptographique du préfixe (CONCEPT, 0.97)
- Auto-caching —améliore→ gestion des breakpoints cache (CONCEPT, 0.96)
- Auto-caching —converge_avec→ caching bloc par bloc (TECHNOLOGIE, 0.95)
- prefill et decode —fait_partie_de→ Inférence LLM (CONCEPT, 0.98)
- Prompt caching —réduit→ recalcul du prefill (CONCEPT, 0.97)
- @peakji —affirme_que→ le cache hit rate est la métrique la plus importante pour un agent en production (AFFIRMATION, 0.95)
- @peakji —travaille_chez→ Manus (ORGANISATION, 0.96)
- @trq212 —publie→ leçons pratiques cache Claude Code (DOCUMENT, 0.93)
- vLLM —utilise→ caching du prefill (CONCEPT, 0.9)
- SGLang —utilise→ caching du prefill (CONCEPT, 0.9)

---
Canonical: https://www.thekb.eu/it/fiches/lancemartin-anthropic-prompt-auto-caching-claude-2026-02/