Prompt caching

I token della cache costano il 10 percento del prezzo normale. Lance Martin, developer advocate presso Anthropic, fa risalire l'importanza di questo fatto a una proprietà delle Claude messages API: è senza stato. Un agente che cicla attraverso azioni ricompone la propria storia, le descrizioni degli strumenti e le istruzioni a ogni turno, così senza caching paga il prezzo pieno per un contesto che ha già pagato. Il caching calcola il prefill una sola volta e lo riutilizza quando un prefisso corrisponde esattamente, fino al carattere.

Il team Claude Code di Anthropic tratta questo come architettura, non come ottimizzazione: un cambiamento in qualsiasi punto del prefisso invalida tutto ciò che segue. Il loro system prompt eseguisce prima il contenuto statico e gli strumenti, poi CLAUDE.MD, poi il contesto di sessione, poi i messaggi. Un timestamp, un ordine non deterministico degli strumenti o un solo strumento aggiunto rompono la catena. Cambiare modello a metà sessione è escluso anch'esso, da cui i subagent con un messaggio di handoff. La plan mode aggiunge EnterPlanMode e ExitPlanMode come strumenti extra invece di sostituirli con strumenti di sola lettura, e tool search mantiene gli strumenti MCP non usati come stub con defer_loading: true.

Peter Walker, a capo dell'analytics di OpenRouter, fa risalire al 6 febbraio 2026 il momento in cui gli agenti sono diventati la principale fonte di token e colloca il tasso di cache dei modelli recenti all'88 percento. GPT-5.6 fattura le scritture in cache a 1,25 volte e mantiene le letture a meno 90 percento, su cicli agentici in cui le letture superano le scritture in un rapporto di circa 153 a 1. @peakji di Manus definisce il cache hit rate la metrica più importante per un agente AI in produzione; il team Claude Code la monitora come l'uptime, con allarmi e incidenti dichiarati.