Prompt caching

Les tokens mis en cache coûtent 10 pour cent du prix normal. Lance Martin, developer advocate chez Anthropic, explique en quoi cela tient à une propriété de l'API messages de Claude : elle est sans état. Un agent qui boucle sur des actions réempaquette à chaque tour son historique, les descriptions d'outils et les instructions, si bien que sans mise en cache il paie plein tarif pour un contexte qu'il a déjà payé. La mise en cache calcule le prefill une seule fois et le réutilise quand un préfixe correspond exactement, jusqu'au caractère.

L'équipe «Claude Code» d'Anthropic traite cela comme une question d'architecture, pas d'optimisation : un changement n'importe où dans le préfixe invalide tout ce qui suit. Leur system prompt fait tourner d'abord le contenu statique et les outils, puis CLAUDE.MD, puis le contexte de session, puis les messages. Un horodatage, un ordre d'outils non déterministe, ou un seul outil ajouté brise la chaîne. Changer de modèle en cours de session est également exclu, d'où le recours à des subagents avec un message de passation. Le mode plan ajoute EnterPlanMode et ExitPlanMode comme outils supplémentaires plutôt que de substituer des outils en lecture seule, et la recherche d'outils conserve les outils «MCP» inutilisés sous forme de stubs avec defer_loading: true.

Peter Walker, qui dirige l'analytique chez OpenRouter, situe au 6 février 2026 le moment où les agents sont devenus la plus grande source de tokens, et évalue le taux de cache des modèles récents à 88 pour cent. «GPT-5.6» facture les écritures en cache à 1,25 fois le tarif et maintient les lectures à moins 90 pour cent, sur des cycles agentiques où les lectures dépassent les écritures dans un rapport d'environ 153 à 1. @peakji, de Manus, considère le taux de succès du cache comme la métrique la plus importante pour un agent IA en production ; l'équipe «Claude Code» le surveille comme un indicateur de disponibilité, avec alertes et incidents déclarés.