- thekb.eu
- Grafo de conocimiento
- Concepto
- Prompt caching
Prompt caching
Prompt caching — Concepto. descripción: Mecanismo de reutilización del prefill por coincidencia de prefijo · rol: Variable de precio decisiva del tráfico agéntico, que reenvía el mismo contexto en cada paso
Los tokens en caché cuestan el 10 por ciento del precio normal. Lance Martin, developer advocate en Anthropic, explica por qué esto importa a partir de una propiedad de la API de mensajes de Claude: es sin estado. Un agente que itera sobre acciones vuelve a empaquetar su historial, las descripciones de herramientas y las instrucciones en cada turno, de modo que sin caché paga el precio completo por un contexto que ya ha pagado antes. El caché calcula el prefill una sola vez y lo reutiliza cuando un prefijo coincide exactamente, carácter por carácter.
El equipo de «Claude Code» en Anthropic trata esto como arquitectura y no como optimización: un cambio en cualquier punto del prefijo invalida todo lo que viene después. Su system prompt ejecuta primero el contenido estático y las herramientas, luego CLAUDE.MD, después el contexto de sesión y finalmente los mensajes. Una marca de tiempo, un orden no determinista de herramientas, o una sola herramienta añadida, rompe la cadena. Cambiar de modelo a mitad de sesión también queda descartado, de ahí los subagentes con un mensaje de traspaso. El modo plan añade EnterPlanMode y ExitPlanMode como herramientas adicionales en lugar de sustituirlas por versiones de solo lectura, y la búsqueda de herramientas mantiene las herramientas MCP no utilizadas como stubs con defer_loading: true.
Peter Walker, quien dirige analítica en OpenRouter, fecha el momento en que los agentes se convirtieron en la mayor fuente de tokens el 6 de febrero de 2026 y sitúa la tasa de caché de los modelos recientes en 88 por ciento. «GPT-5.6» factura las escrituras en caché a 1,25 veces y mantiene las lecturas en menos 90 por ciento, en ciclos agénticos donde las lecturas superan a las escrituras en una proporción de aproximadamente 153 a 1. @peakji, de Manus, considera que la tasa de aciertos de caché es la métrica más importante para un agente de IA en producción; el equipo de «Claude Code» la vigila como si fuera el uptime, con alertas e incidentes declarados.
- Tipo
- Concepto
- descripción
- Mecanismo de reutilización del prefill por coincidencia de prefijo
- rol
- Variable de precio decisiva del tráfico agéntico, que reenvía el mismo contexto en cada paso
- relaciones
- 5
- Citada en
- 2 fiches
Vecindario
← se basa en