CONCEPT
Prompt caching
Prompt caching — Concept. description : Mécanisme de réutilisation du prefill par correspondance de préfixe · rôle : Variable de prix décisive du trafic agentique, qui renvoie le même contexte à chaque étape
- description
- Mécanisme de réutilisation du prefill par correspondance de préfixe
- rôle
- Variable de prix décisive du trafic agentique, qui renvoie le même contexte à chaque étape