Prompt caching : payer moins le début répété

Le prompt caching (mise en cache du prompt) permet à l'API de réutiliser le début d'une requête déjà traité, au lieu de le relire à chaque appel. Si vos requêtes commencent toutes par les mêmes consignes, le même catalogue ou le même document de référence, ce début n'est payé plein tarif qu'une fois ; les appels suivants le relisent à une fraction du prix d'entrée, et plus vite. Chez Claude, il s'active avec un champ cache_control ; chez Gemini, le cache implicite est automatique ; chez Mistral, l'entrée en cache a son propre prix. Détails d'après les documentations lues le 15/11/2026.

Chez Claude : deux façons de l'activer

• Automatique : un seul champ cache_control au niveau de la requête ; le système place lui-même les points de coupure au fil de la conversation. La documentation le présente comme le point de départ recommandé.
• Explicite : cache_control posé sur des blocs précis, pour décider exactement de ce qui est mis en cache, jusqu'à 4 points de coupure.

La valeur est la même dans les deux cas :

{ "cache_control": { "type": "ephemeral" } }

Et pour une durée d'une heure :

"cache_control": { "type": "ephemeral", "ttl": "1h" }

Les règles qui font qu'un cache « prend »

1. L'ordre compte : outils, puis consignes système (system), puis messages. Modifier un niveau invalide ce niveau et tous les suivants.
2. L'identité doit être parfaite : un cache n'est relu que si le début est identique à 100 %, textes et images compris, jusqu'au bloc marqué.
3. La taille minimale : 512 jetons pour les modèles les plus récents comme Claude Haiku 5.5 ; 1 024 jetons pour Claude Sonnet 5 ou Sonnet 4.6 ; 4 096 jetons pour Claude Haiku 4.5. En dessous, rien n'est mis en cache, même avec cache_control.
4. La durée : 5 minutes par défaut, prolongées sans frais à chaque lecture.
5. Le cloisonnement : les caches sont isolés entre organisations, même pour des prompts identiques, et aussi entre espaces de travail sur l'API Claude. Un autre client ne relit jamais votre cache.

Conséquence pratique : mettez tout ce qui est stable en tête (consignes, définitions d'outils, documents de référence), et la question de l'utilisateur à la fin. Une date du jour ou un identifiant de session placé en haut du prompt casse le cache à chaque appel.

Ce que ça coûte chez Claude

La documentation fait le calcul : avec l'écriture à 5 minutes, le cache est rentable dès la première relecture ; avec l'écriture à une heure, dès la deuxième. Ces multiplicateurs se cumulent avec la remise des traitements par lots. Les prix en dollars, modèle par modèle, sont sur la page tarifs.

Le cache a un second effet, souvent oublié : les jetons lus en cache ne comptent pas dans la limite de jetons d'entrée par minute. Il augmente donc le débit réel sans changer de palier (voir erreur 429).

Suivre l'effet dans les réponses

Le champ usage de chaque réponse sépare trois compteurs :

• cache_creation_input_tokens : jetons écrits dans le cache ;
• cache_read_input_tokens : jetons relus depuis le cache ;
• input_tokens : jetons ni lus ni écrits en cache, situés après le dernier point de coupure.

Si cache_read_input_tokens reste à zéro d'un appel à l'autre, quelque chose change dans le début du prompt.

Chez Gemini et Mistral

• Gemini : le cache implicite est activé par défaut sur les modèles Gemini 2.5 et suivants, sans réglage ; les économies sont reportées automatiquement en cas de lecture. Le minimum est de 4 096 jetons d'entrée pour Gemini 4 Carbon, Argon et Hydrogen, Gemini 3.8 Flash ou Gemini 3.1 Pro Preview. Le cache explicite (objets de cache créés et gérés par vous) n'existe pas dans l'API Interactions ; il faut passer par l'API generateContent. Les jetons relus coûtent par exemple 0,075 $ par million pour Gemini 4 Hydrogen, contre 1,50 $ en entrée normale.
• Mistral : la page commerciale annonce une baisse du coût d'entrée « jusqu'à 90 % » pour les prompts répétés ; la grille technique donne par exemple 0,07 $ par million de jetons en cache pour Mistral Large 4, contre 0,7 $ en entrée.

Un exemple pour fixer les idées

Prenons, à titre d'illustration, un assistant interne qui répond aux questions des commerciaux à partir d'un catalogue de produits placé dans les consignes. Sans cache, le catalogue est relu et payé à chaque question. Avec un cache sur le bloc « consignes + catalogue », seule la première question de chaque fenêtre paie l'écriture ; les suivantes relisent le catalogue à une fraction du prix et ne paient plein tarif que la question. Mesurez sur vos propres échanges, avec les compteurs usage, avant de chiffrer le gain.