Des prompts plus courts coûtent moins cher, laissent davantage de fenêtre de contexte pour le travail utile et renvoient en général le premier token plus tôt. Mais « raccourcissez le prompt » reste un conseil vague. Cet article mesure des coupes courantes sur un prompt réaliste de bot de support, avec les vrais tokenizers de quatre modèles ouverts et o200k_base d’OpenAI, pour que vous voyiez quelles modifications valent votre temps.
Si vous utilisez un agent de code, le budget de tokens d’un agent couvre cette boucle. Cet article porte sur les prompts d’application : chatbots, classifieurs et tâches d’extraction.
Comment avons-nous mesuré ?
Tous les décomptes ci-dessous sont les nôtres, réalisés le 15 novembre 2026 :
- Tokenizers. Les fichiers
tokenizer.jsonofficiels de DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B et de Gemma 4 26B A4B de Google, chacun à une révision Hugging Face figée (voir les sources), chargés avectokenizers0.23.3 de Hugging Face. Pluso200k_basedetiktoken0.14.0, pour comparer avec les modèles GPT. Les tokens spéciaux n’ont pas été ajoutés. - Prompts rendus. Pour DeepSeek, GLM et Qwen, nous avons aussi rendu des requêtes complètes via le
chat_template.jinjapublié de chaque modèle (bac à sable Jinja2), avec prompt système, outils, historique et question, et compté le résultat. C’est proche de ce qu’un serveur tokenise, mais un fournisseur peut utiliser un autre template : c’est doncusage.prompt_tokensde l’API qui fait foi. - Texte. Un bot de support synthétique pour un opérateur télécom fictif : un prompt système de 261 mots, 10 outils, 8 exemples few-shot, 40 lignes de commandes, un historique de 20 tours et un paragraphe arabe de 31 mots. Un prompt n’est qu’un point de mesure. Vos économies seront différentes ; la méthode, elle, se transpose.
Gemma 4 VL 26B de BroadNet est basé sur le modèle de Google, son décompte est donc une estimation. Les autres utilisent les fichiers propres aux modèles.
Quelles coupes économisent le plus de tokens ?
Texte brut, avant → après, avec la part économisée :
| Modification | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B | Gemma 4 | GPT o200k |
|---|---|---|---|---|---|
| Prompt système : 261 mots → 66 mots | 295 → 88 (70 %) | 294 → 89 (70 %) | 297 → 95 (68 %) | 297 → 96 (68 %) | 293 → 86 (71 %) |
| Few-shot : 8 exemples → 3 | 157 → 69 (56 %) | 157 → 69 (56 %) | 156 → 71 (54 %) | 156 → 71 (54 %) | 152 → 69 (55 %) |
| 40 lignes : JSON indenté → JSON minifié | 2 446 → 1 606 (34 %) | 2 460 → 1 581 (36 %) | 3 180 → 1 980 (38 %) | 3 210 → 2 010 (37 %) | 2 446 → 1 567 (36 %) |
| 40 lignes : JSON minifié → CSV | 1 606 → 948 (41 %) | 1 581 → 960 (39 %) | 1 980 → 1 359 (31 %) | 2 010 → 1 382 (31 %) | 1 567 → 946 (40 %) |
| 10 outils : descriptions verbeuses → courtes | 1 224 → 806 (34 %) | 1 214 → 797 (34 %) | 1 225 → 806 (34 %) | 1 252 → 827 (34 %) | 1 202 → 796 (34 %) |
| 10 outils verbeux → 3 courts | 1 224 → 258 (79 %) | 1 214 → 257 (79 %) | 1 225 → 266 (78 %) | 1 252 → 276 (78 %) | 1 202 → 255 (79 %) |
| Paragraphe arabe : entièrement vocalisé → sans voyelles | 193 → 74 (62 %) | 267 → 78 (71 %) | 151 → 62 (59 %) | 180 → 64 (64 %) | 218 → 62 (72 %) |
Pour la prose anglaise, les pourcentages sont proches d’un tokenizer à l’autre : une coupe qui aide sur un modèle aide aussi sur les autres. Deux lignes font exception. Les données de commandes coûtaient à Qwen et Gemma 23 à 46 % de tokens de plus qu’à DeepSeek et GLM dans tous les formats, car leurs tokenizers découpent les nombres en chiffres isolés : 100200 fait 6 tokens chez Qwen et 2 chez DeepSeek. Et les diacritiques arabes frappent certains tokenizers bien plus durement que d’autres.
À quoi ressemble une requête complète ?
Le texte brut ignore le template de chat. Rendu via le template propre à chaque modèle, avec la même question client, le prompt complet mesurait :
| Requête | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B |
|---|---|---|---|
| A. Prompt système verbeux + 10 outils verbeux | 1 677 | 1 535 | 1 797 |
| B. Prompt système allégé + 10 outils courts | 1 052 | 913 | 1 176 |
| C. Prompt système allégé + 3 outils courts | 574 | 443 | 636 |
| D. Prompt système allégé, sans outils | 136 | 121 | 174 |
| C + 20 tours précédents en entier | 2 374 | 2 243 | 2 693 |
| C + résumé de 3 lignes + 4 derniers tours | 979 | 849 | 1 103 |
Passer de A à C a retiré environ 65 à 71 % de chaque requête (64,6 % sur Qwen, 71,1 % sur GLM). L’essentiel venait des outils. Rendus avec le prompt système verbeux, les 10 outils verbeux ajoutaient 1 334 tokens sur DeepSeek, 1 209 sur GLM et 1 421 sur Qwen ; les 3 outils courts de C ajoutaient 322 à 462 par rapport à D. Les schémas d’appel d’outils voyagent avec chaque requête, que le modèle s’en serve ou non.
À grande échelle, cela s’additionne. Sur Qwen3.8 27B, passer de A à C économise 1 161 tokens par requête. À 100 000 requêtes par mois, cela fait environ 116 millions de tokens d’entrée, soit 116 × $0.175 par mois au prix d’entrée standard.
Comment alléger un prompt système sans le casser ?
Notre prompt de 261 mots et celui de 66 mots portent les mêmes sept règles. Les coupes étaient toutes de même nature :
- Supprimer la politesse envers le modèle. « It is very important that you always remain polite and courteous at all times » (traduction : « Il est très important que tu restes toujours poli et courtois en toutes circonstances ») a disparu : la ligne de rôle l’implique déjà.
- Une règle par ligne. Des puces remplacent les phrases du type « Please make sure that you always… » (traduction : « Veille bien à toujours… »).
- Fusionner les doublons. Trois phrases sur la langue sont devenues « Reply in the customer’s language (Arabic or English), briefly. » (traduction : « Réponds brièvement dans la langue du client (arabe ou anglais). »)
- Supprimer les évidences répétées. « Remember to always be helpful! » (traduction : « N’oublie pas d’être toujours serviable ! ») ne change rien.
Ensuite, testez. Un prompt plus court qui perd une règle coûte plus qu’il n’économise. Passez les deux versions sur les mêmes 50 à 100 entrées réelles et comparez, comme dans évaluer un LLM avant d’en changer.
De combien d’exemples few-shot avez-vous besoin ?
De moins que ce que contiennent la plupart des prompts. Chaque exemple few-shot est payé à chaque appel. Gardez ceux qui corrigent une erreur que le modèle commet sans eux, comme un exemple dialectal pour un classifieur arabe, et supprimez ceux qu’il réussit déjà. Notre passage de 8 à 3 a économisé 54 à 56 % du bloc d’exemples. Savoir si 3 suffisent pour votre tâche est une question de précision, pas de tokens : vérifiez-le sur votre jeu de test.
Faut-il envoyer outils, données et historique autrement ?
Outils. N’envoyez que les outils utilisables à l’étape en cours. Une question de facturation a besoin de get_account, get_bill et create_ticket, pas de order_esim. Raccourcissez les descriptions à ce dont le modèle a besoin pour choisir l’outil et le remplir. L’indentation n’a pas d’importance ici : les templates que nous avons rendus resérialisent tous le tableau tools avec tojson, donc un tableau tools indenté coûte autant qu’un tableau minifié.
Données dans les messages. Les données que vous collez dans un message sont envoyées telles quelles. Minifiez au moins le JSON. Pour des enregistrements plats, le CSV ou le TSV supprime les clés répétées : 31 à 41 % de tokens de moins que le JSON minifié dans notre test. Les données imbriquées restent en JSON. Vérifiez que le modèle lit toujours correctement les colonnes.
Historique. Chaque tour passé est renvoyé. Remplacer 16 anciens tours par un résumé de trois lignes, en gardant les quatre derniers tours tels quels, a fait passer le prompt Qwen de 2 693 à 1 103 tokens. Un résumé perd des détails auxquels l’utilisateur pourrait revenir, et le réécrire modifie le préfixe, ce qui casse le cache. La gestion du contexte des agents de longue durée explique quand compacter.
Diacritiques arabes. La plupart des textes arabes s’écrivent sans voyelles brèves. Si votre entrée est entièrement vocalisée, parce qu’elle vient d’un dictionnaire, d’un manuel ou d’une source religieuse, retirer ces signes (U+064B à U+0652) a réduit notre paragraphe de 59 à 72 %. Gardez-les quand la tâche en dépend, comme l’enseignement ou la poésie. La normalisation du texte arabe couvre les autres caractères à normaliser, et les tokens par mot en arabe l’écart plus large avec l’anglais.
Où le cache intervient-il ?
Le cache ne réduit pas le prompt. Il rend la partie répétée moins chère. Le guide du cache d’OpenAI indique que « the entire rendered prefix » (traduction : « tout le préfixe rendu ») doit correspondre et conseille de placer les instructions stables en premier. La page de prix de BroadNet décrit l’entrée en cache comme « usually the repeated start of recent requests, such as a long system prompt » (traduction : « en général le début répété des requêtes récentes, comme un long prompt système »), sans rien à configurer, et sa documentation indique les succès dans usage.prompt_tokens_details.cached_tokens.
L’ordre est donc le suivant : raccourcir d’abord, puis rendre stable le préfixe raccourci. Prompt système et outils en premier, identiques à l’octet près à chaque appel ; l’historique ensuite, en ajout seul ; le nouveau message en dernier. Sur Qwen3.8 27B, l’entrée en cache coûte $0.0435 par million contre $0.175. Structurer ses prompts pour le cache donne l’agencement et un test qui prouve la réutilisation du préfixe. Les tokens en cache comptent toujours dans la fenêtre de contexte.
Comment mesurer votre propre prompt ?
Partez de la facture. Journalisez usage.prompt_tokens par point d’appel pendant une journée et trouvez le plus gros. Comparez ensuite des versions en local avec ce script, qui affiche les décomptes avant et après pour deux fichiers :
# pip install tokenizers tiktoken huggingface_hub
import json, sys
import tiktoken
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer
def hf(repo, rev):
return Tokenizer.from_file(hf_hub_download(repo, "tokenizer.json", revision=rev))
COUNTERS = {
"Qwen3.8 27B": hf("Qwen/Qwen3.8-27B", "37561816e66b5b9153b1b64c10968c18c1e6f4a0").encode,
"GPT o200k": tiktoken.get_encoding("o200k_base").encode,
}
def n(enc, text):
out = enc(text)
return len(out.ids if hasattr(out, "ids") else out)
def diff(before, after):
for name, enc in COUNTERS.items():
a, b = n(enc, before), n(enc, after)
print(f"{name:12} {a:6} -> {b:6} saved {a - b} ({100 * (a - b) / a:.0f}%)")
if __name__ == "__main__":
diff(open(sys.argv[1], encoding="utf-8").read(), open(sys.argv[2], encoding="utf-8").read())
Appliqué à nos deux prompts système, il a affiché :
Qwen3.8 27B 297 -> 95 saved 202 (68%)
GPT o200k 293 -> 86 saved 207 (71%)
Ajoutez les dépôts des autres modèles listés dans les sources pour comparer les quatre. Pour une vérification rapide dans le navigateur, le diff de tokens de prompt compare deux versions côte à côte, et le compteur de tokens en compte une. Après le déploiement, confirmez l’économie dans usage.prompt_tokens, qui inclut le template.
La place de BroadNet Inference
BroadRouter est le site de BroadNet. BroadNet Inference facture les tokens de prompt au prix d’entrée de chaque modèle et lit les préfixes répétés depuis le cache au prix de l’entrée en cache quand le modèle en a un : des prompts plus courts comme des préfixes stables font donc baisser la facture. Gemma 4 VL 26B a un contexte de 32 768 tokens, où alléger compte pour que tout tienne, pas seulement pour le coût. Avec les forfaits DeepSeek V4.1 Flash, il n’y a pas de compteur de tokens, mais le contexte de 1 048 576 tokens s’applique toujours, et un prompt plus court répond toujours plus vite. Les prompts ne sont pas conservés après chaque requête.
