BroadRouter

Réduire le coût LLM d’un agent de code : 10 leviers chiffrés

Par l’équipe BroadNet Inference · 6 min de lecture · Publié

La dépense vient surtout de l’entrée renvoyée à chaque tour. Gardez le préfixe du prompt stable pour le cache, nommez les fichiers, réduisez la sortie des outils, baissez l’effort de raisonnement, plafonnez boucles et retries, et confiez les étapes simples à des modèles moins chers. Sur DeepSeek V4.1 Flash, l’entrée en cache coûte environ 3 % de l’entrée nouvelle. Au-delà d’environ 917 millions de tokens d’entrée mensuels, un forfait à $60 revient moins cher.

La facture d’un agent de code augmente d’une façon que celle d’un chat ne connaît pas. Chaque tour renvoie le prompt système, la liste des outils, les fichiers déjà lus et toute la conversation. Au 30e tour, une seule requête peut contenir des centaines de milliers de tokens d’entrée, pour la plupart des répétitions. Les dix leviers ci-dessous visent les endroits où partent ces tokens. Chacun est accompagné d’une économie estimée et du calcul correspondant, sur la base des prix de BroadNet Inference synchronisés le 2026-11-14. Vos chiffres seront différents : mesurez avant et après.

Où part l’argent d’un agent de code ?

Trois compteurs, du plus gros au plus petit pour la plupart des agents :

  1. L’entrée, renvoyée à chaque tour. En grande partie cachable.
  2. La sortie, y compris les tokens de raisonnement que vous ne voyez jamais.
  3. Le gaspillage : retries, boucles qui n’avancent pas et contexte dont personne n’avait besoin.

Relevez prompt_tokens, prompt_tokens_details.cached_tokens et completion_tokens sur une journée de travail réel avant de changer quoi que ce soit. Où partent les tokens d’une boucle d’agent montre comment les ventiler.

Quels leviers font le plus économiser ?

N° Levier Ce qu’il réduit Économie estimée
1 Garder le préfixe du prompt stable Entrée nouvelle Facture d’entrée divisée par deux ou plus
2 Nommer les fichiers au lieu de laisser l’agent chercher Tours d’exploration Moins de tours, moins de renvois
3 Réduire la sortie des outils Entrée de chaque tour suivant Proportionnelle à la taille des logs
4 Baisser l’effort de raisonnement sur les étapes de routine Sortie invisible Dépend du mélange de tâches
5 Plafonner les étapes par tâche Boucles qui s’emballent Borne le pire cas
6 Plafonner et journaliser les retries Requêtes en double Chaque retry évité est une requête complète
7 Ouvrir une nouvelle session par tâche Historique périmé Contexte plus court à chaque tour
8 Confier les étapes simples à un modèle moins cher Prix par token Forte sur les étapes déléguées
9 Résumer rarement, ajouter souvent Défauts de cache Préserve le levier 1
10 Passer au forfait au-delà du seuil de rentabilité Le compteur de tokens $5.40 par mois dans notre exemple

1. Garder le préfixe du prompt stable pour qu’il soit mis en cache

Sur DeepSeek V4.1 Flash, l’entrée en cache coûte $0.0055 par million ; l’entrée nouvelle coûte $0.175, environ 32 fois plus. Ordonnez les prompts ainsi : prompt système, outils, fichiers, historique, nouveau message. Ne placez jamais d’horodatage en tête. Cursor a indiqué en septembre 2026 que des modifications de son harness, dont un prompt système raccourci d’environ deux tiers et des outils chargés seulement en cas de besoin, ont réduit de 7 % le coût en tokens de ses utilisateurs. Comment structurer les prompts pour que le préfixe soit mis en cache.

Économie estimée. Prenez 1 000 M de tokens d’entrée par mois. Avec 50 % de hits de cache, vous payez le prix de l’entrée nouvelle sur 500 M ; avec 80 %, sur 200 M. Partie en cache comprise, la facture d’entrée baisse d’environ 56 %. Comment augmenter votre taux de cache, ou testez vos propres chiffres dans le calculateur de prompt caching.

2. Dire à l’agent quels fichiers comptent

Une tâche vague (« fix the login bug », c’est-à-dire « corrige le bug de connexion ») envoie l’agent chercher : lister les répertoires, ouvrir des fichiers, les charger dans le contexte. Chaque fichier ouvert est ensuite renvoyé à chaque tour suivant. Nommez les fichiers et la modification attendue. Gardez dans le dépôt une courte carte du projet que l’agent lit en premier.

Économie estimée. Si un fichier de 40 000 tokens est lu au tour 3 d’une tâche de 30 tours, il est renvoyé environ 27 fois : plus d’un million de tokens d’entrée pour un seul fichier. Ne pas le lire économise la totalité.

3. Réduire la sortie des outils avant qu’elle n’entre dans le contexte

Les lanceurs de tests, les logs de build et git diff peuvent renvoyer des dizaines de milliers de tokens. Montrez à l’agent les 100 dernières lignes d’un log ou seulement les tests en échec. La plupart des outils d’agent permettent de fixer une limite de sortie pour les commandes.

Économie estimée. Même calcul qu’au levier 2 : chaque token supprimé est économisé une fois par tour restant.

4. Baisser l’effort de raisonnement sur les étapes de routine

DeepSeek V4.1 Flash et GLM 5.3 réfléchissent avant de répondre, et cette réflexion est facturée comme de la sortie. Réglez reasoning_effort: "low" pour les renommages, le formatage et les petites modifications. Gardez max_tokens assez élevé pour que la réponse aboutisse, sinon vous payez la réflexion et obtenez une réponse vide. Le coût des tokens de raisonnement.

Économie estimée. Mesurez completion_tokens_details.reasoning_tokens avant et après sur les mêmes 20 tâches. L’économie est la baisse multipliée par le prix de sortie ($0.52 par million).

5. Plafonner les étapes par tâche

Un agent qui n’arrive pas à corriger un test peut boucler pendant 100 tours, chacun plus gros que le précédent. Fixez un nombre maximal de tours par tâche, et arrêtez-vous quand le même appel d’outil se répète trois fois. Un plafond d’étapes transforme un coût illimité en coût borné.

6. Plafonner et journaliser les retries

Une requête relancée est une nouvelle inférence, facturée de nouveau sur une clé au token. Relancez les 429 et 5xx avec backoff et une limite fixe ; ne relancez pas les autres erreurs 4xx comme 400 ou 422. Erreurs et retries.

7. Ouvrir une nouvelle session pour chaque tâche

L’historique de la tâche précédente est un poids mort pour la suivante. Une nouvelle session par tâche garde le contexte court. Cela ne contredit pas le cache : le prompt système et les outils forment toujours un préfixe commun, cachable.

8. Confier les étapes simples à un modèle moins cher

Toutes les étapes n’ont pas besoin du même modèle. Les messages de commit, les lignes de changelog et la classification simple peuvent aller à Gemma 4 VL 26B, à $0.10 en entrée et $0.22 en sortie par million. Si vous utilisez GLM 5.3 pour les étapes riches en outils, confiez le reste à DeepSeek V4.1 Flash : la sortie de GLM 5.3 coûte environ 6,7 fois plus. GLM 5.3 ou DeepSeek V4.1 Flash.

Attention. Mesurez le coût par tâche terminée. Un modèle moins cher qui demande deux fois plus de tours peut coûter davantage.

9. Résumer rarement, ajouter le reste

Quand un agent compresse son historique, il réécrit le prompt et le cache repart de zéro. Ne résumez que lorsque le contexte approche de sa limite, en une seule grosse étape, puis recommencez à ajouter. Le levier 1 reste ainsi efficace.

10. Passer au forfait une fois le seuil de rentabilité dépassé

La facturation au token récompense les petits usages. Un agent à plein temps n’est pas un petit usage. Dans l’exemple chiffré de BroadNet, un agent de code à plein temps (1 000 M de tokens d’entrée avec 80 % en cache, 50 M en sortie) coûte $65.40 par mois au token ; un agent toujours actif coûte $196.20. Une session Full Moon coûte $60 par mois sans compteur de tokens, une requête à la fois. À ce stade, les leviers 1 à 9 font encore gagner du temps, mais plus d’argent. Vérifiez vos propres volumes avec le calculateur forfait ou paiement au token, ou lisez le calcul du seuil de rentabilité et faire tourner des agents en parallèle avec un forfait.

Comment savoir si un levier a fonctionné ?

  1. Choisissez 20 tâches représentatives dans votre backlog.
  2. Exécutez-les avec votre configuration actuelle et journalisez les tokens par tâche.
  3. Appliquez un levier à la fois et relancez.
  4. Comparez le coût par tâche terminée, pas le coût par requête.

Pour les applications qui ne sont pas des agents de code, les mêmes leviers, dans un ordre général, se trouvent dans comment réduire les coûts d’une API LLM.

Guides de configuration pour les agents courants : Aider, Cline, Zoo Code, le fork de Roo Code, désormais arrêté et OpenCode.

La place de BroadNet Inference

BroadNet offre aux agents de code un tarif bas pour l’entrée en cache sur DeepSeek V4.1 Flash et, pour un usage intensif, des sessions illimitées à partir de $60 par mois, sur un endpoint compatible OpenAI que ces agents prennent déjà en charge. BroadNet ne fait pas tourner de modèles frontière fermés : si votre agent en a besoin pour ses étapes les plus difficiles, laissez ce modèle chez son fournisseur et envoyez ici l’essentiel des tours. Voir les forfaits.

Questions fréquentes

Pourquoi un agent de code coûte-t-il si cher à faire tourner ?

Il renvoie le prompt système, les définitions d’outils, le contenu des fichiers et l’historique à chaque tour : les tokens d’entrée augmentent donc à chaque étape. Le raisonnement ajoute en plus une sortie invisible.

Quel est le principal levier pour réduire le coût d’un agent de code ?

Gardez le début du prompt identique d’un tour à l’autre pour qu’il soit facturé comme entrée en cache. Sur DeepSeek V4.1 Flash, l’entrée en cache coûte $0.0055 par million, contre $0.175.

Un modèle moins cher revient-il toujours moins cher pour un agent de code ?

Non. Un modèle plus faible qui demande plus d’étapes, ou qui échoue et recommence, peut coûter plus au total. Mesurez le coût par tâche terminée, pas par token.

À partir de quand un forfait est-il plus rentable pour mon agent de code ?

Pour DeepSeek V4.1 Flash, à partir d’environ 917 millions de tokens d’entrée et 46 millions de tokens de sortie par mois avec 80 % de hits de cache. Un agent à plein temps dépasse en général ce seuil.

Comment empêcher mon agent de code de tourner en boucle et de brûler des tokens ?

Plafonnez le nombre de tours par tâche, arrêtez-vous quand le même appel d’outil se répète trois fois, et plafonnez les retries sur les erreurs 429 et 5xx. Un plafond d’étapes transforme un coût illimité en coût borné.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity