BroadRouter

Tokens d’entrée et de sortie

Mis à jour

Les tokens d’entrée sont les tokens qu’un modèle de langage lit dans une requête, dont le prompt système, l’historique de conversation, les définitions d’outils et les images. Les tokens de sortie sont ceux qu’il génère en réponse, raisonnement compris. Les API LLM les facturent généralement séparément, et la sortie coûte en général plus cher.

Aussi appelé : tokens d’entrée, tokens de sortie, tokens du prompt, tokens de complétion, input tokens, output tokens, prompt tokens, completion tokens

Chaque requête à un LLM a deux côtés : ce que vous envoyez et ce qui revient. Les API comptent les deux en tokens, et la plupart les facturent à des tarifs différents.

Comment ça marche

L’entrée, c’est tout ce que contient la requête : le prompt système, chaque message précédent, les définitions d’outils, les résultats d’outils, les documents et les images. Un chat à plusieurs tours renvoie tout l’historique à chaque tour : l’entrée grandit donc avec la conversation.

La sortie, c’est tout ce que le modèle génère : la réponse visible, les appels d’outils et, pour les modèles de raisonnement, les tokens de raisonnement cachés.

Le bloc usage indique les deux :

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

Le coût d’une requête est :

(new input × input price) + (cached input × cached price) + (output × output price), c’est-à-dire l’entrée nouvelle fois le prix d’entrée, plus l’entrée en cache fois le prix du cache, plus la sortie fois le prix de sortie, chaque prix étant exprimé par million de tokens.

Pourquoi c’est important

Le rapport entre les deux détermine quel prix compte. Un assistant de chat peut produire quelques centaines de tokens pour une question courte. Un agent de code renvoie un gros contexte de dépôt à chaque tour et écrit un patch court : l’entrée peut alors dépasser la sortie dans un rapport de 20 pour 1, voire plus. Pour les agents, le prix d’entrée et le prix de l’entrée en cache font l’essentiel de la facture.

La sortie mérite tout de même d’être surveillée. Les modèles de raisonnement peuvent dépenser plus de tokens à réfléchir qu’à répondre, et ces tokens sont facturés comme sortie. Le rapport typique entre prix de sortie et prix d’entrée, sur les modèles que nous suivons, figure dans l’index des prix des API LLM.

Sur BroadNet Inference

Par million de tokens, d’après le fichier de prix publié :

Modèle Entrée Entrée en cache Sortie
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

Dans l’exemple chiffré de BroadNet, un agent de code à plein temps envoie 1 000 millions de tokens d’entrée par mois avec 80 % de hits de cache et reçoit 50 millions de tokens de sortie. Sur DeepSeek V4.1 Flash au token, cela coûte $65.40. Un forfait supprime le compteur : Full Moon coûte $60 par mois et par session. Comparez vos propres chiffres avec le calculateur de prix ou lisez forfait ou paiement au token.

Erreurs fréquentes

  • Ne chiffrer que la réponse visible et oublier les tokens de raisonnement.
  • Négliger la vitesse à laquelle l’historique grandit. Le 30e tour d’un chat peut transporter l’entrée de 30 tours.

Questions fréquentes

Quelle différence entre prompt tokens et tokens d’entrée ?

Aucune. Le format Chat Completions les appelle prompt_tokens et completion_tokens. Les API plus récentes, comme la Responses API d’OpenAI et la Messages API d’Anthropic, les appellent input_tokens et output_tokens.

Pourquoi la sortie coûte-t-elle plus cher que l’entrée ?

Un modèle lit tout le prompt en une seule passe parallèle, mais génère la sortie un token à la fois : chaque token de sortie consomme donc plus de temps GPU.

Les définitions d’outils sont-elles facturées ?

Oui. Les schémas d’outils et leurs résultats font partie du prompt : ce sont des tokens d’entrée à chaque requête qui les inclut.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity