BroadRouter

Tokens de raisonnement (reasoning tokens)

Mis à jour

Les tokens de raisonnement sont les tokens qu’un modèle de raisonnement génère pour résoudre un problème avant d’écrire sa réponse visible. Ils sont généralement facturés comme des tokens de sortie, comptent dans la limite de sortie et dans la fenêtre de contexte, et peuvent être masqués ou résumés par l’API.

Aussi appelé : tokens de raisonnement, tokens de réflexion, thinking tokens, tokens de chaîne de pensée, effort de raisonnement, reasoning tokens, chain-of-thought tokens, reasoning effort, extended thinking

Les modèles de raisonnement réfléchissent avant de répondre. Cette réflexion est aussi du texte : elle coûte des tokens, du temps et de la place dans la fenêtre de contexte.

Comment ça marche

Un modèle de raisonnement génère une chaîne de pensée interne, puis la réponse visible. Les deux puisent dans le même budget de sortie. Le guide d’OpenAI indique que les tokens de raisonnement « are billed as output tokens » (traduction : « sont facturés comme des tokens de sortie ») et occupent de la place dans la fenêtre de contexte ; Anthropic dit la même chose des tokens de thinking et les qualifie de « a subset of your max_tokens » (traduction : « un sous-ensemble de vos max_tokens »).

Dans le format Chat Completions, le décompte apparaît dans usage :

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

Ici, 1 024 des 1 186 tokens de sortie sont partis dans la réflexion, et seulement 162 dans la réponse. OpenAI prévient qu’une réponse peut atteindre la limite « before any visible output tokens are produced » (traduction : « avant qu’aucun token de sortie visible ne soit produit ») : vous payez alors l’entrée et le raisonnement sans obtenir de réponse. OpenAI suggère de réserver au moins 25 000 tokens au raisonnement et à la sortie quand vous commencez à expérimenter avec ses modèles.

Beaucoup d’API exposent un réglage comme reasoning_effort (low, medium, high) pour échanger de la qualité contre moins de tokens de réflexion.

Pourquoi c’est important

  • Coût. Avec une clé facturée au token, le raisonnement est facturé au prix de sortie, en général le tarif le plus élevé. Voir tokens d’entrée et de sortie.
  • Latence. La réflexion prend du temps avant le premier token visible. À tokens par seconde constants, 2 000 tokens de raisonnement ajoutent le temps de 2 000 tokens de sortie.
  • Fiabilité. Un petit max_tokens qui fonctionnait sur un modèle sans raisonnement peut renvoyer des réponses vides sur un modèle de raisonnement.

Sur BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre. La documentation de BroadNet indique que le raisonnement est décompté de max_tokens. Elle ne mentionne pas de raisonnement pour BroadNet Gemma 4 VL 26B.

Quand le modèle le fournit, usage.completion_tokens_details.reasoning_tokens indique la part consacrée à la réflexion. Fixez max_tokens à 1 000 ou plus, ou ne le définissez pas, et utilisez reasoning_effort="low" pour les étapes simples :

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

En paiement à l’usage, le raisonnement est facturé au prix de sortie, par exemple $0.52 par million de tokens sur DeepSeek V4.1 Flash. Avec un forfait illimité pour ce modèle, il n’y a pas de compteur de tokens : le raisonnement ne coûte rien de plus, il prend seulement du temps. La liste complète des correctifs se trouve dans pourquoi un modèle de raisonnement renvoie une réponse vide.

Questions fréquentes

Puis-je voir les tokens de raisonnement ?

Cela dépend de l’API. OpenAI indique que les tokens de raisonnement ne sont pas visibles via son API, mais qu’ils peuvent être résumés. D’autres fournisseurs renvoient tout ou partie du raisonnement dans un champ séparé. Vous êtes facturé dans tous les cas.

Comment réduire les tokens de raisonnement ?

Utilisez un effort de raisonnement plus faible pour les tâches simples, par exemple reasoning_effort à low, quand le modèle le permet. Des prompts clairs et précis aident aussi.

Pourquoi ai-je obtenu une réponse vide d’un modèle de raisonnement ?

Le modèle a probablement consommé tout le budget de sortie en raisonnant. finish_reason vaut alors length. Augmentez max_tokens ou baissez l’effort de raisonnement.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity