BroadRouter

Token di ragionamento (reasoning tokens)

Aggiornato

I token di ragionamento sono token che un modello di ragionamento genera per elaborare un problema prima di scrivere la risposta visibile. Di solito sono fatturati come token di output, contano nel limite di output e nella finestra di contesto, e l’API può nasconderli o riassumerli.

Detto anche: token di ragionamento, token di pensiero, reasoning tokens, thinking tokens, chain-of-thought tokens, reasoning effort, extended thinking

I modelli di ragionamento pensano prima di rispondere. Anche quel pensiero è testo, quindi costa token, tempo e spazio nella finestra di contesto.

Come funziona

Un modello di ragionamento genera una catena di pensiero interna, poi la risposta visibile. Entrambe attingono allo stesso budget di output. La guida di OpenAI dice che i token di ragionamento “are billed as output tokens” (traduzione: sono fatturati come token di output) e occupano spazio nella finestra di contesto; Anthropic dice lo stesso dei token di thinking e li chiama “a subset of your max_tokens” (traduzione: un sottoinsieme dei tuoi max_tokens).

Nel formato Chat Completions, il conteggio compare in usage:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

Qui 1.024 dei 1.186 token di output sono andati al pensiero, e solo 162 alla risposta. OpenAI avverte che una risposta può raggiungere il limite “before any visible output tokens are produced” (traduzione: prima che venga prodotto qualsiasi token di output visibile), quindi paghi input e ragionamento e non ottieni risposta. Suggerisce di riservare almeno 25.000 token a ragionamento e output quando inizi a sperimentare con i suoi modelli.

Molte API espongono un controllo come reasoning_effort (low, medium, high) per scambiare un po’ di qualità con meno token di pensiero.

Perché è importante

  • Costo. Con una chiave a token, il ragionamento è fatturato al prezzo di output, di solito la tariffa più alta. Vedi token di input e di output.
  • Latenza. Il pensiero richiede tempo prima del primo token visibile. A token al secondo costanti, 2.000 token di ragionamento aggiungono il tempo di 2.000 token di output.
  • Affidabilità. Un max_tokens basso che funzionava con un modello senza ragionamento può restituire risposte vuote con uno che ragiona.

Su BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere. La documentazione di BroadNet dice che il ragionamento conta in max_tokens. La documentazione di BroadNet non indica il ragionamento per BroadNet Gemma 4 VL 26B.

Quando il modello lo riporta, usage.completion_tokens_details.reasoning_tokens mostra la quota di pensiero. Imposta max_tokens a 1.000 o più, oppure non impostarlo, e usa reasoning_effort="low" per i passaggi semplici:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

A consumo, il ragionamento è fatturato al prezzo di output, per esempio $0.52 per 1M di token su DeepSeek V4.1 Flash. Con un piano illimitato per quel modello non c’è un contatore di token, quindi il ragionamento non costa nulla in più; richiede solo tempo. L’elenco completo delle soluzioni è in perché un modello di ragionamento restituisce una risposta vuota.

Domande frequenti

Posso vedere i token di ragionamento?

Dipende dall’API. OpenAI dice che i token di ragionamento non sono visibili tramite la sua API ma possono essere riassunti. Altri provider restituiscono il ragionamento, in tutto o in parte, in un campo separato. In ogni caso li paghi.

Come riduco i token di ragionamento?

Per i compiti semplici usa un livello di ragionamento più basso, per esempio reasoning_effort impostato a low, dove il modello lo supporta. Aiutano anche prompt chiari e specifici.

Perché un modello di ragionamento mi ha dato una risposta vuota?

Probabilmente il modello ha speso tutto il budget di output nel ragionamento. In quel caso finish_reason è length. Alza max_tokens o abbassa il livello di ragionamento.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity