BroadRouter

Tokens de raciocínio (reasoning tokens)

Atualizado em

Tokens de raciocínio são tokens que um modelo de raciocínio gera para trabalhar um problema antes de escrever a resposta visível. Normalmente são cobrados como tokens de saída, contam para o limite de saída e para a janela de contexto, e a API pode ocultá-los ou resumi-los.

Também chamado de: tokens de raciocínio, tokens de pensamento, reasoning tokens, thinking tokens, chain-of-thought tokens, reasoning effort, extended thinking

Modelos de raciocínio pensam antes de responder. Esse pensamento também é texto, então custa tokens, tempo e espaço na janela de contexto.

Como funciona

Um modelo de raciocínio gera uma cadeia de pensamento interna e depois a resposta visível. As duas saem do mesmo orçamento de saída. O guia da OpenAI diz que os tokens de raciocínio “are billed as output tokens” (tradução: são cobrados como tokens de saída) e ocupam espaço na janela de contexto; a Anthropic diz o mesmo dos tokens de thinking e os chama de “a subset of your max_tokens” (tradução: um subconjunto do seu max_tokens).

No formato Chat Completions, a contagem aparece no usage:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

Aqui, 1.024 dos 1.186 tokens de saída foram para o pensamento, e só 162 para a resposta. A OpenAI avisa que uma resposta pode atingir o limite “before any visible output tokens are produced” (tradução: antes que qualquer token de saída visível seja produzido), e aí você paga a entrada e o raciocínio e não recebe resposta. Ela sugere reservar pelo menos 25.000 tokens para raciocínio e saída quando você começar a experimentar os modelos dela.

Muitas APIs oferecem um controle como reasoning_effort (low, medium, high) para trocar um pouco de qualidade por menos tokens de pensamento.

Por que importa

  • Custo. Em uma chave cobrada por token, o raciocínio é cobrado pelo preço de saída, normalmente a tarifa mais alta. Veja tokens de entrada e de saída.
  • Latência. Pensar leva tempo antes do primeiro token visível. Com tokens por segundo fixos, 2.000 tokens de raciocínio acrescentam o tempo de 2.000 tokens de saída.
  • Confiabilidade. Um max_tokens pequeno que funcionava em um modelo sem raciocínio pode retornar respostas vazias em um modelo que raciocina.

Na BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam antes de responder. A documentação da BroadNet diz que o raciocínio conta para max_tokens. A documentação da BroadNet não lista raciocínio para o BroadNet Gemma 4 VL 26B.

Quando o modelo informa, usage.completion_tokens_details.reasoning_tokens mostra a parte de pensamento. Defina max_tokens como 1.000 ou mais, ou deixe-o sem definir, e use reasoning_effort="low" em etapas simples:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

No pagamento por uso, o raciocínio é cobrado pelo preço de saída, por exemplo $0.52 por 1M de tokens no DeepSeek V4.1 Flash. Em um plano ilimitado desse modelo não há medidor de tokens, então o raciocínio não custa nada a mais; só leva tempo. A lista completa de correções está em por que um modelo de raciocínio retorna uma resposta vazia.

Perguntas frequentes

Consigo ver os tokens de raciocínio?

Depende da API. A OpenAI diz que os tokens de raciocínio não ficam visíveis pela API dela, mas podem ser resumidos. Outros provedores retornam parte ou todo o raciocínio em um campo separado. Você paga por eles de qualquer jeito.

Como reduzir os tokens de raciocínio?

Use um nível de raciocínio menor em tarefas simples, como reasoning_effort definido como low, quando o modelo suportar. Prompts claros e específicos também ajudam.

Por que recebi uma resposta vazia de um modelo de raciocínio?

Provavelmente o modelo gastou todo o orçamento de saída raciocinando. Nesse caso, finish_reason é length. Aumente max_tokens ou reduza o nível de raciocínio.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity