Você envia um prompt curto com max_tokens: 100, a requisição dá certo e choices[0].message.content vem vazio. Nada quebrou: a resposta nunca começou.
O que acontece
Modelos de raciocínio escrevem uma cadeia de pensamento oculta antes da resposta visível. As duas partes dividem um único orçamento de max_tokens. Com um limite pequeno, o raciocínio consome tudo e, no formato padrão de chat completions, o finish_reason passa a ser length.
Três soluções
1. Deixe espaço. Defina max_tokens como 1.000 ou mais, como recomenda a documentação da BroadNet. A calculadora de max_tokens para modelos de raciocínio dimensiona o limite para o tamanho da sua resposta e mostra o custo.
2. Raciocine menos. Para tarefas simples, defina reasoning_effort como low:
import os
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
response = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order' -> intent?"}],
)
3. Acompanhe o usage. Quando o modelo informa, usage.completion_tokens_details.reasoning_tokens mostra quanto foi para o raciocínio:
print(response.choices[0].finish_reason) # "length" means the budget ran out
details = response.usage.completion_tokens_details # None if the model doesn't report it
print(details.reasoning_tokens if details else "not reported")
Os comentários no código lembram que "length" significa que o orçamento acabou e que completion_tokens_details é None quando o modelo não informa o detalhamento.
Em streaming, adicione stream_options={"include_usage": True} e o mesmo usage chega no último chunk. Veja streaming de chat completions.
Quais modelos raciocinam
| Modelo | Raciocina antes de responder |
|---|---|
DeepSeek V4.1 Flash (broadnet/deepseek-v4.1-flash) |
Sim |
GLM 5.3 (broadnet/glm-5.3) |
Sim |
Qwen3.8 27B (broadnet/qwen3.8-27b) |
Sim |
BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) |
Não listado |
Solução de problemas
contentvazio,finish_reasonélength. Aumente omax_tokensou definareasoning_effortcomolow.contentvazio,finish_reasonéstop. O limite não foi a causa. Revise o prompt e imprima a resposta completa para ver o que voltou.AttributeErroremcompletion_tokens_details. O modelo não informou o detalhamento nessa requisição; trate o casoNonecomo no exemplo acima.- Primeiro token lento em streaming. O modelo está raciocinando antes de escrever a resposta. Um
reasoning_effortmenor pode encurtar a espera.
Se você roda agentes o dia todo, os tokens de raciocínio se acumulam no pagamento por uso. A calculadora de preços da BroadNet mostra quando um plano ilimitado de preço fixo sai mais barato.
