BroadRouter
Começar

tool_choice

Atualizado em

tool_choice é um parâmetro da requisição que controla o uso de ferramentas. No Chat Completions da OpenAI, pode ser auto (o modelo decide), required (precisa chamar uma ou mais ferramentas), none (sem ferramentas) ou uma função específica a forçar. As opções equivalentes da Anthropic são auto, any, tool e none.

Também chamado de: escolha de ferramenta, chamada de ferramenta forçada, function call forçada, tool choice, forced tool call, forced function call

O tool calling permite que um modelo peça ao seu código para executar uma função. O tool_choice decide se isso é opcional, obrigatório ou desligado.

Como funciona

Você envia tools (nomes das funções, descrições e parâmetros em JSON Schema) e, opcionalmente, tool_choice.

Valor na OpenAI Significado Equivalente na Anthropic
"auto" O modelo escolhe entre uma mensagem e uma ou mais chamadas; padrão quando há ferramentas {"type": "auto"}
"required" “The model must call one or more tools” (tradução: o modelo precisa chamar uma ou mais ferramentas) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} Força aquela ferramenta específica {"type": "tool", "name": "get_weather"}
"none" Sem chamadas de ferramenta; padrão quando não há ferramentas {"type": "none"}

O guia de function calling da OpenAI também descreve uma opção de allowed tools, que restringe as chamadas a um subconjunto mantendo a lista completa de ferramentas inalterada, e a sugere para prompt caching.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

A documentação da Anthropic observa que, com any ou tool, a API preenche o início da resposta, então o modelo não escreve texto antes da chamada, e que alguns modelos Claude rejeitam o uso forçado de ferramentas e devolvem erro 400.

Por que isso importa

  • Pipelines confiáveis. Uma etapa de extração que precisa terminar em uma chamada não deveria receber uma resposta em texto cheia de conversa. Forçar a chamada elimina esse caminho.
  • Turnos seguros. Definir none em um turno final de resumo impede o modelo de iniciar outra rodada de ferramentas, mantendo a mesma lista de ferramentas.
  • Cache. A Anthropic diz que mudar o tool_choice invalida os blocos de mensagem em cache, então mantenha-o estável entre turnos sempre que puder.

Na BroadNet Inference

A referência da API da BroadNet documenta tool calling apenas para GLM 5.3 e Qwen3.8 27B, e não documenta tool_choice. Teste cada valor que você pretende usar: envie required ou uma função específica e confirme que a resposta contém tool_calls. Se forçar não funcionar, use auto com uma instrução clara e valide o resultado, ou use saída estruturada nos mesmos modelos. O post sobre tool calling com modelos abertos tem um loop de validação e nova tentativa.

Erros comuns

  • Forçar uma ferramenta em todos os turnos de um loop de agente, de modo que ele nunca consegue dar uma resposta final.
  • Achar que required significa uma ferramenta específica. Significa qualquer ferramenta.

Perguntas frequentes

Qual é o tool_choice padrão?

Na API da OpenAI, none quando nenhuma ferramenta é enviada e auto quando há ferramentas. A Anthropic usa os mesmos padrões.

Quando devo forçar uma chamada de ferramenta?

Quando a única resposta aceitável é uma chamada, como um classificador que precisa chamar submit_label. Para uma resposta JSON fixa, a saída estruturada costuma ser mais simples.

A BroadNet Inference suporta tool_choice?

A BroadNet documenta tool calling para GLM 5.3 e Qwen3.8 27B, mas a referência da API não documenta tool_choice. Teste cada valor antes de depender dele.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity