O tool calling permite que um modelo peça ao seu código para executar uma função. O tool_choice decide se isso é opcional, obrigatório ou desligado.
Como funciona
Você envia tools (nomes das funções, descrições e parâmetros em JSON Schema) e, opcionalmente, tool_choice.
| Valor na OpenAI | Significado | Equivalente na Anthropic |
|---|---|---|
"auto" |
O modelo escolhe entre uma mensagem e uma ou mais chamadas; padrão quando há ferramentas | {"type": "auto"} |
"required" |
“The model must call one or more tools” (tradução: o modelo precisa chamar uma ou mais ferramentas) | {"type": "any"} |
{"type": "function", "function": {"name": "get_weather"}} |
Força aquela ferramenta específica | {"type": "tool", "name": "get_weather"} |
"none" |
Sem chamadas de ferramenta; padrão quando não há ferramentas | {"type": "none"} |
O guia de function calling da OpenAI também descreve uma opção de allowed tools, que restringe as chamadas a um subconjunto mantendo a lista completa de ferramentas inalterada, e a sugere para prompt caching.
{"model": "broadnet/glm-5.3",
"messages": [{"role": "user", "content": "Weather in Riyadh?"}],
"tools": [{"type": "function", "function": {"name": "get_weather",
"parameters": {"type": "object", "properties": {"city": {"type": "string"}},
"required": ["city"]}}}],
"tool_choice": {"type": "function", "function": {"name": "get_weather"}}}
A documentação da Anthropic observa que, com any ou tool, a API preenche o início da resposta, então o modelo não escreve texto antes da chamada, e que alguns modelos Claude rejeitam o uso forçado de ferramentas e devolvem erro 400.
Por que isso importa
- Pipelines confiáveis. Uma etapa de extração que precisa terminar em uma chamada não deveria receber uma resposta em texto cheia de conversa. Forçar a chamada elimina esse caminho.
- Turnos seguros. Definir
noneem um turno final de resumo impede o modelo de iniciar outra rodada de ferramentas, mantendo a mesma lista de ferramentas. - Cache. A Anthropic diz que mudar o
tool_choiceinvalida os blocos de mensagem em cache, então mantenha-o estável entre turnos sempre que puder.
Na BroadNet Inference
A referência da API da BroadNet documenta tool calling apenas para GLM 5.3 e Qwen3.8 27B, e não documenta tool_choice. Teste cada valor que você pretende usar: envie required ou uma função específica e confirme que a resposta contém tool_calls. Se forçar não funcionar, use auto com uma instrução clara e valide o resultado, ou use saída estruturada nos mesmos modelos. O post sobre tool calling com modelos abertos tem um loop de validação e nova tentativa.
Erros comuns
- Forçar uma ferramenta em todos os turnos de um loop de agente, de modo que ele nunca consegue dar uma resposta final.
- Achar que
requiredsignifica uma ferramenta específica. Significa qualquer ferramenta.