BroadRouter
Magsimula

tool_choice

Na-update

Ang tool_choice ay request parameter na kumokontrol sa paggamit ng tool. Sa Chat Completions ng OpenAI, puwede itong auto (ang model ang magpapasya), required (kailangang tumawag ng isa o higit pang tool), none (walang tool), o isang pinangalanang function na ipipilit. Ang katumbas na option ng Anthropic ay auto, any, tool at none.

Tinatawag ding: tool choice, forced tool call, forced function call

Sa tool calling, puwedeng hilingin ng model sa code mo na magpatakbo ng function. Ang tool_choice ang nagpapasya kung opsiyonal iyon, sapilitan o naka-off.

Paano ito gumagana

Ipinapadala mo ang tools (mga pangalan ng function, paglalarawan at mga parameter na JSON Schema) at, kung gusto mo, ang tool_choice.

Value sa OpenAI Kahulugan Katumbas sa Anthropic
"auto" Ang model ang pipili ng message o ng isa o higit pang call; default kapag may tools {"type": "auto"}
"required" “The model must call one or more tools” (Salin ng BroadRouter: kailangang tumawag ang model ng isa o higit pang tool) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} Ipinipilit ang iisang tool na iyon {"type": "tool", "name": "get_weather"}
"none" Walang tool call; default kapag walang tools {"type": "none"}

Inilalarawan din ng gabay ng OpenAI sa function calling ang allowed-tools na option, na nililimitahan ang mga call sa isang subset habang hindi binabago ang buong listahan ng tools; iminumungkahi nito ito para sa prompt caching.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Ayon sa docs ng Anthropic, kapag any o tool, pini-prefill ng API ang sagot, kaya walang text na isinusulat ang model bago ang call, at may ilang Claude model na tumatanggi sa forced tool use at nagbabalik ng 400 na error.

Bakit ito mahalaga

  • Maaasahang pipeline. Hindi dapat makatanggap ng madaldal na text na sagot ang extraction step na dapat magtapos sa call. Inaalis ng pag-force ang sangang iyon.
  • Ligtas na turn. Kapag none ang itinakda sa huling summary turn, hindi na magsisimula ang model ng panibagong round ng tool habang pareho pa rin ang listahan ng tools.
  • Caching. Ayon sa Anthropic, nawawalan ng bisa ang mga naka-cache na message block kapag binago ang tool_choice, kaya panatilihin itong pareho sa mga turn hangga’t kaya.

Sa BroadNet Inference

Dinodokumento ng API reference ng BroadNet ang tool calling para lang sa GLM 5.3 at Qwen3.8 27B, at hindi nito dinodokumento ang tool_choice. Subukan ang bawat value na balak mong gamitin: ipadala ang required o isang pinangalanang function at kumpirmahing may tool_calls ang sagot. Kung hindi gumagana ang pag-force, gamitin ang auto na may malinaw na instruction at i-validate ang resulta, o gamitin ang structured output sa parehong mga model. May validate-and-retry loop sa post tungkol sa tool calling sa open models.

Mga karaniwang pagkakamali

  • Pag-force ng tool sa bawat turn ng agent loop, kaya hindi ito makapagbigay ng huling sagot kailanman.
  • Pag-aakalang tiyak na tool ang ibig sabihin ng required. Anumang tool ang ibig sabihin nito.

Mga tanong

Ano ang default na tool_choice?

Sa API ng OpenAI, none kapag walang ipinadalang tools at auto kapag mayroon. Pareho ang default ng Anthropic.

Kailan ko dapat i-force ang tool call?

Kapag tool call lang ang katanggap-tanggap na sagot, gaya ng classifier na kailangang tumawag ng submit_label. Para sa takdang JSON na sagot, madalas mas simple ang structured output.

Sinusuportahan ba ng BroadNet Inference ang tool_choice?

Dinodokumento ng BroadNet ang tool calling para sa GLM 5.3 at Qwen3.8 27B, pero hindi dinodokumento ng API reference nito ang tool_choice. Subukan ang bawat value bago umasa rito.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity