Sa tool calling, puwedeng hilingin ng model sa code mo na magpatakbo ng function. Ang tool_choice ang nagpapasya kung opsiyonal iyon, sapilitan o naka-off.
Paano ito gumagana
Ipinapadala mo ang tools (mga pangalan ng function, paglalarawan at mga parameter na JSON Schema) at, kung gusto mo, ang tool_choice.
| Value sa OpenAI | Kahulugan | Katumbas sa Anthropic |
|---|---|---|
"auto" |
Ang model ang pipili ng message o ng isa o higit pang call; default kapag may tools | {"type": "auto"} |
"required" |
“The model must call one or more tools” (Salin ng BroadRouter: kailangang tumawag ang model ng isa o higit pang tool) | {"type": "any"} |
{"type": "function", "function": {"name": "get_weather"}} |
Ipinipilit ang iisang tool na iyon | {"type": "tool", "name": "get_weather"} |
"none" |
Walang tool call; default kapag walang tools | {"type": "none"} |
Inilalarawan din ng gabay ng OpenAI sa function calling ang allowed-tools na option, na nililimitahan ang mga call sa isang subset habang hindi binabago ang buong listahan ng tools; iminumungkahi nito ito para sa prompt caching.
{"model": "broadnet/glm-5.3",
"messages": [{"role": "user", "content": "Weather in Riyadh?"}],
"tools": [{"type": "function", "function": {"name": "get_weather",
"parameters": {"type": "object", "properties": {"city": {"type": "string"}},
"required": ["city"]}}}],
"tool_choice": {"type": "function", "function": {"name": "get_weather"}}}
Ayon sa docs ng Anthropic, kapag any o tool, pini-prefill ng API ang sagot, kaya walang text na isinusulat ang model bago ang call, at may ilang Claude model na tumatanggi sa forced tool use at nagbabalik ng 400 na error.
Bakit ito mahalaga
- Maaasahang pipeline. Hindi dapat makatanggap ng madaldal na text na sagot ang extraction step na dapat magtapos sa call. Inaalis ng pag-force ang sangang iyon.
- Ligtas na turn. Kapag
noneang itinakda sa huling summary turn, hindi na magsisimula ang model ng panibagong round ng tool habang pareho pa rin ang listahan ng tools. - Caching. Ayon sa Anthropic, nawawalan ng bisa ang mga naka-cache na message block kapag binago ang
tool_choice, kaya panatilihin itong pareho sa mga turn hangga’t kaya.
Sa BroadNet Inference
Dinodokumento ng API reference ng BroadNet ang tool calling para lang sa GLM 5.3 at Qwen3.8 27B, at hindi nito dinodokumento ang tool_choice. Subukan ang bawat value na balak mong gamitin: ipadala ang required o isang pinangalanang function at kumpirmahing may tool_calls ang sagot. Kung hindi gumagana ang pag-force, gamitin ang auto na may malinaw na instruction at i-validate ang resulta, o gamitin ang structured output sa parehong mga model. May validate-and-retry loop sa post tungkol sa tool calling sa open models.
Mga karaniwang pagkakamali
- Pag-force ng tool sa bawat turn ng agent loop, kaya hindi ito makapagbigay ng huling sagot kailanman.
- Pag-aakalang tiyak na tool ang ibig sabihin ng
required. Anumang tool ang ibig sabihin nito.