工具调用让模型可以请你的代码运行一个函数。tool_choice 决定这件事是可选的、必须的,还是关闭的。
工作原理
你发送 tools(函数名、描述和 JSON Schema 参数),并可选地发送 tool_choice。
| OpenAI 取值 | 含义 | Anthropic 对应写法 |
|---|---|---|
"auto" |
模型自行选择回复消息,或发起一个或多个调用;发送了工具时的默认值 | {"type": "auto"} |
"required" |
“The model must call one or more tools”(译文:模型必须调用一个或多个工具) | {"type": "any"} |
{"type": "function", "function": {"name": "get_weather"}} |
强制调用这一个工具 | {"type": "tool", "name": "get_weather"} |
"none" |
不调用工具;未发送工具时的默认值 | {"type": "none"} |
OpenAI 的函数调用指南还介绍了一种 allowed tools(允许的工具)选项:把调用限制在一个子集内,同时保持完整的工具列表不变,指南建议用它来配合提示词缓存。
{"model": "broadnet/glm-5.3",
"messages": [{"role": "user", "content": "Weather in Riyadh?"}],
"tools": [{"type": "function", "function": {"name": "get_weather",
"parameters": {"type": "object", "properties": {"city": {"type": "string"}},
"required": ["city"]}}}],
"tool_choice": {"type": "function", "function": {"name": "get_weather"}}}
Anthropic 的文档指出,使用 any 或 tool 时,API 会预填回复,所以模型在调用之前不会写任何文字;另外,有些 Claude 模型不接受强制工具调用,会返回 400 错误。
为什么重要
- 可靠的流水线。 一个必须以调用结束的抽取步骤,不应该收到一段闲聊式的文字回复。强制调用就去掉了这个分支。
- 安全的轮次。 在最后的总结轮把它设为
none,可以阻止模型再开启一轮工具调用,同时保持工具列表不变。 - 缓存。 Anthropic 说,修改
tool_choice会让已缓存的消息块失效,所以尽量在各轮之间保持它稳定。
在 BroadNet Inference 上
BroadNet 的 API 参考文档只说明了 GLM 5.3 和 Qwen3.8 27B 支持工具调用,没有说明 tool_choice。请测试你打算使用的每个取值:发送 required 或指定函数,并确认回复里包含 tool_calls。如果强制调用表现不对,就改用 auto 并给出清晰的指令,再校验结果;或者在同样的模型上使用结构化输出。开源模型的工具调用一文给出了一个校验加重试的循环。
常见错误
- 在智能体循环的每一轮都强制调用工具,导致它永远给不出最终回答。
- 以为
required指的是某个特定工具。它的意思是任意一个工具。