大多数“最佳编程开源模型”榜单都按基准测试分数给模型排名。这能帮你选定模型系列,却不能告诉你哪个模型能在你的智能体里、通过你的服务商、以你能接受的成本工作。本文把选择范围缩小到 BroadNet Inference 提供的四个聊天模型,按四项实用测试来选:工具调用、上下文、思考和每个任务的成本。我们在这里不公布基准分数,只使用 BroadNet 文档和价格文件中写明的信息。
有哪些候选模型?
| 模型 | ID | 上下文 | 列明支持工具 | 图像输入 | 先思考再回答 |
|---|---|---|---|---|---|
| GLM 5.3 | broadnet/glm-5.3 |
1,048,576 | 是 | 否 | 是 |
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash |
1,048,576 | 未列出 | 是 | 是 |
| Qwen3.8 27B | broadnet/qwen3.8-27b |
262,144 | 是 | 是 | 是 |
| Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b |
32,768 | 未列出 | 是 | 未列出 |
四个都是开放权重模型,通过同一个 OpenAI 兼容 API 在 https://inference.broadnet.ai/v1 提供,所以在智能体设置中切换只需要改一行。
测试 1:你的智能体需要原生工具调用吗?
这个问题决定了哪些模型能用、哪些不能。工具调用是智能体请你的机器读取文件、执行命令或应用修改的方式。智能体使用它的方式有三种:
- **原生工具调用。**智能体发送
tools列表,并期望收到tool_calls。Roo Code 的文档(项目已于 2026 年 5 月 15 日停止,由其分支 Zoo Code 延续)说原生工具调用是 “the only supported tool protocol”(译文:唯一受支持的工具协议),没有 XML 后备方案。Continue 的配置参考说tool_use能力是 “required for Agent mode”(译文:Agent 模式必需)。opencode 也通过 API 的工具调用工作。 - **在提示词中描述工具。**Cline 在 v3.35 中为一批指定的服务商和前沿模型改用了原生工具调用;它的发布文章说其他模型 “continue using the text-based approach”(译文:继续使用基于文本的方式)。模型仍然必须遵循严格的工具格式,所以遵循工具格式的能力很重要。
- **文本编辑格式。**根据 Aider 的编辑格式文档,Aider 要求模型以文本形式返回修改:整个文件、search/replace 块或统一 diff。它不依赖 API 的工具调用字段。适合 Aider 的模型见Aider 最佳大模型。
所以第一条规则很简单。对于 opencode、Continue Agent 模式或 Zoo Code 这类依赖工具的智能体,使用 BroadNet 列明支持工具的模型:GLM 5.3 或 Qwen3.8 27B。Cline 宽容一些,但同样从这两个模型开始更稳妥。对于 Aider,任何大上下文模型都可以,包括 DeepSeek V4.1 Flash。如果你想在依赖工具的智能体中使用 DeepSeek V4.1 Flash,先用它跑一个真实任务。工具调用失败通常在前两三步就会暴露。
测试 2:上下文够大吗?
智能体的上下文窗口填满的速度比人们预想的快。在读取任何代码之前,一个请求就已经带着系统提示词、工具 schema 和之前的对话。然后是读取的文件和命令输出。我们的智能体 token 预算拆解展示了 token 都花在哪里,上下文窗口计算器可以检查你的文件是否放得下。
- 1,048,576 token(GLM 5.3、DeepSeek V4.1 Flash):在中等规模的代码仓库上进行长会话,不需要大幅裁剪。
- 262,144 token(Qwen3.8 27B):适合目标明确的任务;长会话需要做摘要或使用更小的仓库地图。
- 32,768 token(Gemma 4 VL 26B):对大多数智能体循环来说太小。用它在 $5 的初始额度上测试配置。
在智能体的模型设置中自己设置上下文大小。对于自定义模型 ID,智能体无法自动识别,有些还会套用一个不适合你模型的默认值。
测试 3:一个任务要花多少钱?
智能体读的远比写的多,而且读入的大部分内容与上一轮重复。所以输入价和缓存输入价比输出价更重要。下面是一种任务形态:40 次模型调用,平均每次 30,000 输入 token 和 1,000 输出 token,80% 的输入命中缓存。
| 每个任务 | token | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B |
|---|---|---|---|---|
| 新输入 | 0.24M | $0.175 / 1M | $0.78 / 1M | $0.175 / 1M |
| 缓存输入 | 0.96M | $0.0055 / 1M | $0.173 / 1M | $0.0435 / 1M |
| 输出(含思考) | 0.04M | $0.52 / 1M | $3.46 / 1M | $2.17 / 1M |
每行相乘再相加。按 2026-11-14 同步的价格,这个任务在 GLM 5.3 上的成本约为 DeepSeek V4.1 Flash 的 7 倍,在 Qwen3.8 27B 上约为 2.5 倍。你自己的比例取决于缓存命中率和模型思考的多少,所以要实际测量。把你自己的 token 数填进 LLM API 费用计算器,或者在 DeepSeek V4.1 Flash 与 GLM 5.3 对比和 GLM 5.3 与 Qwen3.8 27B 对比中并排比较。
在不限量套餐上,DeepSeek V4.1 Flash 不计 token:每个会话每月 $60,同一时间运行一个请求。对于一天大部分时间都在运行的智能体,这通常比任何按 token 价格都划算。缓存命中率 80% 时,盈亏平衡计算把分界线定在每月约 9.17亿 输入 token 和 4,600万 输出 token。
测试 4:模型思考得多吗?
三个大模型都会先思考再回答,而思考计入 max_tokens。在智能体中这会带来两个问题:输出上限小时返回空回复,以及按量付费时输出账单更高。给每次调用留出几千个输出 token,并在读取文件这类常规步骤中把 reasoning_effort 设为 low。参见为什么思考模型返回空回答。
那到底选哪个?
- **opencode、Continue Agent 模式、Cline、Zoo Code 或你自己的工具循环:**GLM 5.3。列明支持工具,1M 上下文,四个中每 token 价格最高。
- **Aider,或任何最在意账单的长时间运行智能体:**DeepSeek V4.1 Flash,最好用不限量套餐。
- **需要读截图或处理阿拉伯语的智能体:**Qwen3.8 27B,支持工具和图像输入;BroadNet 的价格页面说它经过了阿拉伯语测试。
- **用 $5 的初始额度做第一次测试:**Gemma 4 VL 26B,之后再升级。
你也可以混合使用。例如 Cline 有一个设置,可以为 Plan 和 Act 模式使用不同的模型。各智能体的配置步骤见我们的编程智能体接入开源模型总览,功能对比见 Cline、Roo Code 与 Aider 对比。
BroadNet Inference 的定位
BroadNet Inference 以零数据保留提供这四个模型,只需一个 API 密钥。BroadNet 的隐私声明说,托管的开放权重模型运行在 BroadNet 自有或租用的美国硬件上,而 DeepSeek V4.1 Flash 等由合作伙伴提供的模型则由美国推理合作伙伴运行。它适合想为智能体使用 1M token 开源模型、并希望 DeepSeek V4.1 Flash 账单固定的团队。如果你需要它不提供的某个特定模型、网页搜索这类服务商托管的工具,或者需要公布的基准分数来比较模型,它就不适合;请改为自己做任务级测试。你可以用按量付费密钥试用任何模型,或在套餐页面购买一个 $1 的 Meteor 小时。
