BroadRouter

编程智能体最佳开源模型:按工具、上下文和成本来选

BroadNet Inference 团队 · 阅读约 6 分钟 · 发布于 · 更新于

对于依赖原生工具调用的编程智能体(opencode、Continue Agent 模式、Zoo Code),GLM 5.3 是 BroadNet 上最稳妥的选择:列明支持工具,1M 上下文。对于 Aider 或整天运行的智能体,使用固定价格套餐的 DeepSeek V4.1 Flash 成本最低。Qwen3.8 27B 适合处理截图。Gemma 4 VL 26B 的 32K 上下文太小。

大多数“最佳编程开源模型”榜单都按基准测试分数给模型排名。这能帮你选定模型系列,却不能告诉你哪个模型能在你的智能体里、通过你的服务商、以你能接受的成本工作。本文把选择范围缩小到 BroadNet Inference 提供的四个聊天模型,按四项实用测试来选:工具调用、上下文、思考和每个任务的成本。我们在这里不公布基准分数,只使用 BroadNet 文档和价格文件中写明的信息。

有哪些候选模型?

模型 ID 上下文 列明支持工具 图像输入 先思考再回答
GLM 5.3 broadnet/glm-5.3 1,048,576 是 否 是
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1,048,576 未列出 是 是
Qwen3.8 27B broadnet/qwen3.8-27b 262,144 是 是 是
Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32,768 未列出 是 未列出

四个都是开放权重模型,通过同一个 OpenAI 兼容 API 在 https://inference.broadnet.ai/v1 提供,所以在智能体设置中切换只需要改一行。

测试 1:你的智能体需要原生工具调用吗?

这个问题决定了哪些模型能用、哪些不能。工具调用是智能体请你的机器读取文件、执行命令或应用修改的方式。智能体使用它的方式有三种:

  • **原生工具调用。**智能体发送 tools 列表,并期望收到 tool_calls。Roo Code 的文档(项目已于 2026 年 5 月 15 日停止,由其分支 Zoo Code 延续)说原生工具调用是 “the only supported tool protocol”(译文:唯一受支持的工具协议),没有 XML 后备方案。Continue 的配置参考说 tool_use 能力是 “required for Agent mode”(译文:Agent 模式必需)。opencode 也通过 API 的工具调用工作。
  • **在提示词中描述工具。**Cline 在 v3.35 中为一批指定的服务商和前沿模型改用了原生工具调用;它的发布文章说其他模型 “continue using the text-based approach”(译文:继续使用基于文本的方式)。模型仍然必须遵循严格的工具格式,所以遵循工具格式的能力很重要。
  • **文本编辑格式。**根据 Aider 的编辑格式文档,Aider 要求模型以文本形式返回修改:整个文件、search/replace 块或统一 diff。它不依赖 API 的工具调用字段。适合 Aider 的模型见Aider 最佳大模型。

所以第一条规则很简单。对于 opencode、Continue Agent 模式或 Zoo Code 这类依赖工具的智能体,使用 BroadNet 列明支持工具的模型:GLM 5.3 或 Qwen3.8 27B。Cline 宽容一些,但同样从这两个模型开始更稳妥。对于 Aider,任何大上下文模型都可以,包括 DeepSeek V4.1 Flash。如果你想在依赖工具的智能体中使用 DeepSeek V4.1 Flash,先用它跑一个真实任务。工具调用失败通常在前两三步就会暴露。

测试 2:上下文够大吗?

智能体的上下文窗口填满的速度比人们预想的快。在读取任何代码之前,一个请求就已经带着系统提示词、工具 schema 和之前的对话。然后是读取的文件和命令输出。我们的智能体 token 预算拆解展示了 token 都花在哪里,上下文窗口计算器可以检查你的文件是否放得下。

  • 1,048,576 token(GLM 5.3、DeepSeek V4.1 Flash):在中等规模的代码仓库上进行长会话,不需要大幅裁剪。
  • 262,144 token(Qwen3.8 27B):适合目标明确的任务;长会话需要做摘要或使用更小的仓库地图。
  • 32,768 token(Gemma 4 VL 26B):对大多数智能体循环来说太小。用它在 $5 的初始额度上测试配置。

在智能体的模型设置中自己设置上下文大小。对于自定义模型 ID,智能体无法自动识别,有些还会套用一个不适合你模型的默认值。

测试 3:一个任务要花多少钱?

智能体读的远比写的多,而且读入的大部分内容与上一轮重复。所以输入价和缓存输入价比输出价更重要。下面是一种任务形态:40 次模型调用,平均每次 30,000 输入 token 和 1,000 输出 token,80% 的输入命中缓存。

每个任务 token DeepSeek V4.1 Flash GLM 5.3 Qwen3.8 27B
新输入 0.24M $0.175 / 1M $0.78 / 1M $0.175 / 1M
缓存输入 0.96M $0.0055 / 1M $0.173 / 1M $0.0435 / 1M
输出(含思考) 0.04M $0.52 / 1M $3.46 / 1M $2.17 / 1M

每行相乘再相加。按 2026-11-14 同步的价格,这个任务在 GLM 5.3 上的成本约为 DeepSeek V4.1 Flash 的 7 倍,在 Qwen3.8 27B 上约为 2.5 倍。你自己的比例取决于缓存命中率和模型思考的多少,所以要实际测量。把你自己的 token 数填进 LLM API 费用计算器,或者在 DeepSeek V4.1 Flash 与 GLM 5.3 对比和 GLM 5.3 与 Qwen3.8 27B 对比中并排比较。

在不限量套餐上,DeepSeek V4.1 Flash 不计 token:每个会话每月 $60,同一时间运行一个请求。对于一天大部分时间都在运行的智能体,这通常比任何按 token 价格都划算。缓存命中率 80% 时,盈亏平衡计算把分界线定在每月约 9.17亿 输入 token 和 4,600万 输出 token。

测试 4:模型思考得多吗?

三个大模型都会先思考再回答,而思考计入 max_tokens。在智能体中这会带来两个问题:输出上限小时返回空回复,以及按量付费时输出账单更高。给每次调用留出几千个输出 token,并在读取文件这类常规步骤中把 reasoning_effort 设为 low。参见为什么思考模型返回空回答。

那到底选哪个?

  1. **opencode、Continue Agent 模式、Cline、Zoo Code 或你自己的工具循环:**GLM 5.3。列明支持工具,1M 上下文,四个中每 token 价格最高。
  2. **Aider,或任何最在意账单的长时间运行智能体:**DeepSeek V4.1 Flash,最好用不限量套餐。
  3. **需要读截图或处理阿拉伯语的智能体:**Qwen3.8 27B,支持工具和图像输入;BroadNet 的价格页面说它经过了阿拉伯语测试。
  4. **用 $5 的初始额度做第一次测试:**Gemma 4 VL 26B,之后再升级。

你也可以混合使用。例如 Cline 有一个设置,可以为 Plan 和 Act 模式使用不同的模型。各智能体的配置步骤见我们的编程智能体接入开源模型总览,功能对比见 Cline、Roo Code 与 Aider 对比。

BroadNet Inference 的定位

BroadNet Inference 以零数据保留提供这四个模型,只需一个 API 密钥。BroadNet 的隐私声明说,托管的开放权重模型运行在 BroadNet 自有或租用的美国硬件上,而 DeepSeek V4.1 Flash 等由合作伙伴提供的模型则由美国推理合作伙伴运行。它适合想为智能体使用 1M token 开源模型、并希望 DeepSeek V4.1 Flash 账单固定的团队。如果你需要它不提供的某个特定模型、网页搜索这类服务商托管的工具,或者需要公布的基准分数来比较模型,它就不适合;请改为自己做任务级测试。你可以用按量付费密钥试用任何模型,或在套餐页面购买一个 $1 的 Meteor 小时。

常见问题

opencode 或 Zoo Code 用哪个开源模型最好?

在 BroadNet Inference 上,先用 GLM 5.3。这些智能体通过工具调用工作,而 BroadNet 为 GLM 5.3 列出了工具调用和结构化输出,上下文为 1,048,576 token。依赖 DeepSeek V4.1 Flash 之前,先用真实任务测试,因为 BroadNet 没有为它列出工具支持。

编程智能体用哪个开源模型最便宜?

在 BroadNet 上,DeepSeek V4.1 Flash 是 1M 上下文模型中每 token 价格最低的:每百万输入 $0.175,每百万缓存输入 $0.0055。有些其他托管方的每 token 标价更低,例如 DeepInfra 打折后的 DeepSeek-V4.1-Flash-1017,2026 年 11 月 16 日的标价为输入 USD 0.098、缓存 USD 0.0029。在 BroadNet 的不限量套餐上它完全不计 token,每个会话每月 $60。

Aider 需要支持工具调用的模型吗?

Aider 文档中的编辑格式都是文本格式,例如整个文件或 search/replace 块,所以它不依赖 API 的工具调用字段。这让它很适合 DeepSeek V4.1 Flash。

32K 上下文对编程智能体够用吗?

很少够用。光是智能体的系统提示词和工具定义,在读取任何代码之前就可能占掉几千 token。BroadNet 的 Gemma 4 VL 26B(32,768 token)适合用 $5 的初始额度试一下配置,不适合日常的智能体工作。

在智能体循环中,思考模型会更贵吗?

按量付费时会。思考 token 按输出计费。DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 都会先思考。简单步骤把 reasoning_effort 设为 low,或者使用不计 token 的不限量套餐。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity