BroadRouter

推理服务商怎样给开源模型定价:6 家对比

BroadNet Inference 团队 · 阅读约 7 分钟 · 发布于 · 更新于

大多数服务商按每百万 token 给开源模型定价,缓存输入更便宜,批处理任务常有五折。Together AI、Fireworks 和 DeepInfra 还按小时出租 GPU。OpenRouter 沿用各服务商的价格,在购买 credits 时收取手续费。Groq 只提供少量模型。BroadNet 为 DeepSeek V4.1 Flash 额外提供按月、按周和按小时的固定价格套餐。

“每百万 token 价格”看起来可以在服务商之间直接比较,其实不完全可以。各家托管的模型不同,缓存输入的价格不同,批处理任务有没有折扣不同,能不能租 GPU 不同,额外收的费用也不同。本文先比较六家开放权重模型服务商的定价方式,再把它们给同一批模型公布的价格并排列出。所有竞品数据都来自各服务商的官方页面,核实于 2026-11-14,链接见参考来源。价格经常变动,做决定前请再核实一次。

开源模型有哪五种定价方式?

  1. 按 token、无服务器(serverless)。输入和输出 token 分别按每百万定价。本文列出的每一家都提供。
  2. **缓存输入。**重复的提示词前缀按更低的价格计费。折扣从半价到输入价格的百分之几不等。参见缓存输入 token 详解。
  3. **批处理。**能等几个小时的任务价格更低。
  4. **专用 GPU。**按小时租硬件,自己运行模型,或使用服务商的软件栈运行。参见自建部署与 API 的盈亏平衡,或在自建部署 vs API 计算器中用自己的数字计算。
  5. **固定价格套餐。**按时间收固定费用,不计 token。参见固定价格大模型套餐。

各服务商如何给开源模型定价?

服务商 模式 按 token 缓存输入 批处理 专用 GPU 固定价格套餐
OpenRouter 跨多家服务商的路由平台 沿用服务商价格,“no markup”(不加价) 视服务商而定 视服务商而定 无 无
Together AI 自有 serverless + 专用 有 部分模型列出 部分模型五折(核实时仅 Whisper Large v3) H100 每 GPU 小时 USD 5.49 起 无
Fireworks AI 自有 serverless + 按需 有,输入每百万 USD 0.05 起 默认五折,部分模型更低 五折 H100 每小时 USD 8.00 无
Groq 自有硬件 有,模型很少 五折,限 GPT-OSS 模型 五折 未列出 无
DeepInfra 自有 serverless + 专用 有,部分模型按执行时间计费 许多模型列出 价格页未列出 H100 每 GPU 小时 USD 2.90 无
BroadNet Inference 模型列表精简;部分模型由美国推理合作伙伴托管 有 四个聊天模型中三个列出 不提供 无 有,DeepSeek V4.1 Flash

页面上的要点:

  • OpenRouter 表示 “there is no markup on inference pricing”(译文:推理价格不加价)。它在你购买 credits 时收取手续费:Standard 套餐 5.5%(据其常见问题,最低 USD 0.80),Business 套餐 8%,加密货币支付 5%。免费模型版本限制为每分钟 20 个请求、每天 50 个;累计购买至少 10 credits 后为每天 1,000 个。它是一个路由平台,所以同一个模型可能有多个价格。参见 OpenRouter 与固定价格服务商对比。
  • Together AI 的按需专用 H100 标价为每 GPU 小时 USD 5.49。它的批处理文档说部分 serverless 模型五折运行,完成窗口固定为 24 小时,但我们核实时,折扣模型表中只有 openai/whisper-large-v3。其他模型按标准价格运行。
  • Fireworks 有 Standard、Priority、Fast、Batch(五折)和 Spot(部分模型七折)几种模式。缓存输入按半价或更低计费,没有写入费。
  • Groq 为少数生产级模型列出按 token 价格,例如 openai/gpt-oss-120b 每百万输入 USD 0.15、输出 USD 0.60;Whisper 语音转文字按小时计费。GPT-OSS 模型的缓存输入为半价,批处理任务五折,在 24 小时到 7 天内完成。
  • DeepInfra 为许多模型在标价旁边显示折扣价,例如 DeepSeek-V4.1-Flash-1017 打 4.9 折,GLM-5.3 打 6.2 折。页面没有说明这些折扣何时结束。它还提供 Standard、Priority(1.5×)和 Flex(0.8×)三个档位。

同一个模型在各家多少钱?

以下是 BroadNet 也提供的模型的每百万 token 公开价格。“—”表示该模型不在该服务商的价格页上。

DeepSeek V4.1 Flash(输入 / 缓存 / 输出):

服务商 输入 缓存 输出
Together AI USD 0.30 USD 0.006 USD 1.20
Fireworks AI USD 0.30 USD 0.006 USD 1.20
DeepInfra,标价 USD 0.20 USD 0.006 USD 0.60
DeepInfra,折扣价(7 折) USD 0.14 USD 0.0042 USD 0.42
DeepInfra,DeepSeek-V4.1-Flash-1017,折扣价(4.9 折) USD 0.098 USD 0.0029 USD 0.294
Groq — — —
BroadNet Inference $0.175 $0.0055 $0.52

DeepInfra 带日期的 -1017 版本,就是 DeepSeek 自己的 API 以 deepseek-flash 提供的同一个版本;请确认你的代码调用的是哪一个。我们核实时,OpenRouter 上这个模型有来自 28 家服务商的 37 个端点,输入价格从每百万约 USD 0.05(百度)到 USD 3(Venice 最快的档位)。我们的 DeepSeek V4.1 Flash 价格表列出了所有自行公布该模型价格的服务商,每一行都附有来源页面和核实日期。同一模型在整个市场上的价差有多大,见我们的 LLM API 价格指数。这些开源模型价格在同样的工作负载下与 GPT、Claude 和 Gemini 相比如何,见开放权重与闭源模型的 API 成本。

GLM 5.3(各服务商的自有价格:GLM 5.3 价格表):

服务商 输入 缓存 输出
Together AI USD 1.40 USD 0.26 USD 4.40
Fireworks AI USD 1.40 USD 0.26 USD 4.40
DeepInfra,标价 USD 0.90 USD 0.20 USD 4.00
DeepInfra,折扣价(6.2 折) USD 0.5625 USD 0.125 USD 2.50
BroadNet Inference $0.78 $0.173 $3.46

Qwen3.8 27B(各服务商的自有价格:Qwen3.8 27B 价格表):

服务商 输入 缓存 输出
DeepInfra,标价 USD 0.20 USD 0.05 USD 2.50
DeepInfra,折扣价(7.5 折) USD 0.15 USD 0.0375 USD 1.875
Groq(预览版,仅供评估) USD 0.80 — USD 4.00
BroadNet Inference $0.175 $0.0435 $2.17

Gemma 4 26B A4B(BroadNet 的版本是 Gemma 4 VL 26B):

服务商 输入 输出
DeepInfra USD 0.07 USD 0.34
BroadNet Inference $0.10 $0.22

按 token 计,BroadNet 在这里不是最便宜的。在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上,DeepInfra 的折扣价每一项都低于 BroadNet;在 Gemma 上,DeepInfra 的输入价也更低(BroadNet 的 Gemma 输出价更低)。DeepSeek 自己的 API 在非高峰时段所有价格减半,此时它的输入价低于 BroadNet(详情)。在 DeepSeek V4.1 Flash 和 GLM 5.3 上,BroadNet 的标价低于 Together 和 Fireworks。每 token 价格只是一个因素;还要看上下文长度、数据保留和速率限制,这些表里都没有。

放眼多家托管方同时销售的全部 119 个模型(不只这四个),最贵标价是最便宜标价的中位数 1.76 倍;参见同一模型、不同托管方。托管方的价格也比模型厂商的价格变动得更频繁:参见大模型 API 价格多久变一次。

语音转文字呢?

Groq 的 whisper-large-v3-turbo 标价为每小时音频 USD 0.04,whisper-large-v3 为每小时 USD 0.111。DeepInfra 的 Voxtral Mini 为每分钟 USD 0.001。BroadNet 的多语言模型每分钟 $0.002(每小时 $0.12),阿拉伯语模型每分钟 $0.0042。更多服务商见语音转文字 API 价格对比。对阿拉伯语来说,在你的方言上的准确率比价格更重要:参见如何选择阿拉伯语语音转文字 API。

怎样针对你的工作负载比较服务商?

  1. 固定模型和版本。“DeepSeek V4.1 Flash”和带日期的版本可能定价不同。
  2. 测量你的 token 构成:输入、缓存占比和输出(含思考)。参见上线前估算费用。
  3. 用每家的三个价格计算,而不只是输入价。对智能体来说,缓存价格往往起决定作用。LLM API 费用计算器和提示词缓存计算器可以帮你算。
  4. 批处理折扣只用在能等的任务上。
  5. 加上各种费用:购买 credits 的手续费和档位倍率。
  6. 检查限制:速率限制、并发和上下文长度,无论价格多低都可能让一家服务商出局。
  7. 和固定价格套餐比较,如果有一个智能体一天大部分时间都在运行。参见盈亏平衡计算,或使用固定价格 vs 按 token 计算器。

BroadNet Inference 的定位

BroadNet 提供少量模型,其中部分由美国推理合作伙伴托管,按 token 价格公布在价格文件中。它的按 token 价格处于中游,不是最低:如果你只看每 token 价格,DeepInfra 的折扣价更便宜。其他几家都不卖的是:DeepSeek V4.1 Flash 不限量,每个会话每月 $60,另有每周 $15 和每小时 $1 的选项。它不是聚合市场,没有批处理折扣,也没有专用 GPU。它的其他优势是每个请求都零数据保留、阿拉伯语语音转文字,以及聊天和音频共用一个 OpenAI 兼容的密钥。如果你需要几十个模型系列,或者为突发型工作负载寻找最低的促销价,路由平台或规模更大的托管方会更适合你。

常见问题

哪家推理服务商的开源模型最便宜?

没有哪一家全面最便宜,按 token 计也不是 BroadNet。我们在 2026-11-14 核实时,DeepInfra 在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上的折扣价都低于 BroadNet,而 OpenRouter 上 DeepSeek V4.1 Flash 各端点的输入价格从每百万约 USD 0.05 到 USD 3 不等。请按具体模型、缓存价格和批处理折扣来比较。

OpenRouter 会在模型价格上加价吗?

OpenRouter 表示推理价格不加价。它在你购买 credits 时收取手续费:Standard 套餐 5.5%(据其常见问题,最低 USD 0.80),Business 套餐 8%,加密货币支付 5%。

批处理价格划算吗?

适合能等的任务。Fireworks 的批处理标价五折,Groq 文档写明批处理五折,完成窗口为 24 小时到 7 天。Together 的批处理文档只对部分模型给出五折(我们核实时表中只有 `openai/whisper-large-v3`),完成窗口固定为 24 小时。

什么时候该租专用 GPU,而不是按 token 付费?

当你的流量能让 GPU 一天中大部分时间都在忙的时候。GPU 按小时计费,无论有没有请求都要付钱,所以流量低或波动大时,按 token 付费更便宜。

有没有服务商为开源模型提供包月固定价格?

BroadNet Inference 为 DeepSeek V4.1 Flash 提供。Full Moon 每个会话每月 $60,不计 token,同一时间运行一个请求。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity