---
title: "如何降低大模型 API 费用：10 步省钱清单 | BroadRouter"
description: "按正确顺序压缩大模型 API 账单：先度量，再缓存前缀、精简提示词、限制输出和思考、选对模型、批处理，并弄清固定价格套餐何时更划算。"
url: https://broadrouter.com/zh/blog/how-to-reduce-llm-api-costs/
lang: zh-Hans
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/blog/how-to-reduce-llm-api-costs/)（2026-11-15 更新）。

# 如何降低大模型 API 费用：按顺序执行的 10 步清单

BroadNet Inference 团队 · 阅读约 8 分钟 · 发布于 2026-11-15

降低大模型 API 费用，先记录每个请求的 token 数，再按以下顺序优化：保持提示词前缀稳定以命中缓存，精简提示词，限制输出和思考，选用能通过测试的最小模型，把能等的任务批处理或错峰，缓存重复的回答，限制重试次数，用量超过盈亏平衡点后改用固定价格套餐。

## 要点

-   先度量，再削减。按功能记录 prompt\_tokens、cached\_tokens 和 completion\_tokens，否则你无法判断哪一步起了作用。
-   缓存通常是输入侧最大的杠杆。DeepSeek V4.1 Flash 的缓存输入每百万 token $0.0055，新输入则是 $0.175。
-   在 BroadNet 的每个对话模型上，输出都比输入贵，而思考按输出计费。给它设上限。
-   OpenAI 和 Anthropic 的批处理任务打五折，DeepSeek 在非高峰时段价格减半。BroadNet 没有 Batch API。
-   在 DeepSeek V4.1 Flash 上，每月超过约 9.17亿 输入 token 和 4,600万 输出 token 后，$60 的 Full Moon 套餐比按 token 计费更便宜。

**本页内容**

1.  大模型 API 账单由什么决定？
2.  清单一览
3.  1\. 为什么要先度量，再动手削减？
4.  2\. 提示词缓存怎么降低费用？
5.  3\. 哪些提示词删减是安全的？
6.  4\. 怎么限制输出和思考？
7.  5\. 怎样换用更便宜的模型而不牺牲质量？
8.  6\. 能等的任务，可以批处理或错峰吗？
9.  7\. 什么时候应该缓存整个回答？
10.  8\. 重试和循环怎样浪费钱？
11.  9\. 怎样防止账单失控？
12.  10\. 固定价格套餐什么时候胜过按 token 计费？
13.  哪些步骤应该跳过？
14.  BroadNet Inference 适合什么场景

大多数“大模型账单砍掉 70%”的清单，都把好建议和没人实测过的数字混在一起。这份清单按“先做什么”排序，每个数字都来自价格文件或服务商自己的文档。如果某一步在本站有更深入的文章，会附上链接。下文 BroadNet 的价格来自其[价格文件](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=body)，于 2026-11-14 同步。

## 大模型 API 账单由什么决定？

几乎每份账单都由四个数字决定：

1.  \*\*新输入 token。\*\*提示词中没有从缓存读取的部分。
2.  \*\*缓存输入 token。\*\*重复的前缀，按较低单价计费。
3.  \*\*输出 token。\*\*回答本身，在思考模型上还要加上[思考 token](https://broadrouter.com/zh/glossary/reasoning-tokens/)。
4.  \*\*请求次数。\*\*每次调用（包括每次重试）都单独计费。

输出是最贵的单位。BroadNet 对话模型的价格，按每百万 token 计：

| 模型 | 输入 | 缓存输入 | 输出 |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | 未公布 | $0.22 |

所以可用的杠杆就是：少发新 token、多从缓存读、少生成、少调用。[大模型 API 怎么计费](https://broadrouter.com/zh/blog/llm-api-pricing-explained/)逐项讲解了每种计量单位。

## 清单一览

| 步骤 | 改动什么 | 降低什么 | 工作量 |
| --- | --- | --- | --- |
| 1\. 度量 | 只加日志 | 暂不降低；告诉你该从哪里下手 | 低 |
| 2\. 缓存前缀 | 提示词顺序 | 输入单价 | 低 |
| 3\. 精简提示词 | 提示词内容 | 输入 token | 中 |
| 4\. 限制输出和思考 | 请求参数 | 输出 token | 低 |
| 5\. 选对模型规模 | 模型选择 | 所有单价 | 中 |
| 6\. 批处理或错峰 | 调度 | 每 token 单价（在有此服务的地方） | 中 |
| 7\. 缓存回答 | 应用代码 | 整个请求 | 中 |
| 8\. 限制重试和循环 | 应用代码 | 浪费的请求 | 低 |
| 9\. 设置支出上限 | 账户和密钥 | 失控的账单 | 低 |
| 10\. 核算固定价格的盈亏平衡点 | 计费方式 | 大用量下的总账单 | 低 |

## 1\. 为什么要先度量，再动手削减？

因为账单不会告诉你原因。两个看起来一样的请求，token 数可能差十倍。每个 chat completion 都会返回一个 `usage` 块，其中有 `prompt_tokens`、`completion_tokens`，以及服务商提供时的缓存 token 数。按功能、按用户记录这些数字，但不要记录提示词正文。一周之后，你就知道哪个功能花钱最多，花在输入、缓存未命中还是输出上。

[脱敏 PII 的用量日志](https://broadrouter.com/zh/blog/llm-api-usage-logging/)给出了一个日志 schema。要在功能上线前估算规模，可以用 [大模型 API 费用计算器](https://broadrouter.com/tools/llm-api-cost-calculator/)，或参考[上线前估算费用](https://broadrouter.com/zh/blog/estimate-llm-api-cost-before-launch/)中的方法。

## 2\. 提示词缓存怎么降低费用？

服务商会缓存完全重复的提示词开头部分，下一次调用就按缓存价读取这段前缀。OpenAI 对支持的模型默认开启缓存，起点是 1,024 个 token，并表示缓存输入 “discounted up to 95%“（译文：最高优惠 95%）（2026-11-15 查阅）。在 BroadNet 上，DeepSeek V4.1 Flash 的缓存输入每百万 token $0.0055，新输入则是 $0.175。

规则是：静态内容在前，变化的内容在后。依次是系统提示词、工具 schema、共享文档、历史消息，最后才是新问题。开头放一个时间戳，或者工具列表顺序被打乱，后面的所有内容都会缓存失效。

-   [缓存输入 token 详解](https://broadrouter.com/zh/blog/cached-input-tokens-explained/)，包括如何在响应中读取它们。
-   [如何组织提示词，让前缀被缓存](https://broadrouter.com/zh/blog/prompt-structure-for-caching/)。
-   用[提示词缓存计算器](https://broadrouter.com/tools/prompt-caching-calculator/)估算你自己的命中率。

## 3\. 哪些提示词删减是安全的？

删掉模型用不上的内容。常见的收获来自：写成大段散文的系统提示词、超出任务需要的 few-shot 示例、这一步根本不会调用的工具 schema、本可以用紧凑表格表示的冗长 JSON，以及本可以用摘要代替的完整对话历史。检索结果也容易膨胀：两段就能回答问题却塞了十段，既增加成本，也影响质量。

每做一次删减，都用一组固定输入测试，免得更便宜的提示词悄悄把答案弄坏。[减少提示词 token](https://broadrouter.com/zh/blog/reduce-prompt-tokens/) 对上面每一项都做了实测。语言也有影响：在大多数分词器上，阿拉伯语每个词用的 token 比英语多；参见[阿拉伯语与英语的每词 token 数](https://broadrouter.com/zh/blog/tokens-per-word-arabic-english/)。

## 4\. 怎么限制输出和思考？

要求更少的内容，并设上限。要 JSON 字段而不是大段文字，要字数限制而不是一句“解释一下”，也不要让模型复述问题。然后设置 `max_tokens`，让失控的回答及时停下。

思考模型需要小心。BroadNet 的文档说思考内容计入 `max_tokens`，上限太低可能会返回空答案。请保留 1,000 个 token 或以上，简单步骤把 `reasoning_effort` 设为 `low`。在按 token 计费的密钥上，思考按输出计费。[思考 token：为什么你付的比看到的多](https://broadrouter.com/zh/blog/reasoning-tokens-cost/)和[空答案的解决办法](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)分别讲了这两方面。

## 5\. 怎样换用更便宜的模型而不牺牲质量？

比较每个成功任务的成本，而不是每 token 的价格。准备 50 到 100 个带预期输出的真实输入，让每个候选模型都跑一遍，再用花费除以通过数。一个每 token 更便宜、却有三分之一失败的模型，算上重试和人工复核，可能反而更贵。

先确认功能。在 BroadNet 上，工具调用和结构化输出只在 GLM 5.3 和 Qwen3.8 27B 的文档中有说明。Gemma 4 VL 26B 是 BroadNet 较小的文本加图像模型；用于简单任务时，请在上表中查看它的价格。许多应用对简单步骤用小模型、对困难步骤用大模型；模型由你在自己的代码里选择。[切换前如何评估大模型](https://broadrouter.com/zh/blog/evaluate-llm-before-switching/)给出了一份测试方案。

不要指望你当前的模型会降价。服务商很少下调现有模型的价格，省钱通常来自新版本。参见 [OpenAI、Anthropic 与 Google API 价格历史](https://broadrouter.com/zh/blog/openai-anthropic-google-api-price-history/)和[大模型 API 最大幅度的降价](https://broadrouter.com/zh/blog/llm-api-price-cuts-2023-2026/)。

## 6\. 能等的任务，可以批处理或错峰吗？

只要服务商提供，就可以，而且折扣很大。以下均于 2026-11-15 查阅：

| 服务商 | 折扣 | 限制条件 |
| --- | --- | --- |
| OpenAI Batch API | 比同步调用便宜 50% | 24 小时内完成；单独的速率限制 |
| Anthropic Message Batches API | 50% | 异步；多数批次一小时内完成 |
| DeepSeek API，非高峰时段 | 非高峰价格为高峰的一半 | 高峰为周一至周五 UTC 01:00 至 04:00 和 06:00 至 10:00 |

BroadNet Inference 没有 Batch API，也没有非高峰价格。在 BroadNet 上跑夜间任务，请用可续跑的任务执行器调用普通端点，并控制在密钥的限制之内。[没有 Batch API 时如何批处理](https://broadrouter.com/zh/blog/llm-batch-processing-without-batch-api/)提供了代码。如果任务要跑好几个小时，固定价格的会话可能比按 token 更便宜（见第 10 步）。

## 7\. 什么时候应该缓存整个回答？

当同样的问题带着同样的输入再次出现时。FAQ 机器人、重复条目的分类，以及流水线崩溃后的重跑，都在重复做同样的事。以模型、提示词和参数为键的精确匹配缓存，可以直接返回已存的答案，省掉这次调用。记得设置过期时间，避免答案过时。[用 Python 缓存大模型响应](https://broadrouter.com/zh/blog/cache-llm-responses-cut-cost/)给出了一个小实现。

## 8\. 重试和循环怎样浪费钱？

重试的请求是一次新的推理，在按 token 计费的密钥上会再次计费。只在 429 和 5xx 错误时重试，使用指数退避加随机抖动，并限制尝试次数。永远不要重试 400：同样的错误请求会以同样的方式失败。

智能体还有第二个风险：不断调用模型的循环。给每个任务的步数设上限，同一个工具调用重复出现时就停止。[处理 429 错误](https://broadrouter.com/zh/blog/handle-llm-api-429-rate-limits/)和[降低编程智能体费用的 10 种方法](https://broadrouter.com/zh/blog/cut-coding-agent-llm-costs/)分别讲了这两点。

## 9\. 怎样防止账单失控？

告警只能事后通知你，上限才能真正拦住。使用预付余额；每个应用一个密钥，这样撤销一个不会影响其他；服务器密钥加上 IP 白名单。在代码里给每个任务设预算，花完就停。[大模型 API 支出控制](https://broadrouter.com/zh/blog/llm-api-spend-control/)从账户到请求逐层讲解。

## 10\. 固定价格套餐什么时候胜过按 token 计费？

当智能体一天中大部分时间都在运行时。BroadNet 的 DeepSeek V4.1 Flash 可以按 token 买，也可以按会话买：Full Moon 每月 $60，Orbit 每周 $15，Meteor 每小时 $1，没有 token 计量。一个会话同一时间运行一个请求。

BroadNet 按 token 计费的测算场景：

| 工作负载 | 按 token 每月费用 | 更便宜的选项 |
| --- | --- | --- |
| 业余项目 | $14.23 | 按量付费 |
| 日常助手 | $42.67 | 按量付费 |
| 全职编程智能体 | $65.40 | Full Moon |
| 全天运行的智能体 | $196.20 | Full Moon |

在缓存命中率 80%、每个输出 token 对应 20 个输入 token 的条件下，盈亏平衡点约为每月 9.17亿 输入 token 和 4,600万 输出 token。轻度使用时按 token 仍然更便宜。请看[完整的盈亏平衡计算](https://broadrouter.com/zh/blog/flat-rate-vs-pay-per-token-llm-api/)，或在[固定价格与按 token 计费计算器](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/)中试试你的用量。

## 哪些步骤应该跳过？

有些流行的建议，花的比省的还多：

-   \*\*把提示词压缩到出问题。\*\*如果回答质量下降、用户反复重试，省下的输入费用就白费了。
-   \*\*每一轮都总结历史。\*\*每次总结都是一次额外调用，而且会改变前缀，导致缓存未命中。偶尔总结一次，其余内容直接追加。
-   \*\*只追求最低的每 token 价格。\*\*速率限制、缺失的功能和失败率都会增加成本。
-   \*\*为小工作负载自建部署。\*\*GPU 按小时计费，不管忙不忙。[自建部署与 API 的成本对比](https://broadrouter.com/zh/blog/self-hosting-llm-vs-api-cost/)给出了盈亏平衡点在哪里。

## BroadNet Inference 适合什么场景

BroadRouter 是 BroadNet 自己的网站，阅读本节时请考虑到这一点。BroadNet Inference 是一个 OpenAI 兼容的 API，有四个按 token 计价的对话模型，其中三个支持缓存输入，另有一个 DeepSeek V4.1 Flash 固定价格套餐，适合稳定运行的智能体。它不提供 Batch API 或非高峰价格，所以对于可以等待的大型任务，OpenAI 或 Anthropic 的批处理折扣、或 DeepSeek 的非高峰时段，可能更便宜。新账户可获得 $5 初始额度，可用于 Gemma 4 VL 26B、两个 Transcribe 模型和 Gemma 按小时密钥；DeepSeek、GLM 和 Qwen 需要先充值。自助服务不提供 SLA。[查看价格](https://broadrouter.com/zh/pricing/)或[比较套餐](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=body)。

相关免费工具（英文）

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [Prompt caching savings calculator](https://broadrouter.com/tools/prompt-caching-calculator/) Bill with and without caching, by prefix share and hit rate.
-   [Prompt token diff](https://broadrouter.com/tools/prompt-token-diff/) Two prompt versions side by side: changed lines, exact token delta and the monthly cost difference.

[免费工具（英文）](https://broadrouter.com/tools/)

## 本文涉及的术语

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[输入 token 与输出 token](https://broadrouter.com/zh/glossary/input-and-output-tokens/)

输入 token 是语言模型在一次请求中读取的 token，包括系统提示词、对话历史、工具定义和图片。输出 token 是模型生成回复的 token，包括思考内容。大模型 API 通常分别计价，输出一般更贵。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[批处理 API（Batch API）](https://broadrouter.com/zh/glossary/batch-api/)

批处理 API 是一种异步的大模型端点：它一次接收大量请求（通常以文件形式），在设定的时间窗口内处理而不是立即处理，最后统一返回结果。OpenAI 和 Anthropic 等服务商对批处理请求的定价低于其标准 API。

[AI 智能体（AI agent）](https://broadrouter.com/zh/glossary/agent/)

AI 智能体是由语言模型自主决定步骤、朝目标推进的系统：它决定调用哪些工具、读取结果，然后重复，直到给出最终回答或触及上限。在固定位置调用模型的固定脚本，通常称为工作流（workflow）。

[缓存输入 token（cached input tokens）](https://broadrouter.com/zh/glossary/cached-input-tokens/)

缓存输入 token 是大模型服务商近期已处理过、可以直接从缓存中复用而无需重新计算的提示词 token，通常是重复的前缀，例如系统提示词或文档。服务商对它们按低于新输入 token 的单价计费。

[工具调用（tool calling / function calling）](https://broadrouter.com/zh/glossary/tool-calling/)

工具调用（也叫函数调用，function calling）是大模型 API 的一项功能：模型返回一个结构化请求，要求执行开发者定义的某个函数，并附上 JSON 参数。应用执行该函数并把结果发回；模型自己从不执行代码。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

## 常见问题

### 降低大模型 API 费用，最快的办法是什么？

从提示词缓存入手。把系统提示词、工具 schema 和共享文档放在最前面，并在每次调用之间保持逐字节一致。缓存输入的价格只是新输入的一小部分，而且不用换模型、不用改功能。然后限制输出，因为输出 token 比输入 token 贵。

### Batch API 真的能让价格减半吗？

在 OpenAI 和 Anthropic 上是的。OpenAI 的 Batch API 打五折，完成窗口为 24 小时；Anthropic 的 Message Batches API 成本降低 50%（均于 2026-11-15 查阅）。BroadNet Inference 没有 Batch API，所以请改用可续跑的任务执行器，调用普通端点。

### 思考 token 会算进账单吗？

在按 token 计费的密钥上会。思考计入 completion tokens，按输出价计费。简单步骤可以把 reasoning\_effort 设为 low，但 max\_tokens 要保持在 1,000 或以上，以免答案被截断。

### 小模型一定更便宜吗？

按 token 算，通常是；按任务算，不一定。一个需要重试两次或需要更长提示词的小模型，可能比一次就做对的大模型花得更多。请在你自己的测试集上比较每个成功任务的成本。

### 固定价格套餐什么时候比按 token 付费便宜？

用量大且稳定的时候。在 BroadNet 上，一个 Full Moon 会话每月 $60，使用 DeepSeek V4.1 Flash。缓存命中率 80% 时，盈亏平衡点约为每月 9.17亿 输入 token 和 4,600万 输出 token。低于这个用量，按 token 计费更便宜。

### 重试要花钱吗？

要。重试的请求是一次新的推理，在按 token 计费的密钥上会再次计费。只在 429 和 5xx 错误时重试，配合退避，并限制尝试次数。

## 继续阅读

-   [降低编程智能体大模型成本的 10 个方法（附节省估算）](https://broadrouter.com/zh/blog/cut-coding-agent-llm-costs/)
-   [缓存输入 token 详解：如何降低大模型 API 账单](https://broadrouter.com/zh/blog/cached-input-tokens-explained/)
-   [减少提示词 token：系统提示词、工具和数据的实测精简](https://broadrouter.com/zh/blog/reduce-prompt-tokens/)
-   [大模型 API 包月还是按 token 付费：盈亏平衡怎么算](https://broadrouter.com/zh/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [大模型 API 费用控制：预算、密钥限制与死循环防护](https://broadrouter.com/zh/blog/llm-api-spend-control/)
-   [2026 年 10 月大模型 API 价格变动：3 次涨价，没有降价](https://broadrouter.com/zh/blog/llm-api-price-changes-october-2026/)
-   [大模型 API 价格多久变一次？三年存档价格页数据](https://broadrouter.com/zh/blog/how-often-llm-api-prices-change/)
-   [指南：推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [指南：BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=page-cta) ·

**来源**

-   [BroadNet Inference 机器可读价格文件 pricing.json（2026-11-15 查阅）（英文）](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=sources)
-   [BroadNet Inference 套餐：每个会话同一时间一个请求，无 token 计量（2026-11-15 查阅）（英文）](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=sources)
-   [BroadNet Inference API 参考：端点、思考与 max\_tokens（2026-11-15 查阅）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-how-to-reduce-llm-api-costs&utm_content=sources)
-   [OpenAI Batch API 指南：五折优惠，24 小时完成窗口（2026-11-15 查阅）](https://developers.openai.com/api/docs/guides/batch)
-   [OpenAI 提示词缓存指南：默认开启，最少 1,024 token，缓存输入最高优惠 95%（2026-11-15 查阅）](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Anthropic Message Batches API：成本降低 50%，多数批次一小时内完成（2026-11-15 查阅）](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [DeepSeek API 价格：非高峰价格为高峰的一半，高峰时段按 UTC 计（2026-11-15 查阅）](https://api-docs.deepseek.com/quick_start/pricing)
