---
title: "大模型 API 服务商怎么选：20 项检查清单 | BroadRouter"
description: "选大模型 API 之前要问的 20 个问题：价格、限额、OpenAI 兼容性、隐私、模型、支持与可用性，另附评分表和测试计划。"
url: https://broadrouter.com/zh/blog/choose-llm-api-provider-checklist/
lang: zh-Hans
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/blog/choose-llm-api-provider-checklist/)（2026-11-16 更新）。

# 如何选择大模型 API 服务商：20 项检查清单

BroadNet Inference 团队 · 阅读约 5 分钟 · 发布于 2026-11-14 · 更新于 2026-11-16

选择大模型 API 服务商，要从六个方面打分：真实工作负载的总成本、速率与并发限制、OpenAI 兼容性、数据保留与训练条款、所需的模型和上下文长度、支持与可靠性。然后在签约前用自己的流量测试一周。只看每 token 价格并不可靠。

## 要点

-   按真实工作负载算价格，包括缓存输入、思考 token 和重试，而不是只看醒目的输入价格。
-   让智能体和批处理任务卡住的，更多是并发限制，而不是每分钟请求数限制。
-   OpenAI 兼容让切换成本保持在低位，但要检查流式输出的用量统计、工具调用和错误码。
-   数据保留和训练条款要拿到书面说明；免费档和付费档往往不同。
-   签约前用真实流量试用一周，记录 token、延迟和错误。

**本页内容**

1.  真实成本是多少？（问题 1–4）
2.  你会先碰到哪些限制？（问题 5–7）
3.  和你的代码兼容到什么程度？（问题 8–10）
4.  你的数据会怎样处理？（问题 11–13）
5.  有没有你需要的模型？（问题 14–16）
6.  服务是否稳定，出了问题谁来回应？（问题 17–20）
7.  如何给服务商相互打分？
8.  如何在一周内测试一家服务商？
9.  BroadNet Inference 对这份清单的回答

_[image: A chess knight and queen on a board, with the text "The right model. For the next move."]_

选择大模型 API 服务商，要从六个方面给每个候选打分：真实工作负载的月度成本、速率与并发限制、OpenAI 兼容性、数据保留与训练条款、所需的模型，以及支持与可靠性。然后用一周的真实流量测试排名前两位的服务商。下面是 20 个问题、一张评分表和测试计划。

选定之后，[迁移检查清单](https://broadrouter.com/zh/blog/openai-compatible-api-migration-checklist/)介绍切换本身，[切换大模型之前如何评估](https://broadrouter.com/zh/blog/evaluate-llm-before-switching/)深入讲解质量测试。

## 真实成本是多少？（问题 1–4）

1.  \*\*我的真实工作负载每月要花多少钱？\*\*分别给输入、[缓存输入](https://broadrouter.com/zh/glossary/cached-input-tokens/)和输出定价；免费的[大模型 API 成本计算器](https://broadrouter.com/tools/llm-api-cost-calculator/)可以按模型算出来。智能体会反复发送相同的上下文，所以缓存输入往往占大头。我们的[价格详解](https://broadrouter.com/zh/blog/llm-api-pricing-explained/)逐项做了说明。
2.  \*\*思考 token 是否按输出计费？\*\*思考模型花在思考上的 token 可能比回答还多。
3.  \*\*有没有固定价格选项？\*\*对于全天运行的智能体，固定价格套餐可能比按 token 计费更划算。参见[盈亏平衡计算](https://broadrouter.com/zh/blog/flat-rate-vs-pay-per-token-llm-api/)。
4.  \*\*价格是否机器可读、带日期？\*\*有了 JSON 价格文件，你就能跟踪变动并设置成本告警。

我们的开放数据集[大模型 API 免费额度与速率限制](https://broadrouter.com/data/llm-api-free-tiers-and-rate-limits/)比较了 14 家服务商公布的免费使用条件、初始速率限制、是否需要绑卡以及是否用免费档数据训练，每个值都附有来源和日期。

## 你会先碰到哪些限制？（问题 5–7）

5.  \*\*每分钟请求数和并发限制是多少？\*\*让并行智能体和批处理任务停滞的，是并发（进行中的请求数）。参见[速率限制](https://broadrouter.com/zh/glossary/rate-limit/)和[并发](https://broadrouter.com/zh/glossary/concurrency/)，并用[速率限制计算器](https://broadrouter.com/tools/llm-rate-limit-calculator/)按限额估算你的流量。
6.  **有没有 token 上限、滚动窗口或每周配额？**“不限量”套餐常常有。请读一读[“不限量”到底是什么意思](https://broadrouter.com/zh/blog/what-unlimited-llm-api-really-means/)。
7.  \*\*上下文窗口有多大，会不会被裁剪？\*\*确认每个请求实际的最大值，以及服务商是否会悄悄截断长提示词。

## 和你的代码兼容到什么程度？（问题 8–10）

8.  \*\*是否 OpenAI 兼容，兼容到什么程度？\*\*改一下 [base URL](https://broadrouter.com/zh/glossary/base-url/) 应该就能用。然后测试带用量统计的流式输出、工具调用、结构化输出和错误码。[迁移检查清单](https://broadrouter.com/zh/blog/openai-compatible-api-migration-checklist/)列出了容易出问题的地方。
9.  \*\*能否和我的工具配合使用？\*\*SDK、智能体框架、IDE 助手。查看服务商的[集成指南](https://broadrouter.com/integrations/)。
10.  \*\*模型 ID 是否稳定？\*\*你需要带版本号的 ID，以及模型下线前的提前通知。

## 你的数据会怎样处理？（问题 11–13）

11.  \*\*提示词和输出会被存储吗？存多久？\*\*许多服务商默认会把 API 内容保留最多 30 天。在[大模型 API 数据保留政策对比](https://broadrouter.com/zh/blog/llm-api-data-retention-compared/)中比较官方措辞。
12.  \*\*我的数据会被用于训练吗？\*\*以书面形式确认你所在档位的默认设置。
13.  \*\*能否签署 DPA（数据处理协议）、查看子处理方名单并限制密钥？\*\*如果你处理欧盟个人数据，请使用 [GDPR 检查清单](https://broadrouter.com/zh/blog/gdpr-llm-api-checklist/)，并要求 IP 白名单。

## 有没有你需要的模型？（问题 14–16）

14.  \*\*服务商是否有我需要的模型规模和能力？\*\*视觉、工具调用、思考（reasoning）、长上下文、语音。
15.  \*\*每个模型在我的任务上表现如何？\*\*准备 30 到 50 个真实测试用例并打分。基准测试只是第一道筛选；[在哪里比较大模型](https://broadrouter.com/zh/blog/artificial-analysis-alternatives/)列出了各个排行榜及其衡量的内容。[评估指南](https://broadrouter.com/zh/blog/evaluate-llm-before-switching/)介绍了如何构建测试集并避免评审偏差。
16.  \*\*开放权重还是闭源？\*\*开放权重模型可以由多家服务商托管，降低锁定风险。参见[开放权重与闭源模型对比](https://broadrouter.com/zh/blog/open-weight-vs-closed-models/)。

## 服务是否稳定，出了问题谁来回应？（问题 17–20）

17.  **有没有状态页和故障历史？**
18.  **生产使用有没有书面 SLA？**
19.  \*\*GPU 由谁运营？\*\*自有硬件、云厂商，还是从另一个 API 转售的算力。每多一种，数据和可靠性链路上就多一方。
20.  \*\*怎样联系到真人？\*\*响应时间、联系渠道，以及支持人员能否看到你的请求内容。

## 如何给服务商相互打分？

每个问题打 0 分（否或未知）、1 分（部分）或 2 分（是，且有书面说明）。按你的使用场景给各组加权：

| 分组 | 问题 | 智能体场景的权重 | 受监管应用的权重 |
| --- | --- | --- | --- |
| 价格 | 1–4 | 高 | 中 |
| 限制 | 5–7 | 高 | 中 |
| 兼容性 | 8–10 | 中 | 中 |
| 隐私 | 11–13 | 中 | 高 |
| 模型 | 14–16 | 高 | 高 |
| 支持与可靠性 | 17–20 | 中 | 高 |

“未知”记 0 分是有原因的：如果服务商答不上来，你就不能依赖它。

## 如何在一周内测试一家服务商？

1.  根据评分表选出排名前两位的服务商。
2.  通过同一个 OpenAI SDK，把一部分真实流量分别路由到这两家，模型 ID 和 base URL 放在配置中。
3.  为每个请求记录：模型、提示 token、缓存 token、补全 token、延迟、状态码。绝不记录内容。
4.  制造你的峰值：运行批处理任务或并行智能体，留意 429 错误。[错误与重试指南](https://broadrouter.com/zh/guides/errors-and-retries/)介绍了正确的退避方式。
5.  把一周的 token 乘以约 4.3，为每家服务商算出月度费用。
6.  在你的测试集上给输出打分。

## BroadNet Inference 对这份清单的回答

| # | BroadNet Inference |
| --- | --- |
| 1, 4 | 按 token 价格公布在 [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-choose-llm-api-provider-checklist&utm_content=body) 中，同步于 2026-11-14 |
| 3 | [DeepSeek V4.1 Flash](https://broadrouter.com/zh/models/deepseek-v4.1-flash/) 固定价格套餐：每个会话每月 $60、每周 $15 或每小时 $1 |
| 5 | 按量付费：每分钟 30 个请求，同时进行 4 个；套餐会话同一时间运行一个请求 |
| 6 | 套餐：不计 token，没有滚动窗口，没有每周上限 |
| 7 | DeepSeek V4.1 Flash 和 GLM 5.3 最多 1,048,576 个 token；套餐页面说明上下文从不裁剪 |
| 8 | OpenAI 兼容，地址为 `https://inference.broadnet.ai/v1` |
| 11, 12 | 不保留提示词或输出；不用于训练、微调或评估模型 |
| 13 | IP 白名单最多 32 条；子处理方名单可应要求提供；DPA 可申请 |
| 14 | 四个对话模型，外加两个语音转文字模型 |
| 19 | BroadNet 的隐私声明说，其自有模型和托管的开放权重模型运行在 BroadNet 自有或租用的美国硬件上，并以合作伙伴算力作为后备；由合作伙伴提供的模型（如 DeepSeek V4.1 Flash）在零数据保留（ZDR）条款下由美国推理合作伙伴运行 |

我们在 BroadNet 的文档和套餐页面中没有找到的内容（2026 年 11 月 14 日核实）：SLA、状态页和模型弃用政策。如果这些对你很重要，请向他们索取，并为关键链路保留第二家服务商。它的模型目录也比聚合平台小：如果你需要 GPT、Claude 或 Gemini 模型，这部分流量就不适合交给 BroadNet。$5 初始额度足够在轻量工作负载下完成测试计划的第 3 步，但在对话模型中只能用于 Gemma 4 VL 26B（另外也可用于两个 Transcribe 模型）；其他对话模型需要充值。

相关免费工具（英文）

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[免费工具（英文）](https://broadrouter.com/tools/)

## 本文涉及的术语

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

[AI 智能体（AI agent）](https://broadrouter.com/zh/glossary/agent/)

AI 智能体是由语言模型自主决定步骤、朝目标推进的系统：它决定调用哪些工具、读取结果，然后重复，直到给出最终回答或触及上限。在固定位置调用模型的固定脚本，通常称为工作流（workflow）。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[开放权重模型（open-weight model）](https://broadrouter.com/zh/glossary/open-weight-model/)

开放权重模型是公开发布训练好的权重、任何人都可以下载和运行的机器学习模型，通常附带有条件的许可证。它不同于完全开源的 AI，后者还会公开训练代码和训练数据的详细信息，让其他人能够研究并复现模型。

[Base URL（base\_url）](https://broadrouter.com/zh/glossary/base-url/)

base URL 是 API 固定的根地址，例如 https://api.example.com/v1，客户端会把它加在每个端点路径（例如 /chat/completions）前面。在 OpenAI 兼容 SDK 中，修改 base URL，再配合 API 密钥和模型 ID，就能让同一份代码改用另一家服务商。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[模型弃用（model deprecation）](https://broadrouter.com/zh/glossary/model-deprecation/)

模型弃用是指 API 服务商宣布某个模型将停止提供，通常会给出下线（retirement 或 shutdown）日期和推荐的替代模型。过了这个日期，对该模型的请求会失败，所以应用必须提前迁移到另一个模型 ID。

## 常见问题

### 选大模型 API 服务商要看哪些方面？

你的工作负载的总成本、速率与并发限制、OpenAI 兼容性、数据保留与训练条款、所需的模型和上下文长度，以及支持与可靠性。逐项打分，再用真实流量测试。

### 最便宜的大模型 API 就是最好的选择吗？

不一定。缓存输入价格、思考 token、速率限制导致的重试，以及绕开缺失功能所花的工程时间，都可能抵消更低的标价。请按你真实的工作负载比较月度账单。

### 用大模型 API 怎样避免被厂商锁定？

通过标准 SDK 使用 OpenAI 兼容 API，把模型 ID 和 base URL 放在配置里，核心链路避免使用某家独有的功能，并保留一家测试过的备用服务商。

### 签约前应该测试大模型 API 多久？

大约一周的真实流量就足以看清 token 用量、缓存命中率、延迟、错误率和限流行为。把一周的数据乘以约 4.3，就能估算一个月。

### 大模型 API 服务商应该提供怎样的可用性保障？

要求对方提供公开的状态页、故障历史，生产使用还应有书面 SLA。如果服务商都没有，请为关键链路准备备用服务商。

## 继续阅读

-   [OpenAI 兼容 API 的 base\_url 汇总：14 家服务商逐一核对](https://broadrouter.com/zh/blog/openai-compatible-api-base-urls/)
-   [切换服务商之前，如何评估大模型](https://broadrouter.com/zh/blog/evaluate-llm-before-switching/)
-   [迁移到 OpenAI 兼容 API：切换服务商检查清单](https://broadrouter.com/zh/blog/openai-compatible-api-migration-checklist/)
-   [大模型 API 套餐的“不限量”，到底意味着什么](https://broadrouter.com/zh/blog/what-unlimited-llm-api-really-means/)
-   [GDPR 与大模型 API：要问服务商的 15 个问题](https://broadrouter.com/zh/blog/gdpr-llm-api-checklist/)
-   [企业该选开放权重还是闭源大模型：成本、控制与风险](https://broadrouter.com/zh/blog/open-weight-vs-closed-models/)
-   [大模型 API 密钥安全：存储、轮换与 IP 白名单](https://broadrouter.com/zh/blog/llm-api-key-security/)
-   [Artificial Analysis 替代品：2026 年在哪里比较大模型](https://broadrouter.com/zh/blog/artificial-analysis-alternatives/)
-   [大模型 API SLA 对比：Azure、Bedrock、Google 和 OpenAI 承诺了什么](https://broadrouter.com/zh/blog/llm-api-sla-uptime-compared/)
-   [指南：BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [指南：用 IP 白名单把 API 密钥锁定到你的服务器](https://broadrouter.com/zh/guides/api-keys-ip-allow-lists/)

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-choose-llm-api-provider-checklist&utm_content=page-cta) ·

**来源**

-   [BroadNet Inference API 参考：限额、错误、数据（2026-11-14 获取）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [BroadNet Inference 机器可读价格，pricing.json（2026-11-14 获取）（英文）](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [BroadNet Inference 套餐（2026-11-14 获取）（英文）](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [BroadNet Inference 隐私声明（2026 年 9 月生效；2026-11-14 获取）（英文）](https://www.broadnet.ai/inference-privacy)
-   [OpenAI API 参考：chat completions，兼容性基准（2026-11-14 获取）](https://developers.openai.com/api/reference/resources/chat)
