---
title: "大模型 API SLA 对比：Azure、Bedrock、Gemini、OpenAI | BroadRouter"
description: "各家大模型 API 服务商白纸黑字承诺了什么：可用性百分比、什么算宕机、服务抵扣和延迟目标，全部来自各家的 SLA 页面。"
url: https://broadrouter.com/zh/blog/llm-api-sla-uptime-compared/
lang: zh-Hans
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/blog/llm-api-sla-uptime-compared/)（2026-11-16 更新）。

# 大模型 API SLA 对比：Azure、Bedrock、Google 和 OpenAI 承诺了什么

BroadNet Inference 团队 · 阅读约 7 分钟 · 发布于 2026-11-15 · 更新于 2026-11-16

大多数大模型 API 的按量付费服务不承诺可用性。书面 SLA 只随云合同或预留容量提供：Azure Foundry Models 和 Amazon Bedrock 在月可用性低于 99.9% 时给予抵扣，Google Gemini 在线推理的门槛是 99.5%，OpenAI 的 Scale Tier 向企业客户提供 99.9%。Anthropic 的商业条款和 BroadNet 的自助服务条款都没有 SLA。补偿方式是账单抵扣。

## 要点

-   Azure Foundry Models（包括所有 Azure OpenAI 模型）和 Amazon Bedrock 在月可用性低于 99.9% 时给予服务抵扣。Google Gemini 在线推理 SLA 从 99.5% 起算。
-   OpenAI 的 99.9% 可用性 SLA 属于 Scale Tier，这是面向企业的方案，以 token 单元购买，至少 30 天。我们没有找到标准按量付费的可用性 SLA。
-   Anthropic 的商业条款按 "as is" 和 "as available"（译文：按现状、按可用情况）提供服务。BroadNet 的自助服务条款写明 "no availability commitment"（译文：没有可用性承诺）。
-   宕机通常只指服务器错误（5XX 或 500）。限流、回答慢和输出差都不算宕机，除非另有单独的延迟 SLA。
-   抵扣是有上限的未来账单折扣，所以无论如何都要按“会出故障”来设计：重试、超时和备用服务商。

**本页内容**

1.  大模型 API 的 SLA 到底承诺了什么？
2.  哪些大模型 API 公布了 SLA？
3.  几大云厂商的 SLA 有什么不同？
4.  直接用 OpenAI 和 Anthropic 呢？
5.  SLA 买不到什么？
6.  在没有 SLA 的 API 上如何构建应用？
7.  BroadNet Inference 适合什么场景

搜索“大模型 API SLA”，你会看到一堆互相矛盾的表格。本文不看那些表格，直接读原始来源：各服务商自己的 SLA 或条款页面，于 2026 年 11 月 15 日获取。对每一家，我们记录可用性目标、什么算宕机、服务抵扣、是否有延迟目标，以及覆盖哪个档位。BroadRouter 是 BroadNet 的网站，所以 BroadNet 也在列表中，而它正是自助服务没有 SLA 的服务商之一。

## 大模型 API 的 SLA 到底承诺了什么？

[SLA](https://broadrouter.com/zh/glossary/sla/) 是一个附带补偿的书面目标。它并不能让 API 保持在线，只是说明 API 宕机时你的账单会怎样。下面每一份 SLA 都有同样的四个部分：

1.  \*\*目标。\*\*通常是按区域、项目或资源计算的月可用性百分比。
2.  \*\*宕机的定义。\*\*几乎总是只算服务器错误：对有效请求返回 500 或 5XX。429 [速率限制](https://broadrouter.com/zh/glossary/rate-limit/)不算宕机，回答慢或回答错也不算。
3.  \*\*补偿。\*\*受影响服务当月账单的一定比例，抵扣到未来账单中，并设有上限。
4.  \*\*申领流程。\*\*你需要在截止期限内、凭自己的日志申请抵扣。

按 30 天、即 43,200 分钟的月份计算，这些百分比折合成分钟如下：

| 月可用性 | 允许的宕机时间 |
| --- | --- |
| 99.9% | 约 43 分钟 |
| 99.5% | 216 分钟 |
| 99.0% | 432 分钟 |
| 95.0% | 36 小时 |

## 哪些大模型 API 公布了 SLA？

所有行均读自服务商自己的页面，时间为 2026 年 11 月 15 日。“未找到”表示我们查阅的页面没有说明 SLA，并不排除存在私下签订的合同。

| 服务商与服务 | 可用性目标 | 什么算宕机 | 抵扣 | 延迟 SLA | 覆盖对象 |
| --- | --- | --- | --- | --- | --- |
| Microsoft Azure，Foundry Models（包括 Azure OpenAI 模型） | 99.9% | 返回错误码的请求，按分钟取平均 | 低于 99.9% 抵扣 10%，低于 99% 抵扣 25% | 有，适用于 Provisioned Managed 部署和 Priority Processing | Azure 直售的 Foundry Models；不含 Developer 档 |
| Amazon Bedrock | 99.9%（低于此值开始抵扣） | 返回 500 错误码的请求，按 5 分钟间隔、按区域计算 | 10%，低于 99.0% 为 25%，低于 95.0% 为 100% | SLA 中没有 | 每个 AWS 区域的 Bedrock |
| Google，Gemini 在线推理 API | 99.5%（可用期较短的模型为 95%） | 5XX 错误率超过 5% 且持续 5 分钟或以上 | 10%，低于 99.0% 为 25%，低于 95.0% 为 50% | 有，适用于全局端点上的 Provisioned Throughput | `generateContent` 和 `streamGenerateContent` |
| OpenAI，Scale Tier | 99.9% | 公开页面未定义 | 公开页面未说明 | 99% 的时间高于各模型的每秒 token 数下限 | 企业客户，token 单元至少购买 30 天 |
| OpenAI，标准按量付费 | 未找到 | – | – | – | – |
| Anthropic API | 未找到；条款写明 “as is” 和 “as available”（译文：按现状、按可用情况） | – | – | – | – |
| Fireworks AI，Reserved Throughput | 99.9% 可用性条款 | 价格页未说明 | 未说明 | 吞吐量 SLA | 仅预留容量；超额部分不在覆盖范围内 |
| Together AI | Serverless：未说明。“Provisioned Throughput: Token-based capacity with SLAs”（译文：Provisioned Throughput：基于 token 的容量，附带 SLA）（页面未公布条款） | – | – | – | SLA 条款需咨询销售 |
| BroadNet Inference，自助服务 | 无：“no availability commitment”（译文：没有可用性承诺） | – | – | – | 服务等级仅存在于单独的书面协议中 |

## 几大云厂商的 SLA 有什么不同？

\*\*Microsoft Azure。\*\*Microsoft Learn 页面说，Azure 直售的 Foundry Models “include all Azure OpenAI models”（译文：包括所有 Azure OpenAI 模型），并且 “covered by Azure service-level agreements”（译文：受 Azure 服务等级协议保障）。合并 SLA（2026 年 10 月版）按分钟定义错误率，可用性百分比为 100% 减去平均错误率。低于 99.9% 抵扣 10%，低于 99% 抵扣 25%。抵扣仅适用于 Azure 直售的 Foundry Models，并且 “The Developer tier of the Foundry Models service is not covered by this SLA.”（译文：Foundry Models 服务的 Developer 档不在本 SLA 覆盖范围内。）对于 Provisioned Managed 部署和 Priority Processing，另一份 SLA 按产品文档中各模型的目标来衡量每秒 token 数，达标率低于 99% 时抵扣 10%。

\*\*Amazon Bedrock。\*\*AWS 承诺尽 “commercially reasonable efforts”（译文：商业上合理的努力）达到可用性表中的目标。可用性是 “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors”（译文：Amazon Bedrock 处理的请求中未因错误而失败的百分比），错误是 “any Request that returns a 500 error code”（译文：任何返回 500 错误码的请求）。可用性按区域计算，没有请求的时间段计为完全可用。排除情形包括客户自身的操作，例如 “scaling of provisioned throughput”（译文：调整预置吞吐量），以及导致 “repeated model crashes or an inoperable model”（译文：模型反复崩溃或无法运行）的模型软件。该 SLA 没有延迟目标。

\*\*Google Cloud。\*\*Gemini 在线推理 SLA 对什么算宕机规定得最严格。要算宕机，5XX 响应的错误率需超过 5%，并持续 “five or more consecutive minutes”（译文：连续五分钟或以上）。抵扣上限为该服务当月账单的 50%，你必须在 30 天内附日志文件通知支持团队，而且 SLA 是你的 “sole and exclusive remedy”（译文：唯一且排他的补救措施）。基于 Google 搜索的 Grounding、配额错误以及短于服务器默认值的截止时间均被排除在外。在 Provisioned Throughput 下，有一份延迟 SLA 覆盖全局端点上的部分 Gemini 2.5 模型，按每 5 分钟间隔的 p50 每秒 token 数计量。如果你改为在 Vertex AI 上部署自己的开放模型，另一份 Vertex AI Platform SLA 以 99.5% 覆盖自定义模型的在线预测，但仅限 “for models deployed on 2 or more nodes”（译文：部署在 2 个或以上节点上的模型）。

## 直接用 OpenAI 和 Anthropic 呢？

\*\*OpenAI。\*\*Scale Tier 页面写道：“Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.”（译文：Scale Tier 流量提供 99.9% 的可用性 SLA 和优先算力。）页面的表格还为每个模型配了延迟 SLA，例如 “99% > 50 tokens per second”（译文：99% 的时间高于每秒 50 个 token），按每 5 分钟的 p50 请求延迟计算。页面说 “This offering is available to Enterprise customers”（译文：该方案面向企业客户提供），每个 token 单元需购买 “for a minimum of 30 days”（译文：至少 30 天），Scale Tier 覆盖 GPT-5.6 之前发布的模型，之后的模型则使用 Reserved Tier。我们没有找到与标准按量付费使用挂钩的可用性 SLA。（openai.com 屏蔽了我们的抓取程序，所以我们读的是 Internet Archive 2026 年 11 月 7 日的快照。）

\*\*Anthropic。\*\*公开的商业条款（2025 年 6 月 17 日生效）没有 SLA，也没有服务抵扣。第 L.2 节按 “AS IS” 和 “AS AVAILABLE”（译文：按现状、按可用情况）提供服务，并声明不保证使用 “WILL BE UNINTERRUPTED”（译文：不会中断）。企业协议可能有所不同，但并不公开。

## SLA 买不到什么？

-   \*\*可用性本身。\*\*抵扣是在故障之后支付的，你的用户还是遇到了故障。
-   \*\*容量。\*\*限流（429）不在上面任何一个可用性定义之内。Google 明确排除了 “quotas applied by the system”（译文：系统施加的配额）。参见[如何处理 429 错误](https://broadrouter.com/zh/blog/handle-llm-api-429-rate-limits/)。
-   \*\*速度。\*\*只有预置或预留档位带有每秒 token 数目标。在标准流量上，回答慢也算成功的回答。[延迟指标详解](https://broadrouter.com/zh/blog/llm-latency-ttft-throughput/)。
-   \*\*质量。\*\*一个 200 响应给出错误回答，在哪里都不算宕机。
-   \*\*太多钱。\*\*抵扣只是单个服务月账单的一部分，往往还有上限，而且你必须凭自己的日志去申领。

## 在没有 SLA 的 API 上如何构建应用？

大多数团队都在没有 SLA 的按量付费 API 上构建应用。只要应用预料到会出故障，这样做就行得通：

1.  \*\*设置超时。\*\*长回答使用流式输出，并为每个请求设置客户端超时，让卡住的调用快速失败。[流式输出指南](https://broadrouter.com/zh/guides/streaming-chat-completions/)。
2.  **遇到 429 和 5XX 时带退避和抖动重试**，并限制重试次数。[错误与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。
3.  \*\*配置好第二个服务商。\*\*对于 OpenAI 兼容 API，备用方案就是第二个 base URL、密钥和模型 ID。[如何在大模型 API 之间做故障转移](https://broadrouter.com/zh/blog/llm-api-failover-fallback/)。
4.  \*\*记录请求 ID、时间戳和状态码。\*\*申领任何 SLA 抵扣都需要它们，你也需要它们来了解真实的错误率。
5.  \*\*在需要的地方签合同。\*\*如果可用性是硬性要求，就选择带书面 SLA 的服务商档位，或者使用约定了服务等级的私有部署。[私有端点之前要规划什么](https://broadrouter.com/zh/blog/private-endpoint-planning/)。

## BroadNet Inference 适合什么场景

BroadRouter 是 BroadNet 自己的网站。BroadNet 的自助式 API，无论按量付费还是套餐，都没有 SLA。其服务条款（第 7.4 条）写道：“We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.”（译文：我们力求保持 API 可用，并公布我们的测量结果，但自助服务没有可用性承诺。）以及：“Service levels exist only in a separate written agreement.”（译文：服务等级只存在于单独的书面协议中。）在这一点上，Azure、AWS 和 Google 提供得更多：带抵扣的书面可用性目标。BroadNet 按量付费密钥每分钟允许 30 个请求，同时最多 4 个并发。BroadNet 对自身推理服务架构的描述见 [BroadNet 的 GPU 硬件与推理服务方式](https://broadrouter.com/zh/blog/broadnet-gpu-fleet-and-serving/)，我们将其作为 BroadNet 的说法转述，而非承诺。

如果你的工作负载能靠重试和备用方案运行，BroadNet 的 OpenAI 兼容端点就是又一个可以配置的 base URL：`https://inference.broadnet.ai/v1`。如果你需要合同约定的服务等级，请在依赖它之前先向 BroadNet 咨询书面协议。[阅读 API 参考](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-llm-api-sla-uptime-compared&utm_content=body)或[创建账户](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-llm-api-sla-uptime-compared&utm_content=body)。

相关免费工具（英文）

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[免费工具（英文）](https://broadrouter.com/tools/)

## 本文涉及的术语

[SLA（服务等级协议）](https://broadrouter.com/zh/glossary/sla/)

SLA（服务等级协议）是服务商在合同中对可衡量服务水平的承诺，通常是每月可用性百分比，并规定未达标时的补救方式，通常是服务抵扣。SLA 会定义什么算停机、哪些情况除外，以及如何申请赔付。

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[吞吐量（throughput）](https://broadrouter.com/zh/glossary/throughput/)

在大模型推理服务中，吞吐量（throughput）是系统在所有并发请求上单位时间内完成的总工作量，通常以每秒输出 token 数或每秒请求数衡量。它不同于单路流速度，后者是单个请求接收 token 的快慢。

[Base URL（base\_url）](https://broadrouter.com/zh/glossary/base-url/)

base URL 是 API 固定的根地址，例如 https://api.example.com/v1，客户端会把它加在每个端点路径（例如 /chat/completions）前面。在 OpenAI 兼容 SDK 中，修改 base URL，再配合 API 密钥和模型 ID，就能让同一份代码改用另一家服务商。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[事实依据（grounding）](https://broadrouter.com/zh/glossary/grounding/)

Grounding（事实依据）是把语言模型的输出与具体、可核查的信息来源关联起来的做法，例如提供的文档、搜索结果或数据库记录，并要求模型依据这些来源作答。有依据的回答可以追溯到来源，也更不容易编造事实。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

## 常见问题

### Azure OpenAI 的 SLA 是多少？

Azure OpenAI 模型属于 Azure 直售的 Foundry Models，Microsoft 表示这些模型受 Azure SLA 保障。2026 年 10 月版合并 SLA 规定，Foundry Models 月可用性低于 99.9% 抵扣 10%，低于 99% 抵扣 25%。Developer 档不在保障范围内。Provisioned Managed 部署和 Priority Processing 另有基于每秒 token 数的延迟 SLA，达标率低于 99% 时抵扣 10%。

### OpenAI API 有可用性 SLA 吗？

OpenAI 为 Scale Tier 公布了 99.9% 的可用性 SLA 和延迟 SLA，并称其 "available to Enterprise customers"（译文：面向企业客户提供），以 token 单元销售，至少 30 天。GPT-5.6 及之后的模型则指向 Reserved Tier。我们没有找到标准按量付费 API 的可用性 SLA。

### Amazon Bedrock 的 SLA 是多少？

月可用性低于 99.9% 时，AWS 抵扣该区域 Bedrock 费用的 10%，低于 99.0% 抵扣 25%，低于 95.0% 抵扣 100%。可用性按区域、以 5 分钟为间隔计量，错误指返回 500 错误码的请求。

### Anthropic 为 Claude API 提供 SLA 吗？

公开的商业条款里没有。这些条款按 "as is" 和 "as available"（译文：按现状、按可用情况）提供服务，并声明不保证使用不会中断。协商签订的企业合同不公开，所以请直接问 Anthropic，或者通过 SLA 覆盖 Claude 的云平台来使用。

### 99.9% 的可用性允许多少宕机时间？

在 30 天的月份里约 43 分钟：43,200 分钟的 0.1%。99.5% 允许 216 分钟，99% 允许 432 分钟。宕机如何计量，和百分比本身同样重要。

### BroadNet Inference 有 SLA 吗？

自助服务没有。BroadNet 的条款写明 "self-serve has no availability commitment"（译文：自助服务没有可用性承诺），以及 "Service levels exist only in a separate written agreement"（译文：服务等级只存在于单独的书面协议中），例如私有端点的协议。

## 继续阅读

-   [大模型 API 报 429 错误怎么办：退避、抖动与并发限制](https://broadrouter.com/zh/blog/handle-llm-api-429-rate-limits/)
-   [如何选择大模型 API 服务商：20 项检查清单](https://broadrouter.com/zh/blog/choose-llm-api-provider-checklist/)
-   [申请私有端点，先把工作负载说清楚](https://broadrouter.com/zh/blog/private-endpoint-planning/)
-   [BroadNet 的 GPU 硬件与推理部署方式（据 BroadNet 自述）](https://broadrouter.com/zh/blog/broadnet-gpu-fleet-and-serving/)
-   [大模型延迟：首 token 延迟、每秒 token 数与端到端耗时](https://broadrouter.com/zh/blog/llm-latency-ttft-throughput/)
-   [Artificial Analysis 替代品：2026 年在哪里比较大模型](https://broadrouter.com/zh/blog/artificial-analysis-alternatives/)
-   [BroadNet 评估后淘汰了哪些模型，原因是什么](https://broadrouter.com/zh/blog/models-broadnet-ruled-out/)
-   [指南：BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [指南：对话补全的流式输出，以及连接中断的处理](https://broadrouter.com/zh/guides/streaming-chat-completions/)

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-blog-llm-api-sla-uptime-compared&utm_content=page-cta) ·

**来源**

-   [Microsoft 在线服务服务等级协议，2026 年 10 月版合并 SLA：Foundry Models 部分（2026-11-15 查阅）](https://www.microsoft.com/licensing/docs/view/Service-Level-Agreements-SLA-for-Online-Services)
-   [Microsoft Learn，Azure 直售的 Foundry Models："They include all Azure OpenAI models … covered by Azure service-level agreements"（译文：包括所有 Azure OpenAI 模型……受 Azure 服务等级协议保障）（2026-10-29 更新；2026-11-15 查阅）](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-models/concepts/models-sold-directly-by-azure)
-   [AWS，Amazon Bedrock 服务等级协议（最后更新于 2023 年 10 月 4 日；2026-11-15 查阅）](https://aws.amazon.com/bedrock/sla/)
-   [Google Cloud，Gemini Enterprise Agent Platform 上的 Gemini 在线推理 API SLA（最后修改于 2026 年 6 月 30 日；2026-11-15 查阅）](https://cloud.google.com/vertex-ai/generative-ai/sla)
-   [Google Cloud，Vertex AI Platform SLA（最后修改于 2026 年 2 月 12 日；2026-11-15 查阅）](https://cloud.google.com/vertex-ai/sla)
-   [OpenAI，面向 API 客户的 Scale Tier（openai.com 对我们的抓取程序返回 HTTP 403；内容读自 Internet Archive 2026 年 11 月 7 日的快照，2026-11-15 查阅）](https://web.archive.org/web/20261107081103/https://openai.com/api-scale-tier/)
-   [Anthropic 商业服务条款，2025 年 6 月 17 日生效，第 I.3 和 L.2 节（2026-11-15 查阅）](https://www.anthropic.com/legal/commercial-terms)
-   [Fireworks AI 价格，Reserved Throughput："Throughput SLA and 99.9% uptime terms"（译文：吞吐量 SLA 和 99.9% 可用性条款）（2026-11-15 查阅）](https://fireworks.ai/pricing)
-   [Together AI 价格：SLA 仅随 Provisioned Throughput 提供；未说明 Serverless SLA（2026-11-15 查阅）](https://www.together.ai/pricing)
-   [BroadNet 服务条款第 7.4 条“可用性”（2026-11-15 查阅）（英文）](https://www.broadnet.ai/terms)
