BroadRouter

大模型 API SLA 对比:Azure、Bedrock、Google 和 OpenAI 承诺了什么

BroadNet Inference 团队 · 阅读约 7 分钟 · 发布于 · 更新于

大多数大模型 API 的按量付费服务不承诺可用性。书面 SLA 只随云合同或预留容量提供:Azure Foundry Models 和 Amazon Bedrock 在月可用性低于 99.9% 时给予抵扣,Google Gemini 在线推理的门槛是 99.5%,OpenAI 的 Scale Tier 向企业客户提供 99.9%。Anthropic 的商业条款和 BroadNet 的自助服务条款都没有 SLA。补偿方式是账单抵扣。

搜索“大模型 API SLA”,你会看到一堆互相矛盾的表格。本文不看那些表格,直接读原始来源:各服务商自己的 SLA 或条款页面,于 2026 年 11 月 15 日获取。对每一家,我们记录可用性目标、什么算宕机、服务抵扣、是否有延迟目标,以及覆盖哪个档位。BroadRouter 是 BroadNet 的网站,所以 BroadNet 也在列表中,而它正是自助服务没有 SLA 的服务商之一。

大模型 API 的 SLA 到底承诺了什么?

SLA 是一个附带补偿的书面目标。它并不能让 API 保持在线,只是说明 API 宕机时你的账单会怎样。下面每一份 SLA 都有同样的四个部分:

  1. **目标。**通常是按区域、项目或资源计算的月可用性百分比。
  2. **宕机的定义。**几乎总是只算服务器错误:对有效请求返回 500 或 5XX。429 速率限制不算宕机,回答慢或回答错也不算。
  3. **补偿。**受影响服务当月账单的一定比例,抵扣到未来账单中,并设有上限。
  4. **申领流程。**你需要在截止期限内、凭自己的日志申请抵扣。

按 30 天、即 43,200 分钟的月份计算,这些百分比折合成分钟如下:

月可用性 允许的宕机时间
99.9% 约 43 分钟
99.5% 216 分钟
99.0% 432 分钟
95.0% 36 小时

哪些大模型 API 公布了 SLA?

所有行均读自服务商自己的页面,时间为 2026 年 11 月 15 日。“未找到”表示我们查阅的页面没有说明 SLA,并不排除存在私下签订的合同。

服务商与服务 可用性目标 什么算宕机 抵扣 延迟 SLA 覆盖对象
Microsoft Azure,Foundry Models(包括 Azure OpenAI 模型) 99.9% 返回错误码的请求,按分钟取平均 低于 99.9% 抵扣 10%,低于 99% 抵扣 25% 有,适用于 Provisioned Managed 部署和 Priority Processing Azure 直售的 Foundry Models;不含 Developer 档
Amazon Bedrock 99.9%(低于此值开始抵扣) 返回 500 错误码的请求,按 5 分钟间隔、按区域计算 10%,低于 99.0% 为 25%,低于 95.0% 为 100% SLA 中没有 每个 AWS 区域的 Bedrock
Google,Gemini 在线推理 API 99.5%(可用期较短的模型为 95%) 5XX 错误率超过 5% 且持续 5 分钟或以上 10%,低于 99.0% 为 25%,低于 95.0% 为 50% 有,适用于全局端点上的 Provisioned Throughput generateContent 和 streamGenerateContent
OpenAI,Scale Tier 99.9% 公开页面未定义 公开页面未说明 99% 的时间高于各模型的每秒 token 数下限 企业客户,token 单元至少购买 30 天
OpenAI,标准按量付费 未找到 – – – –
Anthropic API 未找到;条款写明 “as is” 和 “as available”(译文:按现状、按可用情况) – – – –
Fireworks AI,Reserved Throughput 99.9% 可用性条款 价格页未说明 未说明 吞吐量 SLA 仅预留容量;超额部分不在覆盖范围内
Together AI Serverless:未说明。“Provisioned Throughput: Token-based capacity with SLAs”(译文:Provisioned Throughput:基于 token 的容量,附带 SLA)(页面未公布条款) – – – SLA 条款需咨询销售
BroadNet Inference,自助服务 无:“no availability commitment”(译文:没有可用性承诺) – – – 服务等级仅存在于单独的书面协议中

几大云厂商的 SLA 有什么不同?

**Microsoft Azure。**Microsoft Learn 页面说,Azure 直售的 Foundry Models “include all Azure OpenAI models”(译文:包括所有 Azure OpenAI 模型),并且 “covered by Azure service-level agreements”(译文:受 Azure 服务等级协议保障)。合并 SLA(2026 年 10 月版)按分钟定义错误率,可用性百分比为 100% 减去平均错误率。低于 99.9% 抵扣 10%,低于 99% 抵扣 25%。抵扣仅适用于 Azure 直售的 Foundry Models,并且 “The Developer tier of the Foundry Models service is not covered by this SLA.”(译文:Foundry Models 服务的 Developer 档不在本 SLA 覆盖范围内。)对于 Provisioned Managed 部署和 Priority Processing,另一份 SLA 按产品文档中各模型的目标来衡量每秒 token 数,达标率低于 99% 时抵扣 10%。

**Amazon Bedrock。**AWS 承诺尽 “commercially reasonable efforts”(译文:商业上合理的努力)达到可用性表中的目标。可用性是 “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors”(译文:Amazon Bedrock 处理的请求中未因错误而失败的百分比),错误是 “any Request that returns a 500 error code”(译文:任何返回 500 错误码的请求)。可用性按区域计算,没有请求的时间段计为完全可用。排除情形包括客户自身的操作,例如 “scaling of provisioned throughput”(译文:调整预置吞吐量),以及导致 “repeated model crashes or an inoperable model”(译文:模型反复崩溃或无法运行)的模型软件。该 SLA 没有延迟目标。

**Google Cloud。**Gemini 在线推理 SLA 对什么算宕机规定得最严格。要算宕机,5XX 响应的错误率需超过 5%,并持续 “five or more consecutive minutes”(译文:连续五分钟或以上)。抵扣上限为该服务当月账单的 50%,你必须在 30 天内附日志文件通知支持团队,而且 SLA 是你的 “sole and exclusive remedy”(译文:唯一且排他的补救措施)。基于 Google 搜索的 Grounding、配额错误以及短于服务器默认值的截止时间均被排除在外。在 Provisioned Throughput 下,有一份延迟 SLA 覆盖全局端点上的部分 Gemini 2.5 模型,按每 5 分钟间隔的 p50 每秒 token 数计量。如果你改为在 Vertex AI 上部署自己的开放模型,另一份 Vertex AI Platform SLA 以 99.5% 覆盖自定义模型的在线预测,但仅限 “for models deployed on 2 or more nodes”(译文:部署在 2 个或以上节点上的模型)。

直接用 OpenAI 和 Anthropic 呢?

**OpenAI。**Scale Tier 页面写道:“Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.”(译文:Scale Tier 流量提供 99.9% 的可用性 SLA 和优先算力。)页面的表格还为每个模型配了延迟 SLA,例如 “99% > 50 tokens per second”(译文:99% 的时间高于每秒 50 个 token),按每 5 分钟的 p50 请求延迟计算。页面说 “This offering is available to Enterprise customers”(译文:该方案面向企业客户提供),每个 token 单元需购买 “for a minimum of 30 days”(译文:至少 30 天),Scale Tier 覆盖 GPT-5.6 之前发布的模型,之后的模型则使用 Reserved Tier。我们没有找到与标准按量付费使用挂钩的可用性 SLA。(openai.com 屏蔽了我们的抓取程序,所以我们读的是 Internet Archive 2026 年 11 月 7 日的快照。)

**Anthropic。**公开的商业条款(2025 年 6 月 17 日生效)没有 SLA,也没有服务抵扣。第 L.2 节按 “AS IS” 和 “AS AVAILABLE”(译文:按现状、按可用情况)提供服务,并声明不保证使用 “WILL BE UNINTERRUPTED”(译文:不会中断)。企业协议可能有所不同,但并不公开。

SLA 买不到什么?

  • **可用性本身。**抵扣是在故障之后支付的,你的用户还是遇到了故障。
  • **容量。**限流(429)不在上面任何一个可用性定义之内。Google 明确排除了 “quotas applied by the system”(译文:系统施加的配额)。参见如何处理 429 错误。
  • **速度。**只有预置或预留档位带有每秒 token 数目标。在标准流量上,回答慢也算成功的回答。延迟指标详解。
  • **质量。**一个 200 响应给出错误回答,在哪里都不算宕机。
  • **太多钱。**抵扣只是单个服务月账单的一部分,往往还有上限,而且你必须凭自己的日志去申领。

在没有 SLA 的 API 上如何构建应用?

大多数团队都在没有 SLA 的按量付费 API 上构建应用。只要应用预料到会出故障,这样做就行得通:

  1. **设置超时。**长回答使用流式输出,并为每个请求设置客户端超时,让卡住的调用快速失败。流式输出指南。
  2. 遇到 429 和 5XX 时带退避和抖动重试,并限制重试次数。错误与重试。
  3. **配置好第二个服务商。**对于 OpenAI 兼容 API,备用方案就是第二个 base URL、密钥和模型 ID。如何在大模型 API 之间做故障转移。
  4. **记录请求 ID、时间戳和状态码。**申领任何 SLA 抵扣都需要它们,你也需要它们来了解真实的错误率。
  5. **在需要的地方签合同。**如果可用性是硬性要求,就选择带书面 SLA 的服务商档位,或者使用约定了服务等级的私有部署。私有端点之前要规划什么。

BroadNet Inference 适合什么场景

BroadRouter 是 BroadNet 自己的网站。BroadNet 的自助式 API,无论按量付费还是套餐,都没有 SLA。其服务条款(第 7.4 条)写道:“We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.”(译文:我们力求保持 API 可用,并公布我们的测量结果,但自助服务没有可用性承诺。)以及:“Service levels exist only in a separate written agreement.”(译文:服务等级只存在于单独的书面协议中。)在这一点上,Azure、AWS 和 Google 提供得更多:带抵扣的书面可用性目标。BroadNet 按量付费密钥每分钟允许 30 个请求,同时最多 4 个并发。BroadNet 对自身推理服务架构的描述见 BroadNet 的 GPU 硬件与推理服务方式,我们将其作为 BroadNet 的说法转述,而非承诺。

如果你的工作负载能靠重试和备用方案运行,BroadNet 的 OpenAI 兼容端点就是又一个可以配置的 base URL:https://inference.broadnet.ai/v1。如果你需要合同约定的服务等级,请在依赖它之前先向 BroadNet 咨询书面协议。阅读 API 参考或创建账户。

常见问题

Azure OpenAI 的 SLA 是多少?

Azure OpenAI 模型属于 Azure 直售的 Foundry Models,Microsoft 表示这些模型受 Azure SLA 保障。2026 年 10 月版合并 SLA 规定,Foundry Models 月可用性低于 99.9% 抵扣 10%,低于 99% 抵扣 25%。Developer 档不在保障范围内。Provisioned Managed 部署和 Priority Processing 另有基于每秒 token 数的延迟 SLA,达标率低于 99% 时抵扣 10%。

OpenAI API 有可用性 SLA 吗?

OpenAI 为 Scale Tier 公布了 99.9% 的可用性 SLA 和延迟 SLA,并称其 "available to Enterprise customers"(译文:面向企业客户提供),以 token 单元销售,至少 30 天。GPT-5.6 及之后的模型则指向 Reserved Tier。我们没有找到标准按量付费 API 的可用性 SLA。

Amazon Bedrock 的 SLA 是多少?

月可用性低于 99.9% 时,AWS 抵扣该区域 Bedrock 费用的 10%,低于 99.0% 抵扣 25%,低于 95.0% 抵扣 100%。可用性按区域、以 5 分钟为间隔计量,错误指返回 500 错误码的请求。

Anthropic 为 Claude API 提供 SLA 吗?

公开的商业条款里没有。这些条款按 "as is" 和 "as available"(译文:按现状、按可用情况)提供服务,并声明不保证使用不会中断。协商签订的企业合同不公开,所以请直接问 Anthropic,或者通过 SLA 覆盖 Claude 的云平台来使用。

99.9% 的可用性允许多少宕机时间?

在 30 天的月份里约 43 分钟:43,200 分钟的 0.1%。99.5% 允许 216 分钟,99% 允许 432 分钟。宕机如何计量,和百分比本身同样重要。

BroadNet Inference 有 SLA 吗?

自助服务没有。BroadNet 的条款写明 "self-serve has no availability commitment"(译文:自助服务没有可用性承诺),以及 "Service levels exist only in a separate written agreement"(译文:服务等级只存在于单独的书面协议中),例如私有端点的协议。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity