BroadRouter

SLAs de APIs de LLM: o que Azure, Bedrock, Google e OpenAI prometem

Pela equipe da BroadNet Inference · 7 min de leitura · Publicado em · Atualizado em

A maioria das APIs de LLM não promete uptime no pagamento por uso. SLAs escritos vêm com contratos de nuvem ou capacidade reservada: Azure Foundry Models e Amazon Bedrock dão créditos abaixo de 99,9% de uptime mensal, a inferência online do Gemini abaixo de 99,5%, e o Scale Tier da OpenAI oferece 99,9% a clientes Enterprise. Anthropic (termos comerciais) e BroadNet (self-service) não têm SLA. A compensação é um crédito na fatura.

Pesquise “SLA de API de LLM” e você encontra tabelas que se contradizem. Este post deixa as tabelas de lado e lê a fonte: a página de SLA ou de termos de cada provedor, consultada em 15 de novembro de 2026. Para cada um anotamos a meta de uptime, o que conta como indisponibilidade, o crédito de serviço, qualquer meta de latência e qual tier está coberto. O BroadRouter é o site da BroadNet, então a BroadNet está na lista, e ela é um dos provedores sem SLA no self-service.

O que o SLA de uma API de LLM realmente promete?

Um SLA é uma meta escrita com uma compensação. Ele não mantém a API no ar. Ele diz o que acontece com a sua fatura quando ela cai. Todo SLA abaixo tem as mesmas quatro partes:

  1. Uma meta. Normalmente uma porcentagem de uptime mensal por região, projeto ou recurso.
  2. Uma definição de indisponibilidade. Quase sempre só erros de servidor: respostas 500 ou 5XX a requisições válidas. Um 429 de limite de taxa não é indisponibilidade. Nem uma resposta lenta ou errada.
  3. Uma compensação. Uma porcentagem da fatura daquele mês para o serviço afetado, creditada em faturas futuras e com teto.
  4. Um processo de solicitação. Você pede o crédito, com os seus próprios logs, dentro de um prazo.

As porcentagens viram minutos assim, num mês de 30 dias com 43.200 minutos:

Uptime mensal Indisponibilidade permitida
99,9% cerca de 43 minutos
99,5% 216 minutos
99,0% 432 minutos
95,0% 36 horas

Quais APIs de LLM publicam SLA?

Todas as linhas foram lidas na página do próprio provedor em 15 de novembro de 2026. “Não encontrado” significa que a página verificada não informa SLA; isso não descarta um contrato privado.

Provedor e serviço Meta de uptime O que conta como indisponibilidade Créditos SLA de latência Quem está coberto
Microsoft Azure, Foundry Models (inclui os modelos do Azure OpenAI) 99,9% Requisições que devolvem código de erro, em média por minuto 10% abaixo de 99,9%, 25% abaixo de 99% Sim, para deployments Provisioned Managed e Priority Processing Foundry Models vendidos pelo Azure; tier Developer excluído
Amazon Bedrock 99,9% (os créditos começam abaixo disso) Requisições que devolvem código de erro 500, por intervalo de 5 minutos, por região 10%, 25% abaixo de 99,0%, 100% abaixo de 95,0% Nenhum no SLA Bedrock em cada região da AWS
Google, API de inferência online do Gemini 99,5% (95% para modelos com disponibilidade mais curta) Taxa de erros 5XX acima de 5% por 5 ou mais minutos seguidos 10%, 25% abaixo de 99,0%, 50% abaixo de 95,0% Sim, com Provisioned Throughput no endpoint global generateContent e streamGenerateContent
OpenAI, Scale Tier 99,9% Não definido na página pública Não informados na página pública 99% do tempo acima de um piso de tokens por segundo por modelo Clientes Enterprise, unidades de tokens compradas por pelo menos 30 dias
OpenAI, pagamento por uso padrão Não encontrado – – – –
API da Anthropic Não encontrado; os termos dizem “as is” e “as available” – – – –
Fireworks AI, Reserved Throughput Termos de uptime de 99,9% Não informado na página de preços Não informados SLA de throughput Só capacidade reservada; excedente não coberto
Together AI Serverless: nenhum informado. “Provisioned Throughput: Token-based capacity with SLAs” (tradução: capacidade baseada em tokens com SLAs; termos não publicados na página) – – – Pergunte ao time comercial pelos termos do SLA
BroadNet Inference, self-service Nenhum: “no availability commitment” (tradução: nenhum compromisso de disponibilidade) – – – Níveis de serviço só num acordo escrito separado

Como os SLAs dos hyperscalers diferem?

Microsoft Azure. A página do Learn da Microsoft diz que os Foundry Models vendidos pelo Azure “include all Azure OpenAI models” (tradução: incluem todos os modelos do Azure OpenAI) e são “covered by Azure service-level agreements” (tradução: cobertos pelos SLAs do Azure). O SLA consolidado (edição de outubro de 2026) define a Error Rate por minuto e a Uptime Percentage como 100% menos a taxa média de erros. Os créditos são de 10% abaixo de 99,9% e de 25% abaixo de 99%. Os créditos valem só para Foundry Models vendidos pelo Azure, e “The Developer tier of the Foundry Models service is not covered by this SLA.” (tradução: o tier Developer do serviço Foundry Models não está coberto por este SLA). Para deployments Provisioned Managed e Priority Processing, um segundo SLA mede tokens por segundo contra uma meta por modelo indicada na documentação do produto, com crédito de 10% se o cumprimento ficar abaixo de 99%.

Amazon Bedrock. A AWS se compromete a “commercially reasonable efforts” (tradução: esforços comercialmente razoáveis) para cumprir a tabela de uptime. Disponibilidade é “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors” (tradução: a porcentagem de requisições processadas pelo Amazon Bedrock que não falham com erros), e um erro é “any Request that returns a 500 error code” (tradução: qualquer requisição que devolve código de erro 500). O cálculo é por região, e intervalos sem requisições contam como totalmente disponíveis. As exclusões incluem ações do cliente como “scaling of provisioned throughput” (tradução: escalonamento do throughput provisionado) e software do modelo que cause “repeated model crashes or an inoperable model” (tradução: falhas repetidas do modelo ou um modelo inoperante). O SLA não tem meta de latência.

Google Cloud. O SLA de inferência online do Gemini é o mais rígido sobre o que conta. Para haver indisponibilidade é preciso mais de 5% de respostas 5XX, durando “five or more consecutive minutes” (tradução: cinco ou mais minutos consecutivos). Os créditos têm teto de 50% da fatura do mês para o serviço, você precisa avisar o suporte em até 30 dias com arquivos de log, e o SLA é a sua “sole and exclusive remedy” (tradução: única e exclusiva compensação). Ficam de fora o grounding com a Pesquisa Google, erros de cota e prazos mais curtos que o padrão do servidor. Com Provisioned Throughput, um SLA de latência cobre alguns modelos Gemini 2.5 no endpoint global, medido como p50 de tokens por segundo por intervalo de 5 minutos. Se em vez disso você fizer deploy do seu próprio modelo aberto na Vertex AI, o SLA separado da Vertex AI Platform cobre predição online de modelos personalizados a 99,5%, mas só “for models deployed on 2 or more nodes” (tradução: para modelos implantados em 2 ou mais nós).

E a OpenAI e a Anthropic diretamente?

OpenAI. A página do Scale Tier diz: “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.” (tradução: o tráfego do Scale Tier oferece um SLA de 99,9% de uptime e computação prioritária). A tabela dela combina isso com um SLA de latência por modelo, como “99% > 50 tokens per second” (tradução: 99% acima de 50 tokens por segundo), calculado como latência p50 das requisições a cada 5 minutos. A página diz que “This offering is available to Enterprise customers” (tradução: esta oferta está disponível para clientes Enterprise), que cada unidade de tokens é comprada “for a minimum of 30 days” (tradução: por um mínimo de 30 dias) e que o Scale Tier cobre modelos lançados antes do GPT-5.6, com o Reserved Tier para os posteriores. Não encontramos SLA de uptime ligado ao uso padrão com pagamento por uso. (O openai.com bloqueou o nosso coletor, então lemos a página na captura do Internet Archive de 7 de novembro de 2026.)

Anthropic. Os Commercial Terms públicos (em vigor desde 17 de junho de 2025) não contêm SLA nem créditos de serviço. A seção L.2 fornece os serviços “AS IS” e “AS AVAILABLE” (tradução: no estado em que se encontram e conforme disponíveis) e não garante que o uso “WILL BE UNINTERRUPTED” (tradução: será ininterrupto). Acordos enterprise podem ser diferentes, mas não são públicos.

O que um SLA não compra?

  • O uptime em si. O crédito vem depois da queda. Seus usuários viram a queda mesmo assim.
  • Capacidade. Throttling (429) está fora de todas as definições de uptime acima. O Google exclui explicitamente “quotas applied by the system” (tradução: cotas aplicadas pelo sistema). Veja como tratar erros 429.
  • Velocidade. Só os tiers provisionados ou reservados têm meta de tokens por segundo. No tráfego padrão, uma resposta lenta é uma resposta bem-sucedida. Métricas de latência explicadas.
  • Qualidade. Uma resposta 200 com conteúdo errado não é indisponibilidade em lugar nenhum.
  • Muito dinheiro. Créditos são uma fração da fatura mensal de um serviço, muitas vezes com teto, e você precisa solicitá-los com seus próprios logs.

Como construir sobre uma API sem SLA?

A maioria dos times constrói sobre APIs de pagamento por uso sem SLA. Isso funciona se a aplicação conta com falhas:

  1. Defina timeouts. Use streaming nas respostas longas e defina um timeout no client por requisição, para que uma chamada travada falhe rápido. Guia de streaming.
  2. Tente de novo com backoff e jitter em 429 e 5XX, com limite de tentativas. Erros e novas tentativas.
  3. Deixe um segundo provedor configurado. Com APIs compatíveis com a OpenAI, um fallback é uma segunda base URL, chave e ID de modelo. Como fazer failover entre APIs de LLM.
  4. Registre IDs de requisição, horários e códigos de status. Você precisa deles para qualquer solicitação de SLA e para ver sua taxa de erro real.
  5. Compre um contrato onde precisar. Se uptime é um requisito rígido, use um tier de provedor com SLA escrito, ou um deployment privado com níveis de serviço acordados. O que planejar antes de um endpoint privado.

Onde a BroadNet Inference se encaixa

O BroadRouter é o site da própria BroadNet. A API self-service da BroadNet, tanto no pagamento por uso quanto nos planos, não tem SLA. Os Termos de Serviço dela (§7.4) dizem: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (tradução: buscamos manter a API disponível e publicamos o que medimos, mas o self-service não tem compromisso de disponibilidade). E: “Service levels exist only in a separate written agreement.” (tradução: níveis de serviço só existem num acordo escrito separado). Nesse ponto, Azure, AWS e Google oferecem mais: uma meta de uptime escrita com créditos. Uma chave de pagamento por uso da BroadNet permite 30 requisições por minuto e 4 em andamento. A descrição que a própria BroadNet faz da sua infraestrutura de serving está em hardware de GPU e abordagem de serving da BroadNet, que relatamos como relato da BroadNet, não como compromisso.

Se a sua carga de trabalho aguenta rodar com novas tentativas e um fallback, o endpoint compatível com a OpenAI da BroadNet é mais uma base URL para configurar: https://inference.broadnet.ai/v1. Se você precisa de níveis de serviço contratados, pergunte à BroadNet sobre um acordo escrito antes de depender de um. Leia a referência da API ou crie uma conta.

Perguntas frequentes

Qual é o SLA do Azure OpenAI?

Os modelos do Azure OpenAI são Foundry Models vendidos pelo Azure, que a Microsoft diz estarem cobertos pelos SLAs do Azure. O SLA consolidado de outubro de 2026 dá aos Foundry Models um crédito de serviço de 10% abaixo de 99,9% de uptime mensal e de 25% abaixo de 99%. O tier Developer não está coberto. Deployments Provisioned Managed e o Priority Processing acrescentam um SLA de latência em tokens por segundo, com crédito de 10% abaixo de 99% de cumprimento.

A API da OpenAI tem SLA de uptime?

A OpenAI publica um SLA de 99,9% de uptime e um SLA de latência para o Scale Tier, que ela descreve como "available to Enterprise customers" (tradução: disponível para clientes Enterprise) e vende em unidades de tokens por pelo menos 30 dias. Para o GPT-5.6 e posteriores, ela aponta para o Reserved Tier. Não encontramos SLA de uptime para o uso padrão da API com pagamento por uso.

Qual é o SLA do Amazon Bedrock?

A AWS credita 10% das cobranças do Bedrock na região quando o uptime mensal fica abaixo de 99,9%, 25% abaixo de 99,0% e 100% abaixo de 95,0%. A disponibilidade é medida por região em intervalos de 5 minutos, e um erro é uma requisição que devolve código de erro 500.

A Anthropic oferece SLA para a API do Claude?

Não nos seus Commercial Terms públicos. Esses termos fornecem os serviços "as is" e "as available" (tradução: no estado em que se encontram e conforme disponíveis) e não garantem que o uso será ininterrupto. Contratos enterprise negociados não são públicos, então pergunte à Anthropic, ou use o Claude por meio de uma nuvem cujo SLA o cubra.

Quanto tempo fora do ar 99,9% de uptime permite?

Cerca de 43 minutos num mês de 30 dias: 0,1% de 43.200 minutos. 99,5% permite 216 minutos e 99% permite 432 minutos. A forma de medir a indisponibilidade importa tanto quanto a porcentagem.

A BroadNet Inference tem SLA?

Não no self-service. Os Termos da BroadNet dizem "self-serve has no availability commitment" (tradução: o self-service não tem compromisso de disponibilidade) e "Service levels exist only in a separate written agreement" (tradução: níveis de serviço só existem num acordo escrito separado), por exemplo para um endpoint privado.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity

Fontes