BroadRouter

Rate limits de API de LLM por provedor: RPM, TPM e concorrência

Pela equipe da BroadNet Inference · 8 min de leitura · Publicado em · Atualizado em

Os rate limits das APIs de LLM mudam de tipo, não só de tamanho. OpenAI, Anthropic e Gemini limitam requisições e tokens por minuto conforme o nível de uso. DeepSeek e DeepInfra limitam requisições simultâneas. Os planos gratuitos do Groq e da Cerebras somam limites diários. Nos primeiros níveis pagos, OpenAI e Anthropic permitem milhares de requisições por minuto; as chaves de pagamento por uso da BroadNet, 30.

Pesquise “rate limit de API de LLM” e você vai achar tabelas de blog que se contradizem, muitas vezes porque copiam números antigos. Esta página lê cada valor na documentação do próprio provedor, em 15 de novembro de 2026, diz a qual nível e modelo ele se aplica e deixa a célula vazia quando o provedor não publica o número. Para os mesmos dados num dataset para download, com créditos gratuitos e termos de uso dos dados, veja planos gratuitos e rate limits de APIs de LLM. O BroadRouter é o site da própria BroadNet, e os limites da BroadNet também estão na tabela.

O que significam RPM, TPM, RPD e concorrência?

Um rate limit define quanto você pode enviar numa janela de tempo. Cada provedor conta uma coisa:

Limite O que conta Pesa mais quando
RPM, requisições por minuto Requisições iniciadas num minuto Você envia muitas chamadas curtas (classificação, loops no estilo embeddings)
RPS, requisições por segundo O mesmo, em um segundo Você envia em rajadas, mesmo com média por minuto baixa
TPM, tokens por minuto Tokens processados num minuto, às vezes entrada (ITPM) e saída (OTPM) separadas Você envia prompts longos ou documentos longos
RPD / TPD, por dia Requisições ou tokens num dia Você roda um job em lote num plano gratuito
Concorrência Requisições em andamento no mesmo instante As requisições são lentas: raciocínio, saídas longas, agentes

Qual limite trava você depende do formato das suas requisições. Com limites de concorrência, a vazão depende da duração da requisição: a própria documentação da DeepInfra dá o exemplo de 200 requisições simultâneas com média de 1 segundo, o que dá cerca de 12.000 RPM. Uma requisição de raciocínio de 30 segundos com a mesma concorrência dá uma fração disso.

A maioria dos provedores também aplica limites em janelas mais curtas do que as publicadas. A Anthropic diz que um limite de 60 RPM “might be enforced as 1 request per second” (tradução: pode ser aplicado como 1 requisição por segundo), e a xAI deriva o limite por segundo do orçamento por minuto (“RPM / 48, with a minimum of 2”; tradução: RPM / 48, com mínimo de 2).

Como funcionam os níveis de uso?

Os grandes provedores de modelos fechados aumentam seus limites conforme você gasta mais:

Provedor Níveis (verificado em 2026-11-15) Como subir
OpenAI Free, Build, Launch, Grow Free: o usuário precisa estar numa região permitida; limite de uso mensal de USD 100 (um teto de gasto, não um crédito). Depois, compras de crédito no total de USD 5, USD 100 e USD 500, com limites de uso mensais de USD 500, USD 5.000 e USD 200.000
Anthropic Evaluation, Start, Build, Scale, Custom Automático, pelo histórico de uso e pela situação da conta. Tetos de gasto mensais: Start USD 500, Build USD 1.000, Scale USD 200.000
API do Google Gemini Free, Tier 1, Tier 2, Tier 3 O Tier 1 exige uma conta de faturamento vinculada; o Tier 2 exige USD 100 pagos mais 3 dias; o Tier 3, USD 1.000 mais 30 dias. O Google diz que os rate limits informados são “not guaranteed” (tradução: não garantidos) e oferece “no guarantees” (tradução: nenhuma garantia) para pedidos de aumento
Fireworks AI Do Tier 1 ao Tier 4 Meio de pagamento para o Tier 1, depois USD 50, USD 500 e USD 5.000 em gasto ou créditos. Os níveis aumentam o TPM, não o RPM
xAI Do Tier 0 ao Tier 4, Enterprise Gasto acumulado desde 1º de janeiro de 2026: USD 0, 50, 250, 1.000 e 5.000

Dois detalhes importam na prática. Quando você atinge o teto de gasto da Anthropic, recebe HTTP 429 sem cabeçalho retry-after, então as novas tentativas automáticas continuam falhando até o mês virar ou você mudar de nível. E o limite de entrada da Anthropic conta só a entrada sem cache: leituras do cache não contam, então uma taxa alta de cache aumenta sua vazão real.

Rate limits de API de LLM por provedor: o nível de entrada

Valores do plano gratuito ou do primeiro nível pago de cada provedor, tirados da página de rate limits dele. Um traço significa que a página não publica número para aquele limite; não significa ilimitado.

Provedor Nível e modelo RPM TPM Por dia Concorrência
OpenAI Build; Astra, Sol, Terra 5.000 1.000.000 – –
OpenAI Build; Luna 5.000 2.000.000 – –
Anthropic Start; Sonnet 5.5, Opus 5.5, Haiku 5.5 4.000 2.000.000 de entrada (sem cache), 400.000 de saída – –
API do Google Gemini Free; Gemini Decision 1 (único modelo com números gratuitos na página) 200 50.000 10.000 requisições –
API do Google Gemini Tier 1; Gemini Decision 1 1.500 1.000.000 50.000 requisições –
Groq Tabela do plano Free; openai/gpt-oss-120b, qwen/qwen3.8-27b 30 8.000 1.000 requisições, 200.000 tokens –
Groq Tabela do plano Developer; openai/gpt-oss-120b, qwen/qwen3.8-27b 1.000 250.000 500.000 requisições –
Cerebras Free Trial; gpt-oss-120b 5 30.000 sem cache (90.000 no total) 1.000.000 de tokens –
Cerebras Developer (pagamento por uso); gpt-oss-120b 1.000 500.000 sem cache (1.500.000 no total) Sem limite –
Fireworks AI Sem meio de pagamento nem créditos; para toda a conta 10 – – –
Fireworks AI Com meio de pagamento e créditos; para toda a conta 6.000 Definido pelo nível de gasto – –
DeepInfra Padrão; por modelo público – – – 200
DeepSeek Padrão; deepseek-flash (DeepSeek-V4.1-Flash-1017), por conta – – – 2.500
DeepSeek Padrão; deepseek-v4-pro (DeepSeek-V4-Pro-0813), por conta – – – 500
xAI Tier 0; grok-4.7 (150 RPS) – 50.000.000 – –
OpenRouter Modelos :free, menos de USD 10 em créditos comprados 20 – 50 requisições –
OpenRouter Modelos :free, USD 10 ou mais em créditos comprados 20 – 1.000 requisições –
Cohere Chave de teste; Command A 20 – 1.000 chamadas por mês –
Cohere Chave de produção; Command A 500 – – –
BroadNet Inference Chave de pagamento por uso; qualquer modelo 30 – – 4
BroadNet Inference Chave por hora; Gemma 4 VL 26B 120 300,000 – 1 stream
BroadNet Inference Sessão de plano de preço fixo; DeepSeek V4.1 Flash – Sem medidor de tokens – 1 requisição por vez

Notas sobre as linhas:

  • Groq. A página tem duas abas, “Free Plan Limits” (aberta por padrão) e “Developer Plan Limits”. A frase acima delas chama os valores de “the base limits for the Developer plan” (tradução: os limites básicos do plano Developer), o que só vale para a segunda aba; a tabela acima traz as duas. Os limites exatos da sua organização estão na página de limites dela.
  • Google. Os limites valem por projeto, não por chave de API. Os números da maioria dos modelos só aparecem dentro do AI Studio. O Gemini Decision 1 é um modelo de classificação para a Decisions API do Google: devolve probabilidades, não texto, então seus limites dizem pouco sobre os modelos de chat do Gemini.
  • Mistral e Together AI não publicam números. A Mistral mostra seus limites no console em vez de publicar uma tabela, e não oferece acesso gratuito à API (“It doesn’t include API access”; tradução: não inclui acesso à API). A Together diz que “may limit requests” (tradução: pode limitar requisições) quando a demanda está alta e que pode definir limites personalizados em modelos populares.
  • OpenRouter. As variantes pagas dos modelos têm “no platform-level request cap” (tradução: nenhum limite de requisições no nível da plataforma), mas os provedores por trás de cada modelo ainda têm seus próprios limites.
  • DeepSeek. Quando está ocupada, a DeepSeek mantém a conexão aberta com linhas vazias ou comentários : keep-alive, e a fecha se a inferência não tiver começado em 10 minutos. Configure o timeout do seu cliente levando isso em conta.

Como os limites da BroadNet se comparam, com honestidade?

São baixos para trabalho de alto volume. Uma chave de pagamento por uso da BroadNet permite 30 requisições por minuto e 4 em andamento, enquanto os primeiros níveis pagos da OpenAI e da Anthropic permitem milhares de requisições por minuto e a Fireworks permite 6.000 depois que um cartão é cadastrado. Se você precisa passar milhares de requisições curtas por minuto por uma única chave, o nível pago de um grande provedor atende melhor.

Os limites servem para outros formatos:

  • Agentes e chat. Um agente envia uma requisição por vez e espera. 4 em andamento cobrem alguns agentes por chave; uma chave por app ou por colega distribui a carga.
  • Planos de preço fixo. Uma sessão Full Moon, Orbit ou Meteor não tem medidor de tokens nem limite diário ou semanal, mas roda uma requisição por vez, a uma velocidade típica de cerca de 100 tokens por segundo. Para rodar agentes em paralelo, compre uma sessão para cada um. Quantas sessões você precisa.
  • Chave por hora. $0.50 por hora compra um stream do Gemma 4 VL 26B a 120 requisições e 300,000 tokens por minuto.

Todos os limites da BroadNet retornam HTTP 429. A referência da API não informa tempo de retry-after, então use backoff limitado com jitter.

Como planejar em torno de um rate limit?

  1. Descubra o limite que trava você. Calcule requisições por minuto, tokens por minuto e requisições em andamento no seu pico de tráfego. A calculadora de rate limit de LLM faz isso a partir do tamanho da requisição e da latência.
  2. Controle o ritmo no cliente. Um token bucket alinhado ao limite publicado evita a maioria dos 429. A Anthropic usa o mesmo algoritmo no servidor.
  3. Leia os cabeçalhos. A Anthropic retorna cabeçalhos anthropic-ratelimit-*; o Groq retorna cabeçalhos x-ratelimit-*, em que o de requisições “always refers to Requests Per Day” (tradução: sempre se refere a requisições por dia). Use o retry-after quando ele vier.
  4. Tente de novo com backoff e jitter, e limite as tentativas. Como lidar com erros 429 tem código funcionando, e erros e novas tentativas cobre os códigos de status da BroadNet.
  5. Coloque em cache os prefixos estáveis. Na Anthropic, a entrada em cache não conta para o limite de entrada. Em todo lugar, ela reduz o custo.
  6. Distribua os jobs em massa. A Anthropic também aplica limites de rampa: um salto repentino de tráfego pode retornar 429 abaixo do seu limite. Comece os jobs em lote devagar. Sem uma Batch API, um executor de lotes retomável mantém o job dentro dos limites.
  7. Peça mais. DeepSeek, DeepInfra, Mistral e Anthropic descrevem um caminho para pedir limites maiores.

Onde a BroadNet Inference se encaixa

O BroadRouter é o site da própria BroadNet, então leve isso em conta ao ler esta seção. A BroadNet Inference não é a opção para taxas de requisição muito altas numa única chave: os limites por chave que ela publica ficam bem abaixo dos níveis pagos da OpenAI, Anthropic, Fireworks ou Cerebras. Ela serve para cargas de agentes e chat que enviam poucas requisições por vez, principalmente num plano de preço fixo, em que um agente ocupado não tem medidor de tokens nem limite diário. Contas novas ganham um crédito inicial de $5 para o Gemma 4 VL 26B, os dois modelos de transcrição e as chaves por hora do Gemma; DeepSeek, GLM e Qwen exigem uma recarga. O autoatendimento não tem SLA. Leia os limites da API ou compare os planos.

Perguntas frequentes

Quais são os rate limits da API da OpenAI no primeiro nível pago?

O guia de rate limits da OpenAI (consultado em 15 de novembro de 2026) coloca o nível Build em USD 5 de compras de crédito no total, com limite de uso mensal de USD 500. O Build permite 5.000 RPM e 1.000.000 TPM no Astra, Sol e Terra, e 5.000 RPM e 2.000.000 TPM no Luna. Os limites valem por organização e por projeto.

Quais são os rate limits da API da Anthropic?

No nível Start, Claude Sonnet 5.5, Opus 5.5 e Haiku 5.5 permitem cada um 4.000 RPM, 2.000.000 de tokens de entrada por minuto e 400.000 tokens de saída por minuto (verificado em 15 de novembro de 2026). Só a entrada sem cache conta para o limite de entrada. Organizações novas podem começar num nível Evaluation mais baixo.

Quais são os rate limits gratuitos do Groq?

A tabela publicada pelo Groq (consultada em 15 de novembro de 2026) mostra 30 requisições por minuto, 1.000 requisições por dia, 8.000 tokens por minuto e 200.000 tokens por dia para openai/gpt-oss-120b e qwen/qwen3.8-27b. O Groq avisa que os limites exatos da sua organização estão na página de limites dele. A tabela do plano Developer mostra 1.000 requisições por minuto, 500.000 requisições por dia e 250.000 tokens por minuto para os mesmos modelos.

A API da DeepSeek tem rate limit?

Sim, na forma de concorrência. A DeepSeek permite 2.500 requisições simultâneas por conta no deepseek-flash e 500 no deepseek-v4-pro, e acima disso retorna HTTP 429. Limites maiores estão disponíveis sob pedido, sem custo extra (verificado em 15 de novembro de 2026).

Qual a diferença entre RPM, TPM e concorrência?

O RPM conta as requisições iniciadas por minuto. O TPM conta os tokens processados por minuto, às vezes separando entrada e saída. A concorrência conta as requisições em andamento no mesmo instante, então requisições longas a esgotam mesmo com RPM baixo.

Quais são os rate limits da BroadNet Inference?

Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento. Uma chave por hora permite 120 requisições por minuto, 300,000 tokens por minuto e 1 stream no Gemma 4 VL 26B. Uma sessão de plano de preço fixo roda uma requisição por vez. Todas retornam HTTP 429 quando o limite é ultrapassado.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity