Pesquise “rate limit de API de LLM” e você vai achar tabelas de blog que se contradizem, muitas vezes porque copiam números antigos. Esta página lê cada valor na documentação do próprio provedor, em 15 de novembro de 2026, diz a qual nível e modelo ele se aplica e deixa a célula vazia quando o provedor não publica o número. Para os mesmos dados num dataset para download, com créditos gratuitos e termos de uso dos dados, veja planos gratuitos e rate limits de APIs de LLM. O BroadRouter é o site da própria BroadNet, e os limites da BroadNet também estão na tabela.
O que significam RPM, TPM, RPD e concorrência?
Um rate limit define quanto você pode enviar numa janela de tempo. Cada provedor conta uma coisa:
| Limite | O que conta | Pesa mais quando |
|---|---|---|
| RPM, requisições por minuto | Requisições iniciadas num minuto | Você envia muitas chamadas curtas (classificação, loops no estilo embeddings) |
| RPS, requisições por segundo | O mesmo, em um segundo | Você envia em rajadas, mesmo com média por minuto baixa |
| TPM, tokens por minuto | Tokens processados num minuto, às vezes entrada (ITPM) e saída (OTPM) separadas | Você envia prompts longos ou documentos longos |
| RPD / TPD, por dia | Requisições ou tokens num dia | Você roda um job em lote num plano gratuito |
| Concorrência | Requisições em andamento no mesmo instante | As requisições são lentas: raciocínio, saídas longas, agentes |
Qual limite trava você depende do formato das suas requisições. Com limites de concorrência, a vazão depende da duração da requisição: a própria documentação da DeepInfra dá o exemplo de 200 requisições simultâneas com média de 1 segundo, o que dá cerca de 12.000 RPM. Uma requisição de raciocínio de 30 segundos com a mesma concorrência dá uma fração disso.
A maioria dos provedores também aplica limites em janelas mais curtas do que as publicadas. A Anthropic diz que um limite de 60 RPM “might be enforced as 1 request per second” (tradução: pode ser aplicado como 1 requisição por segundo), e a xAI deriva o limite por segundo do orçamento por minuto (“RPM / 48, with a minimum of 2”; tradução: RPM / 48, com mínimo de 2).
Como funcionam os níveis de uso?
Os grandes provedores de modelos fechados aumentam seus limites conforme você gasta mais:
| Provedor | Níveis (verificado em 2026-11-15) | Como subir |
|---|---|---|
| OpenAI | Free, Build, Launch, Grow | Free: o usuário precisa estar numa região permitida; limite de uso mensal de USD 100 (um teto de gasto, não um crédito). Depois, compras de crédito no total de USD 5, USD 100 e USD 500, com limites de uso mensais de USD 500, USD 5.000 e USD 200.000 |
| Anthropic | Evaluation, Start, Build, Scale, Custom | Automático, pelo histórico de uso e pela situação da conta. Tetos de gasto mensais: Start USD 500, Build USD 1.000, Scale USD 200.000 |
| API do Google Gemini | Free, Tier 1, Tier 2, Tier 3 | O Tier 1 exige uma conta de faturamento vinculada; o Tier 2 exige USD 100 pagos mais 3 dias; o Tier 3, USD 1.000 mais 30 dias. O Google diz que os rate limits informados são “not guaranteed” (tradução: não garantidos) e oferece “no guarantees” (tradução: nenhuma garantia) para pedidos de aumento |
| Fireworks AI | Do Tier 1 ao Tier 4 | Meio de pagamento para o Tier 1, depois USD 50, USD 500 e USD 5.000 em gasto ou créditos. Os níveis aumentam o TPM, não o RPM |
| xAI | Do Tier 0 ao Tier 4, Enterprise | Gasto acumulado desde 1º de janeiro de 2026: USD 0, 50, 250, 1.000 e 5.000 |
Dois detalhes importam na prática. Quando você atinge o teto de gasto da Anthropic, recebe HTTP 429 sem cabeçalho retry-after, então as novas tentativas automáticas continuam falhando até o mês virar ou você mudar de nível. E o limite de entrada da Anthropic conta só a entrada sem cache: leituras do cache não contam, então uma taxa alta de cache aumenta sua vazão real.
Rate limits de API de LLM por provedor: o nível de entrada
Valores do plano gratuito ou do primeiro nível pago de cada provedor, tirados da página de rate limits dele. Um traço significa que a página não publica número para aquele limite; não significa ilimitado.
| Provedor | Nível e modelo | RPM | TPM | Por dia | Concorrência |
|---|---|---|---|---|---|
| OpenAI | Build; Astra, Sol, Terra | 5.000 | 1.000.000 | – | – |
| OpenAI | Build; Luna | 5.000 | 2.000.000 | – | – |
| Anthropic | Start; Sonnet 5.5, Opus 5.5, Haiku 5.5 | 4.000 | 2.000.000 de entrada (sem cache), 400.000 de saída | – | – |
| API do Google Gemini | Free; Gemini Decision 1 (único modelo com números gratuitos na página) | 200 | 50.000 | 10.000 requisições | – |
| API do Google Gemini | Tier 1; Gemini Decision 1 | 1.500 | 1.000.000 | 50.000 requisições | – |
| Groq | Tabela do plano Free; openai/gpt-oss-120b, qwen/qwen3.8-27b | 30 | 8.000 | 1.000 requisições, 200.000 tokens | – |
| Groq | Tabela do plano Developer; openai/gpt-oss-120b, qwen/qwen3.8-27b | 1.000 | 250.000 | 500.000 requisições | – |
| Cerebras | Free Trial; gpt-oss-120b | 5 | 30.000 sem cache (90.000 no total) | 1.000.000 de tokens | – |
| Cerebras | Developer (pagamento por uso); gpt-oss-120b | 1.000 | 500.000 sem cache (1.500.000 no total) | Sem limite | – |
| Fireworks AI | Sem meio de pagamento nem créditos; para toda a conta | 10 | – | – | – |
| Fireworks AI | Com meio de pagamento e créditos; para toda a conta | 6.000 | Definido pelo nível de gasto | – | – |
| DeepInfra | Padrão; por modelo público | – | – | – | 200 |
| DeepSeek | Padrão; deepseek-flash (DeepSeek-V4.1-Flash-1017), por conta |
– | – | – | 2.500 |
| DeepSeek | Padrão; deepseek-v4-pro (DeepSeek-V4-Pro-0813), por conta |
– | – | – | 500 |
| xAI | Tier 0; grok-4.7 (150 RPS) | – | 50.000.000 | – | – |
| OpenRouter | Modelos :free, menos de USD 10 em créditos comprados | 20 | – | 50 requisições | – |
| OpenRouter | Modelos :free, USD 10 ou mais em créditos comprados | 20 | – | 1.000 requisições | – |
| Cohere | Chave de teste; Command A | 20 | – | 1.000 chamadas por mês | – |
| Cohere | Chave de produção; Command A | 500 | – | – | – |
| BroadNet Inference | Chave de pagamento por uso; qualquer modelo | 30 | – | – | 4 |
| BroadNet Inference | Chave por hora; Gemma 4 VL 26B | 120 | 300,000 | – | 1 stream |
| BroadNet Inference | Sessão de plano de preço fixo; DeepSeek V4.1 Flash | – | Sem medidor de tokens | – | 1 requisição por vez |
Notas sobre as linhas:
- Groq. A página tem duas abas, “Free Plan Limits” (aberta por padrão) e “Developer Plan Limits”. A frase acima delas chama os valores de “the base limits for the Developer plan” (tradução: os limites básicos do plano Developer), o que só vale para a segunda aba; a tabela acima traz as duas. Os limites exatos da sua organização estão na página de limites dela.
- Google. Os limites valem por projeto, não por chave de API. Os números da maioria dos modelos só aparecem dentro do AI Studio. O Gemini Decision 1 é um modelo de classificação para a Decisions API do Google: devolve probabilidades, não texto, então seus limites dizem pouco sobre os modelos de chat do Gemini.
- Mistral e Together AI não publicam números. A Mistral mostra seus limites no console em vez de publicar uma tabela, e não oferece acesso gratuito à API (“It doesn’t include API access”; tradução: não inclui acesso à API). A Together diz que “may limit requests” (tradução: pode limitar requisições) quando a demanda está alta e que pode definir limites personalizados em modelos populares.
- OpenRouter. As variantes pagas dos modelos têm “no platform-level request cap” (tradução: nenhum limite de requisições no nível da plataforma), mas os provedores por trás de cada modelo ainda têm seus próprios limites.
- DeepSeek. Quando está ocupada, a DeepSeek mantém a conexão aberta com linhas vazias ou comentários
: keep-alive, e a fecha se a inferência não tiver começado em 10 minutos. Configure o timeout do seu cliente levando isso em conta.
Como os limites da BroadNet se comparam, com honestidade?
São baixos para trabalho de alto volume. Uma chave de pagamento por uso da BroadNet permite 30 requisições por minuto e 4 em andamento, enquanto os primeiros níveis pagos da OpenAI e da Anthropic permitem milhares de requisições por minuto e a Fireworks permite 6.000 depois que um cartão é cadastrado. Se você precisa passar milhares de requisições curtas por minuto por uma única chave, o nível pago de um grande provedor atende melhor.
Os limites servem para outros formatos:
- Agentes e chat. Um agente envia uma requisição por vez e espera. 4 em andamento cobrem alguns agentes por chave; uma chave por app ou por colega distribui a carga.
- Planos de preço fixo. Uma sessão Full Moon, Orbit ou Meteor não tem medidor de tokens nem limite diário ou semanal, mas roda uma requisição por vez, a uma velocidade típica de cerca de 100 tokens por segundo. Para rodar agentes em paralelo, compre uma sessão para cada um. Quantas sessões você precisa.
- Chave por hora. $0.50 por hora compra um stream do Gemma 4 VL 26B a 120 requisições e 300,000 tokens por minuto.
Todos os limites da BroadNet retornam HTTP 429. A referência da API não informa tempo de retry-after, então use backoff limitado com jitter.
Como planejar em torno de um rate limit?
- Descubra o limite que trava você. Calcule requisições por minuto, tokens por minuto e requisições em andamento no seu pico de tráfego. A calculadora de rate limit de LLM faz isso a partir do tamanho da requisição e da latência.
- Controle o ritmo no cliente. Um token bucket alinhado ao limite publicado evita a maioria dos 429. A Anthropic usa o mesmo algoritmo no servidor.
- Leia os cabeçalhos. A Anthropic retorna cabeçalhos
anthropic-ratelimit-*; o Groq retorna cabeçalhosx-ratelimit-*, em que o de requisições “always refers to Requests Per Day” (tradução: sempre se refere a requisições por dia). Use oretry-afterquando ele vier. - Tente de novo com backoff e jitter, e limite as tentativas. Como lidar com erros 429 tem código funcionando, e erros e novas tentativas cobre os códigos de status da BroadNet.
- Coloque em cache os prefixos estáveis. Na Anthropic, a entrada em cache não conta para o limite de entrada. Em todo lugar, ela reduz o custo.
- Distribua os jobs em massa. A Anthropic também aplica limites de rampa: um salto repentino de tráfego pode retornar 429 abaixo do seu limite. Comece os jobs em lote devagar. Sem uma Batch API, um executor de lotes retomável mantém o job dentro dos limites.
- Peça mais. DeepSeek, DeepInfra, Mistral e Anthropic descrevem um caminho para pedir limites maiores.
Onde a BroadNet Inference se encaixa
O BroadRouter é o site da própria BroadNet, então leve isso em conta ao ler esta seção. A BroadNet Inference não é a opção para taxas de requisição muito altas numa única chave: os limites por chave que ela publica ficam bem abaixo dos níveis pagos da OpenAI, Anthropic, Fireworks ou Cerebras. Ela serve para cargas de agentes e chat que enviam poucas requisições por vez, principalmente num plano de preço fixo, em que um agente ocupado não tem medidor de tokens nem limite diário. Contas novas ganham um crédito inicial de $5 para o Gemma 4 VL 26B, os dois modelos de transcrição e as chaves por hora do Gemma; DeepSeek, GLM e Qwen exigem uma recarga. O autoatendimento não tem SLA. Leia os limites da API ou compare os planos.
