---
title: "O que são tokens por segundo (TPS) na inferência de LLM?"
description: "Tokens por segundo medem a velocidade com que um LLM gera saída. Por requisição vs. throughput, time to first token e como estimar quanto uma resposta demora."
url: https://broadrouter.com/pt/glossary/tokens-per-second/
lang: pt-BR
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/glossary/tokens-per-second/) (atualizado em 2026-11-14).

# Tokens por segundo (tokens per second)

Atualizado em 2026-11-14

Tokens por segundo (TPS) são a taxa com que um modelo de linguagem gera tokens de saída, geralmente medida para uma requisição depois que o primeiro token chega. Definem a rapidez com que a resposta flui depois de começar. Somados em todas as requisições simultâneas, viram throughput do sistema; a espera pelo primeiro token é medida à parte.

Também chamado de: tokens por segundo, velocidade de geração, velocidade de saída, TPS, tok/s, tokens per second, output speed, generation speed

A velocidade tem duas partes: quanto tempo até aparecer alguma coisa e com que rapidez o texto flui depois disso. Tokens por segundo medem a segunda parte.

## Como funciona

A documentação de benchmark da NVIDIA define as métricas relacionadas:

-   **Time to first token (TTFT):** do envio da requisição até o recebimento do primeiro token. Cresce com o tamanho do prompt.
-   **Inter-token latency (ITL):** o intervalo médio entre tokens de saída.
-   **TPS por usuário:** os tokens de saída de uma requisição divididos pelo seu tempo de ponta a ponta, então, na definição da NVIDIA, inclui o TTFT. Muitos dashboards mostram, em vez disso, a velocidade de decodificação depois do primeiro token, como faz esta página.
-   **TPS do sistema:** o total de tokens de saída em todas as requisições simultâneas, também chamado de [throughput](https://broadrouter.com/pt/glossary/throughput/).

As duas métricas puxam em direções opostas. A NVIDIA observa que, quando a [concorrência](https://broadrouter.com/pt/glossary/concurrency/) aumenta, o TPS do sistema sobe enquanto o TPS por usuário cai. O número de marketing de um provedor e a velocidade da sua requisição podem ser ambos honestos e, mesmo assim, diferentes.

Uma estimativa rápida para uma resposta:

`total time ≈ TTFT + output tokens ÷ tokens per second`

Ou seja: tempo total ≈ TTFT + tokens de saída ÷ tokens por segundo. Pense, como ilustração, em um stream de 50 tokens por segundo: uma resposta de 1.000 tokens leva cerca de 20 segundos depois do primeiro token. Se o modelo também escrever 2.000 [tokens de raciocínio](https://broadrouter.com/pt/glossary/reasoning-tokens/), some cerca de 40 segundos antes de a resposta começar. O [time to first token](https://broadrouter.com/pt/glossary/time-to-first-token/) vem por cima disso.

## Por que isso importa

-   **Experiência do usuário.** O [streaming](https://broadrouter.com/pt/glossary/streaming/) mostra o texto conforme chega, então TTFT e TPS decidem quão rápida a resposta parece.
-   **Throughput de agentes.** Um agente de código espera cada resposta antes do próximo passo. Saída mais rápida significa mais passos por hora.
-   **Limites dos planos.** Em um plano sem medidor de tokens, a velocidade vira o teto real de quantos tokens você consegue usar.

## Na BroadNet Inference

A página de planos da BroadNet informa uma velocidade típica de cerca de 100 tokens por segundo para o DeepSeek V4.1 Flash. Uma sessão dos planos ilimitados roda uma requisição por vez, então, nessa velocidade, uma sessão gerando sem parar por 30 dias produziria cerca de 259 milhões de tokens de saída. Agentes reais passam tempo lendo, executando tools e esperando, então o número prático é menor.

Para ter mais throughput total em um plano, adicione sessões: uma por agente trabalhando em paralelo. Veja [como funcionam as sessões ilimitadas](https://broadrouter.com/pt/guides/unlimited-llm-api-sessions/) e [como rodar agentes de código em paralelo](https://broadrouter.com/pt/blog/run-parallel-coding-agents-flat-rate/).

## Erros comuns

-   Comparar provedores com uma única requisição. Meça TTFT e TPS em muitas requisições, com os tamanhos de prompt que você usa de verdade.
-   Esquecer o tempo de raciocínio ao definir timeouts no cliente.

## Perguntas frequentes

### Qual é um bom número de tokens por segundo?

Depende do uso. Uma resposta de chat parece ágil quando o texto aparece mais rápido do que as pessoas leem. Agentes e jobs em lote se importam mais com o tempo total por tarefa e com quantas requisições rodam em paralelo.

### Tokens por segundo incluem o prompt?

Normalmente não. A velocidade de geração conta tokens de saída. A leitura do prompt aparece no time to first token, que cresce com o tamanho do prompt.

### Tokens de raciocínio atrasam a resposta?

Sim. Eles são gerados na mesma velocidade da saída visível, então um modelo que pensa por 2.000 tokens atrasa a resposta pelo tempo que esses tokens levam.

## Veja também

-   [Token](https://broadrouter.com/pt/glossary/token/) (termo)
-   [Concorrência (concurrency)](https://broadrouter.com/pt/glossary/concurrency/) (termo)
-   [Streaming](https://broadrouter.com/pt/glossary/streaming/) (termo)
-   [Tokens de raciocínio (reasoning tokens)](https://broadrouter.com/pt/glossary/reasoning-tokens/) (termo)
-   [Throughput (vazão)](https://broadrouter.com/pt/glossary/throughput/) (termo)
-   [Latência (latency)](https://broadrouter.com/pt/glossary/latency/) (termo)
-   [Time to first token (TTFT)](https://broadrouter.com/pt/glossary/time-to-first-token/) (termo)
-   [Speculative decoding (decodificação especulativa)](https://broadrouter.com/pt/glossary/speculative-decoding/) (termo)
-   [Streaming de chat completions e conexões que caem](https://broadrouter.com/pt/guides/streaming-chat-completions/) (guia)
-   [Como funcionam os planos de API de LLM ilimitada para agentes](https://broadrouter.com/pt/guides/unlimited-llm-api-sessions/) (guia)
-   [API de LLM com preço fixo ou por token: a conta do ponto de equilíbrio](https://broadrouter.com/pt/blog/flat-rate-vs-pay-per-token-llm-api/) (artigo)
-   [Como rodar agentes de código em paralelo numa API de LLM de preço fixo](https://broadrouter.com/pt/blog/run-parallel-coding-agents-flat-rate/) (artigo)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-tokens-per-second&utm_content=page-cta) ·

**Fontes**

-   [NVIDIA NIM, métricas de benchmark de inferência de LLM (TTFT, ITL, TPS)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [Planos da BroadNet Inference (velocidade típica) (em inglês)](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-tokens-per-second&utm_content=sources)
