BroadRouter

10 formas de reduzir o custo de LLM de agentes de código, com economia

Pela equipe da BroadNet Inference · 6 min de leitura · Publicado em

Quase todo gasto é entrada reenviada a cada turno. Mantenha o prefixo do prompt estável para o cache, indique os arquivos, corte a saída das ferramentas, reduza o raciocínio, limite loops e retries e mande passos fáceis para modelos mais baratos. No DeepSeek V4.1 Flash, a entrada em cache custa cerca de 3% da nova. Acima de uns 917 milhões de tokens de entrada por mês, um plano fixo de $60 sai mais barato.

A conta de um agente de código cresce de um jeito que a conta de um chat não cresce. Cada turno reenvia o system prompt, a lista de ferramentas, os arquivos já lidos e toda a conversa até ali. No turno 30, uma única requisição pode carregar centenas de milhares de tokens de entrada, quase todos repetidos. As dez táticas abaixo atacam para onde esses tokens vão. Cada uma traz uma estimativa de economia com a conta, usando os preços da BroadNet Inference sincronizados em 2026-11-14. Os seus números vão ser diferentes, então meça antes e depois.

Para onde vai o dinheiro de um agente de código?

Três medidores, em ordem de tamanho para a maioria dos agentes:

  1. Entrada, reenviada a cada turno. Quase toda pode ir para o cache.
  2. Saída, incluindo tokens de raciocínio que você nunca vê.
  3. Desperdício: retries, loops que não avançam e contexto de que ninguém precisava.

Antes de mudar qualquer coisa, leia prompt_tokens, prompt_tokens_details.cached_tokens e completion_tokens de um dia de trabalho real. Para onde vão os tokens de um loop de agente mostra como separá-los.

Quais táticas economizam mais?

# Tática O que corta Economia estimada
1 Manter estável o prefixo do prompt Entrada nova Conta de entrada cai pela metade ou mais
2 Indicar os arquivos em vez de deixar o agente procurar Turnos de exploração Menos turnos, menos reenvios
3 Cortar a saída das ferramentas Entrada em todo turno seguinte Cresce com o tamanho dos logs
4 Reduzir o esforço de raciocínio em passos de rotina Saída oculta Depende do mix de tarefas
5 Limitar passos por tarefa Loops descontrolados Põe um teto no pior caso
6 Limitar e registrar retries Requisições duplicadas Cada retry evitado é uma requisição inteira
7 Abrir uma sessão nova por tarefa Histórico velho Contexto menor por turno
8 Mandar passos fáceis para um modelo mais barato Preço por token Grande nos passos roteados
9 Resumir pouco, anexar muito Cache misses Mantém a tática 1 funcionando
10 Mudar para um plano fixo depois do ponto de equilíbrio O medidor de tokens $5.40 por mês no nosso exemplo

1. Mantenha estável o prefixo do prompt para que ele vá para o cache

A entrada em cache no DeepSeek V4.1 Flash custa $0.0055 por 1M; a entrada nova custa $0.175, cerca de 32 vezes mais. Ordene o prompt assim: system prompt, ferramentas, arquivos, histórico, mensagem nova. Nunca ponha um timestamp no topo. Em setembro de 2026, a Cursor relatou que mudanças no harness, incluindo um system prompt cerca de dois terços menor e ferramentas carregadas só quando necessário, cortaram 7% do custo de tokens dos usuários. Como estruturar prompts para o prefixo ir para o cache.

Economia estimada. Pegue 1.000M de tokens de entrada por mês. Com 50% de acertos de cache, você paga o preço de entrada nova sobre 500M; com 80%, paga sobre 200M. Contando a parte em cache, a conta de entrada cai cerca de 56%. Como aumentar a sua taxa de cache, ou teste os seus números na calculadora de prompt caching.

2. Diga ao agente quais arquivos importam

Uma tarefa vaga (“corrige o bug do login”) manda o agente procurar: listar diretórios, abrir arquivos, ler tudo para o contexto. Cada arquivo aberto é reenviado em todos os turnos seguintes. Indique os arquivos e a mudança esperada. Mantenha no repositório um mapa curto do projeto que o agente lê primeiro.

Economia estimada. Se um arquivo de 40.000 tokens é lido no turno 3 de uma tarefa de 30 turnos, ele é reenviado cerca de 27 vezes: mais de um milhão de tokens de entrada por um único arquivo. Não ler esse arquivo economiza tudo isso.

3. Corte a saída das ferramentas antes que ela entre no contexto

Test runners, logs de build e git diff podem devolver dezenas de milhares de tokens. Mostre ao agente as últimas 100 linhas de um log ou só os testes que falharam. A maioria das ferramentas de agentes permite definir um limite de saída para comandos.

Economia estimada. A mesma conta da tática 2: cada token cortado é economizado uma vez por turno restante.

4. Reduza o esforço de raciocínio nos passos de rotina

O DeepSeek V4.1 Flash e o GLM 5.3 pensam antes de responder, e esse raciocínio é cobrado como saída. Defina reasoning_effort: "low" para renomeações, formatação e edições pequenas. Mantenha max_tokens alto o bastante para terminar, ou você paga pelo raciocínio e recebe uma resposta vazia. Custo dos tokens de raciocínio.

Economia estimada. Meça completion_tokens_details.reasoning_tokens antes e depois nas mesmas 20 tarefas. A economia é a queda multiplicada pelo preço de saída ($0.52 por 1M).

5. Limite os passos por tarefa

Um agente que não consegue consertar um teste pode ficar em loop por 100 turnos, cada um maior que o anterior. Defina um número máximo de turnos por tarefa e pare quando a mesma chamada de ferramenta se repetir três vezes. Um limite de passos transforma um custo sem teto num custo com teto.

6. Limite e registre os retries

Uma requisição repetida é uma nova inferência, cobrada de novo numa chave por token. Repita 429 e 5xx com backoff e um limite fixo; não repita outros erros 4xx, como 400 ou 422. Erros e retries.

7. Abra uma sessão nova para cada tarefa

O histórico da tarefa anterior é peso morto na seguinte. Uma sessão nova por tarefa mantém o contexto pequeno. Isso não conflita com o cache: o system prompt e as ferramentas continuam formando um prefixo comum que vai para o cache.

8. Mande passos fáceis para um modelo mais barato

Nem todo passo precisa do mesmo modelo. Mensagens de commit, linhas de changelog e classificações simples podem ir para o Gemma 4 VL 26B a $0.10 de entrada e $0.22 de saída por 1M. Se você usa o GLM 5.3 nos passos com muitas ferramentas, mande o resto para o DeepSeek V4.1 Flash: a saída do GLM 5.3 custa cerca de 6,7 vezes mais. GLM 5.3 vs DeepSeek V4.1 Flash.

Cuidado. Meça o custo por tarefa concluída. Um modelo mais barato que precisa do dobro de turnos pode custar mais.

9. Resuma pouco e anexe o resto

Quando um agente comprime o histórico, ele reescreve o prompt e o cache recomeça do zero. Resuma só quando o contexto estiver perto do limite, num único passo grande, e depois volte a anexar. Assim a tática 1 continua funcionando.

10. Mude para um plano fixo quando passar do ponto de equilíbrio

A cobrança por token favorece o uso pequeno. Um agente em tempo integral não é uso pequeno. No exemplo calculado pela BroadNet, um agente de código em tempo integral (1.000M de entrada com 80% em cache, 50M de saída) custa $65.40 por mês por token; um agente sempre ligado custa $196.20. Uma sessão Full Moon custa $60 por mês sem medidor de tokens, uma requisição por vez. A partir daí, as táticas de 1 a 9 ainda economizam tempo, mas não mais dinheiro. Confira os seus volumes na calculadora de preço fixo vs por token, ou leia a conta do ponto de equilíbrio e como rodar agentes em paralelo num plano fixo.

Como saber se uma tática funcionou?

  1. Escolha 20 tarefas representativas do seu backlog.
  2. Rode todas com a configuração atual e registre os tokens por tarefa.
  3. Aplique uma tática por vez e rode de novo.
  4. Compare o custo por tarefa concluída, não o custo por requisição.

Para apps que não são agentes de código, as mesmas alavancas numa ordem geral estão em como reduzir o custo de APIs de LLM.

Guias de configuração para os agentes mais comuns: Aider, Cline, Zoo Code, o fork do Roo Code, que foi encerrado e OpenCode.

Onde a BroadNet Inference se encaixa

A BroadNet oferece aos agentes de código uma tarifa baixa de entrada em cache no DeepSeek V4.1 Flash e, para uso pesado, sessões ilimitadas a partir de $60 por mês, num endpoint compatível com a OpenAI que esses agentes já suportam. Ela não roda modelos de ponta fechados; se o seu agente precisa de um para os passos mais difíceis, mantenha esse modelo no fornecedor dele e mande a maior parte dos turnos para cá. Veja os planos.

Perguntas frequentes

Por que agentes de código são tão caros de rodar?

Eles reenviam a cada turno o system prompt, as definições de ferramentas, o conteúdo dos arquivos e o histórico, então os tokens de entrada crescem a cada passo. O raciocínio ainda soma uma saída oculta.

Qual é a forma mais eficaz de reduzir o custo de um agente de código?

Mantenha o início do prompt idêntico entre os turnos para que ele seja cobrado como entrada em cache. No DeepSeek V4.1 Flash, a entrada em cache custa $0.0055 por 1M contra $0.175.

Um modelo mais barato sempre sai mais barato num agente de código?

Não. Um modelo mais fraco que leva mais passos, ou que falha e tenta de novo, pode custar mais no total. Meça o custo por tarefa concluída, não por token.

Quando um plano de preço fixo sai mais barato para um agente de código?

No DeepSeek V4.1 Flash, a partir de cerca de 917 milhões de tokens de entrada e 46 milhões de de saída por mês com 80% de acertos de cache. Um agente em tempo integral costuma passar disso.

Como evito que um agente de código entre em loop e queime tokens?

Limite o número de turnos por tarefa, pare quando a mesma chamada de ferramenta se repetir três vezes e limite os retries em erros 429 e 5xx. Um limite de passos transforma um custo sem teto num custo com teto.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity