BroadRouter
Inizia

10 modi per ridurre i costi LLM degli agenti di coding, con i risparmi

A cura del team di BroadNet Inference · 6 min di lettura · Pubblicato

Quasi tutta la spesa è input rinviato a ogni turno. Mantieni stabile il prefisso del prompt perché vada in cache, indica i file, accorcia l’output dei tool, abbassa lo sforzo di ragionamento, limita cicli e retry e manda i passi facili a modelli più economici. Su DeepSeek V4.1 Flash l’input in cache costa circa il 3% dell’input nuovo. Oltre circa 917 milioni di token di input al mese conviene un piano flat da $60.

La bolletta di un agente di coding cresce in un modo che quella di una chat non conosce. Ogni turno rinvia il system prompt, l’elenco dei tool, i file già letti e tutta la conversazione fin lì. Al turno 30 una singola richiesta può portarsi dietro centinaia di migliaia di token di input, quasi tutti ripetuti. Le dieci tattiche qui sotto puntano a dove vanno quei token. Per ognuna c’è una stima del risparmio con i conti, sui prezzi di BroadNet Inference sincronizzati il 2026-11-14. I tuoi numeri saranno diversi, quindi misura prima e dopo.

Dove finiscono i soldi di un agente di coding?

Tre contatori, in ordine di peso per la maggior parte degli agenti:

  1. Input, rinviato a ogni turno. In gran parte memorizzabile in cache.
  2. Output, compresi i token di ragionamento che non vedi mai.
  3. Spreco: retry, cicli che non fanno progressi e contesto che non serviva a nessuno.

Prima di cambiare qualcosa, leggi prompt_tokens, prompt_tokens_details.cached_tokens e completion_tokens per una giornata di lavoro reale. Dove vanno i token di un ciclo da agente mostra come scomporli.

Quali tattiche fanno risparmiare di più?

# Tattica Cosa riduce Risparmio stimato
1 Mantieni stabile il prefisso del prompt Input nuovo Spesa di input giù della metà o più
2 Indica i file invece di far cercare l’agente Turni di esplorazione Meno turni, meno rinvii
3 Accorcia l’output dei tool Input in ogni turno successivo Cresce con la dimensione dei log
4 Abbassa lo sforzo di ragionamento nei passi di routine Output nascosto Dipende dal mix di attività
5 Limita i passi per attività Cicli fuori controllo Mette un tetto al caso peggiore
6 Limita e registra i retry Richieste duplicate Ogni retry evitato è una richiesta intera
7 Apri una sessione nuova per ogni attività Cronologia superata Contesto più corto a ogni turno
8 Manda i passi facili a un modello più economico Prezzo per token Grande sui passi instradati
9 Riassumi di rado, accoda spesso Cache miss Mantiene efficace la tattica 1
10 Passa a un piano flat oltre il punto di pareggio Il contatore dei token $5.40 al mese nel nostro esempio

1. Mantieni stabile il prefisso del prompt, così va in cache

L’input in cache su DeepSeek V4.1 Flash costa $0.0055 per 1M; l’input nuovo costa $0.175, circa 32 volte di più. Ordina il prompt così: system prompt, tool, file, cronologia, nuovo messaggio. Non mettere mai un timestamp in cima. A settembre 2026 Cursor ha riferito che alcune modifiche all’harness, tra cui un system prompt più corto di circa due terzi e tool caricati solo quando servono, hanno ridotto del 7% i costi in token degli utenti. Come strutturare i prompt perché il prefisso vada in cache.

Risparmio stimato. Prendi 1.000M di token di input al mese. Con il 50% di cache hit paghi il prezzo dell’input nuovo su 500M; con l’80% lo paghi su 200M. Contando anche la parte in cache, la spesa di input scende di circa il 56%. Come alzare la tua percentuale di cache, oppure prova i tuoi numeri nel calcolatore del prompt caching.

2. Di’ all’agente quali file contano

Un compito vago («sistema il bug del login») manda l’agente a cercare: elenca cartelle, apre file, li legge nel contesto. Ogni file aperto viene poi rinviato in tutti i turni successivi. Indica i file e la modifica che ti aspetti. Tieni nel repository una breve mappa del progetto che l’agente legge per prima.

Risparmio stimato. Se un file da 40.000 token viene letto al turno 3 di un’attività da 30 turni, viene rinviato circa 27 volte: oltre un milione di token di input per un solo file. Non leggerlo fa risparmiare tutto questo.

3. Accorcia l’output dei tool prima che entri nel contesto

Test runner, log di build e git diff possono restituire decine di migliaia di token. Mostra all’agente le ultime 100 righe di un log o solo i test che falliscono. Quasi tutti i tool degli agenti permettono di impostare un limite di output per i comandi.

Risparmio stimato. Stessi conti della tattica 2: ogni token tagliato si risparmia una volta per ciascun turno rimanente.

4. Abbassa lo sforzo di ragionamento nei passi di routine

DeepSeek V4.1 Flash e GLM 5.3 ragionano prima di rispondere, e il ragionamento si paga come output. Imposta reasoning_effort: "low" per rinomine, formattazione e piccole modifiche. Tieni max_tokens abbastanza alto da arrivare in fondo, altrimenti paghi il ragionamento e ricevi una risposta vuota. Il costo dei token di ragionamento.

Risparmio stimato. Misura completion_tokens_details.reasoning_tokens prima e dopo sulle stesse 20 attività. Il risparmio è il calo moltiplicato per il prezzo di output ($0.52 per 1M).

5. Limita i passi per attività

Un agente che non riesce a far passare un test può girare in tondo per 100 turni, ognuno più grande del precedente. Fissa un numero massimo di turni per attività e fermati quando la stessa chiamata a un tool si ripete tre volte. Un limite ai passi trasforma un costo senza tetto in un costo con un tetto.

6. Limita e registra i retry

Una richiesta ripetuta è una nuova inferenza, fatturata di nuovo su una chiave a token. Ripeti i 429 e i 5xx con backoff e un limite fisso; non ripetere gli altri errori 4xx come 400 o 422. Errori e retry.

7. Apri una sessione nuova per ogni attività

La cronologia dell’attività precedente è zavorra per quella successiva. Una sessione nuova per attività mantiene piccolo il contesto. Non è in conflitto con la cache: system prompt e tool formano comunque un prefisso comune che va in cache.

8. Manda i passi facili a un modello più economico

Non tutti i passi hanno bisogno dello stesso modello. Messaggi di commit, righe di changelog e classificazioni semplici possono andare a Gemma 4 VL 26B a $0.10 di input e $0.22 di output per 1M. Se usi GLM 5.3 per i passi pieni di tool, manda il resto a DeepSeek V4.1 Flash: l’output di GLM 5.3 costa circa 6,7 volte di più. GLM 5.3 vs DeepSeek V4.1 Flash.

Attenzione. Misura il costo per attività completata. Un modello più economico che ha bisogno del doppio dei turni può costare di più.

9. Riassumi di rado e accoda il resto

Quando un agente comprime la cronologia, riscrive il prompt e la cache riparte da zero. Riassumi solo quando il contesto è vicino al limite, in un unico passo grande, poi torna ad accodare. Così la tattica 1 continua a funzionare.

10. Passa a un piano flat quando superi il punto di pareggio

La fatturazione a token premia i consumi piccoli. Un agente a tempo pieno non è un consumo piccolo. Nell’esempio di calcolo di BroadNet, un agente di coding a tempo pieno (1.000M di input con l’80% in cache, 50M di output) costa $65.40 al mese a token; un agente sempre attivo costa $196.20. Una sessione Full Moon costa $60 al mese senza contatore di token, una richiesta alla volta. A quel punto le tattiche da 1 a 9 fanno ancora risparmiare tempo, ma non più soldi. Verifica i tuoi volumi con il calcolatore flat vs a token, oppure leggi i conti del punto di pareggio e far girare agenti in parallelo con un piano flat.

Come capisci se una tattica ha funzionato?

  1. Scegli 20 attività rappresentative dal tuo backlog.
  2. Eseguile con la configurazione attuale e registra i token per attività.
  3. Applica una tattica alla volta e riesegui.
  4. Confronta il costo per attività completata, non il costo per richiesta.

Per le app che non sono agenti di coding, le stesse leve in un ordine più generale sono in come ridurre i costi delle API LLM.

Guide di configurazione per gli agenti più diffusi: Aider, Cline, Zoo Code, il fork di Roo Code, ormai chiuso e OpenCode.

Dove si inserisce BroadNet Inference

BroadNet offre agli agenti di coding una tariffa bassa per l’input in cache su DeepSeek V4.1 Flash e, per l’uso intensivo, sessioni illimitate da $60 al mese, su un endpoint compatibile con OpenAI che questi agenti supportano già. Non esegue modelli di frontiera chiusi: se il tuo agente ne ha bisogno per i passi più difficili, tieni quel modello presso il suo fornitore e manda qui il grosso dei turni. Vedi i piani.

Domande frequenti

Perché gli agenti di coding costano così tanto?

Rinviano a ogni turno system prompt, definizioni dei tool, contenuto dei file e cronologia, quindi i token di input crescono a ogni passo. Il ragionamento aggiunge sopra un output nascosto.

Qual è il modo più efficace per ridurre i costi di un agente di coding?

Mantieni identico tra un turno e l’altro l’inizio del prompt, così viene fatturato come input in cache. Su DeepSeek V4.1 Flash l’input in cache costa $0.0055 per 1M contro $0.175.

Un modello più economico fa sempre risparmiare in un agente di coding?

No. Un modello più debole che fa più passi, o che fallisce e riprova, può costare di più in totale. Misura il costo per attività completata, non per token.

Quando conviene un piano flat per un agente di coding?

Per DeepSeek V4.1 Flash, a circa 917 milioni di token di input e 46 milioni di di output al mese con l’80% di cache hit. Un agente a tempo pieno di solito supera questa soglia.

Come evito che un agente di coding vada in loop bruciando token?

Limita il numero di turni per attività, fermati quando la stessa chiamata a un tool si ripete tre volte e limita i retry sugli errori 429 e 5xx. Un limite ai passi trasforma un costo senza tetto in un costo con un tetto.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity