BroadRouter

Come ridurre i costi delle API LLM: checklist in 10 passi, in ordine

A cura del team di BroadNet Inference · 8 min di lettura · Pubblicato

Per ridurre i costi delle API LLM, registra prima i token di ogni richiesta, poi procedi in quest’ordine: prefisso del prompt stabile perché vada in cache, prompt più corti, limiti a output e ragionamento, il modello più piccolo che supera i tuoi test, batch o lavoro rimandabile spostato, cache delle risposte ripetute, retry limitati e passaggio a un piano flat oltre il punto di pareggio.

Quasi tutte le liste del tipo «taglia del 70% la bolletta LLM» mescolano buoni consigli con numeri che nessuno ha misurato. Questa checklist è ordinata per cosa fare prima, e ogni cifra viene da un file di prezzi o dalla documentazione del provider. Dove un passo ha un articolo più approfondito su questo sito, trovi il link. I prezzi di BroadNet qui sotto vengono dal suo file dei prezzi, sincronizzato il 2026-11-14.

Che cosa determina la bolletta di un’API LLM?

Quattro numeri decidono quasi ogni fattura:

  1. Token di input nuovi. Il prompt, meno la parte letta dalla cache.
  2. Token di input in cache. Il prefisso ripetuto, fatturato a una tariffa più bassa.
  3. Token di output. La risposta, più i token di ragionamento sui modelli che ragionano.
  4. Numero di richieste. Ogni chiamata, compreso ogni retry, si paga a parte.

L’unità costosa è l’output. Sui modelli di chat di BroadNet, per 1M di token:

Modello Input Input in cache Output
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 non pubblicato $0.22

Le leve sono quindi: inviare meno token nuovi, leggerne di più dalla cache, generare meno e fare meno chiamate. Come funzionano i prezzi delle API LLM spiega ogni unità nel dettaglio.

La checklist in sintesi

Passo Che cosa cambi Che cosa riduci Impegno
1. Misura Solo il logging Ancora niente; mostra dove tagliare Basso
2. Metti in cache il prefisso Ordine del prompt Prezzo dell’input Basso
3. Accorcia il prompt Contenuto del prompt Token di input Medio
4. Limita output e ragionamento Impostazioni della richiesta Token di output Basso
5. Scegli il modello della taglia giusta Scelta del modello Tutti i prezzi Medio
6. Usa il batch o sposta il lavoro Pianificazione Prezzo per token, dove previsto Medio
7. Metti in cache le risposte Codice dell’app Richieste intere Medio
8. Limita retry e loop Codice dell’app Richieste sprecate Basso
9. Imposta limiti di spesa Account e chiavi Bollette fuori controllo Basso
10. Verifica il pareggio del piano flat Modello di fatturazione Fattura totale ad alti volumi Basso

1. Perché misurare prima di tagliare qualsiasi cosa?

Perché la fattura nasconde la causa. Due richieste che sembrano uguali possono differire di dieci volte in token. Ogni chat completion restituisce un blocco usage con prompt_tokens, completion_tokens e, dove il provider li riporta, i token in cache. Registrali per funzionalità e per utente, senza il testo del prompt. Dopo una settimana sai quale funzionalità spende di più e se il peso sta nell’input, nei cache miss o nell’output.

Logging dell’utilizzo con i dati personali oscurati propone uno schema di log. Per dimensionare una funzionalità prima del rilascio, usa il calcolatore dei costi delle API LLM o il metodo di stimare il costo prima del lancio.

2. Come riduce i costi il prompt caching?

I provider mettono in cache l’inizio di un prompt che si ripete identico. La chiamata successiva legge quel prefisso al prezzo cache. OpenAI attiva la cache per impostazione predefinita sui modelli supportati, a partire da 1.024 token, e dice che l’input in cache è “discounted up to 95%” (traduzione: scontato fino al 95%) (verificato il 2026-11-15). Su BroadNet, DeepSeek V4.1 Flash fattura l’input in cache a $0.0055 per 1M, contro $0.175 per l’input nuovo.

La regola: contenuto statico prima, contenuto variabile in fondo. Prompt di sistema, poi schemi degli strumenti, poi documenti condivisi, poi cronologia, infine la nuova domanda. Un timestamp o un elenco di strumenti in ordine casuale in cima rompe la cache per tutto quello che segue.

3. Quali tagli al prompt sono sicuri?

Taglia quello che il modello non usa. I risparmi più comuni: prompt di sistema lunghi scritti in prosa, più esempi few-shot di quanti ne servano, schemi di strumenti che quel passaggio non chiama mai, JSON prolisso dove basterebbe una tabella compatta, cronologia completa della chat dove basterebbe un riassunto. Anche il retrieval tende a gonfiarsi: inviare dieci chunk quando ne bastano due per rispondere è un problema di costo e di qualità.

Prova ogni taglio su un insieme fisso di input, così un prompt più economico non rompe le risposte senza che te ne accorga. Ridurre i token del prompt riporta tagli misurati per ognuno di questi casi. Conta anche la lingua: sulla maggior parte dei tokenizer il testo arabo usa più token per parola dell’inglese; vedi token per parola in arabo e in inglese.

4. Come si limitano output e ragionamento?

Chiedi meno, e metti un limite. Chiedi campi JSON invece di prosa, un limite di parole invece di «spiega», e niente ripetizione della domanda. Poi imposta max_tokens perché una risposta fuori controllo si fermi.

I modelli che ragionano richiedono attenzione. La documentazione di BroadNet dice che il ragionamento conta ai fini di max_tokens, quindi un limite basso può restituire una risposta vuota. Tieni 1.000 token o più, e imposta reasoning_effort a low nei passaggi semplici. Sulle chiavi a token, il ragionamento si paga come output. Token di ragionamento: perché paghi più di quanto vedi e la soluzione alle risposte vuote coprono entrambi gli aspetti.

5. Come scegli un modello più economico senza perdere qualità?

Confronta il costo per attività riuscita, non il prezzo per token. Prepara da 50 a 100 input reali con gli output attesi, esegui ogni candidato e dividi la spesa per i successi. Un modello che costa meno per token ma fallisce una volta su tre può costare di più, una volta contati retry e revisione umana.

Controlla prima le funzionalità. Su BroadNet, strumenti e output strutturato sono documentati solo per GLM 5.3 e Qwen3.8 27B. Gemma 4 VL 26B è il modello più piccolo di BroadNet per testo e immagini; per le attività semplici, controllane il prezzo nella tabella qui sopra. Molte app usano un modello piccolo per i passaggi facili e uno più grande per quelli difficili; il modello lo scegli tu, nel tuo codice. Come valutare un LLM prima di cambiarlo propone un piano di test.

Non aspettare che il modello che usi diventi più economico. I provider tagliano di rado il prezzo di un modello esistente; i risparmi arrivano di solito con una nuova versione. Vedi lo storico dei prezzi delle API di OpenAI, Anthropic e Google e i maggiori tagli di prezzo delle API LLM.

6. Puoi usare il batch o spostare il lavoro che può aspettare?

Dove il provider lo offre, sì, e gli sconti sono consistenti. Tutto verificato il 2026-11-15:

Provider Sconto Il rovescio della medaglia
OpenAI Batch API 50% rispetto alle chiamate sincrone Completamento entro 24 ore; rate limit separati
Anthropic Message Batches API 50% Asincrona; la maggior parte dei batch termina in meno di un’ora
API DeepSeek, fuori picco Le tariffe fuori picco sono la metà di quelle di picco Il picco va dalle 01:00 alle 04:00 e dalle 06:00 alle 10:00 UTC, dal lunedì al venerdì

BroadNet Inference non ha né una Batch API né prezzi fuori picco. Per i job notturni su BroadNet, eseguili con un runner riprendibile sull’endpoint normale, entro i limiti della tua chiave. Elaborazione batch con gli LLM senza una Batch API contiene il codice. Se il job dura ore, una sessione flat può costare meno dei token (passo 10).

7. Quando conviene mettere in cache risposte intere?

Quando la stessa domanda arriva di nuovo con gli stessi input. Bot per le FAQ, classificazione di elementi ripetuti e riesecuzioni di una pipeline dopo un crash ripetono tutti lo stesso lavoro. Una cache a corrispondenza esatta, con chiave su modello, prompt e impostazioni, restituisce la risposta salvata e salta la chiamata. Imposta una scadenza, così le risposte non diventano obsolete. Mettere in cache le risposte LLM in Python mostra una piccola implementazione.

8. Come fanno retry e loop a sprecare denaro?

Una richiesta ritentata è una nuova inferenza e sulle chiavi a token si paga di nuovo. Ritenta solo sugli errori 429 e 5xx, con backoff esponenziale e jitter, e limita i tentativi. Non ritentare mai un 400: la stessa richiesta sbagliata fallisce allo stesso modo.

Gli agenti aggiungono un secondo rischio: un loop che continua a chiamare il modello. Limita i passaggi per attività e fermati quando la stessa chiamata a uno strumento si ripete. Gestire gli errori 429 e 10 modi per ridurre i costi degli agenti di coding trattano entrambi i casi.

9. Come eviti che la bolletta vada fuori controllo?

Gli avvisi ti informano a cose fatte. I limiti fermano la spesa. Usa un saldo prepagato, una chiave per app così puoi revocarne una senza fermare le altre, e un’allowlist di IP sulle chiavi lato server. Nel codice, imposta un budget per job e fermati quando è esaurito. Controllo della spesa per le API LLM descrive i livelli, dall’account alla singola richiesta.

10. Quando un piano flat batte il prezzo per token?

Quando un agente lavora per buona parte della giornata. BroadNet vende DeepSeek V4.1 Flash per token o a sessione: Full Moon a $60 al mese, Orbit a $15 a settimana o Meteor a $1 all’ora, senza contatore di token. Una sessione esegue una richiesta alla volta.

Gli scenari calcolati da BroadNet con la fatturazione per token:

Carico di lavoro Per token, al mese Opzione più economica
Progetto personale $14.23 il pagamento a consumo
Assistente quotidiano $42.67 il pagamento a consumo
Agente di coding a tempo pieno $65.40 Full Moon
Agente sempre attivo $196.20 Full Moon

Con l’80% di cache hit e 20 token di input per ogni token di output, il pareggio è a circa 917 milioni di token di input e 46 milioni di di output al mese. Con un uso leggero resta più conveniente pagare per token. I calcoli completi del pareggio, oppure prova i tuoi volumi nel calcolatore piano flat o prezzo per token.

Quali passi conviene saltare?

Alcuni consigli popolari costano più di quanto fanno risparmiare:

  • Comprimere i prompt finché non si rompono. Il risparmio sull’input si perde se la qualità delle risposte cala e gli utenti riprovano.
  • Riassumere la cronologia a ogni turno. Ogni riassunto è una chiamata in più e cambia il prefisso, quindi la cache non viene usata. Riassumi di rado e accoda il resto.
  • Inseguire solo il prezzo per token più basso. Rate limit, funzionalità mancanti e tassi di errore aggiungono tutti costo.
  • Ospitare in proprio un carico di lavoro piccolo. Le GPU si pagano a ore, che lavorino o no. Self-hosting o API: i costi mostra dove sta il pareggio.

Dove si colloca BroadNet Inference

BroadRouter è il sito di BroadNet, quindi valuta questa sezione tenendone conto. BroadNet Inference è un’API compatibile con OpenAI con quattro modelli di chat a prezzo per token, input in cache su tre di questi e un piano flat per DeepSeek V4.1 Flash pensato per un uso costante da parte di agenti. Non offre una Batch API né tariffe fuori picco, quindi per i job grandi che possono aspettare gli sconti batch di OpenAI o Anthropic, o le fasce fuori picco di DeepSeek, possono costare meno. I nuovi account ricevono $5 di credito iniziale, che copre Gemma 4 VL 26B, entrambi i modelli Transcribe e le chiavi orarie Gemma; DeepSeek, GLM e Qwen richiedono una ricarica. Il self-service non ha SLA. Vedi i prezzi o confronta i piani.

Domande frequenti

Qual è il modo più rapido per ridurre i costi di un’API LLM?

Parti dal prompt caching. Metti all’inizio il prompt di sistema, gli schemi degli strumenti e i documenti condivisi, e tienili identici byte per byte tra una chiamata e l’altra. L’input in cache si paga una frazione dell’input nuovo, e non cambi né modello né funzionalità. Poi limita l’output, perché i token di output costano più di quelli di input.

Una Batch API dimezza davvero il prezzo?

Con OpenAI e Anthropic, sì. La Batch API di OpenAI dà uno sconto del 50% con una finestra di completamento di 24 ore, e la Message Batches API di Anthropic riduce il costo del 50 percento (entrambe verificate il 2026-11-15). BroadNet Inference non ha una Batch API, quindi esegui i job con un runner riprendibile sugli endpoint normali.

I token di ragionamento finiscono nella mia fattura?

Sì, sulle chiavi a token. Il ragionamento è riportato tra i token di completamento e si paga al prezzo dell’output. Imposta reasoning_effort a low per i passaggi semplici, ma tieni max_tokens a 1.000 o più, così la risposta non viene troncata.

Un modello più piccolo costa sempre meno?

Per token, di solito sì. Per attività, non sempre. Un modello più piccolo che richiede due retry o un prompt più lungo può costare più di uno più grande che azzecca la risposta al primo colpo. Confronta il costo per attività riuscita sul tuo set di test.

Quando un piano flat costa meno del pagamento per token?

Quando l’uso è alto e costante. Su BroadNet, una sessione Full Moon costa $60 al mese per DeepSeek V4.1 Flash. Con l’80% di cache hit, il pareggio arriva a circa 917 milioni di token di input e 46 milioni di di output al mese. Sotto quella soglia conviene il pagamento per token.

I retry costano?

Sì. Una richiesta ritentata è una nuova inferenza e sulle chiavi a token si paga di nuovo. Ritenta solo sugli errori 429 e 5xx, con backoff, e limita il numero di tentativi.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity