Quasi tutte le liste del tipo «taglia del 70% la bolletta LLM» mescolano buoni consigli con numeri che nessuno ha misurato. Questa checklist è ordinata per cosa fare prima, e ogni cifra viene da un file di prezzi o dalla documentazione del provider. Dove un passo ha un articolo più approfondito su questo sito, trovi il link. I prezzi di BroadNet qui sotto vengono dal suo file dei prezzi, sincronizzato il 2026-11-14.
Che cosa determina la bolletta di un’API LLM?
Quattro numeri decidono quasi ogni fattura:
- Token di input nuovi. Il prompt, meno la parte letta dalla cache.
- Token di input in cache. Il prefisso ripetuto, fatturato a una tariffa più bassa.
- Token di output. La risposta, più i token di ragionamento sui modelli che ragionano.
- Numero di richieste. Ogni chiamata, compreso ogni retry, si paga a parte.
L’unità costosa è l’output. Sui modelli di chat di BroadNet, per 1M di token:
| Modello | Input | Input in cache | Output |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | non pubblicato | $0.22 |
Le leve sono quindi: inviare meno token nuovi, leggerne di più dalla cache, generare meno e fare meno chiamate. Come funzionano i prezzi delle API LLM spiega ogni unità nel dettaglio.
La checklist in sintesi
| Passo | Che cosa cambi | Che cosa riduci | Impegno |
|---|---|---|---|
| 1. Misura | Solo il logging | Ancora niente; mostra dove tagliare | Basso |
| 2. Metti in cache il prefisso | Ordine del prompt | Prezzo dell’input | Basso |
| 3. Accorcia il prompt | Contenuto del prompt | Token di input | Medio |
| 4. Limita output e ragionamento | Impostazioni della richiesta | Token di output | Basso |
| 5. Scegli il modello della taglia giusta | Scelta del modello | Tutti i prezzi | Medio |
| 6. Usa il batch o sposta il lavoro | Pianificazione | Prezzo per token, dove previsto | Medio |
| 7. Metti in cache le risposte | Codice dell’app | Richieste intere | Medio |
| 8. Limita retry e loop | Codice dell’app | Richieste sprecate | Basso |
| 9. Imposta limiti di spesa | Account e chiavi | Bollette fuori controllo | Basso |
| 10. Verifica il pareggio del piano flat | Modello di fatturazione | Fattura totale ad alti volumi | Basso |
1. Perché misurare prima di tagliare qualsiasi cosa?
Perché la fattura nasconde la causa. Due richieste che sembrano uguali possono differire di dieci volte in token. Ogni chat completion restituisce un blocco usage con prompt_tokens, completion_tokens e, dove il provider li riporta, i token in cache. Registrali per funzionalità e per utente, senza il testo del prompt. Dopo una settimana sai quale funzionalità spende di più e se il peso sta nell’input, nei cache miss o nell’output.
Logging dell’utilizzo con i dati personali oscurati propone uno schema di log. Per dimensionare una funzionalità prima del rilascio, usa il calcolatore dei costi delle API LLM o il metodo di stimare il costo prima del lancio.
2. Come riduce i costi il prompt caching?
I provider mettono in cache l’inizio di un prompt che si ripete identico. La chiamata successiva legge quel prefisso al prezzo cache. OpenAI attiva la cache per impostazione predefinita sui modelli supportati, a partire da 1.024 token, e dice che l’input in cache è “discounted up to 95%” (traduzione: scontato fino al 95%) (verificato il 2026-11-15). Su BroadNet, DeepSeek V4.1 Flash fattura l’input in cache a $0.0055 per 1M, contro $0.175 per l’input nuovo.
La regola: contenuto statico prima, contenuto variabile in fondo. Prompt di sistema, poi schemi degli strumenti, poi documenti condivisi, poi cronologia, infine la nuova domanda. Un timestamp o un elenco di strumenti in ordine casuale in cima rompe la cache per tutto quello che segue.
- I token di input in cache spiegati, con come leggerli nella risposta.
- Come strutturare i prompt perché il prefisso vada in cache.
- Stima la tua percentuale di hit con il calcolatore del prompt caching.
3. Quali tagli al prompt sono sicuri?
Taglia quello che il modello non usa. I risparmi più comuni: prompt di sistema lunghi scritti in prosa, più esempi few-shot di quanti ne servano, schemi di strumenti che quel passaggio non chiama mai, JSON prolisso dove basterebbe una tabella compatta, cronologia completa della chat dove basterebbe un riassunto. Anche il retrieval tende a gonfiarsi: inviare dieci chunk quando ne bastano due per rispondere è un problema di costo e di qualità.
Prova ogni taglio su un insieme fisso di input, così un prompt più economico non rompe le risposte senza che te ne accorga. Ridurre i token del prompt riporta tagli misurati per ognuno di questi casi. Conta anche la lingua: sulla maggior parte dei tokenizer il testo arabo usa più token per parola dell’inglese; vedi token per parola in arabo e in inglese.
4. Come si limitano output e ragionamento?
Chiedi meno, e metti un limite. Chiedi campi JSON invece di prosa, un limite di parole invece di «spiega», e niente ripetizione della domanda. Poi imposta max_tokens perché una risposta fuori controllo si fermi.
I modelli che ragionano richiedono attenzione. La documentazione di BroadNet dice che il ragionamento conta ai fini di max_tokens, quindi un limite basso può restituire una risposta vuota. Tieni 1.000 token o più, e imposta reasoning_effort a low nei passaggi semplici. Sulle chiavi a token, il ragionamento si paga come output. Token di ragionamento: perché paghi più di quanto vedi e la soluzione alle risposte vuote coprono entrambi gli aspetti.
5. Come scegli un modello più economico senza perdere qualità?
Confronta il costo per attività riuscita, non il prezzo per token. Prepara da 50 a 100 input reali con gli output attesi, esegui ogni candidato e dividi la spesa per i successi. Un modello che costa meno per token ma fallisce una volta su tre può costare di più, una volta contati retry e revisione umana.
Controlla prima le funzionalità. Su BroadNet, strumenti e output strutturato sono documentati solo per GLM 5.3 e Qwen3.8 27B. Gemma 4 VL 26B è il modello più piccolo di BroadNet per testo e immagini; per le attività semplici, controllane il prezzo nella tabella qui sopra. Molte app usano un modello piccolo per i passaggi facili e uno più grande per quelli difficili; il modello lo scegli tu, nel tuo codice. Come valutare un LLM prima di cambiarlo propone un piano di test.
Non aspettare che il modello che usi diventi più economico. I provider tagliano di rado il prezzo di un modello esistente; i risparmi arrivano di solito con una nuova versione. Vedi lo storico dei prezzi delle API di OpenAI, Anthropic e Google e i maggiori tagli di prezzo delle API LLM.
6. Puoi usare il batch o spostare il lavoro che può aspettare?
Dove il provider lo offre, sì, e gli sconti sono consistenti. Tutto verificato il 2026-11-15:
| Provider | Sconto | Il rovescio della medaglia |
|---|---|---|
| OpenAI Batch API | 50% rispetto alle chiamate sincrone | Completamento entro 24 ore; rate limit separati |
| Anthropic Message Batches API | 50% | Asincrona; la maggior parte dei batch termina in meno di un’ora |
| API DeepSeek, fuori picco | Le tariffe fuori picco sono la metà di quelle di picco | Il picco va dalle 01:00 alle 04:00 e dalle 06:00 alle 10:00 UTC, dal lunedì al venerdì |
BroadNet Inference non ha né una Batch API né prezzi fuori picco. Per i job notturni su BroadNet, eseguili con un runner riprendibile sull’endpoint normale, entro i limiti della tua chiave. Elaborazione batch con gli LLM senza una Batch API contiene il codice. Se il job dura ore, una sessione flat può costare meno dei token (passo 10).
7. Quando conviene mettere in cache risposte intere?
Quando la stessa domanda arriva di nuovo con gli stessi input. Bot per le FAQ, classificazione di elementi ripetuti e riesecuzioni di una pipeline dopo un crash ripetono tutti lo stesso lavoro. Una cache a corrispondenza esatta, con chiave su modello, prompt e impostazioni, restituisce la risposta salvata e salta la chiamata. Imposta una scadenza, così le risposte non diventano obsolete. Mettere in cache le risposte LLM in Python mostra una piccola implementazione.
8. Come fanno retry e loop a sprecare denaro?
Una richiesta ritentata è una nuova inferenza e sulle chiavi a token si paga di nuovo. Ritenta solo sugli errori 429 e 5xx, con backoff esponenziale e jitter, e limita i tentativi. Non ritentare mai un 400: la stessa richiesta sbagliata fallisce allo stesso modo.
Gli agenti aggiungono un secondo rischio: un loop che continua a chiamare il modello. Limita i passaggi per attività e fermati quando la stessa chiamata a uno strumento si ripete. Gestire gli errori 429 e 10 modi per ridurre i costi degli agenti di coding trattano entrambi i casi.
9. Come eviti che la bolletta vada fuori controllo?
Gli avvisi ti informano a cose fatte. I limiti fermano la spesa. Usa un saldo prepagato, una chiave per app così puoi revocarne una senza fermare le altre, e un’allowlist di IP sulle chiavi lato server. Nel codice, imposta un budget per job e fermati quando è esaurito. Controllo della spesa per le API LLM descrive i livelli, dall’account alla singola richiesta.
10. Quando un piano flat batte il prezzo per token?
Quando un agente lavora per buona parte della giornata. BroadNet vende DeepSeek V4.1 Flash per token o a sessione: Full Moon a $60 al mese, Orbit a $15 a settimana o Meteor a $1 all’ora, senza contatore di token. Una sessione esegue una richiesta alla volta.
Gli scenari calcolati da BroadNet con la fatturazione per token:
| Carico di lavoro | Per token, al mese | Opzione più economica |
|---|---|---|
| Progetto personale | $14.23 | il pagamento a consumo |
| Assistente quotidiano | $42.67 | il pagamento a consumo |
| Agente di coding a tempo pieno | $65.40 | Full Moon |
| Agente sempre attivo | $196.20 | Full Moon |
Con l’80% di cache hit e 20 token di input per ogni token di output, il pareggio è a circa 917 milioni di token di input e 46 milioni di di output al mese. Con un uso leggero resta più conveniente pagare per token. I calcoli completi del pareggio, oppure prova i tuoi volumi nel calcolatore piano flat o prezzo per token.
Quali passi conviene saltare?
Alcuni consigli popolari costano più di quanto fanno risparmiare:
- Comprimere i prompt finché non si rompono. Il risparmio sull’input si perde se la qualità delle risposte cala e gli utenti riprovano.
- Riassumere la cronologia a ogni turno. Ogni riassunto è una chiamata in più e cambia il prefisso, quindi la cache non viene usata. Riassumi di rado e accoda il resto.
- Inseguire solo il prezzo per token più basso. Rate limit, funzionalità mancanti e tassi di errore aggiungono tutti costo.
- Ospitare in proprio un carico di lavoro piccolo. Le GPU si pagano a ore, che lavorino o no. Self-hosting o API: i costi mostra dove sta il pareggio.
Dove si colloca BroadNet Inference
BroadRouter è il sito di BroadNet, quindi valuta questa sezione tenendone conto. BroadNet Inference è un’API compatibile con OpenAI con quattro modelli di chat a prezzo per token, input in cache su tre di questi e un piano flat per DeepSeek V4.1 Flash pensato per un uso costante da parte di agenti. Non offre una Batch API né tariffe fuori picco, quindi per i job grandi che possono aspettare gli sconti batch di OpenAI o Anthropic, o le fasce fuori picco di DeepSeek, possono costare meno. I nuovi account ricevono $5 di credito iniziale, che copre Gemma 4 VL 26B, entrambi i modelli Transcribe e le chiavi orarie Gemma; DeepSeek, GLM e Qwen richiedono una ricarica. Il self-service non ha SLA. Vedi i prezzi o confronta i piani.
