BroadRouter

Come stimare il costo delle API LLM prima di lanciare una funzione

A cura del team di BroadNet Inference · 6 min di lettura · Pubblicato · Aggiornato

Per stimare il costo delle API LLM, modella una singola azione dell’utente, non una singola chiamata: conta le chiamate per azione, misura su campioni reali i token di input, in cache e di output per chiamata, poi moltiplica per utenti e azioni al mese. Aggiungi ragionamento e retry e calcola uno scenario basso, uno atteso e uno alto. Il nostro esempio su DeepSeek V4.1 Flash arriva a $42.67 al mese.

Per stimare il costo delle API LLM prima del lancio, prezza una singola azione dell’utente invece di una singola chiamata API. Conta le chiamate che ci sono dietro, misura su 20-50 campioni reali i token di input nuovo, di input in cache e di output, moltiplica per le azioni mensili e poi aggiungi ragionamento e retry. Il nostro esempio di bozza di risposta all’assistenza su DeepSeek V4.1 Flash arriva a $42.67 al mese.

È una previsione pre-lancio per una singola funzione; quando avrai utenti paganti, il costo LLM per utente in un SaaS tratta margini e fasce di prezzo.

Qual è la formula del costo delle API LLM?

monthly cost = actions per month × calls per action
             × ( new input tokens × input price
               + cached input tokens × cached price
               + output tokens × output price ) / 1,000,000

I token di output comprendono il ragionamento. I token in cache sono input che il provider riusa a un prezzo più basso. Tutto il resto è misura. Il calcolatore dei costi delle API LLM, gratuito, applica questa formula al prezzo di listino di qualsiasi modello.

Come si costruisce il modello di costo, passo per passo?

  1. Dai un nome all’unità di lavoro. «Scrivi una bozza di risposta all’assistenza», «riassumi una chiamata», «correggi un test che fallisce». Prezza quella, non «una richiesta».
  2. Conta le chiamate per azione. Una risposta basata su retrieval può essere una chiamata. Un agente che pianifica, modifica e verifica può farne dieci. Aggiungi il tuo tasso di retry: un timeout che ritenti si paga di nuovo.
  3. Misura i token per chiamata su campioni reali. Prendi 20-50 input realistici, non demo pulite. Per un primo conteggio approssimativo prima di chiamare qualsiasi API, incollali nel contatore di token. Leggi usage.prompt_tokens, usage.prompt_tokens_details.cached_tokens e usage.completion_tokens da ogni risposta. Con lo streaming, imposta stream_options: {"include_usage": true}; la guida allo streaming mostra dove compare.
  4. Separa l’input nuovo da quello in cache. Prompt di sistema, elenco dei tool e documenti condivisi possono andare in cache se vengono per primi e restano identici. Il testo dell’utente no.
  5. Includi il ragionamento nell’output. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere. Quei token di ragionamento si pagano come output, e spesso sono più della risposta visibile. Perché il ragionamento costa più di quanto vedi.
  6. Stima il volume. Utenti attivi × azioni per utente al giorno × 30.
  7. Moltiplica e somma. Converti i totali di token in milioni e applica il prezzo per 1M.
  8. Calcola tre scenari. Basso, atteso e alto. Il traffico al lancio è incerto, e i prompt crescono nel tempo.
  9. Verifica i limiti, non solo i soldi. Le richieste al minuto di picco e le richieste in corso devono stare nei rate limit della tua chiave.
  10. Scegli il modello di fatturazione. Per token per il traffico irregolare guidato dagli utenti; un piano flat per gli agenti sempre attivi.

Come si presenta una stima completa? Un assistente per le bozze di risposta

Un’app di help desk aggiunge «Scrivi bozza». I numeri qui sotto sono ipotesi a scopo illustrativo. Sostituiscili uno per uno con le tue misure.

Dato Valore Da dove viene
Operatori del supporto (personale) che usano la funzione 500 Piano di prodotto
Bozze per operatore al giorno 4 Uso nel pilota
Giorni al mese 30
Azioni al mese 60.000 500 × 4 × 30
Chiamate per azione 1 Una chiamata con articoli recuperati
Token di input per chiamata 5.000 Prompt di sistema, thread del ticket, tre articoli di aiuto
Quota di input in cache 50% Prompt di sistema e prefisso degli articoli stabili
Token di output per chiamata 500 Circa 200 visibili, 300 di ragionamento
Modello DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 per 1M

Ora i totali:

Voce Token al mese Prezzo per 1M
Input nuovo 150M $0.175
Input in cache 150M $0.0055
Output, ragionamento compreso 30M $0.52
Costo mensile atteso $42.67

Sono 300M di token di input e 30M di output: 60.000 × 5.000 e 60.000 × 500.

Quanto devono essere distanti gli scenari basso e alto?

Scenario Azioni al mese Token di input / output Costo mensile
Basso: adozione lenta 20.000 100M / 10M $14.23
Atteso 60.000 300M / 30M $42.67
Alto: adozione 3× 180.000 900M / 90M 3 × $42.67

Tutti e tre mantengono la stessa quota di cache del 50%. Se la quota di cache scende, la bolletta sale: su questo modello l’input nuovo costa $0.175 per 1M contro $0.0055 in cache. Come tenere alta la quota di cache.

Cosa sposta di più la stima?

  • Lunghezza del contesto. Un retrieval che recupera dieci articoli invece di tre può raddoppiare l’input. Misura i token dopo ogni modifica al prompt.
  • Ragionamento. Impostare reasoning_effort a low sulle bozze semplici riduce l’output nascosto. Ragionamento e max_tokens.
  • Retry e loop. Un tasso di retry del 5% aggiunge il 5% a ogni voce. Un loop di agente senza limite di passaggi non ha alcun tetto. Controllare la spesa delle API LLM.
  • Scelta del modello. Gemma 4 VL 26B costa $0.10 di input e $0.22 di output per 1M, ma il suo contesto è di 32.768 token e BroadNet non indica il ragionamento per questo modello. Verifica la qualità prima di cambiare per risparmiare.
  • Lingua. Lo stesso contenuto può richiedere molti più token in arabo o in hindi che in inglese, e la differenza dipende dal tokenizer. Il nostro dataset sul costo reale per lingua mostra il prezzo per 1M di caratteri per ogni lingua, su ogni modello e provider.
  • Crescita dei prompt. Dopo il lancio i prompt tendono a crescere man mano che si gestiscono i casi limite. Ripeti la misura a ogni release.
  • Variazioni di prezzo. I prezzi di listino cambiano di rado, ma possono salire. Nelle pagine prezzi archiviate di 11 provider abbiamo registrato 52 aumenti di listino tra il 2024 e novembre 2026, ciascuno confrontando il prezzo di un modello con il suo prezzo precedente (contro 100 riduzioni); l’aumento mediano è stato del 40% su un prezzo combinato. Vedi come mettere a budget gli aumenti di prezzo delle API LLM.

Se la stima risulta troppo alta, segui la checklist in 10 passi per ridurre i costi delle API LLM prima di modificare la funzione.

Il volume rientra nei rate limit?

60.000 azioni al mese sono circa 2.000 al giorno. Se un decimo delle bozze di una giornata arriva nell’ora di punta, sono 200 all’ora, cioè circa 3 al minuto. Una chiave BroadNet a consumo consente 30 richieste al minuto e 4 in corso, quindi basta una chiave. Verifica anche lo scenario alto, oppure inserisci il tuo picco nel calcolatore dei rate limit. Per il rapporto tra frequenza e richieste in corso, vedi concorrenza. Se ricevi dei 429, usa il backoff e ritenta.

Questa funzione dovrebbe girare su un piano flat?

Probabilmente no. Una sessione Full Moon costa $60 al mese, ma una sessione esegue una richiesta alla volta, e tanti utenti che cliccano «Scrivi bozza» insieme richiedono richieste in parallelo. I piani flat sono adatti ad agenti che lavorano di continuo, come un agente di coding. I conti del pareggio mostrano un agente di coding a tempo pieno a $65.40 al mese a token, sopra il prezzo del piano.

Come si trasforma la stima in un budget?

  1. Metti la cifra attesa nel tuo piano e quella alta nella soglia di allerta.
  2. Registra i token per azione in produzione e confrontali con il modello ogni settimana.
  3. Imposta tetti rigidi nel codice: max_tokens, limiti di passaggi e limiti di retry.
  4. Rifai la stima ogni volta che cambi modello, prompt o impostazioni di retrieval.

Puoi rifare il calcolo per token con i tuoi numeri nel calcolatore dei costi delle API LLM, o confrontare piano e pagamento per token nella pagina prezzi.

Dove si colloca BroadNet Inference

BroadNet Inference pubblica i prezzi per token di ogni modello di chat e di trascrizione che serve in un unico file dei prezzi, quindi la stima qui sopra si può tenere nel codice. I nuovi account ricevono $5 di credito iniziale, valido su Gemma 4 VL 26B e sui due modelli di trascrizione, quindi puoi misurare i tuoi campioni su Gemma; DeepSeek, GLM e Qwen richiedono una ricarica. Se la tua funzione ha bisogno di un modello di frontiera chiuso, BroadNet non è il provider giusto per quella parte.

Domande frequenti

Come stimo il numero di token prima di avere utenti?

Prepara 20-50 input realistici, falli passare dal modello che pensi di usare e leggi prompt_tokens, cached_tokens e completion_tokens dal blocco usage. Fai la media per chiamata.

Quanti token ha una tipica richiesta di chat?

Varia moltissimo. Un breve turno di chat può essere di qualche centinaio di token, mentre una richiesta con documenti recuperati o una lunga cronologia può arrivare a decine di migliaia. Misura i tuoi prompt.

Devo aggiungere un margine di sicurezza alla stima dei costi LLM?

Sì. Calcola uno scenario alto a due-tre volte il volume atteso, e metti a budget retry e prompt più lunghi man mano che la funzione cresce. Poi imposta limiti rigidi, così un bug non può superarlo.

Quando conviene valutare un piano flat?

Quando un agente o un worker gira per gran parte della giornata su un solo modello. Per DeepSeek V4.1 Flash su BroadNet, una sessione Full Moon costa $60 al mese senza contatore di token, una richiesta alla volta.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity