BroadRouter
Magsimula

Presyo ng LLM API, ipinaliwanag: input, cached, output at reasoning

Ng BroadNet Inference team · 6 minutong basa · Nailathala · Na-update

Sinisingil ang LLM API kada milyong token, at magkahiwalay ang presyo ng input, cached input at output. Sinisingil bilang output ang reasoning token, input token ang mga larawan, at kada minuto ng audio ang speech-to-text. Sa BroadNet Inference, ang DeepSeek V4.1 Flash ay $0.175 sa input, $0.0055 sa cached at $0.52 sa output kada 1M token.

A stream of tokens flowing into the words "Ideas become answers."

Sinisingil ang LLM API kada milyong token sa magkakahiwalay na meter: bagong input, cached input at output. Sinisingil bilang output ang reasoning token, bilang input token ang mga larawan, at kada minuto ng audio ang speech-to-text. Ipinapaliwanag ng gabay na ito ang bawat meter, saka kinukuwenta ang presyo ng mga totoong request gamit ang published na rate ng BroadNet Inference, na na-sync noong 2026-11-14.

Ano ba talaga ang binabayaran mo?

Ang token ay piraso ng text, kadalasan ilang character lang. Sa sariling sukat ng BroadRouter sa limang tokenizer, umabot sa mga 1,290 token ang 1,000 salitang Ingles; ayon naman sa rule of thumb ng OpenAI, mga 75 salita ang 100 token. Iba-iba ito sa ibang wika, kaya i-paste ang sarili mong text sa libreng token counter para makita ang totoong bilang. Iniuulat ng bawat request ang mga token nito sa usage block, at ang bill ay ang kabuuan ng mga meter na ito:

Meter Ano ang binibilang Presyong ginagamit
Input (prompt) System prompt, history, mga dokumento, tool definitions, mga larawan Presyo ng input
Cached input Input na naproseso na ng provider at ginamit ulit Cached na presyo, mas mababa nang malaki
Output (completion) Ang nakikitang sagot at anumang reasoning Presyo ng output
Minuto ng audio Haba ng audio na ipinadala para i-transcribe Presyo kada minuto

Ang hati ng input at output token ang pinakamahalaga, dahil malayo ang agwat ng dalawang presyo.

Magkano ang bawat model kada token?

Mga presyo ng BroadNet Inference, kada 1M token:

Model Input Cached input Output Context
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52 1,048,576
GLM 5.3 $0.78 $0.173 $3.46 1,048,576
Qwen3.8 27B $0.175 $0.0435 $2.17 262,144
Gemma 4 VL 26B $0.10 Walang cache discount $0.22 32,768

Dalawang pattern ang totoo sa rate card na ito at sa karamihan ng iba. Mas mahal ang output kaysa input, mula sa mga doble sa Gemma 4 VL 26B hanggang lampas sampung beses sa Qwen3.8 27B. Maliit na bahagi lang ng presyo ng bagong input ang cached input. Para ikumpara ang mga rate na ito sa OpenAI, Anthropic, Google at iba pang provider, tingnan ang LLM API pricing table. Para sa median ng buong market, agwat ng mga provider at ratio ng output sa input sa bawat model na sinusubaybayan namin, tingnan ang LLM API price index (bukas na CSV at JSON).

Bakit mas mahal ang output kaysa input?

Binabasa ng model ang buong prompt mo sa isang parallel na pass. Pero isa-isang token nitong isinusulat ang sagot, at kailangan ng panibagong pass ang bawat bagong token. Kaya mas maraming GPU time kada token ang nagagamit ng output, at makikita iyon sa presyo. Puwedeng mas mahal ang maikling prompt na may mahabang sagot kaysa mahabang prompt na may maikling sagot.

Paano sinisingil ang cached input token?

Kapag tugma ang simula ng prompt mo sa isang kamakailang request, puwedeng gamitin ulit ng provider ang nagawa na nito. Lumalabas ang mga cached input token na iyon bilang prompt_tokens_details.cached_tokens at sinisingil sa cached na presyo. Sa DeepSeek V4.1 Flash, $0.0055 iyon imbes na $0.175 kada 1M.

Pabor ang caching sa mga prompt na may stable na prefix: nauuna ang system prompt, listahan ng tools at mga dokumento, at nasa huli ang bagong mensahe. Pinakamalaki ang tipid ng mga agent na paulit-ulit na nagpapadala ng parehong repository sa bawat turn. Para malaman kung paano sinisingil ng bawat provider ang cache read at write, basahin ang cached input tokens explained; para i-model ang sarili mong cache rate, gamitin ang prompt caching calculator.

Bakit mas maraming output ang sinisingil ng reasoning model kaysa nakikita mo?

Nag-iisip muna bago sumagot ang DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B. Binubuo ng mga reasoning token ang pag-iisip na iyon. Hindi mo sila nakikita sa sagot, pero binibilang sila sa completion_tokens at sinisingil sa presyo ng output. Ganito rin ang patakarang inilalarawan ng reasoning guide ng OpenAI para sa mga model nito: ang reasoning token ay “are billed as output tokens” (salin: sinisingil bilang output token).

Binibilang din ang reasoning sa max_tokens. Kapag masyadong mababa ang setting, magbabayad ka para sa pag-iisip pero walang sagot. Basahin kung bakit walang laman ang bumabalik na sagot at paano mapapababa ang gastos sa reasoning.

Paano sinisingil ang mga larawan at audio?

Mga larawan. Ginagawang input token ng isang vision model ang larawan. Presyo ng input ang binabayaran mo para sa mga ito, at mas maraming token ang nagagamit ng mas malaking larawan. Walang hiwalay na singil kada larawan sa BroadNet. Ikinumpara ang gastos kada larawan.

Audio. Ang speech-to-text ay sinisingil ayon sa haba ng audio, hindi sa token:

Model Kada minuto Kada oras ng audio
BroadNet Transcribe Arabic $0.0042 $0.25
BroadNet Transcribe (14 na wika) $0.002 $0.12

Magkano ang isang totoong request? Mga halimbawang kuwenta

DeepSeek V4.1 Flash ang gamit sa mga ito. Sinadyang buong milyon ng token ang kabuuan ng bawat halimbawa, para madaling i-check ang math.

  1. Isang chat feature. Ang 500 request, na bawat isa ay may 2,000 input at 2,000 output token, ay gumagamit ng 1M input at 1M output token. Gastos: $0.175 dagdag ang $0.52.
  2. Isang agent na paulit-ulit na nagbabasa ng context nito. Sampung turn na bawat isa ay nagpapadala ng parehong 100,000-token na context ay umaabot sa 1M input token. Kung walang naka-cache, $0.175 ang gastos. Kung naka-cache sana lahat, $0.0055 ang gastos, pero walang magagamit ulit ang unang turn, kaya ituring iyon na lower bound: sa pinakamainam, 900,000 token ang sisingilin sa cached na presyo at ang unang 100,000 sa input na presyo.
  3. Nakatagong reasoning. Ang 1,000 sagot na may tig-200 nakikitang token, at may tig-800 reasoning token, ay sisingilin ng 1M output token: $0.52. Ikalimang bahagi lang niyan ang text na nakita mo.
  4. Transcription. $252.00 ang 1,000 oras ng Arabic na audio. $21.00 ang 10,000 voice note na tig-30 segundo.

Ang pangkalahatang formula:

cost = new_input/1M × input_price
     + cached_input/1M × cached_price
     + output/1M × output_price      (output includes reasoning)

Para kuwentahin ito para sa sarili mong traffic, gamitin ang libreng LLM API cost calculator. Para sa buong forecast ng isang bagong feature, tingnan ang paano tantiyahin ang gastos sa LLM API bago mag-launch.

Paano mo babasahin ang totoong bilang mula sa isang response?

Kapag may traffic ka na, huwag nang tantiyahin mula sa bilang ng salita. Basahin ang mga ito:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
r = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Summarise this ticket in one line: ..."}],
)
u = r.usage
details = u.prompt_tokens_details  # can be None when the model reports no cache data
cached = (details.cached_tokens or 0) if details else 0
print(u.prompt_tokens, cached, u.completion_tokens)

Kapag naka-streaming, idagdag ang stream_options={"include_usage": True} para dala ng huling chunk ang usage. Gabay sa streaming.

Ano pa ang ibang paraan ng pagpepresyo?

Hindi lang per-token billing ang opsyon:

  • Flat plan. Oras ang sinisingil ng isang flat-rate plan, hindi token. Ang Full Moon ng BroadNet ay $60 kada buwan kada session para sa unlimited na DeepSeek V4.1 Flash, isang request sa bawat pagkakataon. Ang Orbit ay $15 kada linggo, at ang Meteor ay $1 kada oras.
  • Hourly key. Sa $0.50, makakakuha ka ng isang oras ng Gemma 4 VL 26B sa isang stream. Ipinaliwanag ang hourly key.
  • Batch at dedicated GPU. May mga provider na nagbibigay ng discount sa mga batch job na pinapatakbo magdamag, o nagpaparenta ng buong GPU kada oras. Paano pinepresyuhan ng ibang provider ang mga open model.

Nakadepende sa volume at cache rate kung kailan mas sulit ang flat plan kaysa per-token. Para sa lahat ng paraan ng pagtitipid nang sunud-sunod, mula caching hanggang batch discount, tingnan ang paano bawasan ang gastos sa LLM API.

Nagbabago rin ang per-token na presyo sa paglipas ng panahon, pataas man o pababa. Sa mga naka-archive na pricing page ng 11 provider, 80% ng mga model ang hindi kailanman nagbago ng presyo. Sa mga model na nagbago, nakapagtala kami ng 100 pagbaba at 52 pagtaas ng presyo, bawat isa ay presyo ng isang model kumpara sa sarili nitong naunang presyo. Tingnan ang gaano kadalas nagbabago ang presyo ng LLM API at ang pinakamalalaking pagbaba ng presyo ng LLM API, may mga source.

Saan pumapasok ang BroadNet Inference

Naglalathala ang BroadNet ng iisang rate card para sa bawat model na sine-serve nito, sa isang machine-readable na file na binabasa ng pricing page ng site na ito. May $5 na credit ang mga bagong account sa simula; gumagana rito ang Gemma 4 VL 26B at ang parehong transcription model, at kailangan ng top-up para sa ibang chat model. Bagay ito kung gusto mo ng per-token at flat na presyo sa iisang account; may sariling key ang mga plan. Hindi ito ang lugar para sa mga frontier closed model: open-weight model at sarili nitong mga build lang ang sine-serve nito.

Mga tanong

Paano kinukuwenta ang presyo ng LLM API?

I-multiply ang input token sa presyo ng input, ang cached input token sa cached na presyo at ang output token sa presyo ng output, lahat kada 1M token, saka pagsamahin. Kasama sa output ang reasoning token.

Bakit mas mahal ang output token kaysa input token?

Binabasa ng model ang input sa isang parallel na pass, pero isa-isang token ang pagbuo nito ng output, kaya mas maraming GPU time ang nagagamit ng bawat output token. Isinasama ng mga provider ang pagkakaibang iyon sa presyo.

May bayad ba ang reasoning token?

Oo, sa mga per-token na key. Iniuulat ito sa loob ng completion tokens at sinisingil sa presyo ng output, kahit hindi ito ipinapakita sa sagot.

Magkano ang isang larawan sa LLM API?

Ginagawang input token ang larawan, kaya ang gastos nito ay ang bilang ng token nito na i-multiply sa presyo ng input. Mas maraming token ang nagagamit ng mas malaking larawan. Basahin ang prompt_tokens sa usage block para makita ang totoong bilang.

Ano ang pinakamurang paraan ng pagbayad para sa agent na laging tumatakbo?

Kadalasan, flat plan. Sa BroadNet, $60 kada buwan ang isang Full Moon session para sa unlimited na DeepSeek V4.1 Flash, isang request sa bawat pagkakataon.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity