BroadRouter

Presyo ng open model sa mga inference provider: 6 na inihambing

Ng BroadNet Inference team · 7 minutong basa · Nailathala · Na-update

Karamihan ng provider ay nagpepresyo ng open model kada milyong token, na may mas murang cached input at madalas 50% off sa batch job. Nagpaparenta rin ng GPU kada oras ang Together AI, Fireworks at DeepInfra. Ipinapasa ng OpenRouter ang presyo ng provider at naniningil ng fee sa pagbili ng credit. Maikli ang listahan ng model ng Groq. Nagdadagdag ang BroadNet ng flat na buwanan, lingguhan at oras-orasang plan para sa DeepSeek V4.1 Flash.

Mukhang puwedeng ihambing ang “presyo kada milyong token” sa iba’t ibang provider. Hindi ganoon kasimple. Magkakaiba ang mga provider sa kung aling model ang hino-host nila, magkano ang cached input, may discount ba ang batch job, puwede ka bang magrenta ng GPU, at anong mga fee ang nakapatong. Inihahambing ng post na ito ang anim na provider ng open-weight model ayon sa paraan ng pagpepresyo nila, tapos pinagtatabi ang mga inilathala nilang presyo para sa parehong mga model. Galing ang lahat ng numero ng kakumpitensya sa opisyal na page ng bawat provider, sinuri noong 2026-11-14; nasa sources ang mga link. Madalas magbago ang presyo, kaya suriin ulit bago ka mag-commit.

Ano ang limang paraan ng pagpepresyo ng open model?

  1. Per token, serverless. Magkahiwalay na presyo kada 1M input at output token. Inaalok ito ng lahat sa listahang ito.
  2. Cached input. Mas mababang rate para sa paulit-ulit na prompt prefix. Mula kalahating presyo hanggang ilang porsiyento lang ng input rate ang discount. Paliwanag sa cached token.
  3. Batch. Mas mababang presyo para sa mga job na puwedeng maghintay nang ilang oras.
  4. Dedicated GPU. Magrenta ng hardware kada oras at patakbuhin ang model nang ikaw mismo o sa stack ng provider. Self-hosting vs API: ang break-even, o subukan gamit ang sarili mong mga numero sa self-hosting vs API calculator.
  5. Flat plan. Fixed na presyo para sa oras, walang token meter. Tingnan ang flat-rate na LLM plan.

Paano nagpepresyo ng open model ang bawat provider?

Provider Model Per token Cached input Batch Dedicated GPU Flat plan
OpenRouter Router sa maraming provider Presyo ng provider, “no markup” Depende sa provider Depende sa provider Wala Wala
Together AI Sariling serverless + dedicated Oo Nakalista para sa ilang model 50% off sa piling model (Whisper Large v3 lang, noong sinuri) H100 mula USD 5.49 kada GPU hour Wala
Fireworks AI Sariling serverless + on-demand Oo, mula USD 0.05 kada 1M input 50% off bilang default, mas malaki sa ilang model 50% off H100 USD 8.00 kada oras Wala
Groq Sariling hardware Oo, maikling listahan ng model 50% off, sa mga GPT-OSS model 50% off Hindi nakalista Wala
DeepInfra Sariling serverless + dedicated Oo, ang ilang model ay sinisingil ayon sa execution time Nakalista para sa maraming model Hindi nakalista sa pricing page H100 USD 2.90 kada GPU hour Wala
BroadNet Inference Maikling listahan ng model; mga partner-hosted na model kasama ang mga inference partner sa US Oo Nakalista para sa tatlo sa apat na chat model Hindi inaalok Wala Oo, DeepSeek V4.1 Flash

Mga tala mula sa mga page:

  • OpenRouter: sabi nito, “there is no markup on inference pricing” (salin: walang markup sa presyo ng inference). Naniningil ito ng fee kapag bumili ka ng credit: 5.5% sa Standard plan (minimum na USD 0.80, ayon sa FAQ nito) at 8% sa Business, o 5% sa crypto. Limitado ang mga libreng variant ng model sa 20 request kada minuto at 50 kada araw, o 1,000 kada araw kapag nakabili ka na ng hindi bababa sa USD 10 na credit. Isa itong router, kaya puwedeng maraming presyo ang iisang model. OpenRouter vs flat-rate na provider.
  • Together AI: USD 5.49 kada GPU hour on demand ang nakalistang dedicated H100. Sabi ng batch docs nito, 50% off ang piling serverless model, na may completion window na fixed sa 24 oras, pero openai/whisper-large-v3 lang ang nasa table ng mga discounted model noong sinuri namin. Standard rate ang ibang model.
  • Fireworks: may Standard, Priority, Fast, Batch (50% off) at Spot (30% off sa piling model) na mode. Sinisingil ang cached input sa kalahating presyo o mas mababa pa, walang write fee.
  • Groq: naglilista ng per-token na presyo para sa maliit na set ng production model, gaya ng openai/gpt-oss-120b sa USD 0.15 input at USD 0.60 output kada 1M, at ng Whisper speech-to-text kada oras. Kalahating presyo ang cached input sa mga GPT-OSS model nito, at 50% off ang batch job na natatapos sa loob ng 24 oras hanggang 7 araw.
  • DeepInfra: maraming model ang may discounted rate sa tabi ng list price, halimbawa 51% off sa DeepSeek-V4.1-Flash-1017 at 38% off sa GLM-5.3. Hindi sinasabi ng page kung kailan matatapos ang mga discount na ito. May Standard, Priority (1.5×) at Flex (0.8×) na tier din ito.

Magkano ang parehong model sa bawat provider?

Inilathalang presyo kada 1M para sa mga model na sine-serve din ng BroadNet. Ang ”—” ay nangangahulugang wala ang model sa pricing page ng provider na iyon.

DeepSeek V4.1 Flash (input / cached / output):

Provider Input Cached Output
Together AI USD 0.30 USD 0.006 USD 1.20
Fireworks AI USD 0.30 USD 0.006 USD 1.20
DeepInfra, list USD 0.20 USD 0.006 USD 0.60
DeepInfra, discounted (30% off) USD 0.14 USD 0.0042 USD 0.42
DeepInfra, DeepSeek-V4.1-Flash-1017, discounted (51% off) USD 0.098 USD 0.0029 USD 0.294
Groq — — —
BroadNet Inference $0.175 $0.0055 $0.52

Ang may petsang -1017 variant ng DeepInfra ay ang parehong release na sine-serve ng sariling API ng DeepSeek bilang deepseek-flash; tingnan kung alin ang tinatawag ng code mo. Sa OpenRouter, may 37 endpoint mula sa 28 provider ang model noong sinuri namin, mula mga USD 0.05 (Baidu) hanggang USD 3 (pinakamabilis na tier ng Venice) kada 1M input token. Nakalista sa aming price table ng DeepSeek V4.1 Flash ang bawat provider na naglalathala ng sarili nitong presyo para sa model, kasama ang source page at petsa ng pagsuri sa bawat row. Sinusukat sa aming LLM API price index kung gaano kalawak ang agwat ng presyo ng iisang model sa buong market. Para makita kung paano ikinukumpara ang mga presyong ito ng open model sa GPT, Claude at Gemini sa parehong workload, tingnan ang gastos ng open-weight vs closed model API.

GLM 5.3 (sariling presyo ng bawat provider: price table ng GLM 5.3):

Provider Input Cached Output
Together AI USD 1.40 USD 0.26 USD 4.40
Fireworks AI USD 1.40 USD 0.26 USD 4.40
DeepInfra, list USD 0.90 USD 0.20 USD 4.00
DeepInfra, discounted (38% off) USD 0.5625 USD 0.125 USD 2.50
BroadNet Inference $0.78 $0.173 $3.46

Qwen3.8 27B (sariling presyo ng bawat provider: price table ng Qwen3.8 27B):

Provider Input Cached Output
DeepInfra, list USD 0.20 USD 0.05 USD 2.50
DeepInfra, discounted (25% off) USD 0.15 USD 0.0375 USD 1.875
Groq (preview, pang-evaluation lang) USD 0.80 — USD 4.00
BroadNet Inference $0.175 $0.0435 $2.17

Gemma 4 26B A4B (ang build ng BroadNet ay Gemma 4 VL 26B):

Provider Input Output
DeepInfra USD 0.07 USD 0.34
BroadNet Inference $0.10 $0.22

Hindi ang BroadNet ang pinakamura kada token dito. Mas mababa ang discounted rate ng DeepInfra kaysa sa BroadNet sa bawat linya para sa DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at mas mababa rin sa Gemma input (mas mababa ang Gemma output ng BroadNet). Hinahati ng sariling API ng DeepSeek ang lahat ng presyo nito tuwing off-peak, kaya mas mababa ang input nito kaysa sa BroadNet sa mga oras na iyon (detalye). Mas mababa ang list price ng BroadNet kaysa sa Together at Fireworks sa DeepSeek V4.1 Flash at GLM 5.3. Isang salik lang ang presyo kada token; tingnan din ang context length, data retention at rate limit, na hindi ipinapakita ng mga table na ito.

Sa lahat ng 119 na model na ibinebenta ng ilang host, hindi lang ang apat na ito, median na 1.76 na beses ng pinakamura ang pinakamahal na list price; tingnan ang parehong model, ibang host. Mas madalas ding gumalaw ang presyo ng host kaysa sa presyo ng gumawa ng model: gaano kadalas nagbabago ang presyo ng LLM API.

Paano naman ang speech-to-text?

Nakalista sa Groq ang whisper-large-v3-turbo sa USD 0.04 kada oras ng audio at ang whisper-large-v3 sa USD 0.111 kada oras. Nakalista sa DeepInfra ang Voxtral Mini sa USD 0.001 kada minuto. $0.002 kada minuto ($0.12 kada oras) ang multilingual na model ng BroadNet, at $0.0042 kada minuto ang Arabic model nito. Para sa iba pang provider, tingnan ang presyo ng speech-to-text API, inihambing. Para sa Arabic, mas mahalaga ang accuracy sa mga dialect mo kaysa sa rate: paano pumili ng Arabic speech-to-text API.

Paano ihambing ang mga provider para sa workload mo?

  1. I-fix ang model at bersyon. Puwedeng magkaiba ang presyo ng “DeepSeek V4.1 Flash” at ng isang may-petsang variant.
  2. Sukatin ang token mix mo: input, bahaging cached at output, kasama ang reasoning. Tantiyahin ang gastos bago mag-launch.
  3. Presyuhan ito gamit ang tatlong rate ng bawat provider, hindi lang ang input price. Sa mga agent, kadalasang ang cached rate ang nagdedesisyon. Ang LLM API cost calculator at prompt caching calculator ang gagawa ng kuwenta.
  4. Ilapat ang batch discount sa trabahong puwedeng maghintay lang.
  5. Idagdag ang mga fee: fee sa pagbili ng credit at mga tier multiplier.
  6. Tingnan ang mga limit: puwedeng tanggalin ng rate limit, concurrency at context length ang isang provider sa listahan anuman ang presyo.
  7. Ihambing sa flat plan kung may isang agent na tumatakbo halos buong araw. Ang break-even math, o ang flat-rate vs per-token calculator.

Saan pumupuwesto ang BroadNet Inference

Nagse-serve ang BroadNet ng maikling listahan ng model, ang ilan ay partner-hosted kasama ang mga inference partner sa US, at inilalathala nito ang per-token na presyo sa isang price file. Nasa gitna ng table ang per-token rate nito, hindi pinakamababa: kung presyo kada token lang ang mahalaga, mas mura ang mga discounted listing ng DeepInfra. Ang hindi ibinebenta ng iba rito ay unlimited na DeepSeek V4.1 Flash sa halagang $60 kada buwan kada session, kasama ang lingguhang $15 at oras-orasang $1 na opsyon. Hindi ito marketplace, walang batch discount at walang dedicated GPU. Ang iba pa nitong lamang ay zero data retention sa bawat request, Arabic speech-to-text at iisang OpenAI-compatible na key para sa chat at audio. Kung kailangan mo ng dose-dosenang model family o ng pinakamababang promo rate para sa pabugso-bugsong workload, mas mabuting gumamit ng router o mas malaking host.

Mga tanong

Aling inference provider ang pinakamura para sa open model?

Walang iisang provider, at hindi ang BroadNet kung per token. Noong sinuri namin noong 2026-11-14, mas mababa ang discounted rate ng DeepInfra kaysa sa BroadNet sa DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at naglista ang OpenRouter ng mga endpoint ng DeepSeek V4.1 Flash mula mga USD 0.05 hanggang USD 3 kada 1M input token. Ihambing ang eksaktong model, cached rate at batch discount.

Nagpapatong ba ng markup ang OpenRouter sa presyo ng model?

Sabi ng OpenRouter, walang markup sa presyo ng inference. Naniningil ito ng fee kapag bumili ka ng credit: 5.5% sa Standard plan nito (minimum na USD 0.80, ayon sa FAQ nito) at 8% sa Business, at 5% sa bayad gamit ang crypto.

Sulit ba ang batch pricing?

Para sa trabahong puwedeng maghintay. Naglilista ang Fireworks ng batch na 50% off, at nagdodokumento ang Groq ng 50% na batch discount na may window na 24 oras hanggang 7 araw. Sa batch docs ng Together, 50% off lang para sa piling model (`openai/whisper-large-v3` lang ang nasa table noong sinuri namin), na may fixed na 24 oras na completion window.

Kailan ako dapat magrenta ng dedicated GPU sa halip na magbayad kada token?

Kapag pinananatiling busy ng traffic mo ang GPU halos buong araw. Sinisingil ang oras-orasang presyo ng GPU may dumating mang request o wala, kaya mas mura ang per token para sa mababa o pabugso-bugsong traffic.

May provider bang nag-aalok ng flat na buwanang presyo para sa open model?

Mayroon ang BroadNet Inference, para sa DeepSeek V4.1 Flash. $60 kada buwan kada session ang Full Moon, walang token meter, isang request sa bawat pagkakataon.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity