BroadRouter

Gastos ng LLM kada user: unit economics ng AI feature sa SaaS

Ng BroadNet Inference team · 6 minutong basa · Nailathala

Gastos ng LLM kada user = request kada aktibong user kada buwan × token kada request × presyo kada 1M token. Sukatin ito kada feature mula sa usage field, presyuhan ang tier batay sa 90th-percentile na user sa halip na sa average, at magdagdag ng fair-use limit para sa buntot. Direktang pinabababa ito ng mas murang model, caching at mababang reasoning effort.

Binabago ng pagdagdag ng AI feature ang cost structure ng isang SaaS product. Halos pareho ang gastos sa hosting at storage para sa bawat user; pero tumataas ang gastos sa LLM call habang mas ginagamit ito ng isang tao. Kung pepresyuhan mo ang feature nang hindi alam kung magkano ang gastos mo sa isang aktibong user, puwedeng gawing lugi ng ilang masigasig na customer ang isang kumikitang plan. Ipinapakita ng post na ito kung paano kuwentahin ang gastos ng LLM kada user, bakit maling numero ang average, at paano ito gamitin sa pagtatakda ng tier.

Paano kinukuwenta ang gastos ng LLM kada user?

Para sa isang feature at isang model:

cost per user per month =
    requests per active user per month
  × [ new input tokens × input price
    + cached tokens    × cached price
    + output tokens    × output price ] / 1,000,000

Kasama sa output ang reasoning token sa mga reasoning model, at binibilang bilang input token ang mga larawan sa pay-as-you-go key. Kung kailangan mo ng refresher sa tatlong presyong iyon, basahin ang paano gumagana ang presyo ng LLM API.

Pagsamahin ang lahat ng feature na ginagamit ng isang user para makuha ang kabuuang gastos sa AI kada user.

Step 1: Ano ang bilang na aktibong user, at ano ang unit?

Pumili ng depinisyong ini-report mo na, gaya ng user na gumamit ng AI feature nang hindi bababa sa isang beses sa buwan. Tapos pumili ng unit na natural na nalilikha ng feature mo: isang chat turn, isang ginawang dokumento, isang sinuring file, isang na-summarize na tawag. Mas matatag at mas madaling unawain ang gastos kada unit kaysa sa gastos kada user.

Step 2: Paano sinusukat ang token kada unit?

Huwag itong tantiyahin mula sa bilang ng salita. I-log ang usage block ng bawat response na may feature tag at hashed na user o account ID: prompt token, cached token at completion token, isang row kada attempt. May handang wrapper at SQL para i-group ang gastos ayon sa user at feature sa post tungkol sa usage logging. Bago ka magkaroon ng traffic, nagbibigay ang token counter ng unang tantiya mula sa mga sample na prompt.

Para sa mga streamed na sagot, humingi ng usage sa huling chunk gamit ang stream_options={"include_usage": True}; tingnan ang gabay sa streaming. Bilangin ang bawat attempt, kasama ang mga retry, dahil sinisingil ang bawat attempt na umaabot sa model.

Step 3: Magkano ang karaniwang user? Isang halimbawang kuwenta

Ipagpalagay na may in-app assistant ang produkto mo. Para sa isang karaniwang aktibong user sa isang buwan, ito ang nasukat mo:

Sukatan Value
Aktibong araw 20
Request sa assistant kada aktibong araw 15
Input token kada request 3,000 (kalahati cached)
Nakikitang answer token kada request 400
Reasoning token kada request (reasoning model) mga 600

Iyan ay 300 request kada buwan: mga 900,000 input token, 450,000 dito ay cached, at 120,000 nakikitang output token, dagdag ang mga 180,000 reasoning token sa reasoning model.

Ilapat ang presyo kada 1M ng BroadNet. Nasa milyon ang bilang ng token, kaya bawat termino ay milyong token × presyo kada 1M:

Model Input / cached / output kada 1M Buwan ng user na ito
Gemma 4 VL 26B $0.10 / walang cached rate / $0.22 0.9 × $0.10 (lahat ng input sa buong presyo) + 0.12 × $0.22 (walang reasoning token) = $0.12
DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 0.45 × $0.175 + 0.45 × $0.0055 + 0.3 × $0.52 = $0.24
Qwen3.8 27B $0.175 / $0.0435 / $2.17 0.45 × $0.175 + 0.45 × $0.0435 + 0.3 × $2.17 = $0.75
GLM 5.3 $0.78 / $0.173 / $3.46 0.45 × $0.78 + 0.45 × $0.173 + 0.3 × $3.46 = $1.47

Ang 0.3M na output sa mga reasoning model ay 0.12M na nakikitang sagot at 0.18M na reasoning. Kapag kinuwenta, lampas sampung beses ng linya ng Gemma 4 VL 26B ang linya ng GLM 5.3 para sa parehong user (magkatabi ang dalawa sa paghahambing ng Gemma 4 VL 26B vs GLM 5.3). Output ang pinakamalaking termino sa bawat reasoning model, at mahigit kalahati ng output na iyon ang reasoning token. Ilagay ang sarili mong mga sukat sa LLM API cost calculator para makuha ang numero mo.

Step 4: Bakit nakalilinlang ang average na user?

Hindi pantay ang paggamit ng AI feature. Sinusubukan ito ng karamihan ng user nang ilang beses; buong araw itong ginagamit ng maliit na grupo. Itinatago ng average ang grupong iyon, at ang grupong iyon ang nagpapalaki ng bill.

Mula sa usage log mo, kuwentahin kada user kada buwan:

  • Median na gastos. Kung magkano ang normal na user.
  • 90th percentile. Kung magkano ang heavy pero normal na user. Presyuhan ang tier mo para kumikita ka pa rin sa user na ito.
  • 99th percentile at maximum. Ang buntot. Kailangan ng mga user na ito ng fair-use limit, mas mataas na tier, o pagsuri kung automation o abuso ito.

Kung maraming beses ng median mo ang gastos ng 99th-percentile na user, hindi ito problema sa sarili nito; input ito sa pagpepresyo.

Step 5: Paano magtakda ng tier at limit?

Kapag alam na ang gastos kada user, nagiging desisyon sa margin ang pagpepresyo:

  1. Pagpasyahan ang target na gross margin para sa tier.
  2. Kuwentahin pabalik ang maximum na gastos sa AI kada user na pinapayagan ng margin na iyon.
  3. Ihambing ito sa 90th percentile mo. Kung kasya ang 90th percentile, gumagana ang tier. Kung hindi, bawasan ang gastos (Step 6), itaas ang presyo, o ilipat ang mabigat na paggamit sa mas mataas na tier.
  4. Isalin ang token sa unit na naiintindihan ng user. Hindi nag-iisip sa token ang mga user. Limitahan ang request kada araw, dokumento kada buwan o minuto ng audio, na sinukat para manatili sa loob ng cost ceiling mo ang pinakamabigat na pinapayagang paggamit.
  5. Suriin ulit buwan-buwan. Ginagalaw ng pagbabago sa prompt, mga bagong feature at pagpalit ng model ang gastos kada user.

Step 6: Paano bawasan ang gastos kada user nang hindi binabago ang produkto?

  • Mag-cache. Ilagay muna ang hindi nagbabagong system prompt at listahan ng tools. Sa DeepSeek V4.1 Flash, $0.0055 kada 1M ang cached input sa halip na $0.175. Paano itaas ang cache rate mo.
  • Ibaba ang reasoning. Kapag naka-low ang reasoning_effort para sa mga karaniwang request, nababawasan ang pinakamahal na token. Magkano ang reasoning.
  • Mag-route ayon sa hirap. Ipadala ang mga simpleng request sa Gemma 4 VL 26B at ireserba ang mga reasoning model para sa mahihirap.
  • Paikliin ang history. Ipinapadala ulit ng mahahabang usapan ang lahat sa bawat turn; i-summarize o putulin ang mas lumang turn kung kaya ng kalidad.
  • Lagyan ng cap ang output. I-set ang max_tokens kada feature, at mag-iwan ng puwang para sa reasoning sa mga reasoning model.

Mas marami pang kontrol sa kontrol sa gastos ng LLM API.

Puwede bang gamitin ang flat-rate plan para sa mga user ng SaaS?

Ang mga unlimited plan ng BroadNet para sa DeepSeek V4.1 Flash ($60 kada buwan kada session) ay puwedeng isama sa sarili mong app o serbisyo gamit ang sarili mong key, pero isang request sa bawat pagkakataon ang bawat session at hindi puwedeng ibahagi o ibenta ulit ang key. Kaya bagay ang plan sa back-end na trabaho na mababa ang concurrency: nightly report generator, summariser na pinapatakbo ng queue, internal na agent. Para sa interactive na traffic ng user na maraming sabay-sabay na request, ang karaniwang sagot ay mga pay-as-you-go key (4 na sabay-sabay na request bawat isa, 30 kada minuto) o ilang session. Tingnan ang plans page para sa kasalukuyang mga tuntunin.

Anong mga gastos ang nakapaligid sa model?

Bahagi lang ng linya ng AI ang gastos kada user mula sa token. Idagdag ang retrieval at vector storage, transcription (presyo kada minuto ng audio, halimbawa $0.0042 kada minuto para sa Arabic sa BroadNet), mga retry at evaluation run. Kung sumusulat sa Arabic o ibang wikang hindi English ang mga user mo, asahan ang mas maraming token kada mensahe kaysa sa English; sukatin ang token kada salita para sa sarili mong content.

Paano hahawakan ang free tier at trial?

Pinararami ng free tier ang gastos kada user sa mga user na walang binabayaran. Ituring ito na marketing spend: ibigay sa mga libreng user ang pinakamurang model na maayos pa ring nagpapakita ng feature, magtakda ng mas mahigpit na daily limit kaysa sa mga bayad na tier, at subaybayan ang gastos sa AI ng mga libreng user bilang hiwalay na linya. Kung nagko-convert ang mga libreng user, acquisition cost ang linyang iyon; kung hindi, pinananatiling maliit ito ng mga limit.

Buod

Sukatin ang token kada unit mula sa usage field, i-multiply sa inilathalang presyo, tingnan ang 90th percentile sa halip na mean, at doon ibatay ang presyo at limit ng tier. Tapos gawing mas mura ang bawat unit gamit ang caching, routing at mas mababang reasoning effort. Magsimula sa paraan ng pagkuwenta ng buwanang gastos kung wala ka pang nasusukat.

Mga tanong

Dapat ko bang singilin kada token ang mga user?

Bihira para sa end user; mas gusto ng karamihan ang flat na tier na may malinaw na limit. Sukatin ang token sa loob, magpresyo kada request, dokumento o seat, at panatilihin ang fair-use limit para sa pinakamabigat na buntot.

Puwede ko bang gamitin ang flat na BroadNet plan para sa mga user ng SaaS ko?

Pinapayagan ng BroadNet na isama ang plan sa sarili mong app o serbisyo gamit ang sarili mong key. Isang request sa bawat pagkakataon ang bawat session, kaya bagay ito sa back-end na agent o feature na mababa ang concurrency; ang traffic ng user na maraming sabay-sabay na request ay kadalasang nangangailangan ng pay-as-you-go key o ilang session.

Ilang porsiyento ng presyo ng subscription ang dapat na gastos sa AI?

Walang iisang numero para sa lahat. Pagpasyahan ang gross margin na kailangan ng negosyo mo, tapos kuwentahin pabalik kung magkano ang pinakamalaking puwedeng gastos ng isang heavy pero normal na user, at itakda ang limit ayon doon.

Gaano kadalas ko dapat kuwentahin ulit ang gastos kada user?

Tuwing papalitan mo ang prompt, ang model o ang feature, at hindi bababa sa isang beses kada buwan. Gumagalaw ang bilang ng token habang nagbabago ang mga prompt at ang behaviour ng user.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity