BroadRouter

Kos LLM setiap pengguna: ekonomi unit ciri AI SaaS

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan

Kos LLM setiap pengguna = permintaan setiap pengguna aktif sebulan × token setiap permintaan × harga token setiap 1M. Ukurnya bagi setiap ciri daripada medan usage, tetapkan harga peringkat berdasarkan pengguna persentil ke-90 dan bukannya purata, dan tambah had penggunaan wajar untuk hujung taburan. Model lebih murah, caching dan usaha penaakulan rendah terus mengurangkan angka itu.

Menambah ciri AI pada produk SaaS mengubah struktur kosnya. Pengehosan dan storan berkos lebih kurang sama bagi setiap pengguna; panggilan LLM berkos lebih apabila seseorang lebih banyak menggunakannya. Jika anda meletakkan harga ciri tanpa mengetahui kos seorang pengguna aktif, beberapa pelanggan yang bersemangat boleh menukar pelan yang menguntungkan kepada kerugian. Catatan ini menunjukkan cara mengira kos LLM setiap pengguna, mengapa purata ialah angka yang salah, dan cara menggunakannya untuk menetapkan peringkat.

Bagaimanakah anda mengira kos LLM setiap pengguna?

Bagi satu ciri dan satu model:

cost per user per month =
    requests per active user per month
  × [ new input tokens × input price
    + cached tokens    × cached price
    + output tokens    × output price ] / 1,000,000

Output termasuk token penaakulan pada model penaakulan, dan imej dikira sebagai token input pada kunci bayar ikut guna. Jika anda perlu mengulang kaji tiga harga itu, baca cara harga API LLM berfungsi.

Jumlahkan ciri-ciri yang digunakan oleh seorang pengguna untuk mendapatkan jumlah kos AI setiap pengguna.

Langkah 1: Apakah yang dikira sebagai pengguna aktif, dan apakah unitnya?

Pilih definisi yang sudah anda laporkan, seperti pengguna yang menggunakan ciri AI sekurang-kurangnya sekali dalam bulan itu. Kemudian pilih unit yang secara semula jadi dihasilkan oleh ciri anda: satu giliran chat, satu dokumen yang dijana, satu fail yang dianalisis, satu panggilan yang diringkaskan. Kos setiap unit lebih stabil daripada kos setiap pengguna dan lebih mudah difahami.

Langkah 2: Bagaimanakah anda mengukur token setiap unit?

Jangan menganggarkannya daripada bilangan perkataan. Log blok usage setiap respons dengan tag ciri dan ID pengguna atau akaun yang dicincang: token prompt, token cache dan token completion, satu baris bagi setiap cubaan. Catatan pengelogan penggunaan mempunyai pembalut sedia guna dan SQL untuk mengumpulkan kos mengikut pengguna dan ciri. Sebelum anda mempunyai trafik, pengira token memberikan anggaran awal daripada contoh prompt.

Untuk balasan yang distrim, minta data penggunaan dalam cebisan terakhir dengan stream_options={"include_usage": True}; lihat panduan penstriman. Kira setiap cubaan, termasuk cubaan semula, kerana setiap cubaan yang sampai ke model dibilkan.

Langkah 3: Berapakah kos pengguna biasa? Contoh kiraan

Katakan produk anda mempunyai pembantu dalam aplikasi. Anda mengukur, bagi seorang pengguna aktif biasa dalam sebulan:

Ukuran Nilai
Hari aktif 20
Permintaan pembantu setiap hari aktif 15
Token input setiap permintaan 3,000 (separuh daripada cache)
Token jawapan yang kelihatan setiap permintaan 400
Token penaakulan setiap permintaan (model penaakulan) kira-kira 600

Itu bermakna 300 permintaan sebulan: kira-kira 900,000 token input, 450,000 daripadanya daripada cache, dan 120,000 token output yang kelihatan, serta kira-kira 180,000 token penaakulan pada model penaakulan.

Gunakan harga setiap 1M BroadNet. Bilangan token dalam juta, jadi setiap sebutan ialah juta token × harga setiap 1M:

Model Input / cache / output setiap 1M Bulan pengguna ini
Gemma 4 VL 26B $0.10 / tiada kadar cache / $0.22 0.9 × $0.10 (semua input pada harga penuh) + 0.12 × $0.22 (tiada token penaakulan) = $0.12
DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 0.45 × $0.175 + 0.45 × $0.0055 + 0.3 × $0.52 = $0.24
Qwen3.8 27B $0.175 / $0.0435 / $2.17 0.45 × $0.175 + 0.45 × $0.0435 + 0.3 × $2.17 = $0.75
GLM 5.3 $0.78 / $0.173 / $3.46 0.45 × $0.78 + 0.45 × $0.173 + 0.3 × $3.46 = $1.47

0.3M output pada model penaakulan terdiri daripada 0.12M jawapan yang kelihatan dan 0.18M penaakulan. Setelah dikira, baris GLM 5.3 mencapai lebih sepuluh kali ganda baris Gemma 4 VL 26B bagi pengguna yang sama (perbandingan Gemma 4 VL 26B vs GLM 5.3 menunjukkan kedua-duanya bersebelahan). Output ialah sebutan terbesar pada setiap model penaakulan, dan token penaakulan ialah lebih separuh daripada output itu. Masukkan ukuran anda sendiri ke dalam kalkulator kos API LLM untuk mendapatkan angka anda.

Langkah 4: Mengapakah pengguna purata mengelirukan?

Penggunaan ciri AI tidak sekata. Kebanyakan pengguna mencuba ciri itu beberapa kali; sekumpulan kecil menggunakannya sepanjang hari. Purata menyembunyikan kumpulan itu, dan kumpulan itulah yang memacu bil.

Daripada log penggunaan anda, kira bagi setiap pengguna sebulan:

  • Kos median. Kos pengguna normal.
  • Persentil ke-90. Kos pengguna berat tetapi normal. Tetapkan harga peringkat anda supaya pengguna ini masih menguntungkan.
  • Persentil ke-99 dan maksimum. Hujung taburan. Pengguna ini memerlukan had penggunaan wajar, peringkat lebih tinggi, atau semakan untuk automasi dan penyalahgunaan.

Jika pengguna persentil ke-99 anda berkos berkali-kali ganda median, itu bukan masalah dengan sendirinya; ia ialah input untuk penetapan harga.

Langkah 5: Bagaimanakah anda menetapkan peringkat dan had?

Apabila kos setiap pengguna diketahui, penetapan harga menjadi keputusan margin:

  1. Tentukan sasaran margin kasar untuk peringkat itu.
  2. Kira ke belakang kos AI maksimum setiap pengguna yang dibenarkan oleh margin itu.
  3. Bandingkan dengan persentil ke-90 anda. Jika persentil ke-90 muat, peringkat itu berfungsi. Jika tidak, kurangkan kos (Langkah 6), naikkan harga, atau pindahkan penggunaan berat ke peringkat lebih tinggi.
  4. Terjemahkan token kepada unit yang difahami pengguna. Pengguna tidak berfikir dalam token. Hadkan permintaan sehari, dokumen sebulan atau minit audio, bersaiz supaya penggunaan paling berat yang dibenarkan kekal dalam siling kos anda.
  5. Semak semula setiap bulan. Perubahan prompt, ciri baharu dan pertukaran model semuanya mengubah kos setiap pengguna.

Langkah 6: Bagaimanakah anda mengurangkan kos setiap pengguna tanpa mengubah produk?

  • Gunakan cache. Letakkan prompt sistem yang stabil dan senarai alat di hadapan. Pada DeepSeek V4.1 Flash, input cache berkos $0.0055 setiap 1M dan bukannya $0.175. Cara meningkatkan kadar cache anda.
  • Kurangkan penaakulan. reasoning_effort yang ditetapkan kepada low untuk permintaan rutin mengurangkan token yang paling mahal. Kos penaakulan.
  • Halakan mengikut kesukaran. Hantar permintaan ringkas ke Gemma 4 VL 26B dan simpan model penaakulan untuk yang sukar.
  • Pangkas sejarah. Perbualan panjang menghantar semula segala-galanya pada setiap giliran; ringkaskan atau potong giliran lama jika kualiti membenarkan.
  • Hadkan output. Tetapkan max_tokens bagi setiap ciri, dengan ruang untuk penaakulan pada model penaakulan.

Lebih banyak kawalan dalam kawalan perbelanjaan API LLM.

Bolehkah pelan kadar tetap melayan pengguna SaaS?

Pelan tanpa had BroadNet untuk DeepSeek V4.1 Flash ($60 sebulan bagi setiap sesi) boleh dibina ke dalam aplikasi atau perkhidmatan anda sendiri di bawah kunci anda sendiri, tetapi setiap sesi menjalankan satu permintaan pada satu masa dan kunci itu tidak boleh dikongsi atau dijual semula. Ini menjadikan pelan sesuai untuk kerja bahagian belakang dengan keserentakan rendah: penjana laporan malam, peringkas yang dipacu baris gilir, ejen dalaman. Untuk trafik pengguna interaktif dengan banyak permintaan serentak, kunci bayar ikut guna (4 permintaan serentak setiap satu, 30 seminit) atau beberapa sesi ialah jawapan biasa. Semak halaman pelan untuk terma semasa.

Apakah kos yang berada di sekeliling model?

Kos setiap pengguna daripada token hanyalah sebahagian daripada baris AI. Tambah carian semula (retrieval) dan storan vektor, transkripsi (diharga setiap minit audio, contohnya $0.0042 seminit untuk bahasa Arab di BroadNet), cubaan semula dan larian penilaian. Jika pengguna anda menulis dalam bahasa Arab atau bahasa bukan Inggeris lain, jangkakan lebih banyak token setiap mesej berbanding bahasa Inggeris; ukur token setiap perkataan untuk kandungan anda sendiri.

Bagaimanakah anda mengendalikan peringkat percuma dan percubaan?

Peringkat percuma mendarabkan kos setiap pengguna dengan pengguna yang tidak membayar apa-apa. Anggap ia sebagai perbelanjaan pemasaran: berikan pengguna percuma model paling murah yang masih menunjukkan ciri itu dengan baik, tetapkan had harian lebih ketat daripada peringkat berbayar, dan jejak kos AI pengguna percuma sebagai baris tersendiri. Jika pengguna percuma bertukar menjadi pelanggan, baris itu ialah kos pemerolehan; jika tidak, had itu memastikannya kecil.

Ringkasan

Ukur token setiap unit daripada medan usage, darabkan dengan harga yang diterbitkan, lihat persentil ke-90 dan bukannya min, dan tetapkan harga serta had peringkat berdasarkannya. Kemudian jadikan setiap unit lebih murah dengan caching, penghalaan dan usaha penaakulan yang lebih rendah. Mulakan dengan kaedah kos bulanan jika anda belum mengukur apa-apa.

Soalan lazim

Patutkah saya mengenakan bayaran setiap token kepada pengguna?

Jarang untuk pengguna akhir; kebanyakannya lebih suka peringkat tetap dengan had yang jelas. Ukur token secara dalaman, letakkan harga mengikut permintaan, dokumen atau tempat duduk, dan kekalkan had penggunaan wajar untuk hujung taburan yang paling berat.

Bolehkah saya menggunakan pelan kadar tetap BroadNet untuk melayan pengguna SaaS saya?

BroadNet membenarkan pelan dibina ke dalam aplikasi atau perkhidmatan anda sendiri di bawah kunci anda sendiri. Setiap sesi menjalankan satu permintaan pada satu masa, jadi ia sesuai untuk ejen bahagian belakang atau ciri berkeserentakan rendah; trafik pengguna dengan banyak permintaan serentak biasanya memerlukan kunci bayar ikut guna atau beberapa sesi.

Berapakah bahagian harga langganan yang patut menjadi kos AI?

Tiada angka sejagat. Tentukan margin kasar yang diperlukan oleh perniagaan anda, kemudian kira ke belakang kos maksimum seorang pengguna berat yang normal, dan tetapkan had yang sepadan.

Berapa kerapkah saya patut mengira semula kos setiap pengguna?

Setiap kali anda menukar prompt, model atau ciri, dan sekurang-kurangnya sebulan sekali. Bilangan token berubah apabila prompt dan tingkah laku pengguna berubah.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity