Harga tetap menukar meteran token dengan tagihan tetap. Pertanyaan yang berguna bukan “apakah ini unlimited?”, melainkan “apa yang dibatasi sebagai gantinya?”
Cara kerjanya
Harga tetap berarti “a single fixed fee for a service, regardless of usage” (terjemahan: satu biaya tetap untuk sebuah layanan, berapa pun pemakaiannya). Untuk API LLM, biaya itu membeli akses selama satu periode. Karena waktu GPU terbatas, setiap paket membatasi pemakaian dengan cara lain. Batas yang umum:
- kuota token atau pesan per hari, minggu, atau bulan;
- jendela waktu bergulir, misalnya beberapa jam, yang di-reset;
- batas mingguan di atas jendela tersebut;
- konkurensi: berapa banyak permintaan yang berjalan bersamaan;
- kecepatan, yang membatasi output per jam lewat token per detik;
- daftar model yang tetap dan klausul pemakaian wajar.
Untuk membandingkan paket dengan bayar sesuai pemakaian, hitung harga satu bulan trafik nyata Anda per token. Jika angkanya di atas harga paket, paket yang unggul, selama batasnya cocok dengan cara kerja Anda.
Kenapa ini penting
- Anggaran yang bisa diprediksi. Satu angka per bulan, tanpa kejutan dari loop percobaan ulang atau konteks panjang.
- Kebiasaan yang berbeda. Tanpa meteran, Anda bisa mengirim ulang konteks besar dan membiarkan model bernalar tanpa menghitung token.
- Risiko yang berbeda. Jika batasnya konkurensi, pekerjaan paralel akan mengantre. Jika batasnya jendela waktu, pekerjaan berhenti sampai jendela di-reset.
Di BroadNet Inference
BroadNet menjual tiga paket, semuanya untuk DeepSeek V4.1 Flash tanpa batas token, dengan harga per sesi:
| Paket | Harga | Periode |
|---|---|---|
| Full Moon | $60 | satu bulan, diperpanjang otomatis |
| Orbit | $15 | satu minggu |
| Meteor | $1 | satu jam |
Tidak ada meteran token, batas bulanan, jendela 5 jam, maupun batas mingguan. Batasnya adalah konkurensi: satu sesi menjalankan satu permintaan dalam satu waktu, dengan kecepatan umum sekitar 100 token per detik. Jalankan agen secara paralel dengan membeli satu sesi per agen.
Dalam contoh perhitungan BroadNet, dengan 80% cache hit, Full Moon mengalahkan harga per token pada sekitar 917 juta token input dan 46 juta token output per bulan. Baca harga tetap vs bayar per token, cara kerja sesi, dan apa yang perlu diperiksa di paket “unlimited” mana pun.
Kesalahan umum
- Membeli satu sesi untuk banyak worker paralel. Mereka akan saling mengantre.
- Membandingkan harga paket dengan harga token daftar sambil mengabaikan caching, yang menurunkan tagihan per token.