Agen coding tidak membayar per tugas. Ia membayar per langkah, dan setiap langkah mengirim ulang seluruh percakapan sejauh ini. Akibatnya, biaya satu run jauh lebih bergantung pada berapa langkah yang dibutuhkan, dan berapa banyak konteks yang ter-cache, daripada pada harga per token. Tulisan ini menyusun biaya satu run dari bagian-bagian itu, lengkap dengan angka, dan menunjukkan kapan sesi harga tetap mengalahkan bayar per token.
Untuk asal token di dalam setiap panggilan (skema tool, pembacaan file, riwayat), lihat ke mana token loop agen pergi. Tulisan ini membahas aritmetika satu run secara utuh.
Bagaimana konteks tumbuh selama run agen?
Setiap panggilan berisi:
- konteks dasar yang dikirim di setiap panggilan: system prompt, definisi tool, file aturan, repo map;
- semua yang ditambahkan oleh langkah sebelumnya: balasan dan tool call model, isi file, dan output perintah;
- instruksi atau hasil tool yang baru.
Sebut konteks dasar itu B dan token yang ditambahkan setiap langkah g. Langkah 1 mengirim B. Langkah 2 mengirim B + g. Langkah n mengirim B + (n − 1) × g. Jumlahkan semuanya, dan run dengan n langkah mengirim:
Total input = n × B + g × n × (n − 1) ÷ 2
Suku kedua tumbuh sebanding kuadrat jumlah langkah. Itulah sebabnya run yang panjang sering mengejutkan: langkah terakhir run 60 langkah jauh lebih besar daripada langkah pertama, dan setiap langkah di antaranya membayar lagi semua langkah sebelumnya.
Seperti apa contoh hitungan satu run?
Ambil agen dengan konteks dasar 15.000 token (system prompt, selusin tool, dan repo map). Setiap langkah menambah 3.000 token: satu file atau log tes plus balasan model itu sendiri. Setiap langkah menulis 800 token output, termasuk penalaran.
| Langkah | Total input | Output | Panggilan tunggal terbesar |
|---|---|---|---|
| 10 | 285.000 | 8.000 | 42.000 |
| 30 | 1.755.000 | 24.000 | 102.000 |
| 60 | 6.210.000 | 48.000 | 192.000 |
Dari 30 ke 60 langkah, pekerjaannya dua kali lipat, tetapi inputnya naik sekitar 3,5 kali. Output hanya naik dua kali. Di run-run ini input 36 sampai 130 kali output, itulah sebabnya harga input, dan harga input cache, paling menentukan untuk agen.
Panggilan terbesar juga harus muat di context window. 192.000 token muat di DeepSeek V4.1 Flash dan GLM 5.3 (masing-masing 1.048.576 token) serta Qwen3.8 27B (262.144). Tidak muat di Gemma 4 VL 26B (32.768): dalam contoh ini panggilan ketujuh saja sudah terlalu besar.
Seberapa besar caching mengubah tagihan?
Penyedia menagih prefiks prompt yang berulang dengan tarif input cache yang lebih rendah. Agen yang hanya menambah riwayat di akhir mengirim prefiks yang sama setiap kali plus sedikit tambahan, jadi dalam kasus terbaik hanya token yang ditambahkan sejak panggilan terakhir yang baru:
Input baru (kasus terbaik) = B + (n − 1) × g
Selebihnya adalah cache hit. Porsi input cache naik seiring run makin panjang:
| Langkah | Input baru, kasus terbaik | Porsi ter-cache |
|---|---|---|
| 10 | 42.000 | 85% |
| 30 | 102.000 | 94% |
| 60 | 192.000 | 97% |
Agen sungguhan jarang mencapai kasus terbaik, jadi ada gunanya menghitung tiga skenario. Dengan harga DeepSeek V4.1 Flash di BroadNet ($0.175 input, $0.0055 cache, $0.52 output per 1 juta token, dipublikasikan 2026-11-14), berikut biaya setiap run relatif terhadap kasus terbaik 30 langkah:
| Langkah | Cache terbaik | 80% ter-cache | Tanpa cache |
|---|---|---|---|
| 10 | 0,33× | 0,39× | 1,37× |
| 30 | 1× | 2,07× | 8,11× |
| 60 | 2,33× | 6,84× | 28,2× |
Ada dua hal yang menonjol. Tanpa cache, run 60 langkah berbiaya 28 kali run 30 langkah yang ter-cache dengan baik. Dan caching makin penting makin panjang run-nya. Pada kasus terbaik 30 langkah, output kira-kira sepertiga biaya, input baru kurang dari separuh, dan input cache kurang dari seperempat, jadi setelah caching, penghematan berikutnya ada di output.
Caching bukan sesuatu yang tinggal dinyalakan. Ia bergantung pada penyedia yang menyimpan prefiks dan pada agen Anda yang tidak mengubahnya. Panduan OpenAI menjelaskan pencocokan prefiks yang persis dengan panjang minimum yang bisa di-cache. API milik DeepSeek sendiri menyimpan unit cache di akhir input dan output setiap permintaan, jadi permintaan lanjutan yang memperpanjang permintaan sebelumnya bisa kena cache. Halaman harga BroadNet menyebut input cache tidak butuh setup, dan dokumentasinya melaporkan hit di usage.prompt_tokens_details.cached_tokens jika model menyediakannya. Katalog model BroadNet mencantumkan DeepSeek V4.1 Flash di antara “models we never ran on our hardware” (Terjemahan BroadRouter: model yang tidak pernah kami jalankan di hardware kami), dan Ketentuannya (§7.3) mencakup model itu “when partner-hosted” (Terjemahan BroadRouter: saat di-hosting oleh mitra), jadi di BroadNet model ini disajikan lewat mitra. Ukur hit rate Anda sendiri alih-alih mengandalkan angka milik DeepSeek. Tulis prefiks agar bisa di-cache: struktur prompt untuk caching.
Bagaimana mengestimasi run Anda sendiri?
Skrip ini membaca harga terkini dari pricing.json publik BroadNet, jadi tidak pernah basi, lalu mencetak total token dan biaya per run untuk setiap skenario cache:
import json, urllib.request
PRICES = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in PRICES["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
p_in, p_cached, p_out = m["input_per_m"], m["cached_input_per_m"], m["output_per_m"]
def run_tokens(steps, base=15_000, growth=3_000, out_per_step=800, cache_rate=None):
total_in = steps * base + growth * steps * (steps - 1) // 2
if cache_rate is None: # best case: only new tokens miss
new_in = base + (steps - 1) * growth
else:
new_in = round(total_in * (1 - cache_rate))
return total_in, new_in, steps * out_per_step
def run_cost(total_in, new_in, out):
return ((new_in * p_in) + (total_in - new_in) * p_cached + out * p_out) / 1e6
for steps in (10, 30, 60):
for label, rate in (("best", None), ("80%", 0.8), ("none", 0.0)):
t, n, o = run_tokens(steps, cache_rate=rate)
print(f"{steps:>3} steps cache {label:>4} input {t:>9,} new {n:>9,} "
f"output {o:>6,} cost/run {run_cost(t, n, o):.4f} USD")
Ganti nilai default dengan angka Anda sendiri. Jangan menebaknya; baca dari satu run nyata:
- Catat
prompt_tokens,prompt_tokens_details.cached_tokens, dancompletion_tokensuntuk setiap panggilan, seperti di tulisan anggaran token agen. - B adalah
prompt_tokensdari panggilan pertama. g adalah rata-rata kenaikanprompt_tokensdari satu panggilan ke panggilan berikutnya. - Output per langkah adalah rata-rata
completion_tokens. Angka ini sudah mencakup token penalaran, yang ditagih sebagai output. - Cache rate nyata Anda adalah jumlah
cached_tokensdibagi jumlahprompt_tokens.
Estimator biaya run agen gratis menjalankan perhitungan yang sama di browser, jadi Anda bisa mencoba jumlah langkah, laju pertambahan, dan cache rate lain tanpa kode.
Apa yang membuat run lebih mahal dari estimasi?
- Retry. Tool call yang gagal atau retry karena 429 adalah satu panggilan lagi dengan konteks penuh. Hitung sebagai langkah.
- Mengubah prefiks. Timestamp di system prompt, tool yang urutannya berubah, atau file aturan yang diedit di tengah run mengubah input cache kembali menjadi input baru mulai dari titik perubahan.
- Pemadatan (compaction). Meringkas riwayat memperkecil konteks, sehingga input berikutnya berkurang, tetapi riwayat baru itu belum pernah di-cache, jadi panggilan berikutnya membayar harga input penuh. Padatkan jarang dan dalam langkah besar; manajemen konteks untuk agen yang berjalan lama membahas kapan melakukannya.
- Output tool yang besar. Log tes 20.000 baris yang ditambahkan di langkah 5 ikut terbawa di setiap langkah berikutnya. Dalam rumus, itu menambah 20.000 × (langkah tersisa) token input.
- Reasoning effort. Effort tinggi bisa melipatgandakan output per langkah. Set
reasoning_effortkelowuntuk edit rutin. - Berputar-putar. Agen yang butuh 60 langkah untuk tugas 30 langkah membayar kuadratnya, bukan dua kali lipatnya. Batas langkah adalah batas biaya. Sepuluh cara menekan biaya agen coding membahas tuas-tuasnya.
Kapan sesi harga tetap mengalahkan bayar per token?
Ubah biaya per run menjadi angka bulanan: biaya bulanan = biaya per run × jumlah run per bulan. Lalu bandingkan dengan paket harga tetap. Di BroadNet, paket mencakup DeepSeek V4.1 Flash tanpa meteran token: Full Moon $60 per bulan, Orbit $15 per minggu, dan Meteor $1 per jam, masing-masing per sesi.
Jumlah run per bulan untuk titik impas = harga paket ÷ biaya per run.
Dua hal membuat perbandingan ini tidak sesederhana kelihatannya:
- Cache rate Anda menentukan sisi per token. Dengan cache rate tinggi, bayar per token di Flash itu murah dan Anda butuh banyak run untuk melewati $60. Dengan cache rate buruk, Anda cepat melewatinya. Tulisan harga tetap menunjukkan titik impas sebagai volume bulanan: sekitar 917 juta token input dan 46 juta token output dengan 80% ter-cache (hitungan titik impas).
- Waktu menentukan plafon sisi harga tetap. Satu sesi menjalankan satu permintaan dalam satu waktu. Jika satu panggilan rata-rata butuh 20 detik (prefill, sekitar 800 token output pada sekitar 100 token per detik, plus waktu tool), run 30 langkah butuh sekitar 10 menit. Satu sesi kemudian paling banyak memuat sekitar enam run per jam. Lebih banyak agen paralel butuh lebih banyak sesi.
Untuk lonjakan singkat, Meteor bekerja dengan cara yang sama dalam skala lebih kecil: jika enam run muat dalam satu jam, masing-masing berbiaya $1 ÷ 6. Bandingkan dengan biaya per token satu run dari skrip. Untuk mencoba volume Anda sendiri, pakai kalkulator harga tetap vs per token.
| Pola Anda | Biasanya lebih murah |
|---|---|
| Beberapa run singkat per hari | Per token |
| Run panjang dengan caching buruk | Sesi harga tetap |
| Agen berjalan hampir sepanjang jam kerja | Sesi harga tetap |
| Beberapa agen paralel, seharian | Satu sesi harga tetap per agen |
| Butuh tool calling native di BroadNet | Per token di GLM 5.3 atau Qwen3.8 27B |
Di mana posisi BroadNet Inference?
BroadNet melaporkan token cache dan token penalaran di blok usage, jadi Anda bisa mengukur setiap angka di atas dari run Anda sendiri. DeepSeek V4.1 Flash punya harga input cache yang rendah dan konteks 1.048.576 token, dan paket unlimited menghapus meteran tokennya; cara kerja sesi.
Cek satu batasan dulu. Dokumentasi BroadNet mencantumkan tool calling hanya untuk GLM 5.3 dan Qwen3.8 27B, dan keduanya tidak ada di paket harga tetap. Agen yang mengedit lewat teks, seperti Aider, tidak butuh tool call native. Jika agen Anda butuh, uji DeepSeek V4.1 Flash dengan agen Anda sebelum membeli paket, atau anggarkan GLM atau Qwen per token. Dan jika agen Anda hanya sesekali berjalan, bayar per token biasanya lebih murah daripada paket harga tetap mana pun.
