---
title: "Apakah token input cache? Kurangkan bil API LLM anda"
description: "Input cache berharga sebahagian kecil input biasa. Cara prompt caching dibilkan, cara membaca cached_tokens dalam usage, dan cara menyusun prompt untuk mengenainya."
url: https://broadrouter.com/ms/blog/cached-input-tokens-explained/
lang: ms
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/cached-input-tokens-explained/) (dikemas kini 2026-11-15).

# Token input cache: cara mengurangkan bil API LLM

Oleh pasukan BroadNet Inference · 5 minit bacaan · Diterbitkan 2026-11-14 · Dikemas kini 2026-11-15

Token input cache ialah token prompt yang telah diproses oleh penyedia dan boleh digunakan semula, jadi ia dibilkan pada kadar lebih rendah. Di BroadNet Inference, DeepSeek V4.1 Flash mengebil input cache pada $0.0055 bagi setiap 1M token berbanding $0.175 untuk input baharu. Letakkan bahagian stabil setiap prompt di hadapan dan kekalkannya sama antara panggilan untuk mendapat diskaun.

## Perkara utama

-   Input cache DeepSeek V4.1 Flash: $0.0055 bagi setiap 1M token; input baharu: $0.175.
-   Blok usage melaporkan `prompt_tokens_details.cached_tokens` apabila model melaporkannya, jadi anda boleh mengukur kadar cache anda.
-   Letakkan kandungan stabil dahulu (system prompt, tools, dokumen) dan kandungan yang berubah di akhir.
-   Cache dipadankan dari permulaan prompt. Satu token yang berubah di awal menjadikan semua yang selepasnya baharu.
-   Ejen yang menghantar semula konteks repositori yang sama pada setiap giliran paling banyak mendapat manfaat.

**Dalam halaman ini**

1.  Apakah token input cache?
2.  Berapakah kos token cache di BroadNet Inference?
3.  Berapa banyak yang boleh dijimatkan oleh cache? Contoh pengiraan
4.  Bagaimanakah melihat token cache dalam respons API?
5.  Bagaimanakah prompt caching berbeza antara OpenAI, Anthropic dan DeepSeek?
6.  Apakah yang merendahkan kadar cache anda?
7.  Bilakah cache tidak lagi penting?
8.  Mengapakah cache lebih penting dengan konteks panjang?
9.  Di manakah BroadNet Inference sesuai

Kebanyakan apa yang dihantar oleh ejen kepada LLM adalah sama pada setiap giliran: system prompt, definisi tools, fail yang sedang diusahakan dan perbualan setakat ini. Hanya mesej terakhir yang baharu. Dengan prompt caching, penyedia tidak mengebil bahagian berulang itu pada harga penuh.

## Apakah token input cache?

Setiap permintaan terdiri daripada [token input dan output](https://broadrouter.com/ms/glossary/input-and-output-tokens/). Sebelum model boleh menjawab, ia memproses keseluruhan prompt. Jika permintaan sebelumnya bermula dengan token yang sama tepat, sistem penyajian boleh menggunakan semula kerja itu dan tidak perlu mengulanginya. Bahagian yang digunakan semula dilaporkan sebagai [token input cache](https://broadrouter.com/ms/glossary/cached-input-tokens/) dan dibilkan pada kadar lebih rendah.

Dua perkara berikut terhasil daripada cara ia berfungsi:

-   **Hanya prefix yang di-cache.** Padanan bermula dari token pertama ke hadapan dan berhenti pada perbezaan pertama.
-   **Jawapan tidak pernah di-cache.** Model masih menjana output baharu, yang dibilkan pada harga output penuh.

## Berapakah kos token cache di BroadNet Inference?

Bagi setiap 1 juta token, daripada fail harga yang diterbitkan:

| Model | Input baharu | Input cache | Output |
| --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) | $0.175 | $0.0055 | $0.52 |
| [GLM 5.3](https://broadrouter.com/ms/models/glm-5.3/) | $0.78 | $0.173 | $3.46 |
| [Qwen3.8 27B](https://broadrouter.com/ms/models/qwen3.8-27b/) | $0.175 | $0.0435 | $2.17 |

Bagi DeepSeek V4.1 Flash jurangnya besar: bandingkan $0.0055 bagi setiap 1M token cache dengan $0.175 bagi setiap 1M token baharu. Bagi ejen yang menghantar semula repositori 200,000 token pada setiap giliran, kadar cache menentukan sebahagian besar bil.

## Berapa banyak yang boleh dijimatkan oleh cache? Contoh pengiraan

Ejen pengekodan menghantar prompt 200,000 token sebanyak 100 kali dalam satu hari bekerja. Itu 20 juta token input sehari.

| Kadar cache | Token input baharu | Token input cache |
| --- | --- | --- |
| 0% | 20M pada $0.175 bagi setiap 1M | 0 |
| 50% | 10M pada $0.175 bagi setiap 1M | 10M pada $0.0055 bagi setiap 1M |
| 90% | 2M pada $0.175 bagi setiap 1M | 18M pada $0.0055 bagi setiap 1M |

Formula untuk bil input harian ialah `new tokens (M) × input price + cached tokens (M) × cached price`. Pada 90%, 18M daripada 20M token input dibilkan pada harga cache dan bukannya harga input penuh, jadi semakin besar jurang antara kedua-dua harga, semakin banyak bil input yang anda jimatkan. Output tidak berubah. Cuba angka anda sendiri dalam [kalkulator prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/).

## Bagaimanakah melihat token cache dalam respons API?

Rujukan API BroadNet menyatakan bahawa apabila model melaporkannya, objek `usage` membawa `prompt_tokens_details.cached_tokens`: token prompt yang dibaca daripada cache, dibilkan pada harga cache. Dalam [strim](https://broadrouter.com/ms/glossary/streaming/), minta usage dalam cebisan terakhir:

```python
from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
messages = [
    {"role": "system", "content": "You are a code reviewer."},  # stable prefix: keep it identical
    {"role": "user", "content": "Review the diff below."},
]
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=messages,
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.usage:
        u = chunk.usage
        cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
        print(f"prompt={u.prompt_tokens} cached={cached} rate={cached / max(1, u.prompt_tokens):.0%}")
```

Log kadar itu bagi setiap permintaan selama sehari. Ia memberitahu apa yang sebenarnya anda bayar, dan itulah angka untuk dimasukkan ke dalam [kalkulator prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/). Maklumat lanjut tentang usage semasa penstriman ada dalam [panduan penstriman](https://broadrouter.com/ms/guides/streaming-chat-completions/).

## Bagaimanakah prompt caching berbeza antara OpenAI, Anthropic dan DeepSeek?

Cache tidak diseragamkan. Inilah kata dokumentasi rasmi semasa kami menyemaknya pada 14 November 2026:

|  | OpenAI | Anthropic | DeepSeek (API langsung) |
| --- | --- | --- | --- |
| Pengaktifan | Secara lalai untuk model yang disokong | Pilih masuk dengan medan `cache_control` (automatik atau setiap blok) | Secara lalai untuk semua pengguna |
| Prompt minimum | 1,024 token pada GPT-5.6 dan lebih baharu | 512 hingga 4,096 token, bergantung pada model | Tiada minimum dinyatakan |
| Hayat cache | 30 minit secara lalai pada GPT-5.6 dan lebih baharu; pilihan 12 jam | 5 minit secara lalai, 1 jam dengan kos tambahan | Usaha terbaik; dikosongkan apabila tidak digunakan, “a few hours to a few days” (Terjemahan: beberapa jam hingga beberapa hari) |
| Penulisan | 1.25× input (30 minit) atau 2.5× (12 jam) pada GPT-5.6 dan lebih baharu | 1.25× input untuk 5 minit, 2× untuk 1 jam | Tiada caj penulisan disebut |
| Pembacaan | 0.1× input pada GPT-5.6 dan lebih baharu (0.05× pada GPT-6.1 Sol dan Terra) | 0.1× input pada kebanyakan model, lebih rendah pada sesetengahnya | Harga “cache hit” (Terjemahan: kena cache) berasingan |
| Medan usage | `cached_tokens` dalam butiran token | `cache_read_input_tokens` | `prompt_cache_hit_tokens` |

Sumber: [panduan prompt caching OpenAI](https://developers.openai.com/api/docs/guides/prompt-caching), [dokumentasi prompt caching Anthropic](https://platform.claude.com/docs/en/build-with-claude/prompt-caching) dan [dokumentasi context caching DeepSeek](https://api-docs.deepseek.com/guides/kv_cache). Jika penulisan dikenakan kos tambahan, cache yang ditulis tetapi tidak pernah dibaca berharga lebih daripada tiada cache langsung. Cache hanya berbaloi pada prompt yang benar-benar anda ulang. Untuk membandingkan harga senarai setiap model, lihat [jadual harga API LLM](https://broadrouter.com/llm-api-pricing/).

## Apakah yang merendahkan kadar cache anda?

Cache memadankan prefix yang tepat, jadi apa-apa yang berubah di awal prompt menjadikan selebihnya baharu. Punca biasa:

-   cap masa, ID permintaan atau nama pengguna berhampiran bahagian atas system prompt;
-   definisi tools atau JSON yang disirikan dengan susunan kunci berbeza pada setiap panggilan, yang mengubah [token](https://broadrouter.com/ms/glossary/token/);
-   ejen yang menulis semula atau meringkaskan sejarahnya dan bukannya menambah di hujung;
-   jeda panjang, selepas itu cache telah tamat tempoh.

Pembetulannya ialah susunan lapisan yang tetap (system prompt, tools, dokumen, sejarah, mesej baharu) dengan setiap lapisan sama bait demi bait antara panggilan. Panduan kami tentang [cara menyusun prompt supaya prefix di-cache](https://broadrouter.com/ms/blog/prompt-structure-for-caching/) menunjukkan susun atur itu dalam kod, dengan ujian yang membuktikan prefix digunakan semula.

## Bilakah cache tidak lagi penting?

Pada pelan harga tetap, bil tidak bergantung pada token langsung. Full Moon berharga $60 sebulan bagi setiap sesi untuk DeepSeek V4.1 Flash tanpa had. Jika ejen anda sudah melepasi [titik pulang modal](https://broadrouter.com/ms/blog/flat-rate-vs-pay-per-token-llm-api/), kadar cache bukan lagi masalah kos. Pada prompt panjang, tabiat di atas masih membantu kelajuan, jadi ia berbaloi dikekalkan walau apa pun pilihan anda.

## Mengapakah cache lebih penting dengan konteks panjang?

DeepSeek V4.1 Flash dan GLM 5.3 menerima sehingga 1,048,576 token bagi setiap permintaan. Cache ialah apa yang menjadikan prompt yang sangat panjang mampu dibayar pada kunci setiap token, kerana bahagian besar dan berulang dalam [tetingkap konteks](https://broadrouter.com/ms/glossary/context-window/) dibilkan pada kadar cache. Lihat [bilakah tetingkap konteks 1M token berbaloi](https://broadrouter.com/ms/blog/million-token-context-window-guide/).

## Di manakah BroadNet Inference sesuai

BroadNet menerbitkan harga input cache untuk setiap model chat yang mempunyainya dan melaporkan token cache dalam usage apabila model melaporkannya, jadi anda boleh mengukur kadar anda sebelum membuat komitmen. Ia tidak menerbitkan hayat cache atau panjang prompt minimum, jadi ukur kedua-duanya pada trafik anda sendiri. Jika ejen anda berjalan sepanjang hari, pelan harga tetap menghapuskan soalan ini sepenuhnya.

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [Prompt caching savings calculator](https://broadrouter.com/tools/prompt-caching-calculator/) Bill with and without caching, by prefix share and hit rate.
-   [Prompt token diff](https://broadrouter.com/tools/prompt-token-diff/) Two prompt versions side by side: changed lines, exact token delta and the monthly cost difference.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Token input cache (cached input tokens)](https://broadrouter.com/ms/glossary/cached-input-tokens/)

Token input cache ialah token prompt yang baru sahaja diproses oleh penyedia LLM dan boleh diguna semula daripada cache tanpa dikira semula, biasanya awalan yang berulang seperti prompt sistem atau dokumen. Penyedia mengebilnya pada kadar lebih rendah daripada token input baharu.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

[Prompt sistem (system prompt)](https://broadrouter.com/ms/glossary/system-prompt/)

Prompt sistem ialah teks arahan yang dihantar oleh aplikasi kepada model bahasa sebelum perbualan, biasanya sebagai mesej dengan peranan system atau developer. Ia menetapkan peranan, peraturan, nada dan format output model, dan model sepatutnya mengutamakannya berbanding mesej pengguna yang bercanggah.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Penstriman (streaming)](https://broadrouter.com/ms/glossary/streaming/)

Penstriman ialah cara memulangkan respons model bahasa dalam cebisan kecil semasa ia masih dijana, dan bukan sebagai satu jawapan di penghujung. API serasi OpenAI menstrim melalui server-sent events apabila permintaan menetapkan stream kepada true.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Pelan LLM harga tetap (flat-rate LLM plan)](https://broadrouter.com/ms/glossary/flat-rate-llm-plan/)

Pelan LLM harga tetap mengenakan harga tetap bagi satu tempoh, seperti sebulan, untuk akses kepada API model bahasa dan bukannya mengebil setiap token. Pelan sebegini biasanya mengehadkan perkara lain, seperti keserentakan, kelajuan, model atau tetingkap penggunaan, jadi hadnya sama penting dengan harganya.

## Soalan lazim

### Adakah saya perlu mengaktifkan prompt caching?

Bergantung pada penyedia. OpenAI dan DeepSeek membuat cache secara automatik; Anthropic memerlukan medan cache\_control. Di BroadNet Inference, semak blok usage: apabila model melaporkan token cache, ia muncul sebagai prompt\_tokens\_details.cached\_tokens dan dibilkan pada harga input cache.

### Bagaimanakah saya menyemak sama ada prompt caching berfungsi?

Minta usage pada setiap permintaan dan kira cached\_tokens dibahagi dengan prompt\_tokens. Kadar hampir sifar pada panggilan kedua bagi prompt panjang yang berulang bermaksud sesuatu di awal prompt berubah antara panggilan.

### Mengapakah kadar cache saya rendah?

Biasanya kerana sesuatu di awal prompt berubah pada setiap panggilan, seperti cap masa, ID permintaan atau senarai tools yang disusun semula. Pindahkan kandungan yang berubah ke hujung.

### Apakah perbezaan antara prompt caching dan response caching?

Prompt caching menggunakan semula kerja penyedia pada prefix prompt yang berulang, dan model masih menulis jawapan baharu. Response caching ialah sesuatu yang anda bina sendiri, menyimpan keseluruhan jawapan dan memulangkannya untuk soalan yang sama tanpa memanggil model.

### Adakah token cache percuma?

Tidak. Ia dibilkan pada kadar lebih rendah, bukan sifar. Pada DeepSeek V4.1 Flash, input cache berharga $0.0055 bagi setiap 1M token, dan output dibilkan sepenuhnya.

### Adakah cache penting pada pelan tanpa had?

Tidak untuk bil, kerana sesi pelan tiada meter token. Ia masih memendekkan masa ke token pertama pada prompt panjang dalam banyak sistem penyajian, jadi tabiat yang sama tetap membantu.

## Teruskan membaca

-   [Cara menyusun prompt supaya prefix di-cache](https://broadrouter.com/ms/blog/prompt-structure-for-caching/)
-   [Harga API LLM dijelaskan: input, cache, output dan penaakulan](https://broadrouter.com/ms/blog/llm-api-pricing-explained/)
-   [API LLM kadar tetap vs bayar setiap token: kiraan pulang modal](https://broadrouter.com/ms/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Bila tetingkap konteks 1M token berbaloi (dan bila tidak)](https://broadrouter.com/ms/blog/million-token-context-window-guide/)
-   [Cache respons API LLM untuk jimat kos: cache padanan tepat Python](https://broadrouter.com/ms/blog/cache-llm-responses-cut-cost/)
-   [Perubahan harga API LLM Oktober 2026: 3 kenaikan, tiada penurunan](https://broadrouter.com/ms/blog/llm-api-price-changes-october-2026/)
-   [Berapa kerap harga API LLM berubah? 3 tahun halaman harga berarkib](https://broadrouter.com/ms/blog/how-often-llm-api-prices-change/)
-   [Panduan: Strim chat completions dan kendalikan sambungan yang terputus](https://broadrouter.com/ms/guides/streaming-chat-completions/)
-   [Panduan: Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-cached-input-tokens-explained&utm_content=page-cta) ·

**Sumber**

-   [Rujukan API BroadNet Inference, token penaakulan dan cache (disemak 2026-11-14) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-cached-input-tokens-explained&utm_content=sources)
-   [Harga BroadNet Inference yang boleh dibaca mesin (pricing.json, disemak 2026-11-14) (Bahasa Inggeris)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-cached-input-tokens-explained&utm_content=sources)
-   [Panduan prompt caching OpenAI (disemak 2026-11-14)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Dokumentasi prompt caching Anthropic (disemak 2026-11-14)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [Dokumentasi API DeepSeek, context caching (disemak 2026-11-14)](https://api-docs.deepseek.com/guides/kv_cache)
