---
title: "Tetingkap konteks 1M token: bila ia membantu dan kosnya"
description: "Apa yang muat dalam 1,048,576 token, kosnya pada DeepSeek V4.1 Flash, cara penaakulan dan cache mengubah kiraan, dan bila RAG masih menjadi pilihan lebih baik."
url: https://broadrouter.com/ms/blog/million-token-context-window-guide/
lang: ms
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/million-token-context-window-guide/) (dikemas kini 2026-11-14).

# Bila tetingkap konteks 1M token berbaloi (dan bila tidak)

Oleh pasukan BroadNet Inference · 4 minit bacaan · Diterbitkan 2026-11-14

Tetingkap konteks 1M token membolehkan satu permintaan memuatkan keseluruhan pangkalan kod, satu set kontrak atau berjam-jam transkrip, jadi model melihat segala-galanya serentak dan bukannya serpihan yang didapatkan semula. Ia berbaloi untuk penaakulan merentas fail dan analisis sekali sahaja; untuk carian berulang dalam korpus yang besar dan berubah, pendapatan semula lebih murah. DeepSeek V4.1 Flash dan GLM 5.3 menerima 1,048,576 token.

## Perkara utama

-   DeepSeek V4.1 Flash dan GLM 5.3 menerima 1,048,576 token setiap permintaan, prompt dan jawapan bersama.
-   Konteks panjang mengatasi pendapatan semula apabila jawapan bergantung pada hubungan merentas banyak fail atau dokumen.
-   Pendapatan semula (RAG) masih menang untuk banyak carian kecil dalam korpus yang besar dan berubah.
-   Model menggunakan input panjang secara tidak sekata. Kajian menunjukkan ketepatan menurun bagi fakta yang tertimbus di tengah dan apabila input bertambah.
-   Cache mengurangkan kos menghantar semula prompt panjang yang sama; pada pelan tanpa had, prompt panjang tidak menambah kos.
-   Tinggalkan ruang untuk token penaakulan di dalam tetingkap.

**Dalam halaman ini**

1.  Apakah yang muat dalam sejuta token?
2.  Model BroadNet manakah yang mempunyai tetingkap konteks 1M token?
3.  Bilakah tetingkap 1M token berbaloi?
4.  Bilakah pendapatan semula masih pilihan lebih baik?
5.  Adakah model benar-benar menggunakan keseluruhan tetingkap?
6.  Berapakah kos prompt sejuta token?
7.  Berapa banyak ruang yang patut ditinggalkan untuk jawapan?
8.  Cara menyediakan pangkalan kod untuk prompt 1M token
9.  Di manakah BroadNet Inference sesuai

_[image: Light shining through towering cliffs made of stacked paper pages.]_

[Tetingkap konteks](https://broadrouter.com/ms/glossary/context-window/) telah berkembang daripada beberapa ribu token kepada lebih sejuta. [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) dan [GLM 5.3](https://broadrouter.com/ms/models/glm-5.3/) di BroadNet Inference menerima **1,048,576 token setiap permintaan**, prompt dan jawapan bersama. Ini mengubah cara anda boleh membina, tetapi ia tidak menjadikan setiap prompt lebih baik.

## Apakah yang muat dalam sejuta token?

Sebagai panduan kasar: 1,000 perkataan prosa Inggeris menjadi kira-kira 1,290 [token](https://broadrouter.com/ms/glossary/token/), purata merentas lima tokenizer, dalam [set data kecekapan tokenizer](https://broadrouter.com/data/tokenizer-efficiency/) kami, jadi sejuta token ialah lebih kurang 810,000 perkataan prosa biasa:

| Kandungan | Lebih kurang |
| --- | --- |
| Pangkalan kod bersaiz sederhana (puluhan ribu baris) | Muat, dengan ruang berlebihan |
| Beberapa kontrak panjang dengan jadual | Muat |
| Transkrip mesyuarat sehari | Muat |
| Monorepo besar dengan kebergantungan | Selalunya tidak; pilih direktori |

Kiraan token bergantung pada bahasa dan kandungan. Kod dan teks Arab selalunya menggunakan lebih banyak token setiap aksara berbanding prosa Inggeris. Ukur dengan blok `usage` pada permintaan sebenar dan bukannya menganggar, atau semak sampel dalam [kalkulator tetingkap konteks](https://broadrouter.com/tools/context-window-calculator/).

## Model BroadNet manakah yang mempunyai tetingkap konteks 1M token?

| Model | Tetingkap konteks | Input | Output | Imej |
| --- | --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) | 1,048,576 | $0.175 | $0.52 | Ya |
| [GLM 5.3](https://broadrouter.com/ms/models/glm-5.3/) | 1,048,576 | $0.78 | $3.46 | Tidak |
| [Qwen3.8 27B](https://broadrouter.com/ms/models/qwen3.8-27b/) | 262,144 | $0.175 | $2.17 | Ya |
| [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ms/models/gemma-4-vl-26b/) | 32,768 | $0.10 | $0.22 | Ya |

Harga adalah setiap 1M token. GLM 5.3 menambah panggilan alat dan output berstruktur pada tetingkap 1M yang sama.

## Bilakah tetingkap 1M token berbaloi?

-   **Penaakulan merentas fail.** “Mengapakah ujian ini gagal?” selalunya bergantung pada lima fail yang tiada siapa terfikir untuk didapatkan semula bersama.
-   **Semakan keseluruhan dokumen.** Mencari percanggahan antara klausa 4 dan jadual B memerlukan kedua-duanya kelihatan.
-   **Analisis sekali sahaja.** Untuk soalan yang hanya akan anda tanya sekali, membina indeks pendapatan semula memerlukan usaha lebih banyak daripada yang dijimatkan.
-   **Ejen.** Sub-ejen yang boleh membaca keseluruhan modul membuat lebih sedikit tekaan salah. Lihat [menjalankan ejen selari](https://broadrouter.com/ms/blog/run-parallel-coding-agents-flat-rate/).

## Bilakah pendapatan semula masih pilihan lebih baik?

Pendapatan semula menang untuk banyak carian kecil dalam perpustakaan yang jauh lebih besar daripada mana-mana tetingkap, untuk kandungan yang berubah setiap minit, dan untuk jawapan interaktif yang pantas di mana membaca prompt yang sangat besar dahulu menambah kelewatan. Banyak sistem produksi melakukan kedua-duanya: dapatkan semula 200,000 token yang paling relevan, kemudian biarkan model konteks panjang membuat penaakulan merentas kesemuanya. Keputusan penuh, dengan kos setiap pertanyaan, kependaman dan recall sebelah-menyebelah, ada dalam [konteks panjang vs RAG](https://broadrouter.com/ms/blog/long-context-vs-rag/).

## Adakah model benar-benar menggunakan keseluruhan tetingkap?

Tidak secara sekata. Kajian konsisten dalam hal ini:

-   Kertas [Lost in the Middle](https://arxiv.org/abs/2307.03172) (Liu et al.) mendapati prestasi “is often highest when relevant information occurs at the beginning or end of the input context” (Terjemahan: selalunya tertinggi apabila maklumat relevan berada di awal atau akhir konteks input).
-   Laporan [Context Rot](https://www.trychroma.com/research/context-rot) oleh Chroma menguji 18 model dan mendapati “performance grows increasingly unreliable as input length grows” (Terjemahan: prestasi menjadi semakin tidak boleh dipercayai apabila panjang input bertambah), walaupun pada tugasan mudah.

Kajian ini tidak menguji model di BroadNet, jadi anggap ia sebagai amaran, bukan ukuran. Peraturan praktikalnya: tetingkap yang menerima sejuta token tidak bermakna setiap token mendapat perhatian yang sama. Letakkan bahan paling penting berhampiran awal atau akhir, dan uji recall pada dokumen anda sendiri.

## Berapakah kos prompt sejuta token?

Pada kunci [bayar ikut guna](https://broadrouter.com/ms/glossary/pay-as-you-go/), DeepSeek V4.1 Flash mengebilkan $0.175 setiap 1M token input dan $0.0055 setiap 1M [token input cache](https://broadrouter.com/ms/glossary/cached-input-tokens/). Prompt sejuta token penuh berharga kira-kira $0.175 kali pertama, dan jauh lebih rendah pada panggilan berulang apabila prefix dicache. Lihat [cara menaikkan kadar cache anda](https://broadrouter.com/ms/blog/cached-input-tokens-explained/).

[Kalkulator prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) menunjukkan berapa banyak cache hit menjimatkan pada saiz prompt anda sendiri. Contoh kiraan: sepuluh soalan tentang set kontrak 800,000 token yang sama. Tanpa cache, itu 8M token pada $0.175 setiap 1M. Jika dokumen diletakkan dahulu dan kekal sama, panggilan pertama membaca 800,000 token baharu dan sembilan panggilan seterusnya boleh membaca kebanyakannya daripada cache pada $0.0055 setiap 1M. Hanya soalan dan jawapan yang berubah.

Pada pelan tanpa had, saiz prompt tidak mengubah bil: Full Moon ialah $60 sebulan setiap sesi tanpa meter token. Itulah sebabnya ejen konteks panjang menjadi sebab biasa untuk memilih [pelan kadar tetap berbanding pengebilan setiap token](https://broadrouter.com/ms/blog/flat-rate-vs-pay-per-token-llm-api/).

## Berapa banyak ruang yang patut ditinggalkan untuk jawapan?

Tetingkap merangkumi prompt **dan** output, dan pada model penaakulan, output termasuk proses berfikir. Jika anda menghantar prompt 1,040,000 token, hanya kira-kira 8,000 yang tinggal untuk [penaakulan](https://broadrouter.com/ms/glossary/reasoning-tokens/) dan jawapan. Kekalkan margin, tetapkan [`max_tokens`](https://broadrouter.com/ms/glossary/max-tokens/) secara eksplisit, dan baca [mengapa model penaakulan boleh memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).

## Cara menyediakan pangkalan kod untuk prompt 1M token

1.  **Kecualikan apa yang tidak diperlukan oleh model.** Fail kunci (lock files), output binaan, kebergantungan vendor, imej dan kod yang dijana menggunakan token dan menambah hingar.
2.  **Kira sebelum menghantar.** Hantar sampel kecil, baca `prompt_tokens` daripada usage, dan skalakan.
3.  **Susun mengikut kestabilan.** Fail yang jarang berubah dahulu, fail yang sedang disunting kemudian, soalan di hujung sekali. Itu memastikan prefix boleh dicache.
4.  **Labelkan setiap fail.** Balut fail dengan penanda yang jelas seperti `=== path/to/file.py ===` supaya model boleh memetiknya.
5.  **Minta petikan.** “Quote the line you rely on” (Terjemahan: petik baris yang anda jadikan sandaran) mengurangkan kesilapan yakin pada input yang sangat besar.
6.  **Ukur.** Log token prompt, token cache dan time to first token bagi setiap permintaan. [Penstriman](https://broadrouter.com/ms/guides/streaming-chat-completions/) menunjukkan token pertama sebaik ia tiba.

## Di manakah BroadNet Inference sesuai

Dua daripada model chatnya menerima 1,048,576 token setiap permintaan, dan BroadNet tidak memangkas konteks anda. Pada kunci setiap token, cache memastikan prompt panjang yang berulang kekal mampu milik; pada sesi pelan, saiz prompt tidak menjejaskan bil. Jika korpus anda jauh lebih besar daripada sejuta token atau berubah setiap minit, anda masih memerlukan pendapatan semula, dan tiada saiz tetingkap yang mengubahnya.

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Token input cache (cached input tokens)](https://broadrouter.com/ms/glossary/cached-input-tokens/)

Token input cache ialah token prompt yang baru sahaja diproses oleh penyedia LLM dan boleh diguna semula daripada cache tanpa dikira semula, biasanya awalan yang berulang seperti prompt sistem atau dokumen. Penyedia mengebilnya pada kadar lebih rendah daripada token input baharu.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

[Baris Arab (tashkeel, Arabic diacritics)](https://broadrouter.com/ms/glossary/arabic-diacritics/)

Baris Arab, atau tashkeel, ialah tanda kecil yang ditulis di atas atau di bawah huruf untuk menunjukkan vokal pendek, konsonan berganda dan ketiadaan vokal. Ia pilihan: kebanyakan teks Arab, termasuk berita, meninggalkannya, jadi pembaca dan perisian meneka vokal daripada konteks.

[Lost in the middle (hilang di tengah)](https://broadrouter.com/ms/glossary/lost-in-the-middle/)

Lost in the middle ialah kecenderungan model bahasa yang diperhatikan untuk menggunakan maklumat relevan dengan paling baik apabila ia muncul berhampiran awal atau akhir input panjang, dan paling teruk apabila ia berada di tengah. Ia dinamakan dalam kajian 2023 oleh Liu et al.

[Tokenizer (pengtoken)](https://broadrouter.com/ms/glossary/tokenizer/)

Tokenizer ialah komponen yang menukar teks kepada jujukan ID token integer yang dibaca oleh model bahasa, dan menukar ID yang dijana kembali kepada teks. Setiap model mempunyai tokenizer sendiri, jadi teks yang sama boleh menghasilkan bilangan token yang berbeza pada model yang berbeza.

## Soalan lazim

### Adakah BroadNet memangkas prompt yang panjang?

Tidak. BroadNet tidak memangkas konteks anda. Jika prompt ditambah max\_tokens melebihi tetingkap model, pendekkan prompt dan bukannya bergantung pada pemotongan senyap.

### Berapa banyak perkataan dalam 1 juta token?

Bergantung pada bahasa dan kandungan. Prosa Inggeris berukuran kira-kira 129 token setiap 100 perkataan dalam set data tokenizer BroadRouter (1,000 perkataan menjadi kira-kira 1,290 token, purata merentas lima tokenizer), jadi 1,048,576 token memuatkan lebih kurang 810,000 perkataan, jauh melebihi seribu halaman. Teks teknikal, kod dan bahasa Arab memerlukan lebih banyak token, jadi kira kandungan sebenar anda.

### Adakah permintaan 1M token perlahan?

Ia mengambil masa lebih lama untuk bermula berbanding permintaan pendek, kerana model mesti membaca keseluruhan prompt dahulu. Prefix yang dicache biasanya membantu pada panggilan berulang. Ukur time to first token pada prompt anda sendiri.

### Adakah LLM benar-benar menggunakan keseluruhan tetingkap konteks?

Tidak secara sekata. Kertas Lost in the Middle mendapati ketepatan selalunya tertinggi apabila maklumat relevan berada di awal atau akhir input, dan laporan Context Rot oleh Chroma mendapati kebolehpercayaan menurun apabila panjang input bertambah. Letakkan bahan utama di tepi dan uji pada data anda sendiri.

### Patutkah saya berhenti menggunakan RAG?

Tidak semestinya. Gunakan konteks panjang apabila model perlu melihat segala-galanya bersama, dan pendapatan semula apabila ia memerlukan beberapa fakta daripada perpustakaan yang sangat besar. Banyak sistem menggabungkan kedua-duanya.

### Apakah yang berlaku jika prompt saya lebih besar daripada tetingkap konteks?

BroadNet tidak memangkasnya untuk anda, jadi permintaan tidak akan berjalan seperti yang dimaksudkan. Buang fail, ringkaskan giliran lama, atau dapatkan semula bahagian yang relevan sahaja sebelum menghantar.

## Teruskan membaca

-   [Token input cache: cara mengurangkan bil API LLM](https://broadrouter.com/ms/blog/cached-input-tokens-explained/)
-   [Cara menjalankan ejen pengekodan selari pada API LLM kadar tetap](https://broadrouter.com/ms/blog/run-parallel-coding-agents-flat-rate/)
-   [API LLM kadar tetap vs bayar setiap token: kiraan pulang modal](https://broadrouter.com/ms/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Perkakasan GPU dan pendekatan penyajian BroadNet, menurut BroadNet](https://broadrouter.com/ms/blog/broadnet-gpu-fleet-and-serving/)
-   [Cache respons API LLM untuk jimat kos: cache padanan tepat Python](https://broadrouter.com/ms/blog/cache-llm-responses-cut-cost/)
-   [Panduan: Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Panduan: Strim chat completions dan kendalikan sambungan yang terputus](https://broadrouter.com/ms/guides/streaming-chat-completions/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-million-token-context-window-guide&utm_content=page-cta) ·

**Sumber**

-   [Harga dan panjang konteks BroadNet Inference yang boleh dibaca mesin (pricing.json) (Bahasa Inggeris)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-million-token-context-window-guide&utm_content=sources)
-   [Rujukan API BroadNet Inference (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-million-token-context-window-guide&utm_content=sources)
-   [Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv 2307.03172)](https://arxiv.org/abs/2307.03172)
-   [Chroma, Context Rot: How Increasing Input Tokens Impacts LLM Performance (Julai 2025)](https://www.trychroma.com/research/context-rot)
