---
title: "max_tokens untuk model penaakulan: cara menetapkan bajet"
description: "Mengapa model penaakulan memulangkan jawapan kosong pada max_tokens rendah, dan cara menetapkan bajet daripada persentil diukur, tetingkap konteks dan cubaan semula."
url: https://broadrouter.com/ms/blog/reasoning-model-max-tokens-budget/
lang: ms
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/reasoning-model-max-tokens-budget/) (dikemas kini 2026-11-15).

# Menetapkan max\_tokens untuk model penaakulan: kaedah bajet

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan 2026-11-15

Pada model penaakulan, max\_tokens mengehadkan pemikiran dan jawapan bersama-sama, jadi had yang ketat boleh menamatkan balasan sebelum sebarang teks kelihatan. Ukur jumlah token completion bagi setiap jenis tugas, tetapkan max\_tokens pada kira-kira persentil ke-95 ditambah 20%, pastikan prompt dan max\_tokens muat dalam tetingkap konteks, dan cuba semula balasan yang terpotong dengan bajet berganda sehingga had mutlak.

## Perkara utama

-   max\_tokens ialah siling, bukan caj. Anda membayar token yang dijana, jadi siling yang longgar tidak berkos apa-apa pada balasan yang selesai awal.
-   Siling yang ketat yang berkos wang: balasan terpotong mengebil pemikirannya, tidak memulangkan jawapan, dan perlu dihantar semula.
-   Tetapkan bajet bagi setiap jenis tugas daripada log anda sendiri: persentil ke-95 token completion ditambah margin 20% ialah permulaan yang baik.
-   Token prompt ditambah max\_tokens mesti muat dalam tetingkap konteks: 262,144 token pada Qwen3.8 27B, 1,048,576 pada GLM 5.3 dan DeepSeek V4.1 Flash.
-   Anggap finish\_reason "length" sebagai isyarat: cuba semula dengan bajet berganda atau reasoning\_effort lebih rendah, dengan had mutlak.

**Dalam halaman ini**

1.  Mengapakah bajet habis sebelum jawapan?
2.  Adakah max\_tokens yang lebih besar lebih mahal?
3.  Bagaimanakah mengukur keperluan sesuatu tugas?
4.  Bagaimanakah tetingkap konteks mengehadkan bajet?
5.  Apakah yang perlu dilakukan apabila balasan masih terpotong?
6.  Bagaimanakah penstriman mengubah gambarannya?
7.  Nama parameter manakah yang patut anda hantar?
8.  Di mana BroadNet Inference sesuai

Model penaakulan berfikir sebelum menjawab, dan pada kebanyakan API yang serasi OpenAI kedua-duanya diambil daripada satu bajet: `max_tokens`. Tetapkannya seperti untuk model bukan penaakulan, beberapa ratus token untuk jawapan pendek, dan sesetengah balasan akan kembali kosong dengan `finish_reason: "length"`. Penyelesaian pantas ada dalam [mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/). Catatan ini ialah kaedah di sebalik bajet yang boleh anda percayai: ukur, tetapkan saiz daripada persentil, hormati tetingkap konteks, dan kendalikan balasan yang masih terpotong.

Untuk kos penaakulan dan cara mengurangkannya, lihat [token penaakulan: mengapa anda membayar lebih banyak output daripada yang anda lihat](https://broadrouter.com/ms/blog/reasoning-tokens-cost/).

## Mengapakah bajet habis sebelum jawapan?

Model menjana mengikut urutan: penaakulannya dahulu, kemudian jawapan yang kelihatan. Setiap token kedua-duanya dikira dalam `max_tokens`. Dokumentasi BroadNet menyatakan perkara ini untuk DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B: “the reasoning counts toward max\_tokens” (Terjemahan: penaakulan dikira dalam max\_tokens), dan dengan had yang kecil “the answer comes back empty” (Terjemahan: jawapan kembali kosong). Rujukan OpenAI Chat Completions mentakrifkan `max_completion_tokens` dengan cara yang sama, sebagai had atas “including visible output tokens and reasoning tokens” (Terjemahan: termasuk token output yang kelihatan dan token penaakulan).

Jadi soalan yang perlu ditanya bukan “berapa panjang jawapan saya?” Soalannya ialah “berapa panjang penaakulan dan jawapan bersama-sama, untuk tugas ini, pada tahap effort ini?” Itu berbeza-beza lebih daripada yang dijangka. Panduan OpenAI menyatakan modelnya mungkin menjana “anywhere from a few hundred to tens of thousands of reasoning tokens” (Terjemahan: dari beberapa ratus hingga puluhan ribu token penaakulan), bergantung pada masalahnya.

## Adakah max\_tokens yang lebih besar lebih mahal?

Tidak. Inilah sebab paling biasa bajet ditetapkan terlalu ketat. [`max_tokens`](https://broadrouter.com/ms/glossary/max-tokens/) ialah siling. Anda dibil untuk token yang benar-benar dijana. Balasan yang memerlukan 1,800 token berkos sama dengan siling 4,000 atau 40,000.

Inilah kos sebenar siling yang ketat:

| Siling berbanding keperluan | Apa yang anda bayar | Apa yang anda dapat |
| --- | --- | --- |
| Siling melebihi keperluan | Token yang dijana | Jawapan |
| Siling di bawah keperluan | Keseluruhan siling, semuanya penaakulan | Tiada yang boleh digunakan, ditambah cubaan semula |

Ambil satu ilustrasi. Andaikan suku daripada panggilan anda memerlukan lebih daripada 1,000 token. Dengan `max_tokens=1000`, setiap panggilan itu mengebil 1,000 token output pemikiran, tidak memulangkan apa-apa dan dicuba semula. Itu menambah 250 token output yang terbazir bagi setiap panggilan secara purata merentas semua panggilan, sebelum cubaan semula itu sendiri, ditambah kependaman permintaan kedua. Dengan siling 4,000, tiada yang terbazir. Pada [Qwen3.8 27B](https://broadrouter.com/ms/models/qwen3.8-27b/), output berkos $2.17 setiap 1M token, jadi pembaziran bertambah pada jumlah besar.

Risiko sebenar siling yang tinggi ialah balasan yang terlepas kawalan: model yang berpusing atau berfikir berlebihan dan menjana jauh lebih banyak daripada yang perlu. Had mutlak mengawalnya. Pilih had itu daripada data, seperti di bawah.

## Bagaimanakah mengukur keperluan sesuatu tugas?

Jalankan prompt sebenar untuk satu jenis tugas dengan siling yang longgar, dan rekodkan token completion serta bahagian penaakulan. Apabila model melaporkannya, `usage.completion_tokens_details.reasoning_tokens` memberi bahagian penaakulan; dokumentasi BroadNet menyenaraikan medan itu.

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
MODEL = "broadnet/qwen3.8-27b"

def measure(prompts, ceiling=16_000, **kw):
    """Run real prompts with a generous ceiling and return per-call token counts."""
    rows = []
    for p in prompts:
        r = client.chat.completions.create(model=MODEL, max_tokens=ceiling,
                                           messages=[{"role": "user", "content": p}], **kw)
        u, d = r.usage, r.usage.completion_tokens_details
        reasoning = (d.reasoning_tokens or 0) if d else 0
        rows.append({"reasoning": reasoning, "answer": u.completion_tokens - reasoning,
                     "finish": r.choices[0].finish_reason})
    return rows

def pct(values, q):
    values = sorted(values)
    return values[min(len(values) - 1, int(q * len(values)))]

def recommend(rows, margin=1.2):
    total = [r["reasoning"] + r["answer"] for r in rows]
    return {"p50": pct(total, 0.5), "p95": pct(total, 0.95), "max": max(total),
            "max_tokens": int(pct(total, 0.95) * margin),
            "cut_off": sum(r["finish"] == "length" for r in rows)}

# print(recommend(measure(my_prompts)))                       # default effort
# print(recommend(measure(my_prompts, reasoning_effort="low")))
```

Peraturan untuk angka yang boleh dipercayai:

1.  **Satu jenis tugas setiap larian.** Pengelasan, pengekstrakan, semakan kod dan perancangan mempunyai taburan yang sangat berbeza. Satu `max_tokens` global sama ada membazir wang pada cubaan semula atau membiarkan balasan terlepas kawalan.
2.  **50 atau lebih prompt sebenar.** Persentil ke-95 daripada sepuluh sampel hanyalah sampel yang terbesar.
3.  **Jalankan pada setiap tahap effort yang anda gunakan.** `reasoning_effort="low"` mengubah taburan. BroadNet mendokumenkan `low`; uji nilai lain sebelum bergantung padanya.
4.  **Jika `cut_off` bukan sifar, naikkan siling dan jalankan semula.** Sampel yang terpotong menyembunyikan panjang sebenarnya.
5.  **Jalankan semula apabila model atau prompt berubah.** Versi model baharu boleh berfikir lebih atau kurang.

Kemudian tetapkan `max_tokens` bagi setiap tugas daripada `recommend()`. Persentil ke-95 ditambah 20% membiarkan kebanyakan panggilan jauh di bawah siling dan hanya menghantar panggilan panjang yang jarang ke laluan cubaan semula di bawah. [Alat bajet token penaakulan](https://broadrouter.com/tools/reasoning-token-budget/) percuma melakukan pengiraan ini dalam pelayar anda sebaik sahaja anda mempunyai angka anda.

## Bagaimanakah tetingkap konteks mengehadkan bajet?

Tetingkap konteks memuatkan prompt dan jawapan bersama-sama. Suapan harga BroadNet mentakrifkan `context_length` sebagai “the most tokens one request can hold, prompt and answer together” (Terjemahan: token paling banyak yang boleh dimuatkan oleh satu permintaan, prompt dan jawapan bersama-sama). Jadi:

**max\_tokens ≤ panjang konteks − token prompt**

| Model | Konteks | Ruang untuk max\_tokens dengan prompt 200,000 token |
| --- | --- | --- |
| [GLM 5.3](https://broadrouter.com/ms/models/glm-5.3/) | 1,048,576 | 848,576 |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) | 1,048,576 | 848,576 |
| Qwen3.8 27B | 262,144 | 62,144 |

Ini penting untuk kerja konteks panjang. Ejen yang sejarahnya telah berkembang kepada 250,000 token pada Qwen3.8 27B hanya mempunyai kira-kira 12,000 token lagi untuk pemikiran dan jawapan. Tugas konteks panjang juga cenderung memerlukan lebih banyak penaakulan, jadi semak ruang yang tinggal pada saat panggilan, bukan sekali sahaja semasa permulaan. [Tetingkap konteks](https://broadrouter.com/ms/glossary/context-window/) dan [kalkulator tetingkap konteks](https://broadrouter.com/tools/context-window-calculator/) merangkumi kesesuaiannya.

## Apakah yang perlu dilakukan apabila balasan masih terpotong?

Semak `finish_reason` pada setiap panggilan. Jika nilainya `length`, jawapan hilang atau tidak lengkap, walaupun `content` ada sedikit teks. Jangan huraikannya seolah-olah lengkap; objek JSON yang terpotong ialah punca biasa ralat di peringkat seterusnya ([output berstruktur](https://broadrouter.com/ms/blog/structured-output-json-schema/)).

Cuba semula dengan bajet berganda, dalam ruang yang dibenarkan konteks, sehingga had mutlak:

```python
import json, urllib.request

FEED = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
CONTEXT = {m["id"]: m.get("context_length") for m in FEED["models"]}

def ask(model, messages, budget=4_000, hard_cap=32_000, **kw):
    """Retry a cut-off reply with a doubled budget, never past the cap or the context window."""
    while True:
        r = client.chat.completions.create(model=model, messages=messages,
                                           max_tokens=budget, **kw)
        if r.choices[0].finish_reason != "length":
            return r
        room = CONTEXT[model] - r.usage.prompt_tokens        # context holds prompt + answer
        nxt = min(budget * 2, hard_cap, room)
        if nxt <= budget:
            raise RuntimeError(f"still cut off at max_tokens={budget}")
        print(f"cut off at {budget}, retrying with {nxt}")
        budget = nxt
```

Dua alternatif kepada penggandaan, bergantung pada tugas:

-   **Cuba semula pada `reasoning_effort="low"`** dengan bajet yang sama. Untuk tugas mudah, model sering berfikir berlebihan, dan effort yang lebih rendah menyelesaikannya tanpa siling yang lebih besar.
-   **Pecahkan tugas.** Jika satu balasan terus mencecah had yang tinggi, permintaan itu biasanya meminta terlalu banyak sekali gus.

Log setiap potongan bersama jenis tugas. Kadar yang meningkat bermakna prompt, model atau data input telah berubah, dan bajet perlu diukur semula. Cubaan semula ialah inferens baharu dan dibil semula, jadi hadkan bilangan cubaan, seperti dalam [ejen berjalan lama: tamat masa dan cubaan semula](https://broadrouter.com/ms/blog/long-running-agents-timeouts-retries/).

## Bagaimanakah penstriman mengubah gambarannya?

Dengan `stream=True`, penaakulan berlaku sebelum token pertama yang kelihatan, jadi model penaakulan boleh kelihatan tersekat pada permulaan. Dalam UI chat, paparkan keadaan “berfikir” sehingga kandungan tiba, dan tetapkan tamat masa klien untuk masa berfikir, bukan hanya untuk jawapan.

Sesetengah pelayan juga menstrim teks penaakulan itu sendiri, dalam medan berasingan. Namanya tidak standard: API DeepSeek sendiri menggunakan `reasoning_content`, dan vLLM menamakan semula medannya daripada `reasoning_content` kepada `reasoning`, dengan amaran bahawa kod klien lama “could silently read an empty” field (Terjemahan: boleh secara senyap membaca medan yang kosong). Dokumentasi BroadNet tidak mendokumenkan medan teks penaakulan, jadi jangan bina ciri di atasnya tanpa menyemak respons mentah untuk model anda. Jika anda membacanya, baca dengan berhati-hati:

```python
for chunk in stream:
    if chunk.choices:
        delta = chunk.choices[0].delta
        thinking = getattr(delta, "reasoning", None) or getattr(delta, "reasoning_content", None)
        # log or display `thinking` only if your provider actually sends it
        if delta.content:
            print(delta.content, end="")
    elif chunk.usage:                                  # last chunk, with include_usage
        print("\nreasoning tokens:", getattr(chunk.usage.completion_tokens_details, "reasoning_tokens", None))
```

Penggunaan (usage) dalam cebisan terakhir memerlukan `stream_options={"include_usage": True}`, yang didokumenkan oleh BroadNet. Lebih lanjut tentang strim dalam [panduan penstriman](https://broadrouter.com/ms/guides/streaming-chat-completions/) dan [penjelasan SSE](https://broadrouter.com/ms/blog/llm-streaming-sse-explained/).

## Nama parameter manakah yang patut anda hantar?

| API | Parameter | Termasuk penaakulan |
| --- | --- | --- |
| OpenAI Chat Completions | `max_completion_tokens` (`max_tokens` tidak digunakan lagi) | Ya |
| OpenAI Responses | `max_output_tokens` | Ya |
| BroadNet Inference (Chat Completions) | `max_tokens`, seperti yang didokumenkan | Ya |
| Pelayan vLLM | `max_tokens`, ditambah `thinking_token_budget` pilihan | Ya |

Apabila memindahkan kod antara penyedia, hantar nama yang didokumenkan oleh penyedia, dan sahkan dengan satu panggilan ujian bahawa had itu berkesan. Had yang diabaikan secara senyap kelihatan baik sehingga balasan terlepas kawalan tiba. [Senarai semak migrasi](https://broadrouter.com/ms/blog/openai-compatible-api-migration-checklist/) merangkumi parameter lain yang berubah.

## Di mana BroadNet Inference sesuai

Tiga model penaakulan BroadNet melaporkan token penaakulan dalam `usage` apabila model menyediakannya, jadi pengukuran di atas berfungsi seperti yang ditulis. DeepSeek V4.1 Flash dan GLM 5.3 memberi ruang paling banyak, dengan konteks 1,048,576 token. Qwen3.8 27B mempunyai 262,144. Jika anda tidak memerlukan penaakulan untuk sesuatu tugas, [Gemma 4 VL 26B](https://broadrouter.com/ms/models/gemma-4-vl-26b/) tidak disenaraikan sebagai model penaakulan dan mengelakkan persoalan bajet sama sekali. Pada [pelan DeepSeek V4.1 Flash](https://broadrouter.com/ms/guides/unlimited-llm-api-sessions/) kadar tetap, token pemikiran tidak dikenakan caj setiap token, tetapi balasan terpotong masih berkos masa, jadi kaedah bajet yang sama terpakai. BroadNet tidak mendokumenkan had penaakulan berasingan; jika anda memerlukannya, gunakan penyedia atau pelayan hos sendiri yang menawarkannya.

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Token penaakulan (reasoning tokens)](https://broadrouter.com/ms/glossary/reasoning-tokens/)

Token penaakulan ialah token yang dijana oleh model penaakulan untuk menyelesaikan masalah sebelum ia menulis jawapan yang kelihatan. Token ini biasanya dibilkan sebagai token output, dikira dalam had output dan tetingkap konteks, dan mungkin disembunyikan atau diringkaskan oleh API.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

[max\_tokens](https://broadrouter.com/ms/glossary/max-tokens/)

max\_tokens ialah parameter API LLM yang menetapkan bilangan maksimum token yang boleh dijana oleh model dalam satu respons. Apabila had itu dicapai, penjanaan berhenti dan respons ditandakan sebagai terpotong, contohnya dengan finish\_reason ditetapkan kepada "length".

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[vLLM](https://broadrouter.com/ms/glossary/vllm/)

vLLM ialah pustaka sumber terbuka untuk inferens dan penyajian LLM, yang mula-mula dibangunkan di Sky Computing Lab, UC Berkeley. Ia mengurus memori KV cache dengan PagedAttention, mengumpulkan permintaan masuk secara berterusan, menyokong banyak format kuantisasi dan menyediakan pelayan HTTP yang serasi OpenAI.

[Tamat masa permintaan (request timeout)](https://broadrouter.com/ms/glossary/request-timeout/)

Tamat masa permintaan (request timeout) ialah tempoh paling lama klien HTTP menunggu pelayan sebelum meninggalkan permintaan. Klien biasanya membahagikannya kepada connect timeout untuk membuka sambungan dan read timeout untuk menunggu data. Panggilan LLM memerlukan read timeout yang longgar kerana jawapan panjang mengambil masa.

## Soalan lazim

### Mengapakah model penaakulan saya memulangkan respons kosong?

Model menggunakan keseluruhan bajet max\_tokens untuk penaakulan tersembunyi sebelum menulis jawapan. finish\_reason ketika itu ialah "length". Naikkan max\_tokens, turunkan reasoning\_effort, atau kedua-duanya. Panduan ringkas dengan penyelesaian pantas dipautkan dari catatan ini.

### Berapakah max\_tokens yang patut saya tetapkan untuk model penaakulan?

Ukur dahulu. Jalankan 50 atau lebih prompt sebenar dengan siling yang longgar, ambil persentil ke-95 completion\_tokens untuk tugas itu, dan tambah kira-kira 20%. Dokumentasi BroadNet memberi 1,000 token atau lebih sebagai paras minimum; OpenAI mencadangkan menyimpan 25,000 semasa anda mula menggunakan modelnya.

### Adakah max\_tokens yang lebih tinggi lebih mahal?

Tidak dengan sendirinya. Anda dibil untuk token yang dijana model, bukan untuk siling. Siling lebih tinggi hanya berkos lebih apabila balasan sepatutnya terpotong, dan dalam keadaan itu balasan terpotong tetap akan menyebabkan anda membayar cubaan semula.

### Adakah max\_completion\_tokens sama dengan max\_tokens?

Pada OpenAI, max\_completion\_tokens menggantikan max\_tokens yang tidak digunakan lagi dan secara jelas termasuk token penaakulan. Banyak penyedia yang serasi OpenAI mendokumenkan max\_tokens sebaliknya. Dokumentasi BroadNet menggunakan max\_tokens dan menyatakan penaakulan dikira di dalamnya.

### Bolehkah saya mengehadkan penaakulan secara berasingan daripada jawapan?

Hanya jika pelayan menyokongnya. vLLM mempunyai parameter thinking\_token\_budget, dan sesetengah penyedia mempunyai parameter sendiri. BroadNet mendokumenkan reasoning\_effort ditetapkan kepada low, bukan had penaakulan berasingan, jadi tetapkan bajet kedua-duanya bersama.

## Teruskan membaca

-   [Token penaakulan: mengapa output yang dibayar melebihi yang dilihat](https://broadrouter.com/ms/blog/reasoning-tokens-cost/)
-   [Penstriman LLM diterangkan: chunk SSE, delta, usage dan pembatalan](https://broadrouter.com/ms/blog/llm-streaming-sse-explained/)
-   [JSON mode vs json\_schema: output berstruktur yang boleh diharap](https://broadrouter.com/ms/blog/structured-output-json-schema/)
-   [Ejen yang berjalan lama: tamat masa, cubaan semula dan checkpoint](https://broadrouter.com/ms/blog/long-running-agents-timeouts-retries/)
-   [Beralih ke API serasi OpenAI: senarai semak migrasi](https://broadrouter.com/ms/blog/openai-compatible-api-migration-checklist/)
-   [Perkakasan GPU dan pendekatan penyajian BroadNet, menurut BroadNet](https://broadrouter.com/ms/blog/broadnet-gpu-fleet-and-serving/)
-   [Cache respons API LLM untuk jimat kos: cache padanan tepat Python](https://broadrouter.com/ms/blog/cache-llm-responses-cut-cost/)
-   [Panduan: Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Panduan: Strim chat completions dan kendalikan sambungan yang terputus](https://broadrouter.com/ms/guides/streaming-chat-completions/)
-   [Panduan: Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reasoning-model-max-tokens-budget&utm_content=page-cta) ·

**Sumber**

-   [Rujukan API BroadNet Inference: penaakulan dikira dalam max\_tokens, 1,000 token atau lebih, reasoning\_effort low, medan usage (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reasoning-model-max-tokens-budget&utm_content=sources)
-   [Rujukan medan pricing.json BroadNet: context\_length memuatkan prompt dan jawapan bersama-sama (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reasoning-model-max-tokens-budget&utm_content=sources#pricing-json)
-   [Panduan penaakulan OpenAI: respons tidak lengkap, simpan sekurang-kurangnya 25,000 token semasa bermula (disemak 2026-11-15)](https://developers.openai.com/api/docs/guides/reasoning)
-   [Rujukan OpenAI Chat Completions: max\_completion\_tokens termasuk token penaakulan; max\_tokens tidak digunakan lagi (disemak 2026-11-15)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [Dokumentasi API DeepSeek, mod thinking: medan reasoning\_content, tahap effort (disemak 2026-11-15)](https://api-docs.deepseek.com/guides/thinking_mode)
-   [Dokumentasi vLLM, output penaakulan: medan reasoning (dahulunya reasoning\_content), thinking\_token\_budget (disemak 2026-11-15)](https://docs.vllm.ai/en/latest/features/reasoning_outputs.html)
