---
title: "Apa itu max_tokens di API LLM? Penjelasan batas output"
description: "max_tokens membatasi jumlah token yang boleh dihasilkan model per balasan. Bedanya dengan context window, nama barunya, dan kenapa model penalaran butuh ruang."
url: https://broadrouter.com/id/glossary/max-tokens/
lang: id
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/glossary/max-tokens/) (diperbarui 2026-11-14).

# max\_tokens

Diperbarui 2026-11-14

max\_tokens adalah parameter API LLM yang menetapkan jumlah token maksimum yang boleh dihasilkan model dalam satu respons. Saat generasi mencapai batas itu, proses berhenti dan respons ditandai terpotong, misalnya dengan finish\_reason bernilai "length".

Disebut juga: batas token output, batas output, panjang output maksimum, max\_completion\_tokens, max\_output\_tokens, output token limit, maximum output length

`max_tokens` adalah anggaran output untuk satu balasan. Parameter ini melindungi Anda dari jawaban yang tak terkendali, tetapi jika terlalu rendah, jawaban terpotong atau tidak ada sama sekali.

## Cara kerjanya

Model menghasilkan satu [token](https://broadrouter.com/id/glossary/token/) setiap kali. Saat jumlahnya mencapai `max_tokens`, generasi berhenti, bahkan di tengah kalimat. Respons lalu menyebutkan alasan berhentinya:

| `finish_reason` | Artinya |
| --- | --- |
| `stop` | Model selesai dengan sendirinya |
| `length` | Batas `max_tokens` tercapai |
| `tool_calls` | Model meminta untuk memanggil tool |

Parameter ini punya beberapa nama. Chat Completions API milik OpenAI kini menandai `max_tokens` sebagai deprecated dan menggantinya dengan `max_completion_tokens`, batas atas yang mencakup output yang terlihat sekaligus token penalaran. Responses API milik OpenAI memakai `max_output_tokens`. Messages API milik Anthropic memakai `max_tokens`. Banyak penyedia kompatibel OpenAI menerima `max_tokens`.

Prompt dan output berbagi satu [context window](https://broadrouter.com/id/glossary/context-window/). Jika window-nya 32.768 token dan prompt-nya 30.000, paling banyak 2.768 token yang bisa kembali, berapa pun nilai `max_tokens`.

## Kenapa ini penting

-   **Kontrol biaya.** Pada kunci yang ditagih per token, `max_tokens` adalah biaya output maksimum untuk satu balasan.
-   **Jawaban kosong.** Pada model penalaran, proses berpikir diambil dari anggaran yang sama. Batas 100 bisa habis seluruhnya untuk [token penalaran](https://broadrouter.com/id/glossary/reasoning-tokens/), sehingga jawaban yang terlihat kosong dan `finish_reason` bernilai `length`.
-   **JSON rusak.** Balasan yang terpotong membuat [output terstruktur](https://broadrouter.com/id/glossary/structured-output/) tidak lengkap dan tidak bisa di-parse. Periksa `finish_reason` sebelum mem-parse.

## Di BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B bernalar sebelum menjawab, dan menurut dokumentasi BroadNet penalaran ikut dihitung dalam `max_tokens`. Sediakan 1.000 token atau lebih, biarkan tidak diatur, atau turunkan `reasoning_effort`:

```python
response = client.chat.completions.create(
    model="broadnet/glm-5.3",
    max_tokens=2000,
    messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
if response.choices[0].finish_reason == "length":
    print("Cut off: raise max_tokens or lower reasoning_effort")
```

Ukuran konteks berbeda per model: 1.048.576 token untuk DeepSeek V4.1 Flash dan GLM 5.3, 262.144 untuk Qwen3.8 27B, dan 32.768 untuk BroadNet Gemma 4 VL 26B. Lihat [halaman model](https://broadrouter.com/id/models/) dan [kenapa model penalaran mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).

## Kesalahan umum

-   Menyalin batas kecil dari model non-penalaran saat migrasi. Lihat [checklist migrasi](https://broadrouter.com/id/blog/openai-compatible-api-migration-checklist/).
-   Menganggap `length` sebagai keberhasilan. Catat dan coba ulang dengan ruang yang lebih besar.

## Pertanyaan umum

### Apakah max\_tokens sama dengan context window?

Tidak. Context window adalah total yang bisa ditangani model, yaitu prompt ditambah output. max\_tokens hanya membatasi output, dan prompt ditambah max\_tokens tetap harus muat di dalam window.

### Apakah max\_tokens harus selalu diatur?

Atur jika Anda butuh batas pasti untuk biaya atau panjang. Beri ruang yang longgar pada model penalaran, atau biarkan tidak diatur jika default penyedia sudah cukup besar.

### Apa bedanya max\_tokens dan max\_completion\_tokens?

OpenAI menandai max\_tokens sebagai deprecated di Chat Completions dan menggantinya dengan max\_completion\_tokens, yang secara eksplisit mencakup token penalaran. Banyak penyedia kompatibel OpenAI masih menerima max\_tokens.

## Lihat juga

-   [Token penalaran (reasoning tokens)](https://broadrouter.com/id/glossary/reasoning-tokens/) (istilah)
-   [Context window (jendela konteks)](https://broadrouter.com/id/glossary/context-window/) (istilah)
-   [Token input dan output](https://broadrouter.com/id/glossary/input-and-output-tokens/) (istilah)
-   [Output terstruktur (structured output)](https://broadrouter.com/id/glossary/structured-output/) (istilah)
-   [JSON mode (mode JSON)](https://broadrouter.com/id/glossary/json-mode/) (istilah)
-   [Chain-of-thought (CoT)](https://broadrouter.com/id/glossary/chain-of-thought/) (istilah)
-   [finish\_reason (alasan berhenti)](https://broadrouter.com/id/glossary/finish-reason/) (istilah)
-   [Stop sequences (urutan henti)](https://broadrouter.com/id/glossary/stop-sequences/) (istilah)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/) (panduan)
-   [Memakai OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-python-sdk/) (panduan)
-   [Pindah ke API kompatibel OpenAI: checklist migrasi](https://broadrouter.com/id/blog/openai-compatible-api-migration-checklist/) (artikel)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-max-tokens&utm_content=page-cta) ·

**Sumber**

-   [Referensi API OpenAI, membuat chat completion (max\_tokens dan max\_completion\_tokens)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [OpenAI, model penalaran (max\_output\_tokens dan respons yang tidak lengkap)](https://developers.openai.com/api/docs/guides/reasoning)
-   [Referensi API BroadNet Inference, model penalaran (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-max-tokens&utm_content=sources#models)
