---
title: "Ano ang chat template? Paano nagiging LLM token ang mensahe"
description: "Ginagawa ng chat template na token sequence na pinag-trainan ng model ang listahan ng mensahe (role at content). Paano ito gumagana, bakit masama ang mali."
url: https://broadrouter.com/fil/glossary/chat-template/
lang: fil
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/glossary/chat-template/) (na-update noong 2026-11-15).

# Chat template

Na-update 2026-11-15

Ang chat template ay ang formatting rule, kadalasang nakasulat sa Jinja at kasama ng tokenizer ng model, na nagko-convert ng listahan ng chat messages na may role tungo sa iisang token sequence na inaasahan ng model, kasama ang mga special control token nito. Puwedeng lubhang sumama ang sagot ng model kapag mali ang template.

Tinatawag ding: chat\_template, Jinja chat template, tokenizer chat template, prompt template, prompt format

Hindi kailanman nakakakita ang chat model ng listahan ng mensahe. Isang mahabang hanay ng token ang nakikita nito. Ang chat template ang nagpapasya kung ano ang itsura ng hanay na iyon.

## Paano ito gumagana

Sinasabi ng gabay ng Hugging Face ang pangunahing punto: lahat ng causal language model ay “continue a sequence of tokens” (Salin ng BroadRouter: “nagpapatuloy ng sequence ng token”), at ang mga role at content dictionary na ipinapasa mo ay “get converted to a token sequence, often with control tokens” (Salin ng BroadRouter: “kino-convert sa token sequence, kadalasang may control tokens”). Iba-ibang format ang gamit ng iba’t ibang model, “even if they were fine-tuned from the same base model” (Salin ng BroadRouter: “kahit na-fine-tune pa sila mula sa parehong base model”).

Ang parehong maikling chat, ayon sa pag-render ng dalawang template sa gabay:

```text
Mistral-7B-Instruct:
<s>[INST] Hello, how are you? [/INST]I'm doing great. How can I help you today?</s>

Zephyr-7B:
<|user|>
Hello, how are you?</s>
<|assistant|>
I'm doing great. How can I help you today?</s>
```

Sa Transformers, nire-render mo ang chat gamit ang `tokenizer.apply_chat_template(messages, add_generation_prompt=True)`. Idinadagdag ng flag na `add_generation_prompt` ang mga token na nagbubukas ng assistant turn; kung wala ang mga ito, babala ng gabay, puwedeng ituloy ng model ang mensahe ng user sa halip na sumagot.

Puwede ring magdala ng mga feature ng model ang template. Ayon sa card ng Gemma 4 ng Google, binubuksan ang thinking sa paglalagay ng `<|think|>` token sa simula ng system prompt, at “many libraries like Transformers and llama.cpp handle the complexities of the chat template for you.” (Salin ng BroadRouter: “maraming library gaya ng Transformers at llama.cpp ang humahawak sa pagiging komplikado ng chat template para sa iyo.”)

## Bakit ito mahalaga

-   **Kalidad.** Sabi ng gabay, “with the wrong control tokens, these models would have drastically worse performance.” (Salin ng BroadRouter: “kapag mali ang control tokens, lubhang sasama ang performance ng mga model na ito.”)
-   **Self-hosting.** Kailangan ng template ang mga serving engine para tumanggap ng chat request. Sabi ng docs ng vLLM, kapag wala ito, “all chat requests will error” (Salin ng BroadRouter: “mag-e-error ang lahat ng chat request”), at tumatanggap ito ng `--chat-template` para magbigay nito. Tingnan ang [vLLM](https://broadrouter.com/fil/glossary/vllm/).
-   **Bilang ng token.** Binibilang bilang input [token](https://broadrouter.com/fil/glossary/token/) ang control tokens. Saklaw ng post namin tungkol sa [pagbibilang ng token bago magpadala](https://broadrouter.com/fil/blog/count-tokens-before-sending/) kung bakit nagkakaiba ang lokal na bilang at ang sinisingil na bilang.
-   **Dobleng special tokens.** Babala ng gabay na ang muling pagdagdag ng `<bos>` o `<eos>` pagkatapos ng templating ay “is often incorrect or duplicated, hurting model performance” (Salin ng BroadRouter: “kadalasang mali o nadodoble, na nakasasama sa performance ng model”).
-   **Bahagi nito ang [system prompt](https://broadrouter.com/fil/glossary/system-prompt/).** Ang template ang nagpapasya kung saan napupunta ang system message, at kung may system role ba ang model.

## Sa BroadNet Inference

Ang API ng BroadNet ay isang [OpenAI-compatible](https://broadrouter.com/fil/glossary/openai-compatible-api/) na chat completions endpoint, kaya `messages` ang ipinapadala mo at ang BroadNet ang nag-a-apply ng template; hindi ka nagpapadala ng raw na template text. Iniulat ng BroadNet na sine-serve nito ang [Gemma 4 VL 26B](https://broadrouter.com/fil/models/gemma-4-vl-26b/) gamit ang “BroadNet conversational chat template”, isang template na inayon sa conversational workflow nito. Kung ikukumpara mo ang Gemma ng BroadNet sa parehong weights na pinatakbo nang lokal, puwedeng magkaiba ang mga sagot, kaya subukan gamit ang sarili mong mga prompt. Hindi inilalathala ng BroadNet ang detalye ng template ng iba nitong model. Nakalista sa [post tungkol sa GPU fleet at serving](https://broadrouter.com/fil/blog/broadnet-gpu-fleet-and-serving/) ang iba pang serving choice nito para sa Gemma.

## Mga tanong

### Kailangan ko bang mag-apply ng chat template kapag tumatawag ako sa API?

Hindi. Sa chat completions API, listahan ng messages ang ipinapadala mo at ang provider ang nag-a-apply ng template sa panig nila. Ikaw lang ang hahawak ng template kapag nagpapatakbo ka ng model nang lokal o tumatawag sa raw text-completion endpoint.

### Bakit iba ang bilang ko ng token sa bilang ng provider?

Nagdadagdag ang template ng control tokens sa paligid ng bawat mensahe. Kapag text lang ng mensahe mo ang binilang mo, hindi kasama ang mga iyon, kaya kadalasang bahagyang mas malaki ang sinisingil na prompt.

### Ano ang ginagawa ng add\_generation\_prompt?

Idinadagdag nito ang mga token na nagsisimula ng assistant turn, para sumagot ang model sa halip na ituloy ang mensahe mo. Sa docs ng Hugging Face, ipinapakita ito bilang <|im\_start|>assistant sa dulo ng mga ChatML-style na template.

## Tingnan din

-   [Tokenizer](https://broadrouter.com/fil/glossary/tokenizer/) (termino)
-   [System prompt](https://broadrouter.com/fil/glossary/system-prompt/) (termino)
-   [Token](https://broadrouter.com/fil/glossary/token/) (termino)
-   [vLLM](https://broadrouter.com/fil/glossary/vllm/) (termino)
-   [OpenAI-compatible API](https://broadrouter.com/fil/glossary/openai-compatible-api/) (termino)
-   [GGUF](https://broadrouter.com/fil/glossary/gguf/) (termino)
-   [Paano bilangin ang token bago magpadala ng LLM request](https://broadrouter.com/fil/blog/count-tokens-before-sending/) (artikulo)
-   [GPU hardware at paraan ng serving ng BroadNet, ayon sa BroadNet](https://broadrouter.com/fil/blog/broadnet-gpu-fleet-and-serving/) (artikulo)

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-chat-template&utm_content=page-cta) ·

**Mga source**

-   [Docs ng Hugging Face Transformers, chat templates (sinuri noong 2026-11-15)](https://huggingface.co/docs/transformers/en/chat_templating)
-   [Dokumentasyon ng vLLM, online serving: chat template (sinuri noong 2026-11-15)](https://docs.vllm.ai/en/latest/serving/online_serving/)
-   [Google, model card ng Gemma 4 26B A4B instruction-tuned (sinuri noong 2026-11-15)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [BroadNet, model page ng Gemma 4 VL 26B: serving configuration (sinuri noong 2026-11-15) (Ingles)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
