---
title: "Chat template là gì? Message biến thành token LLM ra sao"
description: "Chat template biến danh sách message gồm vai trò và nội dung thành chuỗi token mà model chat được huấn luyện theo. Cách template hoạt động, vì sao dùng sai có hại."
url: https://broadrouter.com/vi/glossary/chat-template/
lang: vi
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/glossary/chat-template/) (cập nhật ngày 2026-11-15).

# Chat template

Cập nhật 2026-11-15

Chat template là quy tắc định dạng, thường viết bằng Jinja và đi kèm tokenizer của model, chuyển danh sách message có vai trò thành một chuỗi token duy nhất mà model cần, kể cả các token điều khiển đặc biệt. Dùng sai template có thể làm câu trả lời của model kém đi rõ rệt.

Còn gọi là: mẫu chat, template hội thoại, chat\_template, Jinja chat template, tokenizer chat template

Model chat không bao giờ nhìn thấy một danh sách message. Nó nhìn thấy một chuỗi token dài. Chat template quyết định chuỗi đó trông thế nào.

## Cách hoạt động

Hướng dẫn của Hugging Face nêu ý chính: mọi model ngôn ngữ nhân quả đều “continue a sequence of tokens” (Bản dịch: viết tiếp một chuỗi token), và các dictionary vai trò, nội dung bạn truyền vào “get converted to a token sequence, often with control tokens” (Bản dịch: được chuyển thành chuỗi token, thường kèm token điều khiển). Mỗi model dùng một định dạng khác nhau, “even if they were fine-tuned from the same base model” (Bản dịch: kể cả khi chúng được fine-tune từ cùng một model gốc).

Cùng một đoạn chat ngắn, được hai template trong hướng dẫn hiển thị:

```text
Mistral-7B-Instruct:
<s>[INST] Hello, how are you? [/INST]I'm doing great. How can I help you today?</s>

Zephyr-7B:
<|user|>
Hello, how are you?</s>
<|assistant|>
I'm doing great. How can I help you today?</s>
```

Trong Transformers, bạn hiển thị đoạn chat bằng `tokenizer.apply_chat_template(messages, add_generation_prompt=True)`. Cờ `add_generation_prompt` thêm các token mở lượt của assistant; hướng dẫn cảnh báo rằng thiếu chúng, model có thể viết tiếp message của người dùng thay vì trả lời.

Template cũng có thể mang tính năng của model. Model card Gemma 4 của Google cho biết chế độ thinking được bật bằng cách đặt token `<|think|>` ở đầu system prompt, và rằng “many libraries like Transformers and llama.cpp handle the complexities of the chat template for you.” (Bản dịch: nhiều thư viện như Transformers và llama.cpp xử lý giúp bạn những phức tạp của chat template.)

## Vì sao quan trọng

-   **Chất lượng.** Hướng dẫn nói rằng “with the wrong control tokens, these models would have drastically worse performance.” (Bản dịch: với token điều khiển sai, các model này sẽ hoạt động kém đi rất nhiều.)
-   **Tự host.** Engine phục vụ cần template để nhận request chat. Tài liệu vLLM nói thiếu template thì “all chat requests will error” (Bản dịch: mọi request chat sẽ báo lỗi), và cho phép dùng `--chat-template` để cung cấp. Xem [vLLM](https://broadrouter.com/vi/glossary/vllm/).
-   **Số token.** Token điều khiển được tính là [token](https://broadrouter.com/vi/glossary/token/) đầu vào. Bài viết về [đếm token trước khi gửi](https://broadrouter.com/vi/blog/count-tokens-before-sending/) giải thích vì sao số đếm cục bộ và số bị tính tiền khác nhau.
-   **Token đặc biệt bị lặp.** Hướng dẫn cảnh báo rằng thêm `<bos>` hoặc `<eos>` lần nữa sau khi áp dụng template “is often incorrect or duplicated, hurting model performance” (Bản dịch: thường sai hoặc bị trùng, làm giảm hiệu năng model).
-   **[System prompt](https://broadrouter.com/vi/glossary/system-prompt/) cũng là một phần của nó.** System message nằm ở đâu, và model có vai trò system hay không, đều do template quyết định.

## Trên BroadNet Inference

API của BroadNet là endpoint chat completions [tương thích OpenAI](https://broadrouter.com/vi/glossary/openai-compatible-api/), nên bạn gửi `messages` và BroadNet áp dụng template; bạn không gửi văn bản template thô. BroadNet cho biết họ phục vụ [Gemma 4 VL 26B](https://broadrouter.com/vi/models/gemma-4-vl-26b/) với một “BroadNet conversational chat template” (Bản dịch: chat template hội thoại của BroadNet), một template được tinh chỉnh cho quy trình hội thoại của họ. Nếu bạn so Gemma của BroadNet với cùng trọng số chạy cục bộ, câu trả lời có thể khác nhau, nên hãy thử với prompt của chính bạn. BroadNet không công bố chi tiết template cho các model khác. [Bài viết về đội GPU và cách phục vụ](https://broadrouter.com/vi/blog/broadnet-gpu-fleet-and-serving/) liệt kê các lựa chọn phục vụ khác cho Gemma.

## Câu hỏi thường gặp

### Khi gọi API tôi có cần tự áp dụng chat template không?

Không. Với API chat completions, bạn gửi danh sách messages và nhà cung cấp áp dụng template ở phía họ. Bạn chỉ phải tự xử lý template khi chạy model cục bộ hoặc gọi endpoint text completion thô.

### Vì sao số token tôi đếm khác với nhà cung cấp?

Template thêm token điều khiển quanh mỗi message. Chỉ đếm phần chữ trong message sẽ bỏ sót chúng, nên prompt bị tính tiền thường lớn hơn một chút.

### add\_generation\_prompt dùng để làm gì?

Nó thêm các token mở đầu lượt của assistant, để model trả lời thay vì viết tiếp message của bạn. Tài liệu Hugging Face minh họa bằng <|im\_start|>assistant ở cuối trong các template kiểu ChatML.

## Xem thêm

-   [Tokenizer (bộ tách token)](https://broadrouter.com/vi/glossary/tokenizer/) (thuật ngữ)
-   [System prompt (lời nhắc hệ thống)](https://broadrouter.com/vi/glossary/system-prompt/) (thuật ngữ)
-   [Token](https://broadrouter.com/vi/glossary/token/) (thuật ngữ)
-   [vLLM](https://broadrouter.com/vi/glossary/vllm/) (thuật ngữ)
-   [API tương thích OpenAI (OpenAI-compatible API)](https://broadrouter.com/vi/glossary/openai-compatible-api/) (thuật ngữ)
-   [GGUF (định dạng file model của llama.cpp)](https://broadrouter.com/vi/glossary/gguf/) (thuật ngữ)
-   [Cách đếm token trước khi gửi request tới LLM](https://broadrouter.com/vi/blog/count-tokens-before-sending/) (bài viết)
-   [Phần cứng GPU và cách phục vụ model của BroadNet, theo lời BroadNet](https://broadrouter.com/vi/blog/broadnet-gpu-fleet-and-serving/) (bài viết)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-chat-template&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu Hugging Face Transformers, chat template (kiểm tra ngày 2026-11-15)](https://huggingface.co/docs/transformers/en/chat_templating)
-   [Tài liệu vLLM, phục vụ trực tuyến: chat template (kiểm tra ngày 2026-11-15)](https://docs.vllm.ai/en/latest/serving/online_serving/)
-   [Google, model card Gemma 4 26B A4B bản instruction-tuned (kiểm tra ngày 2026-11-15)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [BroadNet, trang model Gemma 4 VL 26B: cấu hình phục vụ (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
