---
title: "LLM trả về rỗng? Token suy luận và max_tokens | BroadRouter"
description: "DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào max_tokens. Cách để không còn nhận phản hồi rỗng."
url: https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/reasoning-tokens-empty-response/) (cập nhật ngày 2026-11-16).

# Vì sao model suy luận trả về câu trả lời rỗng

Cập nhật 2026-11-16

Model đã dùng hết ngân sách max\_tokens cho phần suy luận trước khi kịp bắt đầu câu trả lời hiển thị. Trên BroadNet Inference, DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước, và phần suy luận được tính vào max\_tokens. Hãy cho phép từ 1.000 token trở lên, hoặc đặt reasoning\_effort là low.

Bạn gửi một prompt ngắn với `max_tokens: 100`, request thành công, nhưng `choices[0].message.content` lại rỗng. Không có gì hỏng cả: câu trả lời chưa hề bắt đầu.

## Chuyện gì đã xảy ra

Model suy luận viết một chuỗi suy nghĩ ẩn (chain of thought) trước câu trả lời hiển thị. Cả hai dùng chung một ngân sách `max_tokens`. Với giới hạn nhỏ, phần suy luận dùng hết ngân sách, và trong cấu trúc chat completions chuẩn thì lúc đó `finish_reason` là `length`.

## Ba cách khắc phục

**1\. Chừa chỗ.** Đặt `max_tokens` từ 1.000 trở lên, như tài liệu BroadNet khuyên. [Công cụ tính max\_tokens cho model suy luận](https://broadrouter.com/tools/reasoning-token-budget/) sẽ tính giới hạn theo độ dài câu trả lời bạn cần và cho biết chi phí.

**2\. Suy luận ít hơn.** Đặt `reasoning_effort` là `low` cho các việc đơn giản:

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

response = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order' -> intent?"}],
)
```

**3\. Theo dõi usage.** Khi model có báo cáo, `usage.completion_tokens_details.reasoning_tokens` cho biết bao nhiêu token đã dùng cho suy luận:

```python
print(response.choices[0].finish_reason)                       # "length" means the budget ran out
details = response.usage.completion_tokens_details             # None if the model doesn't report it
print(details.reasoning_tokens if details else "not reported")
```

Khi streaming, hãy thêm `stream_options={"include_usage": True}` và cùng thông tin usage đó sẽ đến trong chunk cuối cùng. Xem [streaming chat completions](https://broadrouter.com/vi/guides/streaming-chat-completions/).

## Những model nào suy luận

| Model | Suy luận trước |
| --- | --- |
| DeepSeek V4.1 Flash (`broadnet/deepseek-v4.1-flash`) | Có |
| GLM 5.3 (`broadnet/glm-5.3`) | Có |
| Qwen3.8 27B (`broadnet/qwen3.8-27b`) | Có |
| BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) | Không được liệt kê |

## Xử lý sự cố

-   **`content` rỗng, `finish_reason` là `length`.** Hãy tăng `max_tokens` hoặc đặt `reasoning_effort` là `low`.
-   **`content` rỗng, `finish_reason` là `stop`.** Giới hạn không phải là nguyên nhân. Hãy kiểm tra prompt và in toàn bộ phản hồi để xem thứ gì đã trả về.
-   **`AttributeError` ở `completion_tokens_details`.** Model không báo cáo phần chi tiết cho request đó; hãy kiểm tra `None` như trong ví dụ trên.
-   **Token đầu tiên đến chậm khi streaming.** Model đang suy luận trước khi viết câu trả lời. Hạ `reasoning_effort` có thể rút ngắn thời gian chờ.

Nếu bạn chạy agent cả ngày, token suy luận sẽ cộng dồn khi trả theo mức dùng. [Công cụ tính giá BroadNet](https://broadrouter.com/vi/pricing/) cho biết khi nào một [gói không giới hạn](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/) giá cố định rẻ hơn.

## Thuật ngữ trong hướng dẫn này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

[Chain-of-thought (CoT)](https://broadrouter.com/vi/glossary/chain-of-thought/)

Chain-of-thought (CoT, chuỗi suy nghĩ) là kỹ thuật prompt trong đó model ngôn ngữ được cho xem ví dụ hoặc được yêu cầu viết các bước suy luận trung gian trước câu trả lời cuối. Nó tăng độ chính xác với bài toán nhiều bước như số học và logic, và model suy luận giờ tự sinh ra nó.

[Gói LLM giá cố định (flat-rate LLM plan)](https://broadrouter.com/vi/glossary/flat-rate-llm-plan/)

Gói LLM giá cố định tính một mức giá cố định cho mỗi kỳ, ví dụ một tháng, để dùng API mô hình ngôn ngữ thay vì tính theo token. Gói này thường giới hạn thứ khác, như số request đồng thời, tốc độ, model hay khung giờ sử dụng, nên giới hạn quan trọng không kém giá.

[max\_tokens (giới hạn token đầu ra)](https://broadrouter.com/vi/glossary/max-tokens/)

max\_tokens là tham số của API LLM đặt số token tối đa mà model được sinh trong một phản hồi. Khi chạm giới hạn, việc sinh dừng lại và phản hồi được đánh dấu là bị cắt, ví dụ finish\_reason được đặt là "length".

[Token suy luận (reasoning tokens)](https://broadrouter.com/vi/glossary/reasoning-tokens/)

Token suy luận (reasoning tokens) là token mà model suy luận sinh ra để giải quyết vấn đề trước khi viết câu trả lời hiển thị. Chúng thường được tính phí như token đầu ra, tính vào giới hạn đầu ra và context window, và có thể bị API ẩn đi hoặc tóm tắt.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

## Câu hỏi thường gặp

### Suy luận có tốn tiền không?

Với gói trả theo mức dùng, phần suy luận được báo cáo trong completion token và tính theo giá đầu ra. Trên gói không giới hạn cho DeepSeek V4.1 Flash không có đồng hồ đo token, nên không tốn thêm gì.

### BroadNet Gemma 4 VL 26B có suy luận không?

Tài liệu BroadNet ghi khả năng suy luận cho DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B, không ghi cho Gemma 4 VL 26B.

### Vì sao message content rỗng khi finish\_reason là length?

Ngân sách token đã hết trước khi câu trả lời hiển thị bắt đầu. Model suy luận viết phần suy luận trước, và các token đó được tính vào max\_tokens. Hãy tăng max\_tokens lên 1.000 trở lên, hoặc hạ reasoning\_effort.

### Đặt reasoning\_effort là low thì có tác dụng gì?

Nó yêu cầu model suy luận ít hơn trước khi trả lời. Tài liệu BroadNet gợi ý cách này để thay cho việc tăng max\_tokens khi giới hạn ngắn làm câu trả lời bị rỗng. Hãy dùng cho các việc đơn giản như phân loại hay trích xuất.

### Làm sao xem bao nhiêu token đã dùng cho suy luận?

Đọc usage.completion\_tokens\_details.reasoning\_tokens trong phản hồi, khi model có báo cáo. Khi streaming, hãy gửi stream\_options với include\_usage là true và đọc giá trị này ở chunk cuối cùng.

## Hướng dẫn liên quan

-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)
-   [Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-reasoning-tokens-empty-response&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu tham chiếu API BroadNet Inference, token suy luận và token cache (kiểm tra ngày 2026-11-16) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-reasoning-tokens-empty-response&utm_content=sources#models)
