---
title: "LLM 응답이 비어 있을 때: 추론 토큰과 max_tokens | BroadRouter"
description: "DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 답하기 전에 추론하며, 그 추론도 max_tokens에 포함됩니다. 빈 응답이 오지 않게 하는 방법을 정리했습니다."
url: https://broadrouter.com/ko/guides/reasoning-tokens-empty-response/
lang: ko
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/guides/reasoning-tokens-empty-response/) (2026-11-16 업데이트).

# 추론 모델이 빈 답변을 반환하는 이유

업데이트 2026-11-16

모델이 보이는 답변을 시작하기도 전에 max\_tokens 예산 전체를 추론에 썼기 때문입니다. BroadNet Inference에서 DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 먼저 추론하며, 추론도 max\_tokens에 포함됩니다. 1,000토큰 이상을 허용하거나 reasoning\_effort를 low로 설정하세요.

`max_tokens: 100`으로 짧은 프롬프트를 보냈더니 요청은 성공했는데 `choices[0].message.content`가 비어 있습니다. 고장 난 것은 없습니다. 답변이 시작되지 않았을 뿐입니다.

## 무슨 일이 일어나나

추론 모델은 보이는 답변 앞에 숨겨진 사고 과정(chain of thought)을 씁니다. 둘은 하나의 `max_tokens` 예산을 함께 씁니다. 한도가 작으면 추론이 예산을 모두 써 버리고, 표준 chat completions 형식에서는 이때 `finish_reason`이 `length`가 됩니다.

## 세 가지 해결 방법

**1\. 여유를 둡니다.** BroadNet 문서의 권장대로 `max_tokens`를 1,000 이상으로 설정하세요. [추론 모델용 max\_tokens 계산기](https://broadrouter.com/tools/reasoning-token-budget/)로 원하는 답변 길이에 맞는 한도와 비용을 확인할 수 있습니다.

**2\. 추론을 줄입니다.** 간단한 작업에는 `reasoning_effort`를 `low`로 설정하세요.

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

response = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order' -> intent?"}],
)
```

**3\. usage를 확인합니다.** 모델이 보고하는 경우 `usage.completion_tokens_details.reasoning_tokens`에서 추론에 쓰인 양을 볼 수 있습니다.

```python
print(response.choices[0].finish_reason)                       # "length" means the budget ran out
details = response.usage.completion_tokens_details             # None if the model doesn't report it
print(details.reasoning_tokens if details else "not reported")
```

스트리밍에서는 `stream_options={"include_usage": True}`를 추가하면 같은 usage가 마지막 청크에 담겨 옵니다. [스트리밍 chat completions](https://broadrouter.com/ko/guides/streaming-chat-completions/)를 참고하세요.

## 어떤 모델이 추론하나

| 모델 | 먼저 추론 |
| --- | --- |
| DeepSeek V4.1 Flash (`broadnet/deepseek-v4.1-flash`) | 예 |
| GLM 5.3 (`broadnet/glm-5.3`) | 예 |
| Qwen3.8 27B (`broadnet/qwen3.8-27b`) | 예 |
| BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) | 표기 없음 |

## 문제 해결

-   **`content`가 비어 있고 `finish_reason`이 `length`.** `max_tokens`를 늘리거나 `reasoning_effort`를 `low`로 설정하세요.
-   **`content`가 비어 있고 `finish_reason`이 `stop`.** 한도가 원인이 아닙니다. 프롬프트를 점검하고, 응답 전체를 출력해 무엇이 돌아왔는지 확인하세요.
-   **`completion_tokens_details`에서 `AttributeError`.** 모델이 해당 요청의 세부 내역을 보고하지 않은 경우입니다. 위 예제처럼 `None`에 대비하세요.
-   **스트리밍에서 첫 토큰이 느림.** 모델이 답변을 쓰기 전에 추론하고 있는 것입니다. `reasoning_effort`를 낮추면 대기 시간이 줄어들 수 있습니다.

에이전트를 하루 종일 돌린다면 종량제에서는 추론 토큰이 쌓입니다. [BroadNet 가격 계산기](https://broadrouter.com/ko/pricing/)에서 정액 [무제한 플랜](https://broadrouter.com/ko/guides/unlimited-llm-api-sessions/)이 더 저렴해지는 시점을 확인할 수 있습니다.

## 이 가이드의 용어

[토큰(token)](https://broadrouter.com/ko/glossary/token/)

토큰은 언어 모델이 읽고 쓰는 텍스트 단위로, 모델의 토크나이저가 만들어 내는 단어, 단어의 일부, 문장 부호 또는 바이트 시퀀스입니다. LLM API는 사용량을 토큰 단위로 집계하고 제한하며, 대개 토큰 단위로 과금합니다.

[Chat Completions API](https://broadrouter.com/ko/glossary/chat-completions-api/)

Chat Completions API는 OpenAI의 HTTP 엔드포인트인 POST /v1/chat/completions로, 모델 이름과 역할이 붙은 메시지 목록을 받아 모델의 다음 메시지를 반환합니다. 이 요청과 응답 구조는 OpenAI 호환 제공업체와 SDK가 재사용하는 공통 형식이 되었습니다.

[도구 호출(tool calling)](https://broadrouter.com/ko/glossary/tool-calling/)

도구 호출(tool calling)은 함수 호출(function calling)이라고도 하며, 모델이 개발자가 정의한 함수를 실행해 달라는 구조화된 요청을 JSON 인자와 함께 반환하는 LLM API 기능입니다. 함수는 애플리케이션이 실행하고 그 결과를 다시 보냅니다. 모델이 직접 코드를 실행하지는 않습니다.

[max\_tokens(최대 출력 토큰)](https://broadrouter.com/ko/glossary/max-tokens/)

max\_tokens는 모델이 응답 하나에서 생성할 수 있는 최대 토큰 수를 정하는 LLM API 파라미터입니다. 생성이 이 한도에 닿으면 멈추고, 응답에는 잘렸다는 표시가 붙습니다. 예를 들어 finish\_reason이 "length"로 설정됩니다.

## 자주 묻는 질문

### 추론에도 비용이 드나요?

종량제에서는 추론이 completion 토큰 안에 포함되어 보고되고, 출력 가격으로 청구됩니다. DeepSeek V4.1 Flash 무제한 플랜에는 토큰 계량이 없으므로 추가 비용이 없습니다.

### BroadNet Gemma 4 VL 26B도 추론하나요?

BroadNet 문서는 DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에 추론을 표기하며, Gemma 4 VL 26B에는 표기하지 않습니다.

### finish\_reason이 length인데 message content가 비어 있는 이유는 무엇인가요?

보이는 답변이 시작되기 전에 토큰 예산이 바닥났기 때문입니다. 추론 모델은 추론을 먼저 쓰고, 그 토큰도 max\_tokens에 포함됩니다. max\_tokens를 1,000 이상으로 늘리거나 reasoning\_effort를 낮추세요.

### reasoning\_effort를 low로 하면 어떻게 되나요?

모델에게 답하기 전에 추론을 덜 하라고 요청합니다. BroadNet 문서는 짧은 한도 때문에 답변이 비어 있을 때 max\_tokens를 키우는 대신 쓸 수 있는 방법으로 이를 제안합니다. 분류나 추출 같은 간단한 작업에 쓰세요.

### 추론에 토큰이 얼마나 쓰였는지 어떻게 확인하나요?

모델이 보고하는 경우, 응답의 usage.completion\_tokens\_details.reasoning\_tokens를 읽으세요. 스트리밍에서는 stream\_options에 include\_usage를 true로 보내고 마지막 청크에서 읽으면 됩니다.

## 관련 가이드

-   [BroadNet Inference에서 OpenAI Python SDK 사용하기](https://broadrouter.com/ko/guides/openai-python-sdk/)
-   [채팅 완성 스트리밍과 끊긴 연결 처리하기](https://broadrouter.com/ko/guides/streaming-chat-completions/)
-   [BroadNet Inference 오류 코드와 재시도해야 하는 경우](https://broadrouter.com/ko/guides/errors-and-retries/)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-guides-reasoning-tokens-empty-response&utm_content=page-cta) ·

**출처**

-   [BroadNet Inference API 레퍼런스, 추론 토큰과 캐시된 토큰(2026-11-16 확인) (영어)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-guides-reasoning-tokens-empty-response&utm_content=sources#models)
