---
title: "프롬프트 토큰 줄이는 법: 전후 실측 비교 | BroadRouter"
description: "시스템 프롬프트, 퓨샷 예시, 도구 스키마, 데이터 형식, 대화 이력, 아랍어 발음 부호를 줄였을 때 토큰이 얼마나 줄어드는지 실제 토크나이저로 측정했습니다."
url: https://broadrouter.com/ko/blog/reduce-prompt-tokens/
lang: ko
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/blog/reduce-prompt-tokens/) (2026-11-16 업데이트).

# 프롬프트 토큰 줄이기: 시스템 프롬프트, 도구, 데이터 절감 실측

BroadNet Inference 팀 · 7분 분량 · 게시 2026-11-15 · 업데이트 2026-11-16

먼저 측정하세요. 호출마다 prompt\_tokens를 기록하고, 가장 큰 부분을 찾고, 모델의 토크나이저로 전후를 비교하세요. 토크나이저 다섯 개에서 장황한 시스템 프롬프트를 다듬으면 68~71%가 줄었고, CSV는 압축 JSON보다 토큰이 31~41% 적었습니다. 모델 세 개에서 다듬은 시스템 프롬프트와 함께 장황한 도구 10개 대신 짧은 도구 3개를 넣으면 렌더링된 요청 전체가 약 65~71% 줄었습니다.

## 핵심 요약

-   실제 토크나이저로 세고, usage.prompt\_tokens로 확인하세요. 채팅 템플릿이 자체 토큰을 더하고, 도구 스키마도 템플릿이 다시 직렬화합니다.
-   측정한 고정 비용 중 가장 큰 것은 도구였습니다. 장황한 도구 스키마 10개가 렌더링된 프롬프트마다 1,200~1,400토큰을 더했습니다. 해당 단계에서 쓸 수 있는 도구만 보내세요.
-   표 형식 데이터: 들여쓴 JSON을 CSV로 바꾸면 57~61%, 압축 JSON을 CSV로 바꿔도 31~41%가 줄었습니다. Qwen과 Gemma 토크나이저는 숫자를 한 자리씩 나누므로, 숫자가 많은 데이터는 이 모델들에서 더 비쌉니다.
-   오래된 턴 16개를 3줄 요약으로 바꾸자 2,700토큰짜리 Qwen 프롬프트가 1,100토큰으로 줄었습니다. 요약은 세부 정보를 잃으므로 최근 몇 턴은 그대로 두세요.
-   모음 부호를 모두 붙인 아랍어는 발음 부호가 없는 같은 텍스트보다 토큰이 2.4~3.5배 많았습니다. 작업에 필요하지 않다면 제거하세요.

**이 페이지의 내용**

1.  어떻게 측정했나요?
2.  어떤 절감 방법이 토큰을 가장 많이 줄이나요?
3.  요청 전체로 보면 어떤가요?
4.  시스템 프롬프트를 망가뜨리지 않고 다듬으려면 어떻게 하나요?
5.  퓨샷 예시는 몇 개가 필요한가요?
6.  도구, 데이터, 이력은 다르게 보내야 하나요?
7.  캐싱은 어디에 들어가나요?
8.  내 프롬프트는 어떻게 측정하나요?
9.  BroadNet Inference는 어디에 적합한가요?

짧은 프롬프트는 비용이 덜 들고, [컨텍스트 윈도우](https://broadrouter.com/ko/glossary/context-window/)를 작업에 더 많이 남겨 주며, 대개 첫 토큰도 더 빨리 돌려줍니다. 하지만 “프롬프트를 짧게 하라”는 막연한 조언입니다. 이 글에서는 현실적인 고객 지원 봇 프롬프트 하나에 흔한 절감 방법을 적용하고, 오픈 모델 네 개의 실제 토크나이저와 OpenAI의 `o200k_base`로 측정해서, 어떤 수정이 시간을 들일 가치가 있는지 보여 드립니다.

코딩 에이전트를 운영한다면 그 루프는 [에이전트 토큰 예산](https://broadrouter.com/ko/blog/agent-token-budget/)에서 다룹니다. 이 글은 챗봇, 분류기, 추출 작업 같은 애플리케이션 프롬프트에 관한 것입니다.

## 어떻게 측정했나요?

아래의 모든 수치는 2026년 11월 15일에 저희가 직접 측정한 것입니다.

-   **토크나이저.** DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Google의 Gemma 4 26B A4B의 공식 `tokenizer.json` 파일을 각각 고정된 Hugging Face 리비전(출처 참고)으로 받아 Hugging Face `tokenizers` 0.23.3으로 불러왔습니다. GPT 모델과 비교하기 위해 `tiktoken` 0.14.0의 `o200k_base`도 썼습니다. 특수 토큰은 추가하지 않았습니다.
-   **렌더링된 프롬프트.** DeepSeek, GLM, Qwen은 각 모델이 공개한 `chat_template.jinja`(Jinja2 샌드박스)로 시스템 프롬프트, 도구, 이력, 질문을 포함한 전체 요청을 렌더링해 그 결과도 셌습니다. 서버가 토큰화하는 것과 가깝지만, 제공업체가 다른 템플릿을 쓸 수 있으므로 최종 기준은 API의 `usage.prompt_tokens`로 보세요.
-   **텍스트.** 가상의 통신사를 위한 합성 고객 지원 봇입니다. 261단어짜리 시스템 프롬프트, 도구 10개, 퓨샷 예시 8개, 주문 40행, 20턴짜리 이력, 31단어짜리 아랍어 문단으로 구성했습니다. 프롬프트 하나는 데이터 포인트 하나일 뿐입니다. 절감 폭은 달라지겠지만 방법은 그대로 쓸 수 있습니다.

BroadNet의 Gemma 4 VL 26B는 Google 모델을 기반으로 하므로 해당 수치는 추정치입니다. 나머지는 모델 자체 파일을 썼습니다.

## 어떤 절감 방법이 토큰을 가장 많이 줄이나요?

원본 텍스트 기준 전 → 후, 그리고 절감 비율입니다.

| 변경 | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B | Gemma 4 | GPT o200k |
| --- | --- | --- | --- | --- | --- |
| 시스템 프롬프트: 261단어 → 66단어 | 295 → 88 (70%) | 294 → 89 (70%) | 297 → 95 (68%) | 297 → 96 (68%) | 293 → 86 (71%) |
| 퓨샷: 예시 8개 → 3개 | 157 → 69 (56%) | 157 → 69 (56%) | 156 → 71 (54%) | 156 → 71 (54%) | 152 → 69 (55%) |
| 40행: 들여쓴 JSON → 압축 JSON | 2,446 → 1,606 (34%) | 2,460 → 1,581 (36%) | 3,180 → 1,980 (38%) | 3,210 → 2,010 (37%) | 2,446 → 1,567 (36%) |
| 40행: 압축 JSON → CSV | 1,606 → 948 (41%) | 1,581 → 960 (39%) | 1,980 → 1,359 (31%) | 2,010 → 1,382 (31%) | 1,567 → 946 (40%) |
| 도구 10개: 장황한 설명 → 짧은 설명 | 1,224 → 806 (34%) | 1,214 → 797 (34%) | 1,225 → 806 (34%) | 1,252 → 827 (34%) | 1,202 → 796 (34%) |
| 장황한 도구 10개 → 짧은 도구 3개 | 1,224 → 258 (79%) | 1,214 → 257 (79%) | 1,225 → 266 (78%) | 1,252 → 276 (78%) | 1,202 → 255 (79%) |
| 아랍어 문단: 모음 부호 전체 → 부호 없음 | 193 → 74 (62%) | 267 → 78 (71%) | 151 → 62 (59%) | 180 → 64 (64%) | 218 → 62 (72%) |

영어 산문에서는 토크나이저 간 비율이 비슷하므로, 한 모델에서 효과가 있는 절감은 다른 모델에서도 효과가 있습니다. 이 패턴에서 벗어나는 행이 두 개 있습니다. 주문 데이터는 모든 형식에서 Qwen과 Gemma가 DeepSeek과 GLM보다 토큰이 23~46% 더 들었습니다. 이 토크나이저들은 숫자를 한 자리씩 나누기 때문입니다. `100200`은 Qwen에서 6토큰, DeepSeek에서 2토큰입니다. 그리고 아랍어 발음 부호는 토크나이저에 따라 영향이 훨씬 컸습니다.

## 요청 전체로 보면 어떤가요?

원본 텍스트에는 채팅 템플릿이 빠져 있습니다. 같은 고객 질문으로 각 모델의 템플릿을 거쳐 렌더링한 전체 프롬프트를 측정했습니다.

| 요청 | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B |
| --- | --- | --- | --- |
| A. 장황한 시스템 프롬프트 + 장황한 도구 10개 | 1,677 | 1,535 | 1,797 |
| B. 다듬은 시스템 프롬프트 + 짧은 도구 10개 | 1,052 | 913 | 1,176 |
| C. 다듬은 시스템 프롬프트 + 짧은 도구 3개 | 574 | 443 | 636 |
| D. 다듬은 시스템 프롬프트, 도구 없음 | 136 | 121 | 174 |
| C + 이전 20턴 전체 | 2,374 | 2,243 | 2,693 |
| C + 3줄 요약 + 최근 4턴 | 979 | 849 | 1,103 |

A에서 C로 바꾸자 모든 요청이 약 65~71% 줄었습니다(Qwen 64.6%, GLM 71.1%). 대부분은 도구에서 나왔습니다. 장황한 시스템 프롬프트와 함께 렌더링했을 때 장황한 도구 10개는 DeepSeek에서 1,334토큰, GLM에서 1,209토큰, Qwen에서 1,421토큰을 더했습니다. C의 짧은 도구 3개는 D 대비 322~462토큰을 더했습니다. [도구 호출](https://broadrouter.com/ko/glossary/tool-calling/) 스키마는 모델이 쓰든 안 쓰든 모든 요청에 실려 갑니다.

양이 많아지면 이 차이가 쌓입니다. [Qwen3.8 27B](https://broadrouter.com/ko/models/qwen3.8-27b/)에서 A를 C로 바꾸면 요청당 1,161토큰이 줄어듭니다. 월 100,000건이면 입력 토큰 약 1억 1,600만 개, 표준 입력 단가로 월 116 × $0.175 금액입니다.

## 시스템 프롬프트를 망가뜨리지 않고 다듬으려면 어떻게 하나요?

261단어 프롬프트와 66단어 프롬프트에는 같은 규칙 일곱 개가 들어 있습니다. 줄인 방식은 모두 같은 종류였습니다.

1.  **모델에 대한 공손한 표현을 빼세요.** “It is very important that you always remain polite and courteous at all times”(번역: 항상 정중하고 예의 바르게 응대하는 것이 매우 중요합니다)는 통째로 없앴습니다. 역할 문장에 이미 그 뜻이 담겨 있습니다.
2.  **한 줄에 규칙 하나.** “Please make sure that you always…”(번역: 반드시 항상 …하도록 하세요) 같은 문장 대신 글머리 기호를 쓰세요.
3.  **중복을 합치세요.** 언어에 관한 문장 세 개를 “Reply in the customer’s language (Arabic or English), briefly.”(번역: 고객의 언어(아랍어 또는 영어)로 간결하게 답하세요.) 하나로 합쳤습니다.
4.  **기본 동작을 반복하는 문장을 지우세요.** “Remember to always be helpful!”(번역: 항상 도움이 되어야 한다는 것을 잊지 마세요!)는 아무것도 바꾸지 않습니다.

그다음 테스트하세요. 짧아진 프롬프트가 규칙 하나를 잃으면 절감한 것보다 손해가 큽니다. 같은 실제 입력 50~100개에 두 버전을 모두 실행해 비교하세요. [모델을 바꾸기 전에 LLM 평가하기](https://broadrouter.com/ko/blog/evaluate-llm-before-switching/)와 같은 방식입니다.

## 퓨샷 예시는 몇 개가 필요한가요?

대부분의 프롬프트에 들어 있는 것보다 적습니다. [퓨샷](https://broadrouter.com/ko/glossary/few-shot-prompting/) 예시 하나하나가 매 호출마다 과금됩니다. 아랍어 분류기의 방언 예시처럼, 없으면 모델이 틀리는 것을 바로잡는 예시는 남기고, 이미 잘 맞히는 예시는 빼세요. 8개 → 3개로 줄이자 예시 블록이 54~56% 줄었습니다. 3개로 충분한지는 토큰이 아니라 정확도의 문제이므로, 테스트 세트로 확인하세요.

## 도구, 데이터, 이력은 다르게 보내야 하나요?

**도구.** 현재 단계에서 쓸 수 있는 도구만 보내세요. 요금 문의에는 `get_account`, `get_bill`, `create_ticket`이 필요하지 `order_esim`은 필요 없습니다. 설명은 모델이 도구를 고르고 채우는 데 필요한 만큼만 남기세요. 여기서는 들여쓰기가 상관없습니다. 렌더링해 본 템플릿은 모두 `tools` 배열을 `tojson`으로 다시 직렬화하므로, 들여쓴 tools 배열과 압축한 배열의 비용이 같습니다.

**메시지 속 데이터.** 메시지에 붙여 넣은 데이터는 쓴 그대로 전송됩니다. 최소한 JSON은 압축하세요. 평평한 레코드라면 CSV나 TSV가 반복되는 키를 없애 줍니다. 테스트에서 압축 JSON보다 토큰이 31~41% 적었습니다. 중첩 데이터는 JSON으로 두세요. 모델이 여전히 열을 제대로 읽는지 확인하세요.

**이력.** 지난 턴은 모두 다시 전송됩니다. 오래된 턴 16개를 세 줄 요약으로 바꾸고 최근 네 턴을 그대로 두자, Qwen 프롬프트가 2,693토큰에서 1,103토큰으로 줄었습니다. 요약은 사용자가 다시 언급할 수 있는 세부 정보를 버리고, 요약을 다시 쓰면 접두부가 바뀌어 캐싱이 깨집니다. 언제 압축할지는 [장시간 실행 에이전트의 컨텍스트 관리](https://broadrouter.com/ko/blog/long-running-agent-context-management/)에서 다룹니다.

**아랍어 발음 부호.** 아랍어는 대부분 짧은 모음 부호 없이 씁니다. 사전, 교재, 종교 문헌에서 온 입력처럼 모음 부호가 모두 붙어 있다면, 부호(U+064B~U+0652)를 제거하자 문단이 59~72% 줄었습니다. 교육이나 시처럼 작업이 부호에 의존한다면 남겨 두세요. 정규화할 가치가 있는 다른 문자는 [아랍어 텍스트 정규화](https://broadrouter.com/ko/blog/arabic-text-normalization-search/)에서, 영어와의 더 큰 차이는 [아랍어 단어당 토큰 수](https://broadrouter.com/ko/blog/tokens-per-word-arabic-english/)에서 다룹니다.

## 캐싱은 어디에 들어가나요?

캐싱은 프롬프트를 줄이지 않습니다. 반복되는 부분을 더 싸게 만들 뿐입니다. OpenAI 캐싱 가이드는 “the entire rendered prefix”(번역: 렌더링된 접두부 전체)가 일치해야 한다고 하며, 고정된 지시를 앞에 두라고 권합니다. BroadNet [가격 페이지](https://inference.broadnet.ai/pricing?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-reduce-prompt-tokens&utm_content=body)는 캐시된 입력을 “usually the repeated start of recent requests, such as a long system prompt”(번역: 대개 긴 시스템 프롬프트처럼 최근 요청의 반복되는 시작 부분)라고 설명하며 별도 설정이 필요 없다고 하고, 문서는 적중 수를 `usage.prompt_tokens_details.cached_tokens`에 보고한다고 밝힙니다.

그러므로 순서는 이렇습니다. 먼저 줄이고, 그다음 줄인 접두부를 고정하세요. 시스템 프롬프트와 도구를 맨 앞에 두고 매 호출마다 바이트 단위까지 똑같이 유지합니다. 그다음 이력은 뒤에 덧붙이기만 하고, 새 메시지를 마지막에 둡니다. Qwen3.8 27B에서 캐시된 입력은 100만 토큰당 $0.0435, 새 입력은 $0.175 요금입니다. 구성 방법과 접두부 재사용을 증명하는 테스트는 [캐싱을 위한 프롬프트 구성](https://broadrouter.com/ko/blog/prompt-structure-for-caching/)에 있습니다. 캐시된 토큰도 컨텍스트 윈도우에는 포함됩니다.

## 내 프롬프트는 어떻게 측정하나요?

청구액부터 시작하세요. 하루 동안 호출 위치별로 `usage.prompt_tokens`를 기록하고 가장 큰 곳을 찾으세요. 그다음 이 스크립트로 로컬에서 버전을 비교하세요. 두 파일의 전후 토큰 수를 출력합니다.

```python
# pip install tokenizers tiktoken huggingface_hub
import json, sys
import tiktoken
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer

def hf(repo, rev):
    return Tokenizer.from_file(hf_hub_download(repo, "tokenizer.json", revision=rev))

COUNTERS = {
    "Qwen3.8 27B": hf("Qwen/Qwen3.8-27B", "37561816e66b5b9153b1b64c10968c18c1e6f4a0").encode,
    "GPT o200k": tiktoken.get_encoding("o200k_base").encode,
}

def n(enc, text):
    out = enc(text)
    return len(out.ids if hasattr(out, "ids") else out)

def diff(before, after):
    for name, enc in COUNTERS.items():
        a, b = n(enc, before), n(enc, after)
        print(f"{name:12} {a:6} -> {b:6}  saved {a - b} ({100 * (a - b) / a:.0f}%)")

if __name__ == "__main__":
    diff(open(sys.argv[1], encoding="utf-8").read(), open(sys.argv[2], encoding="utf-8").read())
```

저희 시스템 프롬프트 두 개로 실행한 결과입니다.

```text
Qwen3.8 27B     297 ->     95  saved 202 (68%)
GPT o200k       293 ->     86  saved 207 (71%)
```

출처 목록의 다른 모델 저장소를 추가하면 네 모델을 모두 비교할 수 있습니다. 브라우저에서 빠르게 확인하려면 [프롬프트 토큰 비교 도구](https://broadrouter.com/tools/prompt-token-diff/)로 두 버전을 나란히 비교하고, [토큰 카운터](https://broadrouter.com/tools/token-counter/)로 하나를 세어 보세요. 배포한 뒤에는 템플릿까지 포함하는 `usage.prompt_tokens`로 절감 효과를 확인하세요.

## BroadNet Inference는 어디에 적합한가요?

BroadRouter는 BroadNet의 사이트입니다. BroadNet Inference는 프롬프트 토큰을 각 모델의 입력 단가로 과금하고, 캐시된 입력 가격이 있는 모델에서는 반복되는 접두부를 캐시에서 읽어 캐시 단가로 과금하므로, 짧은 프롬프트와 고정된 접두부 모두 청구액을 낮춥니다. [Gemma 4 VL 26B](https://broadrouter.com/ko/models/gemma-4-vl-26b/)는 컨텍스트가 32,768토큰이라, 줄이는 것이 비용뿐 아니라 프롬프트가 들어가느냐의 문제이기도 합니다. DeepSeek V4.1 Flash 플랜에는 토큰 계량이 없지만 1,048,576토큰 컨텍스트 제한은 그대로 적용되고, 짧은 프롬프트가 여전히 더 빨리 응답합니다. 프롬프트는 각 요청 후 보관되지 않습니다.

관련 무료 도구 (영어)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[무료 도구 (영어)](https://broadrouter.com/tools/)

## 이 글의 용어

[도구 호출(tool calling)](https://broadrouter.com/ko/glossary/tool-calling/)

도구 호출(tool calling)은 함수 호출(function calling)이라고도 하며, 모델이 개발자가 정의한 함수를 실행해 달라는 구조화된 요청을 JSON 인자와 함께 반환하는 LLM API 기능입니다. 함수는 애플리케이션이 실행하고 그 결과를 다시 보냅니다. 모델이 직접 코드를 실행하지는 않습니다.

[입력 토큰과 출력 토큰(input and output tokens)](https://broadrouter.com/ko/glossary/input-and-output-tokens/)

입력 토큰은 언어 모델이 요청에서 읽는 토큰으로, 시스템 프롬프트, 대화 기록, 도구 정의, 이미지가 포함됩니다. 출력 토큰은 모델이 응답으로 생성하는 토큰으로, 추론도 포함됩니다. LLM API는 보통 둘에 따로 가격을 매기며, 대개 출력이 더 비쌉니다.

[토크나이저(tokenizer)](https://broadrouter.com/ko/glossary/tokenizer/)

토크나이저(tokenizer)는 텍스트를 언어 모델이 읽는 정수 토큰 ID 시퀀스로 변환하고, 생성된 ID를 다시 텍스트로 바꾸는 구성 요소입니다. 모델마다 자체 토크나이저가 있으므로, 같은 텍스트도 모델에 따라 토큰 수가 달라질 수 있습니다.

[시스템 프롬프트(system prompt)](https://broadrouter.com/ko/glossary/system-prompt/)

시스템 프롬프트는 애플리케이션이 대화보다 앞서 언어 모델에 보내는 지시문으로, 보통 system 또는 developer 역할의 메시지로 전달됩니다. 모델의 역할, 규칙, 어조, 출력 형식을 정하며, 모델은 이와 충돌하는 사용자 메시지보다 시스템 프롬프트를 따르도록 되어 있습니다.

[오픈 웨이트 모델(open-weight model)](https://broadrouter.com/ko/glossary/open-weight-model/)

오픈 웨이트 모델은 학습된 가중치를 공개해 누구나 내려받아 실행할 수 있게 한 머신러닝 모델로, 보통 조건이 붙은 라이선스로 배포됩니다. 학습 코드와 학습 데이터에 대한 상세한 정보까지 공개해 다른 사람이 모델을 연구하고 재현할 수 있게 하는 완전한 오픈 소스 AI와는 다릅니다.

[캐시된 입력 토큰(cached input tokens)](https://broadrouter.com/ko/glossary/cached-input-tokens/)

캐시된 입력 토큰은 LLM 제공업체가 최근에 처리해 두었다가 다시 계산하지 않고 캐시에서 재사용할 수 있는 프롬프트 토큰입니다. 보통 시스템 프롬프트나 문서처럼 반복되는 접두부(prefix)이며, 제공업체는 이를 새 입력 토큰보다 낮은 단가로 과금합니다.

[컨텍스트 엔지니어링(context engineering)](https://broadrouter.com/ko/glossary/context-engineering/)

컨텍스트 엔지니어링(context engineering)은 언어 모델이 요청마다 보는 토큰 집합, 즉 시스템 프롬프트, 도구 정의, 대화 기록, 검색한 문서, 메모를 고르고 관리하는 작업입니다. 목표는 모델이 작업을 잘 해내는 데 필요한, 신호가 강한 정보의 가장 작은 집합을 건네는 것입니다.

[AI 에이전트(AI agent)](https://broadrouter.com/ko/glossary/agent/)

AI 에이전트는 언어 모델이 목표를 향해 스스로 단계를 정하는 시스템입니다. 어떤 도구를 호출할지 결정하고, 결과를 읽고, 최종 답변을 내거나 한도에 닿을 때까지 이를 반복합니다. 정해진 지점에서 모델을 호출하는 고정된 스크립트는 보통 워크플로라고 부릅니다.

## 자주 묻는 질문

### 프롬프트의 토큰 수는 어떻게 줄이나요?

먼저 측정하세요. usage.prompt\_tokens를 기록하고 가장 큰 부분을 찾으세요. 그다음 측정에서 절감 효과가 컸던 순서대로 하세요. 해당 단계에 필요한 도구만 보내고, 도구와 시스템 프롬프트 문구를 줄이고, 표는 JSON이 아니라 CSV로 보내고, 퓨샷 예시는 결과를 바꾸는 것만 남기고, 오래된 대화 턴은 요약하세요.

### 들여쓰기한 JSON은 토큰을 더 많이 쓰나요?

네. 테스트에서 들여쓴 JSON 40행을 압축하면 토크나이저에 따라 토큰이 34~38% 줄었고, CSV로 보내면 57~61% 줄었습니다. 반대로 말하면 들여쓴 JSON은 압축 JSON보다 52~61%, CSV보다 132~159% 토큰이 많았습니다. 도구 스키마는 예외입니다. 채팅 템플릿이 다시 직렬화하므로 tools 배열의 들여쓰기는 모델에 전달되지 않습니다.

### 도구 정의는 토큰을 얼마나 쓰나요?

문구와 모델의 템플릿에 따라 다릅니다. 설명이 장황한 도구 10개는 DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에서 렌더링된 프롬프트에 약 1,200~1,400토큰을 더했습니다. 설명이 짧은 도구 3개는 약 320~460토큰을 더했습니다.

### 아랍어 발음 부호는 토큰 수를 늘리나요?

크게 늘립니다. 31단어짜리 현대 표준 아랍어 문단은 토크나이저 다섯 개에서 발음 부호 없이 62~78토큰, 모음 부호를 모두 붙이면 151~267토큰이었습니다. 대부분의 아랍어 텍스트는 부호 없이 쓰므로, 시나 교육처럼 작업에 필요한 경우가 아니면 입력에서 제거하세요.

### 프롬프트 캐싱이 프롬프트 줄이기보다 나은가요?

둘은 함께 작동합니다. 캐싱은 반복되는 접두부를 더 싸게 만들지만, 여전히 컨텍스트 윈도우에 포함되고 가격도 있습니다. 먼저 줄인 다음, 줄인 접두부를 모든 요청의 시작 부분에 바이트 단위까지 똑같이 두어 캐시에서 읽히게 하세요.

### 직접 센 토큰 수가 API의 prompt\_tokens와 다른 이유는 무엇인가요?

API는 렌더링된 프롬프트를 셉니다. 채팅 템플릿으로 감싼 메시지에, 템플릿 고유 형식의 도구 스키마가 더해진 것입니다. 원본 텍스트에 토크나이저를 돌리면 이 부분이 빠집니다. 버전 비교에는 토크나이저를, 청구액에는 usage.prompt\_tokens를 쓰세요.

## 이어서 읽기

-   [에이전트 토큰 예산: 에이전트 루프의 토큰은 어디로 가는가](https://broadrouter.com/ko/blog/agent-token-budget/)
-   [LLM 요청 전에 토큰 수 계산하는 방법](https://broadrouter.com/ko/blog/count-tokens-before-sending/)
-   [접두부가 캐시되도록 프롬프트를 구성하는 방법](https://broadrouter.com/ko/blog/prompt-structure-for-caching/)
-   [캐시된 입력 토큰: 프롬프트 캐싱으로 LLM API 요금 줄이기](https://broadrouter.com/ko/blog/cached-input-tokens-explained/)
-   [아랍어와 영어의 단어당 토큰 수: 아랍어가 더 비싼 이유](https://broadrouter.com/ko/blog/tokens-per-word-arabic-english/)
-   [1M 컨텍스트 창으로 장시간 실행 에이전트의 컨텍스트 관리하기](https://broadrouter.com/ko/blog/long-running-agent-context-management/)
-   [코딩 에이전트 LLM 비용 줄이는 10가지 방법과 예상 절감액](https://broadrouter.com/ko/blog/cut-coding-agent-llm-costs/)
-   [LLM API 응답 캐싱으로 비용 줄이기: Python 정확 일치 캐시](https://broadrouter.com/ko/blog/cache-llm-responses-cut-cost/)
-   [BroadNet의 GPU 하드웨어와 서빙 방식: BroadNet이 밝힌 내용](https://broadrouter.com/ko/blog/broadnet-gpu-fleet-and-serving/)
-   [문서 AI 워크플로에 사람의 검토 단계 넣기](https://broadrouter.com/ko/blog/document-review-queues/)
-   [가이드: BroadNet Inference에서 OpenAI Python SDK 사용하기](https://broadrouter.com/ko/guides/openai-python-sdk/)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-reduce-prompt-tokens&utm_content=page-cta) ·

**출처**

-   [Hugging Face의 Qwen/Qwen3.8-27B: 리비전 37561816의 tokenizer.json과 chat\_template.jinja(2026-11-15 다운로드)](https://huggingface.co/Qwen/Qwen3.8-27B)
-   [Hugging Face의 zai-org/GLM-5.3: 리비전 ba32f8c1의 tokenizer.json과 chat\_template.jinja(2026-11-15 다운로드)](https://huggingface.co/zai-org/GLM-5.3)
-   [Hugging Face의 deepseek-ai/DeepSeek-V4.1-Flash: 리비전 314113f8의 tokenizer.json과 chat\_template.jinja(2026-11-15 다운로드)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
-   [Hugging Face의 google/gemma-4-26B-A4B-it: 리비전 4d7ae498의 tokenizer.json, BroadNet Gemma 4 VL 26B의 기반 모델(2026-11-15 확인)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [GitHub의 OpenAI tiktoken: o200k\_base 인코딩, 버전 0.14.0 사용(2026-11-15 확인)](https://github.com/openai/tiktoken)
-   [OpenAI 프롬프트 캐싱 가이드: 고정 콘텐츠를 앞에, 렌더링된 접두부 전체가 일치해야 함, 도구도 캐시 컨텍스트에 포함(2026-11-15 확인)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [BroadNet Inference 가격 페이지: 캐시된 입력은 최근 요청의 반복되는 시작 부분이며 더 낮게 과금, 별도 설정 불필요(2026-11-15 확인) (영어)](https://inference.broadnet.ai/pricing?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-reduce-prompt-tokens&utm_content=sources)
-   [BroadNet Inference API 레퍼런스: usage 블록에 보고되는 캐시된 토큰, 모델 기능(2026-11-15 확인) (영어)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-reduce-prompt-tokens&utm_content=sources)
