---
title: "RAG 청크 크기와 오버랩: 검색 성능과 토큰 비용 | BroadRouter"
description: "청크 크기와 오버랩이 RAG 재현율, 인덱스 크기, 임베딩 비용, 그리고 매 쿼리가 LLM에 보내는 토큰 수를 어떻게 바꾸는지, 공개된 실험 결과와 계산 예시로 설명합니다."
url: https://broadrouter.com/ko/blog/rag-chunk-size-overlap/
lang: ko
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/blog/rag-chunk-size-overlap/) (2026-11-16 업데이트).

# RAG 청크 크기와 오버랩: 검색 품질과 비용에 미치는 영향

BroadNet Inference 팀 · 7분 분량 · 게시 2026-11-15 · 업데이트 2026-11-16

청크는 약 256~512토큰, 오버랩은 0~15%로 시작하고, top-k는 직접 가진 쿼리로 조정하세요. 청크가 클수록 매 쿼리가 LLM에 보내는 토큰이 늘어납니다. 오버랩은 임베딩하고 저장하는 토큰을 크기 ÷ (크기 − 오버랩)배로 늘리므로, 50% 오버랩은 인덱스를 두 배로 만듭니다. 공개된 테스트에서는 작거나 오버랩 없는 청크가 재현율이 같거나 더 높은 경우가 많았습니다.

## 핵심 요약

-   쿼리당 입력은 대략 top-k × 청크 크기 + 프롬프트입니다. 5 × 400토큰에서 8 × 1,024토큰으로 바꾸면 매 쿼리마다 약 3.4배의 입력을 보냅니다.
-   오버랩은 인덱스를 크기 ÷ (크기 − 오버랩)배로 늘립니다. 15% 오버랩은 최대 약 18%를 더하고(여기서 측정한 10,000토큰 문서에서는 17%), 50%는 두 배로 만듭니다.
-   Chroma의 2024년 평가에서 오버랩 없는 200~400토큰 청크는, OpenAI 파일 검색의 기본값인 오버랩 400의 800토큰 청크와 같거나 더 좋은 결과를 냈습니다.
-   NVIDIA의 2025년 테스트에서는 단 하나의 최적 크기가 없었습니다. 사실 확인형 질문은 256~512토큰, 분석형 질문은 1,024토큰이나 페이지 단위가 유리했습니다.
-   청크 크기는 사용하는 임베딩 모델의 토큰 수로 세세요. 일부 분할기는 기본적으로 문자 수를 셉니다.

**이 페이지의 내용**

1.  청크 크기와 오버랩은 무엇을 바꾸나요?
2.  청크 크기에 대해 공개된 테스트는 무엇을 말하나요?
3.  오버랩은 인덱스를 얼마나 키우나요?
4.  청크 크기는 LLM 요금에 어떤 영향을 주나요?
5.  단어를 자르지 않고 토큰 단위로 청킹하려면 어떻게 하나요?
6.  내 데이터에 맞는 값은 어떻게 고르나요?
7.  BroadNet Inference는 어디에 적합한가요?

청크 크기와 오버랩은 모든 RAG 파이프라인이 초기에 정하고 좀처럼 다시 보지 않는 두 숫자입니다. 이 두 값이 저장하는 벡터 수, 임베딩하는 토큰 수, 질문마다 LLM에 보내는 토큰 수, 그리고 애초에 올바른 구절을 찾을 수 있는지를 결정합니다. 이 글에서는 공개된 테스트 결과를 보여 드린 다음, 토큰 계산을 차근차근 따라가며 무엇이든 임베딩하기 전에 각 설정의 비용을 확인할 수 있게 합니다.

애초에 RAG를 쓸지부터 고민 중이라면 [롱 컨텍스트 vs RAG](https://broadrouter.com/ko/blog/long-context-vs-rag/)부터 읽어 보세요. 아랍어 문서라면 이 글과 함께 [아랍어 RAG](https://broadrouter.com/ko/blog/arabic-rag-search/)와 [아랍어 텍스트 정규화](https://broadrouter.com/ko/blog/arabic-text-normalization-search/)를 읽으세요.

## 청크 크기와 오버랩은 무엇을 바꾸나요?

-   **청크 크기**는 임베딩하고 검색하는 조각 하나에 들어가는 토큰 수입니다.
-   **오버랩**은 연속된 청크가 공유하는 토큰 수로, 경계에서 잘린 문장이 적어도 한 청크에는 온전히 들어가게 합니다.
-   **Top-k**는 질문마다 검색하는 청크 수입니다.

이 세 값이 함께 네 가지를 정합니다.

| 항목 | 공식(긴 문서 기준) |
| --- | --- |
| 저장되는 청크 수 | 코퍼스 토큰 ÷ (크기 − 오버랩) |
| 임베딩되는 토큰 | 코퍼스 토큰 × 크기 ÷ (크기 − 오버랩) |
| 쿼리당 컨텍스트 | top-k × 크기 |
| 쿼리당 LLM 입력 | top-k × 크기 + 시스템 프롬프트 + 질문 |

앞의 두 가지는 인덱싱할 때마다 한 번씩, 그리고 청킹을 바꿀 때마다 다시 지불합니다. 마지막 항목은 질문마다 계속 지불합니다.

## 청크 크기에 대해 공개된 테스트는 무엇을 말하나요?

알아 둘 만한 공개 평가가 두 가지 있습니다. 서로 다른 것을 측정했기 때문입니다.

\*\*Chroma(Smith, Troynikov, 2024년 7월)\*\*는 토큰 단위로 검색을 측정했습니다. 관련 텍스트 중 얼마나 검색되었는지(재현율), 그리고 검색된 것 중 얼마나 관련이 있었는지입니다. 검색 청크 5개와 OpenAI의 text-embedding-3-large를 사용했습니다. 일부 행을 옮기면 다음과 같습니다.

| 분할기 | 크기(토큰) | 오버랩 | 재현율 | IoU |
| --- | --- | --- | --- | --- |
| Recursive | 800 | 400 | 85.4% | 1.5% |
| Token | 800 | 400 | 87.9% | 1.4% |
| Recursive | 400 | 200 | 88.1% | 3.3% |
| Recursive | 400 | 0 | 89.5% | 3.6% |
| Recursive | 200 | 0 | 88.1% | 6.9% |

IoU(intersection over union)는 검색된 텍스트 중 관련 있는 비율을 나타내므로, 낭비된 토큰의 지표로도 쓸 수 있습니다. 800/400 행은 OpenAI 파일 검색의 기본값과 같습니다. Chroma는 토큰 분할기를 가정할 때 이 설정의 재현율이 평균보다 약간 낮고 다른 지표에서는 가장 낮은 점수를 받았다고 밝혔습니다. 오버랩 없는 작은 청크는 재현율이 같거나 더 높았고, 관련 없는 텍스트는 훨씬 적었습니다.

\*\*NVIDIA(2025년 6월)\*\*는 5개 데이터셋에서 종단 간 답변 정확도를 측정했습니다. 15% 오버랩의 128~2,048토큰 청크와 함께 페이지 단위, 섹션 단위 청킹도 시험했습니다. 페이지 단위 청킹이 평균 정확도가 가장 높았고(0.648) 편차는 가장 작았습니다. 최적의 토큰 크기는 질문에 따라 달랐습니다. 사실 확인형 데이터셋은 256~512토큰, 분석형은 1,024토큰이나 페이지 전체가 유리했습니다. 양 극단인 128과 2,048은 대체로 성능이 더 낮았습니다.

두 평가가 일치하는 점이 하나 있습니다. **보편적인 최적 크기는 없으며**, 오버랩이 큰 아주 큰 청크가 올바른 기본값인 경우는 드뭅니다.

## 오버랩은 인덱스를 얼마나 키우나요?

각 청크는 크기 − 오버랩 토큰만큼 앞으로 나아가므로, 인덱스에는 코퍼스가 크기 ÷ (크기 − 오버랩)벌 들어갑니다. 10,000토큰짜리 문서로 이루어진 2,000,000토큰 코퍼스의 경우는 다음과 같습니다.

| 크기 | 오버랩 | 청크 수 | 임베딩 토큰 | 증가율 |
| --- | --- | --- | --- | --- |
| 200 | 0 | 10,000 | 2,000,000 | 1.00× |
| 400 | 0 | 5,000 | 2,000,000 | 1.00× |
| 512 | 77 (15%) | 4,600 | 2,338,800 | 1.17× |
| 1,024 | 154 (15%) | 2,400 | 2,338,800 | 1.17× |
| 800 | 400 (50%) | 4,800 | 3,840,000 | 1.92× |
| 400 | 200 (50%) | 9,800 | 3,920,000 | 1.96× |

짧은 문서는 각 문서의 마지막 청크가 일부만 채워지므로 조금 덜 늘어납니다. 공식은 그 극한값을 줍니다. 임베딩 토큰, 벡터 저장 공간, 재인덱싱 시간에서 15% 오버랩은 약 18%, 50% 오버랩은 약 100%의 비용을 더합니다.

오버랩은 쿼리 시점에도 비용이 듭니다. 50% 오버랩에서 같은 질문에 이웃한 청크 두 개가 검색되면 텍스트의 절반이 중복됩니다. 그 중복 토큰에도 비용을 내야 하고, 그만큼 다른 관련 구절이 top-k 밖으로 밀려납니다.

BroadNet은 임베딩을 판매하지 않으므로 이쪽 비용은 임베딩 제공업체에 지불합니다. [임베딩 비용 계산기](https://broadrouter.com/tools/embedding-cost-calculator/)로 계산해 보세요.

## 청크 크기는 LLM 요금에 어떤 영향을 주나요?

모든 질문은 top-k개의 청크와 프롬프트를 보냅니다. 한 달에 질문 10만 개, 시스템 프롬프트와 질문 600토큰, 매번 같은 300토큰 답변을 가정해 보겠습니다.

| 크기 × top-k | 쿼리당 컨텍스트 | 쿼리당 입력 | 월간 입력 |
| --- | --- | --- | --- |
| 200 × 10 | 2,000 | 2,600 | 2억 6,000만 |
| 400 × 5 | 2,000 | 2,600 | 2억 6,000만 |
| 512 × 5 | 2,560 | 3,160 | 3억 1,600만 |
| 800 × 5 | 4,000 | 4,600 | 4억 6,000만 |
| 1,024 × 5 | 5,120 | 5,720 | 5억 7,200만 |
| 1,024 × 8 | 8,192 | 8,792 | 8억 7,900만 |

출력은 모든 행에서 월 3,000만 토큰이므로 입력만 달라집니다. 100만 토큰당 가격이 주어지면, 월간 입력 비용은 마지막 열의 백만 단위 수(예: 8억 7,900만이면 879)에 그 가격을 곱한 값입니다. 100만 입력 토큰당 $0.10 요금인 [Gemma 4 VL 26B](https://broadrouter.com/ko/models/gemma-4-vl-26b/)에서 1,024 × 8 설정은 입력에만 월 879 × $0.10 금액이 들고, 400 × 5는 260 × $0.10 금액입니다. 공개된 테스트에서 재현율이 더 좋다는 결과도 없는 설정에 3.4배를 쓰는 셈입니다. [Qwen3.8 27B](https://broadrouter.com/ko/models/qwen3.8-27b/)(입력 $0.175)나 [GLM 5.3](https://broadrouter.com/ko/models/glm-5.3/)(입력 $0.78)에서는 비율은 같고 총액은 더 커집니다.

모델 가격보다 이 비용을 더 크게 움직이는 수단이 두 가지 있습니다.

1.  **크기를 늘리면 k를 줄이세요.** 200 × 10과 400 × 5는 같은 컨텍스트를 보냅니다. 크기를 테스트하는 동안 쿼리당 컨텍스트를 대략 고정해야 컨텍스트 예산이 아니라 검색 품질을 비교할 수 있습니다.
2.  **고정된 부분을 캐시하세요.** 시스템 프롬프트를 맨 앞에 두고 바이트 단위로 동일하게 유지하면, 캐시 단가가 있는 모델에서는 [캐시된 입력](https://broadrouter.com/ko/blog/cached-input-tokens-explained/) 단가로 과금될 수 있습니다. 검색된 청크는 질문마다 바뀌므로 캐시되는 경우가 드뭅니다.

컨텍스트 한도도 중요합니다. Gemma 4 VL 26B는 요청당 32,768토큰을 받으므로 위의 어느 행이든 충분합니다. k × 크기를 수만 토큰까지 늘린다면 RAG에서 [롱 컨텍스트](https://broadrouter.com/ko/blog/long-context-vs-rag/) 쪽으로 넘어간 것이며, 그 비교에는 별도의 계산이 필요합니다. [RAG 청킹 계산기](https://broadrouter.com/tools/rag-chunking-calculator/)로 직접 가진 코퍼스, 청크 크기, 오버랩, top-k에 이 공식을 적용해 볼 수 있습니다.

## 단어를 자르지 않고 토큰 단위로 청킹하려면 어떻게 하나요?

크기는 토큰으로 세되, 자르는 위치는 구조를 따르세요. LangChain의 `RecursiveCharacterTextSplitter`는 `length_function`으로 크기를 재며, 기본값은 문자 길이입니다. 그러면 “크기 512”는 512자, 즉 영어로 대략 100~150토큰이 되고, 아랍어에서는 또 다른 수가 됩니다. [아랍어의 단어당 토큰 수](https://broadrouter.com/ko/blog/tokens-per-word-arabic-english/)를 참고하세요. 임베딩 한도와 LLM 요금은 토큰 단위입니다.

아래 청커는 토큰 예산까지 문단을 통째로 채워 넣고, 끝부분 문단을 오버랩으로 다음 청크에 넘깁니다. 문단 경계에서 자르므로, 원시 토큰 윈도우에서 생길 수 있는 단어나 멀티바이트 아랍어 문자의 분리를 피할 수 있습니다.

```python
import tiktoken

enc = tiktoken.get_encoding("o200k_base")    # an estimate: count with your embedder's tokenizer
count = lambda s: len(enc.encode(s))

def chunk(text, size=512, overlap=64):
    """Pack whole paragraphs up to `size` tokens; repeat trailing paragraphs up to `overlap` tokens."""
    chunks, cur, cur_len = [], [], 0
    for para in (p.strip() for p in text.split("\n\n")):
        if not para:
            continue
        n = count(para)
        if cur and cur_len + n > size:
            chunks.append("\n\n".join(cur))
            tail, t = [], 0
            for q in reversed(cur):                  # carry the end of this chunk forward
                if t + count(q) > overlap:
                    break
                tail.insert(0, q); t += count(q)
            cur, cur_len = tail, t
        cur.append(para); cur_len += n              # a paragraph over `size` stays whole
    if cur:
        chunks.append("\n\n".join(cur))
    return chunks

def plan(corpus_tokens, size, overlap, k, queries_per_month, prompt_tokens=600):
    index_tokens = corpus_tokens * size / (size - overlap)   # long-document limit
    per_query = k * size + prompt_tokens
    return {"chunks": round(index_tokens / size), "tokens_to_embed": round(index_tokens),
            "input_per_query": per_query, "input_per_month": per_query * queries_per_month}

print(plan(2_000_000, 512, 64, 5, 100_000))
# {'chunks': 4464, 'tokens_to_embed': 2285714, 'input_per_query': 3160, 'input_per_month': 316000000}
```

여기서 오버랩은 “최대”입니다. 오버랩 예산보다 긴 문단은 반복되지 않습니다. `size`보다 긴 문단 하나는 통째로 유지되므로, 문서에 그런 문단이 있다면 먼저 문장 단위로 나누세요. 각 청크 앞에 문서 제목과 섹션 제목을 붙이면, 검색된 청크만 봐도 무엇에 관한 내용인지 알 수 있습니다. 청크당 토큰이 몇 개 늘어나지만, 오버랩보다 도움이 되는 경우가 많습니다.

## 내 데이터에 맞는 값은 어떻게 고르나요?

1.  **평가 세트를 만드세요.** 실제 질문 50~200개와, 각 질문에 답하는 구절을 준비합니다. 채점 방법은 [LLM 평가 가이드](https://broadrouter.com/ko/blog/evaluate-llm-before-switching/)에서 다룹니다.
2.  **컨텍스트 예산을 고정하세요.** 크기를 비교하는 동안 k × 크기를 2,000토큰처럼 한 값 근처로 유지합니다.
3.  **크기 세 가지와 오버랩 두 가지를 시도하세요.** 예를 들어 256, 512, 1,024토큰을 각각 오버랩 0과 15%로 시험합니다. k에서 올바른 구절의 재현율을 측정하세요.
4.  **구조를 시도하세요.** 문서에 페이지나 번호 붙은 섹션이 있다면, 페이지 단위나 섹션 단위 청크를 토큰 크기와 비교하세요. NVIDIA는 페이지 단위가 가장 일관적이라는 결과를 얻었습니다.
5.  **최고 재현율과 1~2%포인트 차이 이내인 설정 중 가장 저렴한 것을 고르고,** [월간 비용 산정 방법](https://broadrouter.com/ko/blog/estimate-llm-api-cost-before-launch/)으로 쿼리 양에 맞춰 비용을 계산하세요.

전체 코퍼스를 임베딩하기 전에 샘플로 이 과정을 거치세요. 나중에 청킹을 바꾸면 전부 다시 임베딩해야 합니다.

## BroadNet Inference는 어디에 적합한가요?

BroadNet Inference는 RAG의 검색이 아니라 답변 단계를 담당합니다. 임베딩이나 벡터 저장소는 판매하지 않으므로, 원하는 임베딩 제공업체와 벡터 데이터베이스를 함께 쓰세요. 답변용으로는 Gemma 4 VL 26B가 저비용 선택지이며 $5 금액의 초기 크레딧으로 실행할 수 있습니다. Qwen3.8 27B(262,144토큰 컨텍스트)와 GLM 5.3(1,048,576)은 충전 후 더 큰 top-k나 긴 문서에 적합합니다. 프롬프트와 검색된 구절은 요청 후에 보관되지 않습니다. 코퍼스가 작고 안정적이어서 컨텍스트 윈도우에 들어간다면, [롱 컨텍스트](https://broadrouter.com/ko/blog/long-context-vs-rag/)가 청킹보다 아예 나을 수도 있습니다.

관련 무료 도구 (영어)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[무료 도구 (영어)](https://broadrouter.com/tools/)

## 이 글의 용어

[임베딩(embedding)](https://broadrouter.com/ko/glossary/embeddings/)

임베딩은 모델이 텍스트, 이미지 등의 입력을 표현하기 위해 만드는 부동소수점 숫자 목록(벡터)입니다. 의미가 비슷한 입력은 서로 가까운 벡터를 얻으므로, 벡터 사이의 거리로 검색 결과의 순위를 매기거나 문서를 군집화하거나 관련 항목을 찾을 수 있습니다.

[청킹(chunking, RAG)](https://broadrouter.com/ko/glossary/chunking/)

청킹(chunking)은 검색 파이프라인에서 문서를 임베딩하고 인덱싱하기 전에 청크라고 부르는 작은 조각으로 나누는 단계입니다. 청크 크기는 조각 하나에 담기는 텍스트 양을 정하고, 청크 오버랩은 이웃한 청크 사이에 일부 텍스트를 반복해 경계에서 잘린 내용이 사라지지 않게 합니다.

[도구 호출(tool calling)](https://broadrouter.com/ko/glossary/tool-calling/)

도구 호출(tool calling)은 함수 호출(function calling)이라고도 하며, 모델이 개발자가 정의한 함수를 실행해 달라는 구조화된 요청을 JSON 인자와 함께 반환하는 LLM API 기능입니다. 함수는 애플리케이션이 실행하고 그 결과를 다시 보냅니다. 모델이 직접 코드를 실행하지는 않습니다.

[토큰(token)](https://broadrouter.com/ko/glossary/token/)

토큰은 언어 모델이 읽고 쓰는 텍스트 단위로, 모델의 토크나이저가 만들어 내는 단어, 단어의 일부, 문장 부호 또는 바이트 시퀀스입니다. LLM API는 사용량을 토큰 단위로 집계하고 제한하며, 대개 토큰 단위로 과금합니다.

[캐시된 입력 토큰(cached input tokens)](https://broadrouter.com/ko/glossary/cached-input-tokens/)

캐시된 입력 토큰은 LLM 제공업체가 최근에 처리해 두었다가 다시 계산하지 않고 캐시에서 재사용할 수 있는 프롬프트 토큰입니다. 보통 시스템 프롬프트나 문서처럼 반복되는 접두부(prefix)이며, 제공업체는 이를 새 입력 토큰보다 낮은 단가로 과금합니다.

[LLM 평가(eval)](https://broadrouter.com/ko/glossary/eval/)

eval(evaluation의 줄임말, 평가)은 언어 모델이나 프롬프트를 반복해서 시험하는 테스트입니다. 고정된 입력 세트, 좋은 출력의 기준, 그리고 각 출력에 점수를 매기는 채점기(코드, 사람 또는 다른 모델)로 이루어져 버전끼리 비교할 수 있게 해 줍니다.

## 자주 묻는 질문

### RAG에 적당한 청크 크기는 얼마인가요?

256~512토큰 정도로 시작해서 테스트하세요. Chroma의 평가에서는 오버랩 없는 200~400토큰이 좋은 성능을 보였습니다. NVIDIA는 사실 확인형 질문에는 256~512토큰이 맞고, 분석형 질문에는 1,024토큰이나 페이지 단위 청크가 더 낫다는 결과를 얻었습니다.

### 청크 오버랩은 얼마로 설정해야 하나요?

대부분의 기본값보다 적게 두세요. NVIDIA는 한 데이터셋에서 시험한 10%, 15%, 20% 중 15%가 가장 좋았다고 밝혔습니다. Chroma는 오버랩 없는 설정이 같거나 더 좋은 점수를 받는 경우가 많다는 결과를 얻었습니다. 오버랩이 늘수록 임베딩하고 저장하고 보내는 토큰이 늘어납니다.

### 청크 크기가 크면 비용이 더 드나요?

오버랩이 없다면 임베딩 비용은 같습니다. 코퍼스의 토큰 수가 같기 때문입니다. 대신 쿼리당 비용은 늘어납니다. 검색된 청크 하나하나가 길어져 top-k × 청크 크기가 커지기 때문입니다. 크기를 늘리면 k를 줄이세요.

### 청크 크기는 토큰으로 재나요, 문자로 재나요?

분할기에 따라 다릅니다. LangChain의 RecursiveCharacterTextSplitter는 length\_function으로 재며, 기본값은 문자 길이입니다. 임베딩 한도와 LLM 요금은 토큰 단위이므로 토큰 계산 함수를 넘기세요.

### 청크 크기를 바꾸면 다시 임베딩해야 하나요?

네. 경계가 바뀌면 청크가 새로 만들어지고, 청크마다 새 벡터가 필요합니다. 재임베딩은 인덱스 전체 비용이 다시 들므로, 전체 코퍼스를 임베딩하기 전에 샘플로 청킹 설정을 확정하세요.

## 이어서 읽기

-   [롱 컨텍스트 vs RAG: 100만 토큰이 벡터 DB를 대체할 때](https://broadrouter.com/ko/blog/long-context-vs-rag/)
-   [아랍어 RAG: 제대로 작동하는 정규화, 청킹, 검색](https://broadrouter.com/ko/blog/arabic-rag-search/)
-   [검색과 RAG를 위한 아랍어 텍스트 정규화: 바꿀 것과 둘 것](https://broadrouter.com/ko/blog/arabic-text-normalization-search/)
-   [기능 출시 전에 LLM API 비용을 예상하는 방법](https://broadrouter.com/ko/blog/estimate-llm-api-cost-before-launch/)
-   [캐시된 입력 토큰: 프롬프트 캐싱으로 LLM API 요금 줄이기](https://broadrouter.com/ko/blog/cached-input-tokens-explained/)
-   [BroadNet의 GPU 하드웨어와 서빙 방식: BroadNet이 밝힌 내용](https://broadrouter.com/ko/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API 응답 캐싱으로 비용 줄이기: Python 정확 일치 캐시](https://broadrouter.com/ko/blog/cache-llm-responses-cut-cost/)
-   [가이드: BroadNet Inference에서 OpenAI Python SDK 사용하기](https://broadrouter.com/ko/guides/openai-python-sdk/)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-rag-chunk-size-overlap&utm_content=page-cta) ·

**출처**

-   [Smith, Troynikov, Evaluating Chunking Strategies for Retrieval, Chroma 기술 보고서, 2024년 7월(2026-11-15 확인)](https://research.trychroma.com/evaluating-chunking)
-   [NVIDIA 기술 블로그, Finding the Best Chunking Strategy for Accurate AI Responses, 2025년 6월(2026-11-15 확인)](https://developer.nvidia.com/blog/finding-the-best-chunking-strategy-for-accurate-ai-responses/)
-   [OpenAI 검색(retrieval) 가이드: 기본값 800토큰 청크와 400토큰 오버랩, chunking\_strategy 제한(2026-11-15 확인)](https://developers.openai.com/api/docs/guides/retrieval)
-   [LangChain 문서, RecursiveCharacterTextSplitter: length\_function으로 청크 크기 측정, 기본값은 문자 수(2026-11-15 확인)](https://docs.langchain.com/oss/python/integrations/splitters/recursive_text_splitter)
-   [BroadNet Inference 가격 및 API 레퍼런스: 모델, 컨텍스트 길이, 캐시된 입력(2026-11-15 확인) (영어)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-rag-chunk-size-overlap&utm_content=sources)
