---
title: "プロンプトキャッシュのための構成：安定したプレフィックス設計 | BroadRouter"
description: "キャッシュされるプレフィックスを同一に保つ LLM プロンプトのレイアウト。システムプロンプト、ツールスキーマ、ドキュメント、追記のみの履歴と、それを確かめるテストを紹介します。"
url: https://broadrouter.com/ja/blog/prompt-structure-for-caching/
lang: ja
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/blog/prompt-structure-for-caching/)（2026-11-16 更新）。

# プレフィックスがキャッシュされるプロンプトの組み立て方

BroadNet Inference チーム · 約 4 分で読めます · 公開日 2026-11-14 · 更新日 2026-11-16

リクエストは安定したものから順に並べます：システムプロンプト、ツール定義、参照ドキュメント、会話履歴、最後に新しいメッセージ。各層は呼び出し間でバイト単位まで同一に保ちます。先頭にタイムスタンプや ID を置かず、ツールは並べ替え、JSON は決定的にシリアライズし、履歴は追記のみ。最後に cached\_tokens で再利用を確認します。

## 要点

-   キャッシュは完全一致のプレフィックスで照合します。1 バイト変わるとそれ以降はすべて無効になるので、層の大きさより順番のほうが重要です。
-   4 つの層を、もっとも安定したものから：システムプロンプト、ツール、ドキュメント、履歴。新しいユーザーターンは最後です。
-   ツールと JSON ドキュメントは、キーを並べ替え、区切り文字を固定してシリアライズします。辞書の順番は気づかれないキャッシュ破壊の原因です。
-   呼び出しごとにツールを制限するには、ツール定義を削除するのではなく tool\_choice を使います。
-   テストします：同じプレフィックスを 2 回送り、2 回目の呼び出しで prompt\_tokens\_details.cached\_tokens が増えるか確認します。

**このページの内容**

1.  なぜプロンプトの順番がキャッシュヒット率を決めるのか？
2.  正しい層の順番は？
3.  気づかないうちにプレフィックスを壊すものは？
4.  キャッシュに優しいリクエストをコードでどう組み立てるか？
5.  プレフィックスがキャッシュされていることをどう証明するか？
6.  エージェントや長いコンテキストでは何が変わるか？
7.  BroadNet Inference が向いているケース

[キャッシュ入力トークン](https://broadrouter.com/ja/glossary/cached-input-tokens/)は安く、BroadNet Inference の DeepSeek V4.1 Flash では 100 万あたり $0.175 ではなく $0.0055 で課金されます。料金と usage フィールドの読み方は[キャッシュトークンの解説](https://broadrouter.com/ja/blog/cached-input-tokens-explained/)で扱っています。この記事のテーマは設計です。キャッシュが実際にヒットするようにプロンプトをどう配置するか、そしてヒットしていることをどう証明するかです。

## なぜプロンプトの順番がキャッシュヒット率を決めるのか？

主要なプロバイダーはどこも**プレフィックス**でキャッシュします。OpenAI のガイドによると、再利用にはレンダリング後のプレフィックス全体が一致する必要があります。DeepSeek のドキュメントも同じルールを説明しています。保存されたプレフィックスと完全に一致した場合にのみヒットし、途中で食い違うものはヒットしません。Anthropic は、ツール、システム、メッセージの順にキャッシュを構築します。

内部では、サーバーはそのプレフィックスのために作った [KV キャッシュ](https://broadrouter.com/ja/glossary/kv-cache/)を再利用します。つまりキャッシュは最初のトークンからの一直線です。前回の呼び出しと異なる最初の 1 バイトで、再利用できる部分は終わります。50,000 トークンのプロンプトの先頭に 1 行のタイムスタンプがあるだけで、50,000 トークンすべてが満額になります。

## 正しい層の順番は？

| 層 | 変わる頻度 | 例 | ルール |
| --- | --- | --- | --- |
| 1\. システムプロンプト | デプロイごと | 役割、ルール、出力形式 | 日付、ID、ユーザー名を入れない |
| 2\. ツール定義 | デプロイごと | 関数スキーマ | 並べ替えた決定的な JSON |
| 3\. 参照資料 | セッションまたはタスクごと | リポジトリのファイル、契約書、製品ドキュメント | 順番を固定、ラベルを安定させる |
| 4\. 会話履歴 | ターンごと、追記のみ | 過去のユーザーとアシスタントのターン | 編集せず、追加だけする |
| 5\. 新しいメッセージ | 毎回の呼び出し | 質問と、必要なら現在時刻 | 変わりやすいデータはここに置く |

変わりやすいものはすべて第 5 層に置きます。現在の日付、ユーザーのロケール、リクエスト ID、質問ごとに異なる検索結果の断片などです。

## 気づかないうちにプレフィックスを壊すものは？

1.  \*\*辞書の順番。\*\*フレームワークは `tools` 配列を辞書やレジストリから組み立てることがよくあります。プラグインの読み込み順が変わると、バイト列も変わります。
2.  **JSON の書式。**`json.dumps(x)` と `json.dumps(x, indent=2)` は別のプレフィックスです。キーの順番が異なる 2 つのシリアライザーも同様です。
3.  \*\*テンプレートの空白。\*\*ある経路から入る行末の空白や、一方は `\r\n`、もう一方は `\n` といった違いです。
4.  \*\*動的なツール一覧。\*\*ユーザーが使えないツールを除くと、プレフィックスが変わります。OpenAI のガイドは、定義を安定させたまま、`tool_choice` や許可ツールの設定で利用を制限するよう勧めています。
5.  \*\*履歴をその場で要約する。\*\*古いターンを要約に書き換えると、システムプロンプト以降がすべてリセットされます。要約はまれに、大きな単位で行ってください。
6.  \*\*指示より前の検索結果。\*\*システムプロンプトとツールの間に置いた RAG の断片はクエリごとに異なり、ツールの層まで壊してしまいます。

## キャッシュに優しいリクエストをコードでどう組み立てるか？

各層を安定した入力だけの関数にし、決定的にシリアライズします。

```python
import json, os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

SYSTEM = open("prompts/system.md").read()  # versioned file, no templating

def stable_tools(registry: dict) -> list:
    # Sort by name, sort keys inside each schema.
    return [json.loads(json.dumps(registry[name], sort_keys=True)) for name in sorted(registry)]

def docs_block(paths: list[str]) -> str:
    parts = [f"=== {p} ===\n{open(p).read()}" for p in sorted(paths)]
    return "\n\n".join(parts)

def build_messages(history: list, user_text: str, now_iso: str, doc_paths: list[str]):
    return (
        [{"role": "system", "content": SYSTEM},
         {"role": "user", "content": docs_block(doc_paths)}]
        + history                                   # append-only
        + [{"role": "user", "content": f"(now: {now_iso})\n{user_text}"}]
    )

resp = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=build_messages(history, question, now_iso, files),
    tools=stable_tools(TOOLS),
)
history += [{"role": "user", "content": question}, resp.choices[0].message.model_dump(exclude_none=True)]
```

ポイントは 2 つです。現在時刻はシステムプロンプトではなく最後のメッセージに入れます。そして履歴にはアシスタントのメッセージを返されたとおりに保存するので、次の呼び出しでもまったく同じバイト列が送り直されます。

## プレフィックスがキャッシュされていることをどう証明するか？

CI やノートブックで、2 回呼び出すテストを実行します。

1.  実際のシステムプロンプト、ツール、ドキュメントでリクエストを組み立てます。
2.  送信し、`usage.prompt_tokens` を控えます。
3.  最後のユーザーメッセージだけを変えて、もう一度送ります。
4.  2 回目の呼び出しの `usage.prompt_tokens_details.cached_tokens` を読みます。共有プレフィックスのほぼすべてをカバーしているはずです。
5.  ゼロや小さい値なら、シリアライズしたリクエスト本文をバイト単位で比較します。最初の違いが、キャッシュを壊している原因です。

ほとんどのプロバイダーでキャッシュはベストエフォートであり、DeepSeek のドキュメントもそう明言しているので、1 回のミスはバグの証拠になりません。一貫したミスはバグの証拠です。[利用ログ](https://broadrouter.com/ja/blog/llm-api-usage-logging/)でリクエストごとのキャッシュトークンとプロンプトトークンの比率を追い、[プロンプトキャッシュ計算ツール](https://broadrouter.com/tools/prompt-caching-calculator/)でヒット率が上がるとどれだけ節約できるかを確かめてください。

## エージェントや長いコンテキストでは何が変わるか？

エージェントは、タスクごとに同じ大きなプレフィックスを何十回も送り直すので、いちばん恩恵を受けます。大事な習慣が 2 つあります。

-   \*\*1 タスクに 1 会話。\*\*サブステップごとに新しい会話を始めると、プレフィックスを捨てることになります。
-   \*\*ファイルは 1 回、先頭近くで読む。\*\*エージェントがファイルを読み直す場合、ファイルが変わっていない限り、古いものを置き換えずに新しいコピーを追記してください。

[100 万トークンのコンテキストウィンドウ](https://broadrouter.com/ja/blog/million-token-context-window-guide/)があれば、第 3 層にリポジトリ全体を入れられます。トークン課金のキーでそれが現実的な費用になるのはキャッシュされる場合だけで、プロンプトが大きくなるほど層の順番が重要になるのはそのためです。キャッシュされたプレフィックスは、最初のトークンまでの時間も短くする傾向があります。[TTFT とスループット](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)を参照してください。

## BroadNet Inference が向いているケース

BroadNet Inference では、モデルが報告する場合に usage ブロックが `prompt_tokens_details.cached_tokens` を返し、[DeepSeek V4.1 Flash](https://broadrouter.com/ja/models/deepseek-v4.1-flash/)、[GLM 5.3](https://broadrouter.com/ja/models/glm-5.3/)、[Qwen3.8 27B](https://broadrouter.com/ja/models/qwen3.8-27b/) のキャッシュ入力は[料金ページ](https://broadrouter.com/ja/pricing/)に記載された低い単価で課金されます。BroadNet のドキュメントには明示的なキャッシュブレークポイントやキャッシュキーのパラメーターはないので、上のレイアウトがテクニックのすべてです。無制限プランではセッションにトークンメーターがないためキャッシュは請求額を変えませんが、同じ構成はレイテンシの面で引き続き役立ちます。

関連する無料ツール（英語）

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[無料ツール（英語）](https://broadrouter.com/tools/)

## この記事の用語

[トークン（token）](https://broadrouter.com/ja/glossary/token/)

トークンとは、言語モデルが読み書きするテキストの単位です。モデルのトークナイザーが作る単語、単語の一部、句読点、バイト列のいずれかにあたります。LLM API は利用量をトークンで数え、上限を設け、通常はトークン単位で課金します。

[キャッシュ入力トークン（cached input tokens）](https://broadrouter.com/ja/glossary/cached-input-tokens/)

キャッシュ入力トークンとは、LLM プロバイダーが直前に処理し、再計算せずにキャッシュから再利用できるプロンプトのトークンです。通常はシステムプロンプトやドキュメントなど繰り返し送るプレフィックスで、新しい入力トークンより安い単価で課金されます。

[AI エージェント（AI agent）](https://broadrouter.com/ja/glossary/agent/)

AI エージェントとは、言語モデルが目標に向けて自分で手順を決めるシステムです。どのツールを呼ぶかを決め、結果を読み、最終回答を出すか上限に達するまで繰り返します。決まった箇所でモデルを呼ぶ固定のスクリプトは、ふつうワークフローと呼ばれます。

[TTFT（最初のトークンまでの時間）](https://broadrouter.com/ja/glossary/time-to-first-token/)

TTFT（最初のトークンまでの時間）とは、言語モデルにリクエストを送ってから最初の出力トークンが届くまでの時間です。ネットワーク、サーバーでの待ち行列、モデルがプロンプト全体を読むプリフィルを含むため、プロンプトの長さと負荷に応じて伸びます。

[入力トークンと出力トークン（input and output tokens）](https://broadrouter.com/ja/glossary/input-and-output-tokens/)

入力トークンとは、モデルがリクエストで読むトークンで、システムプロンプト、会話履歴、ツール定義、画像を含みます。出力トークンは、推論を含めモデルが返答として生成するトークンです。LLM API は通常この 2 つを別の単価で課金し、出力のほうが高額です。

[KV キャッシュ（KV cache）](https://broadrouter.com/ja/glossary/kv-cache/)

KV キャッシュとは、Transformer 言語モデルが処理済みの各トークンの attention のキーと値を保存するメモリです。新しいトークンはそれを再利用し、系列全体を再計算せずに済みます。コンテキスト長とともに大きくなり、GPU が同時に処理できるリクエスト数を制約しがちです。

[ツール呼び出し（Function Calling、tool calling）](https://broadrouter.com/ja/glossary/tool-calling/)

ツール呼び出し（Function Calling とも呼ばれます）とは、開発者が定義した関数の実行を求める構造化されたリクエストを、モデルが JSON の引数付きで返す LLM API の機能です。関数を実行して結果を返すのはアプリケーションで、モデル自身がコードを実行することはありません。

[従量課金（pay-as-you-go）](https://broadrouter.com/ja/glossary/pay-as-you-go/)

従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。

## よくある質問

### プロンプトキャッシュのヒット率が低いのはなぜですか？

プロンプトの先頭近くで、呼び出しのたびに何かが変わっています。よくある原因は、システムプロンプト内のタイムスタンプやリクエスト ID、異なる順番でシリアライズされたツール、指示より前に置かれた検索結果のドキュメント、要約されて書き換えられる履歴です。

### ユーザーの質問は長いドキュメントの前と後のどちらに置くべきですか？

後です。ドキュメントを先に、質問を最後に置きます。そうするとドキュメントが再利用できるプレフィックスになり、多くのモデルは質問が資料のあとに来るほうがよく答えます。

### ツール定義はプロンプトキャッシュを壊しますか？

変わったときだけです。ツールはプレフィックスの一部なので、同じセットを、同じ順番で、同じ JSON のまま保ってください。1 回の呼び出しでツールを制限するには、一覧を編集するのではなく tool\_choice を使います。

### few-shot 例の順番はキャッシュに影響しますか？

はい。シャッフルされた例は毎回異なるプレフィックスを生みます。順番を固定するか、リクエストごとに変わる例は安定部分のあとに置いてください。

## 続けて読む

-   [キャッシュ入力トークンとは：LLM API の請求額を下げる方法](https://broadrouter.com/ja/blog/cached-input-tokens-explained/)
-   [100 万トークンのコンテキストウィンドウが役立つとき（役立たないとき）](https://broadrouter.com/ja/blog/million-token-context-window-guide/)
-   [LLM API は定額とトークン課金のどちらが得か：損益分岐の計算](https://broadrouter.com/ja/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [BroadNet の GPU ハードウェアとサービング方式（BroadNet の説明による）](https://broadrouter.com/ja/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API のレスポンスをキャッシュしてコスト削減：Python の完全一致キャッシュ](https://broadrouter.com/ja/blog/cache-llm-responses-cut-cost/)
-   [ガイド：chat completions のストリーミングと接続切断への対処](https://broadrouter.com/ja/guides/streaming-chat-completions/)
-   [ガイド：OpenAI Python SDK を BroadNet Inference で使う](https://broadrouter.com/ja/guides/openai-python-sdk/)

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-prompt-structure-for-caching&utm_content=page-cta) ·

**出典**

-   [BroadNet Inference API リファレンス：usage のキャッシュトークン（2026-11-16 確認）（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-prompt-structure-for-caching&utm_content=sources)
-   [OpenAI プロンプトキャッシュガイド：プレフィックスの照合と構成の助言（2026-11-14 取得）](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Anthropic プロンプトキャッシュのドキュメント：キャッシュの順番はツール、システム、メッセージ（2026-11-16 確認）](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [DeepSeek API ドキュメント：コンテキストキャッシュ（2026-11-14 取得）](https://api-docs.deepseek.com/guides/kv_cache)
