---
title: "Prompt-Struktur für Caching: ein stabiles Präfix bauen"
description: "So bauen Sie LLM-Prompts auf, damit das gecachte Präfix identisch bleibt: System-Prompt, Tool-Schemas, Dokumente, nur ergänzter Verlauf, plus ein Test als Beweis."
url: https://broadrouter.com/de/blog/prompt-structure-for-caching/
lang: de
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/blog/prompt-structure-for-caching/) (aktualisiert am 2026-11-16).

# Prompts so strukturieren, dass das Präfix gecacht wird

Vom Team von BroadNet Inference · 4 Min. Lesezeit · Veröffentlicht 2026-11-14 · Aktualisiert 2026-11-16

Ordnen Sie jede Anfrage vom stabilsten zum am wenigsten stabilen Teil: System-Prompt, Tool-Definitionen, Referenzdokumente, Gesprächsverlauf, dann die neue Nachricht. Halten Sie jede Schicht zwischen den Aufrufen byte-identisch: keine Zeitstempel oder IDs oben, Tools sortiert, JSON deterministisch serialisiert und den Verlauf nur ergänzen. Messen Sie dann cached\_tokens, um zu bestätigen, dass das Präfix tatsächlich wiederverwendet wird.

## Das Wichtigste in Kürze

-   Caches gleichen ein exaktes Präfix ab. Ein einziges geändertes Byte macht alles danach ungültig, die Reihenfolge der Schichten zählt also mehr als ihre Größe.
-   Vier Schichten, die stabilste zuerst: System-Prompt, Tools, Dokumente, Verlauf. Die neue Nutzernachricht kommt zuletzt.
-   Serialisieren Sie Tools und JSON-Dokumente mit sortierten Schlüsseln und festen Trennzeichen; die Reihenfolge in Dictionaries bricht den Cache unbemerkt.
-   Schränken Sie Tools pro Aufruf mit tool\_choice ein, statt Tool-Definitionen zu entfernen.
-   Testen Sie es: Senden Sie dasselbe Präfix zweimal und prüfen Sie, ob prompt\_tokens\_details.cached\_tokens beim zweiten Aufruf steigt.

**Auf dieser Seite**

1.  Warum entscheidet die Reihenfolge im Prompt über die Cache-Trefferquote?
2.  Welche Reihenfolge der Schichten ist richtig?
3.  Was bricht das Präfix, ohne dass Sie es merken?
4.  Wie bauen Sie eine Cache-freundliche Anfrage im Code?
5.  Wie belegen Sie, dass das Präfix gecacht wird?
6.  Was ändert sich bei Agenten und langem Kontext?
7.  Wo BroadNet Inference hineinpasst

[Gecachte Input-Tokens](https://broadrouter.com/de/glossary/cached-input-tokens/) sind günstig: Bei BroadNet Inference berechnet DeepSeek V4.1 Flash sie mit $0.0055 pro 1 Mio. statt $0.175. Die [Erklärung zu gecachten Tokens](https://broadrouter.com/de/blog/cached-input-tokens-explained/) behandelt den Preis und wie Sie das Nutzungsfeld lesen. In diesem Beitrag geht es um die Gestaltung: wie Sie einen Prompt so aufbauen, dass der Cache tatsächlich trifft, und wie Sie das belegen.

## Warum entscheidet die Reihenfolge im Prompt über die Cache-Trefferquote?

Alle großen Anbieter cachen nach **Präfix**. Laut dem Leitfaden von OpenAI setzt die Wiederverwendung voraus, dass das gesamte gerenderte Präfix übereinstimmt. Die Dokumentation von DeepSeek beschreibt dieselbe Regel: Eine Anfrage trifft nur, wenn sie vollständig mit einem gespeicherten Präfix übereinstimmt; eine, die mittendrin abweicht, trifft nicht. Anthropic baut seinen Cache in der Reihenfolge Tools, System, Nachrichten auf.

Unter der Haube verwendet der Server den [KV-Cache](https://broadrouter.com/de/glossary/kv-cache/) wieder, den er für dieses Präfix aufgebaut hat. Der Cache ist also eine gerade Linie ab dem ersten Token. Das erste Byte, das vom letzten Aufruf abweicht, beendet den wiederverwendbaren Teil. Ein einzeiliger Zeitstempel ganz oben in einem Prompt mit 50.000 Tokens kostet Sie alle 50.000 Tokens zum vollen Preis.

## Welche Reihenfolge der Schichten ist richtig?

| Schicht | Ändert sich | Beispiel | Regel |
| --- | --- | --- | --- |
| 1\. System-Prompt | Pro Deployment | Rolle, Regeln, Ausgabeformat | Keine Daten, IDs, Benutzernamen |
| 2\. Tool-Definitionen | Pro Deployment | Funktionsschemas | Sortiertes, deterministisches JSON |
| 3\. Referenzmaterial | Pro Session oder Aufgabe | Repository-Dateien, Verträge, Produktdokumentation | Feste Reihenfolge, stabile Bezeichnungen |
| 4\. Gesprächsverlauf | Pro Runde, nur ergänzen | Frühere Runden von Nutzer und Assistent | Nie bearbeiten; nur hinzufügen |
| 5\. Neue Nachricht | Bei jedem Aufruf | Die Frage, bei Bedarf plus aktuelle Uhrzeit | Hierhin gehören veränderliche Daten |

In Schicht 5 gehört alles Veränderliche: das aktuelle Datum, das Gebietsschema des Nutzers, eine Request-ID, abgerufene Textausschnitte, die sich pro Frage unterscheiden.

## Was bricht das Präfix, ohne dass Sie es merken?

1.  **Reihenfolge in Dictionaries.** Frameworks bauen das `tools`\-Array oft aus einem Dict oder einer Registry. Laden Plugins in anderer Reihenfolge, ändern sich die Bytes.
2.  **JSON-Formatierung.** `json.dumps(x)` und `json.dumps(x, indent=2)` sind unterschiedliche Präfixe. Ebenso zwei Serialisierer mit unterschiedlicher Schlüsselreihenfolge.
3.  **Leerzeichen im Template.** Ein Leerzeichen am Zeilenende oder ein `\r\n` aus einem Codepfad und `\n` aus einem anderen.
4.  **Dynamische Tool-Listen.** Werden Tools entfernt, die ein Nutzer nicht verwenden darf, ändert sich das Präfix. Der Leitfaden von OpenAI empfiehlt, die Definitionen stabil zu halten und die Nutzung mit `tool_choice` oder einer Einstellung für erlaubte Tools einzuschränken.
5.  **Verlauf an Ort und Stelle zusammenfassen.** Alte Runden zu einer Zusammenfassung umzuschreiben, setzt alles nach dem System-Prompt zurück. Fassen Sie selten und in großen Schritten zusammen.
6.  **Retrieval vor den Anweisungen.** RAG-Ausschnitte zwischen System-Prompt und Tools unterscheiden sich pro Anfrage und brechen auch die Tool-Schicht.

## Wie bauen Sie eine Cache-freundliche Anfrage im Code?

Machen Sie jede Schicht nur von stabilen Eingaben abhängig und serialisieren Sie deterministisch:

```python
import json, os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

SYSTEM = open("prompts/system.md").read()  # versioned file, no templating

def stable_tools(registry: dict) -> list:
    # Sort by name, sort keys inside each schema.
    return [json.loads(json.dumps(registry[name], sort_keys=True)) for name in sorted(registry)]

def docs_block(paths: list[str]) -> str:
    parts = [f"=== {p} ===\n{open(p).read()}" for p in sorted(paths)]
    return "\n\n".join(parts)

def build_messages(history: list, user_text: str, now_iso: str, doc_paths: list[str]):
    return (
        [{"role": "system", "content": SYSTEM},
         {"role": "user", "content": docs_block(doc_paths)}]
        + history                                   # append-only
        + [{"role": "user", "content": f"(now: {now_iso})\n{user_text}"}]
    )

resp = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=build_messages(history, question, now_iso, files),
    tools=stable_tools(TOOLS),
)
history += [{"role": "user", "content": question}, resp.choices[0].message.model_dump(exclude_none=True)]
```

Zwei Details. Die aktuelle Uhrzeit steht in der letzten Nachricht, nicht im System-Prompt. Und der Verlauf speichert die Nachricht des Assistenten genau so, wie sie zurückkam, damit der nächste Aufruf identische Bytes erneut sendet.

## Wie belegen Sie, dass das Präfix gecacht wird?

Führen Sie in der CI oder in einem Notebook einen Test mit zwei Aufrufen aus:

1.  Bauen Sie eine Anfrage mit Ihrem echten System-Prompt, Ihren Tools und Dokumenten.
2.  Senden Sie sie. Notieren Sie `usage.prompt_tokens`.
3.  Ändern Sie nur die letzte Nutzernachricht und senden Sie erneut.
4.  Lesen Sie beim zweiten Aufruf `usage.prompt_tokens_details.cached_tokens`. Der Wert sollte fast das gesamte gemeinsame Präfix abdecken.
5.  Ist er null oder klein, vergleichen Sie die serialisierten Anfragekörper Byte für Byte. Der erste Unterschied ist Ihr Cache-Brecher.

Caching ist bei den meisten Anbietern Best Effort, und die Dokumentation von DeepSeek sagt das direkt; ein einzelner Fehltreffer beweist also keinen Bug. Ein dauerhafter schon. Verfolgen Sie das Verhältnis von gecachten zu Prompt-Tokens pro Anfrage in Ihren [Nutzungs-Logs](https://broadrouter.com/de/blog/llm-api-usage-logging/), und sehen Sie im [Prompt-Caching-Rechner](https://broadrouter.com/tools/prompt-caching-calculator/), was eine höhere Trefferquote spart.

## Was ändert sich bei Agenten und langem Kontext?

Agenten profitieren am meisten, weil sie dasselbe große Präfix pro Aufgabe Dutzende Male erneut senden. Zwei Gewohnheiten zählen:

-   **Ein Gespräch pro Aufgabe.** Wer für jeden Teilschritt ein neues Gespräch beginnt, wirft das Präfix weg.
-   **Dateien einmal lesen, weit oben.** Liest der Agent eine Datei erneut, hängen Sie die neue Kopie an, statt die alte zu ersetzen, es sei denn, die Datei hat sich geändert.

Mit einem [Kontextfenster von 1 Mio. Tokens](https://broadrouter.com/de/blog/million-token-context-window-guide/) kann Schicht 3 ein ganzes Repository aufnehmen. Mit einem Schlüssel mit Abrechnung pro Token ist das nur bezahlbar, wenn es gecacht wird; deshalb zählt die Reihenfolge der Schichten umso mehr, je größer Prompts werden. Gecachte Präfixe verkürzen meist auch die Zeit bis zum ersten Token; siehe [TTFT vs. Durchsatz](https://broadrouter.com/de/blog/llm-latency-ttft-throughput/).

## Wo BroadNet Inference hineinpasst

Bei BroadNet Inference meldet der usage-Block `prompt_tokens_details.cached_tokens`, wenn das Modell den Wert liefert, und gecachter Input bei [DeepSeek V4.1 Flash](https://broadrouter.com/de/models/deepseek-v4.1-flash/), [GLM 5.3](https://broadrouter.com/de/models/glm-5.3/) und [Qwen3.8 27B](https://broadrouter.com/de/models/qwen3.8-27b/) wird zum niedrigeren Preis von der [Preisseite](https://broadrouter.com/de/pricing/) abgerechnet. Explizite Cache-Breakpoints oder einen Parameter für einen Cache-Schlüssel bietet BroadNet laut Dokumentation nicht an; der Aufbau oben ist also die ganze Technik. In einem unbegrenzten Plan ändert der Cache die Rechnung nicht, weil Sessions keinen Token-Zähler haben, dieselbe Struktur hilft aber weiterhin bei der Latenz.

Kostenlose Tools zum Thema (auf Englisch)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Kostenlose Tools (auf Englisch)](https://broadrouter.com/tools/)

## Begriffe in diesem Artikel

[Token](https://broadrouter.com/de/glossary/token/)

Ein Token ist die Texteinheit, die ein Sprachmodell liest und schreibt: ein Wort, ein Wortteil, ein Satzzeichen oder eine Bytefolge, die der Tokenizer des Modells erzeugt. LLM-APIs zählen, begrenzen und berechnen die Nutzung meist in Tokens.

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[System-Prompt](https://broadrouter.com/de/glossary/system-prompt/)

Ein System-Prompt ist der Anweisungstext, den eine Anwendung einem Sprachmodell vor dem Gespräch sendet, meist als Nachricht mit der Rolle system oder developer. Er legt Rolle, Regeln, Ton und Ausgabeformat des Modells fest, und das Modell soll ihm auch bei widersprechenden Nutzernachrichten folgen.

[Input- und Output-Tokens](https://broadrouter.com/de/glossary/input-and-output-tokens/)

Input-Tokens sind die Tokens, die ein Sprachmodell in einer Anfrage liest, einschließlich System-Prompt, Gesprächsverlauf, Tool-Definitionen und Bildern. Output-Tokens sind die Tokens, die es als Antwort erzeugt, einschließlich Reasoning. LLM-APIs berechnen beide meist getrennt, und Output ist in der Regel teurer.

[KV-Cache](https://broadrouter.com/de/glossary/kv-cache/)

Ein KV-Cache ist der Speicher, in dem ein Transformer-Sprachmodell die Attention-Keys und -Values aller bereits verarbeiteten Tokens ablegt, damit jedes neue Token sie wiederverwendet, statt die ganze Sequenz neu zu berechnen. Er wächst mit der Kontextlänge und begrenzt oft, wie viele Anfragen eine GPU bedienen kann.

[Time to First Token (TTFT)](https://broadrouter.com/de/glossary/time-to-first-token/)

Time to First Token (TTFT) ist die Zeit vom Senden einer Anfrage an ein Sprachmodell bis zum Eintreffen des ersten Output-Tokens. Sie umfasst Netzwerkzeit, Warteschlange auf dem Server und Prefill, den Schritt, in dem das Modell den ganzen Prompt liest; sie wächst daher mit Prompt-Länge und Last.

[Durchsatz (Throughput)](https://broadrouter.com/de/glossary/throughput/)

Durchsatz (Throughput) ist beim Betrieb von LLMs die gesamte Arbeit, die ein System pro Zeiteinheit über alle gleichzeitigen Anfragen erledigt, meist gemessen in Output-Tokens pro Sekunde oder Anfragen pro Sekunde. Er unterscheidet sich von der Geschwindigkeit pro Stream, also davon, wie schnell eine einzelne Anfrage ihre Tokens erhält.

[Gecachte Input-Tokens (Cached Input Tokens)](https://broadrouter.com/de/glossary/cached-input-tokens/)

Gecachte Input-Tokens sind Prompt-Tokens, die ein LLM-Anbieter kürzlich verarbeitet hat und aus einem Cache wiederverwenden kann, statt sie neu zu berechnen, meist ein wiederholtes Präfix wie ein System-Prompt oder ein Dokument. Anbieter berechnen sie günstiger als neue Input-Tokens.

## Häufige Fragen

### Warum ist meine Cache-Trefferquote beim Prompt Caching so niedrig?

Etwas nahe am Anfang des Prompts ändert sich bei jedem Aufruf. Die üblichen Ursachen sind ein Zeitstempel oder eine Request-ID im System-Prompt, Tools, die in anderer Reihenfolge serialisiert werden, abgerufene Dokumente vor den Anweisungen oder ein Verlauf, der zusammengefasst und umgeschrieben wird.

### Gehört die Nutzerfrage vor oder hinter lange Dokumente?

Dahinter. Stellen Sie die Dokumente an den Anfang und die Frage ans Ende. Die Dokumente bilden dann ein wiederverwendbares Präfix, und viele Modelle antworten auch besser, wenn die Frage auf das Material folgt.

### Brechen Tool-Definitionen das Prompt Caching?

Nur, wenn sie sich ändern. Tools gehören zum Präfix, behalten Sie also dieselbe Menge in derselben Reihenfolge mit demselben JSON. Um Tools für einen Aufruf einzuschränken, nutzen Sie tool\_choice, statt die Liste zu bearbeiten.

### Spielt die Reihenfolge der Few-Shot-Beispiele für das Caching eine Rolle?

Ja. Gemischte Beispiele erzeugen jedes Mal ein anderes Präfix. Legen Sie die Reihenfolge fest, oder platzieren Sie Beispiele, die sich pro Anfrage ändern, hinter dem stabilen Teil.

## Weiterlesen

-   [Gecachte Input-Tokens: So senken Sie die Rechnung Ihrer LLM-API](https://broadrouter.com/de/blog/cached-input-tokens-explained/)
-   [Wann sich ein Kontextfenster mit 1M Tokens lohnt (und wann nicht)](https://broadrouter.com/de/blog/million-token-context-window-guide/)
-   [LLM-API: Flatrate oder Abrechnung pro Token? Die Break-even-Rechnung](https://broadrouter.com/de/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [GPU-Hardware und Serving von BroadNet, wie BroadNet sie beschreibt](https://broadrouter.com/de/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM-Antworten cachen, Kosten senken: ein Exact-Match-Cache in Python](https://broadrouter.com/de/blog/cache-llm-responses-cut-cost/)
-   [Anleitung: Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/)
-   [Anleitung: OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-prompt-structure-for-caching&utm_content=page-cta) ·

**Quellen**

-   [API-Referenz von BroadNet Inference, gecachte Tokens in den Nutzungsdaten (geprüft am 2026-11-16) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-prompt-structure-for-caching&utm_content=sources)
-   [Leitfaden zu Prompt Caching von OpenAI, Präfixabgleich und Hinweise zur Struktur (abgerufen am 2026-11-14)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Dokumentation zu Prompt Caching von Anthropic, Cache-Reihenfolge Tools, dann System, dann Nachrichten (geprüft am 2026-11-16)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [API-Dokumentation von DeepSeek, Context Caching (abgerufen am 2026-11-14)](https://api-docs.deepseek.com/guides/kv_cache)
