---
title: "Was sind Prefill und Decode? Die zwei Phasen der Inferenz"
description: "Prefill liest Ihren ganzen Prompt auf einmal, Decode schreibt dann die Antwort Token für Token. Wie sich die Phasen unterscheiden und TTFT und Tempo bestimmen."
url: https://broadrouter.com/de/glossary/prefill-and-decode/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/glossary/prefill-and-decode/) (aktualisiert am 2026-11-16).

# Prefill und Decode

Aktualisiert 2026-11-16

Prefill und Decode sind die beiden Phasen der LLM-Inferenz. Im Prefill verarbeitet das Modell den ganzen Prompt parallel und füllt seinen KV-Cache; im Decode erzeugt es die Antwort Token für Token und nutzt diesen Cache wieder. Prefill bestimmt vor allem die Time to First Token, Decode die Ausgabegeschwindigkeit.

Auch genannt: Prefill, Prefill-Phase, Decode-Phase, Decoding-Phase, Prompt-Verarbeitung, prefill phase, decode phase, prefill stage, prompt processing

Eine Chat-Anfrage erledigt zwei verschiedene Aufgaben: den Prompt lesen, dann die Antwort schreiben. Inferenz-Ingenieure nennen das Prefill und Decode, und beide verhalten sich auf einer GPU sehr unterschiedlich.

## So funktioniert es

1.  **Prefill.** Das Modell liest jedes Prompt-Token in einem parallelen Durchlauf und legt die Attention-Keys und -Values jedes Tokens im [KV-Cache](https://broadrouter.com/de/glossary/kv-cache/) ab. Noch wird nichts zurückgegeben.
2.  **Decode.** Das Modell erzeugt ein Token, hängt dessen Keys und Values an den Cache an und wiederholt das, bis es aufhört oder `max_tokens` erreicht.

Das Sarathi-Serve-Paper bringt den Unterschied auf den Punkt: „Prefill iterations have high latency but saturate GPU compute due to parallel processing of the input prompt“ (Übersetzung: „Prefill-Iterationen haben hohe Latenz, lasten die GPU-Rechenleistung aber durch die parallele Verarbeitung des Prompts voll aus“), während „decode iterations have low latency but also low compute utilization.“ (Übersetzung: „Decode-Iterationen niedrige Latenz, aber auch geringe Rechenauslastung haben.“)

Die beiden Phasen entsprechen den beiden Latenzwerten, die Nutzer spüren. Das DistServe-Paper benennt sie: „time to first token (TTFT) for the prefill phase and time per output token (TPOT) of each request for the decoding phase.“ (Übersetzung: „Time to First Token (TTFT) für die Prefill-Phase und Time per Output Token (TPOT) jeder Anfrage für die Decoding-Phase.“)

Ein durchgerechnetes Beispiel: Eine Anfrage mit einem Prompt von 20.000 Tokens und einer Antwort von 300 Tokens erledigt den Prefill aller 20.000 Tokens, bevor das erste gestreamte Token erscheint, dann folgen 300 aufeinanderfolgende Decode-Schritte. Halbieren Sie den Prompt, verkürzt sich die Wartezeit aufs erste Token; wie schnell die 300 Tokens ankommen, ändert sich nicht.

## Warum es wichtig ist

-   **Die [Time to First Token](https://broadrouter.com/de/glossary/time-to-first-token/) folgt der Prompt-Größe.** Lange System-Prompts, Dokumente und Tool-Listen erhöhen alle die Prefill-Arbeit. Gecachte Präfixe überspringen einen Teil davon, deshalb können [gecachte Input-Tokens](https://broadrouter.com/de/glossary/cached-input-tokens/) lange Prompts schneller starten lassen.
-   **[Tokens pro Sekunde](https://broadrouter.com/de/glossary/tokens-per-second/) ist ein Decode-Wert.** Die Ausgabegeschwindigkeit hängt davon ab, wie schnell jeder Decode-Schritt läuft, und genau das versucht [Speculative Decoding](https://broadrouter.com/de/glossary/speculative-decoding/) zu steigern.
-   **Die Phasen stören sich gegenseitig.** Wenn ein Server beide auf derselben GPU ausführt, kann ein großer Prefill die Decodes anderer Nutzer anhalten. DistServe berichtet von „strong prefill-decoding interferences“ (Übersetzung: „starken Interferenzen zwischen Prefill und Decoding“) und verlegt die Phasen auf verschiedene GPUs. Sarathi-Serve dagegen „splits a prefill request into near equal sized chunks“ (Übersetzung: „teilt eine Prefill-Anfrage in nahezu gleich große Chunks“) und plant sie „without pausing ongoing decodes“ (Übersetzung: „ohne laufende Decodes anzuhalten“) ein.
-   **Engines legen den Zielkonflikt offen.** Laut Tuning-Leitfaden von vLLM erlaubt Chunked Prefill, Prefill-Chunks mit Decode-Anfragen zu bündeln. Ein kleineres `max_num_batched_tokens` verbessert die Latenz zwischen Tokens, ein größeres begünstigt TTFT und [Durchsatz](https://broadrouter.com/de/glossary/throughput/).

Der [Leitfaden zu Latenz, TTFT und Durchsatz](https://broadrouter.com/de/blog/llm-latency-ttft-throughput/) zeigt, wie Sie beide Phasen clientseitig messen.

## Bei BroadNet Inference

BroadNet veröffentlicht nicht, wie seine Server Prefill und Decode einplanen. Sehen können Sie die Wirkung: Streamen Sie eine Antwort wie in der [Streaming-Anleitung](https://broadrouter.com/de/guides/streaming-chat-completions/), loggen Sie die Zeit bis zum ersten Content-Chunk (vor allem Prefill plus Warteschlange) und die Rate der Chunks danach (Decode). Bei [GLM 5.3](https://broadrouter.com/de/models/glm-5.3/), [DeepSeek V4.1 Flash](https://broadrouter.com/de/models/deepseek-v4.1-flash/) und [Qwen3.8 27B](https://broadrouter.com/de/models/qwen3.8-27b/) werden auch Reasoning-Tokens im Decode erzeugt, sie verzögern also die sichtbare Antwort und zählen zu `max_tokens`.

## Häufige Fehler

-   Ein langsames erstes Token der Ausgabegeschwindigkeit des Modells anlasten. Prüfen Sie zuerst die Prompt-Länge.
-   Mit einem winzigen Prompt benchmarken. Echte Prompts mit langem Kontext haben einen viel längeren Prefill.

## Häufige Fragen

### Warum kommt bei einem langen Prompt das erste Token so spät?

Jedes Prompt-Token muss durch den Prefill, bevor das Modell irgendetwas schreiben kann. Ein längerer Prompt heißt mehr Prefill-Arbeit, also wächst die Time to First Token mit der Prompt-Länge, außer ein Teil des Prompts kommt aus dem Cache.

### Verzögert eine längere Antwort das erste Token?

Nein. Das erste Token wartet auf den Prefill des Prompts. Eine längere Antwort fügt nur weitere Decode-Schritte hinzu, nachdem das erste Token angekommen ist.

### Was ist Chunked Prefill?

Ein Scheduling-Verfahren, das einen langen Prompt in Stücke teilt und sie mit laufenden Decode-Schritten mischt, damit ein großer Prompt andere Nutzer nicht ausbremst. vLLM aktiviert es standardmäßig, wo es möglich ist.

## Siehe auch

-   [KV-Cache](https://broadrouter.com/de/glossary/kv-cache/) (Begriff)
-   [Time to First Token (TTFT)](https://broadrouter.com/de/glossary/time-to-first-token/) (Begriff)
-   [Tokens pro Sekunde (TPS)](https://broadrouter.com/de/glossary/tokens-per-second/) (Begriff)
-   [Durchsatz (Throughput)](https://broadrouter.com/de/glossary/throughput/) (Begriff)
-   [Latenz (LLM)](https://broadrouter.com/de/glossary/latency/) (Begriff)
-   [vLLM](https://broadrouter.com/de/glossary/vllm/) (Begriff)
-   [Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/) (Anleitung)
-   [LLM-Latenz: TTFT vs. Tokens pro Sekunde vs. End-to-End-Zeit](https://broadrouter.com/de/blog/llm-latency-ttft-throughput/) (Artikel)
-   [LLM selbst hosten oder API: echte Kosten und Break-even](https://broadrouter.com/de/blog/self-hosting-llm-vs-api-cost/) (Artikel)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-prefill-and-decode&utm_content=page-cta) ·

**Quellen**

-   [Zhong et al., DistServe: Disaggregating Prefill and Decoding for Goodput-optimized LLM Serving, arXiv 2401.09670 (geprüft am 2026-11-15)](https://arxiv.org/abs/2401.09670)
-   [Agrawal et al., Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, arXiv 2403.02310 (geprüft am 2026-11-15)](https://arxiv.org/abs/2403.02310)
-   [Dokumentation von vLLM, Optimierung und Tuning: Chunked Prefill (geprüft am 2026-11-15)](https://docs.vllm.ai/en/latest/configuration/optimization/)
