---
title: "Prefill ve decode nedir? LLM çıkarımının iki aşaması"
description: "Prefill isteminizin tamamını tek seferde okur; decode ise yanıtı token token yazar. İki aşamanın farkı ve TTFT ile hızı neden belirledikleri."
url: https://broadrouter.com/tr/glossary/prefill-and-decode/
lang: tr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/glossary/prefill-and-decode/) (güncelleme: 2026-11-16).

# Prefill ve decode (LLM çıkarım aşamaları)

Güncellendi 2026-11-16

Prefill ve decode, LLM çıkarımının iki aşamasıdır. Prefill aşamasında model istemin tamamını paralel olarak işler ve KV önbelleğini doldurur; decode aşamasında bu önbelleği yeniden kullanarak yanıtı token token üretir. İlk token süresini çoğunlukla prefill, çıktı hızını ise decode belirler.

Diğer adları: prefill, decode, prefill aşaması, decode aşaması, ön doldurma, kod çözme aşaması, istem işleme, prefill phase, decode phase, prefill stage, prompt processing

Bir sohbet isteği iki farklı iş yapar: istemi okur, sonra yanıtı yazar. Çıkarım mühendisleri bunlara prefill ve decode der ve GPU üzerinde çok farklı davranırlar.

## Nasıl çalışır

1.  **Prefill.** Model her istem token’ını tek bir paralel geçişte okur ve her token’ın attention anahtarlarını ve değerlerini [KV önbelleğine](https://broadrouter.com/tr/glossary/kv-cache/) kaydeder. Henüz hiçbir şey döndürülmez.
2.  **Decode.** Model bir token üretir, onun anahtarlarını ve değerlerini önbelleğe ekler ve durana ya da `max_tokens` sınırına ulaşana kadar bunu tekrarlar.

Sarathi-Serve makalesi farkı açıkça ortaya koyar: “Prefill iterations have high latency but saturate GPU compute due to parallel processing of the input prompt” (çeviri: prefill yinelemelerinin gecikmesi yüksektir ama girdi isteminin paralel işlenmesi nedeniyle GPU hesaplama gücünü doyurur), “decode iterations have low latency but also low compute utilization.” (çeviri: decode yinelemelerinin gecikmesi düşüktür ama hesaplama kullanımı da düşüktür.)

İki aşama, kullanıcıların hissettiği iki gecikme sayısına karşılık gelir. DistServe makalesi bunları şöyle adlandırır: “time to first token (TTFT) for the prefill phase and time per output token (TPOT) of each request for the decoding phase.” (çeviri: prefill aşaması için ilk token süresi (TTFT) ve decode aşaması için her isteğin çıktı token’ı başına süresi (TPOT).)

Somut bir örnek: 20.000 token’lık istem ve 300 token’lık yanıt içeren bir istek, akışla gelen ilk token görünmeden önce 20.000 token’ın tamamının prefill’ini yapar, ardından 300 ardışık decode adımı gelir. İstemi yarıya indirmek ilk token için beklemeyi kısaltır; 300 token’ın ne kadar hızlı geldiğini değiştirmez.

## Neden önemli

-   **[İlk token süresi](https://broadrouter.com/tr/glossary/time-to-first-token/) istem boyutunu izler.** Uzun sistem istemleri, belgeler ve araç listeleri prefill işini artırır. Önbelleğe alınmış önekler bunun bir kısmını atlar; bu yüzden [önbellekli girdi token’ları](https://broadrouter.com/tr/glossary/cached-input-tokens/) uzun istemlerin daha hızlı başlamasını sağlayabilir.
-   **[Saniyedeki token](https://broadrouter.com/tr/glossary/tokens-per-second/) bir decode sayısıdır.** Çıktı hızı, her decode adımının ne kadar hızlı çalıştığına bağlıdır; [speculative decoding](https://broadrouter.com/tr/glossary/speculative-decoding/) bunu artırmaya çalışır.
-   **Aşamalar birbirini etkiler.** Bir sunucu ikisini aynı GPU’da çalıştırdığında büyük bir prefill, diğer kullanıcıların decode adımlarını duraklatabilir. DistServe “strong prefill-decoding interferences” (çeviri: güçlü prefill-decode girişimleri) bildirir ve aşamaları farklı GPU’lara taşır. Sarathi-Serve ise “splits a prefill request into near equal sized chunks” (çeviri: bir prefill isteğini neredeyse eşit boyutlu parçalara böler) ve bunları “without pausing ongoing decodes” (çeviri: devam eden decode’ları duraklatmadan) zamanlar.
-   **Motorlar bu ödünleşimi açığa çıkarır.** vLLM’in ayar rehberi, chunked prefill’in prefill parçalarını decode istekleriyle aynı batch’te toplamasına olanak verdiğini söyler. Daha küçük bir `max_num_batched_tokens` token’lar arası gecikmeyi iyileştirir, daha büyüğü ise TTFT’yi ve [işlem hacmini](https://broadrouter.com/tr/glossary/throughput/) öne çıkarır.

[Gecikme, TTFT ve işlem hacmi rehberi](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) iki aşamayı istemci tarafından nasıl ölçeceğinizi gösterir.

## BroadNet Inference’ta

BroadNet, sunucularının prefill ve decode’u nasıl zamanladığını yayımlamaz. Görebildiğiniz şey etkidir: [akış rehberindeki](https://broadrouter.com/tr/guides/streaming-chat-completions/) gibi yanıtı akışla alın, ilk içerik parçasına kadar geçen süreyi (çoğunlukla prefill artı kuyruk) ve sonrasındaki parça hızını (decode) loglayın. [GLM 5.3](https://broadrouter.com/tr/models/glm-5.3/), [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/) ve [Qwen3.8 27B](https://broadrouter.com/tr/models/qwen3.8-27b/) modellerinde akıl yürütme token’ları da decode sırasında üretilir; bu yüzden görünür yanıtı geciktirir ve `max_tokens` sınırına dahil edilir.

## Sık yapılan hatalar

-   Yavaş bir ilk token’ı modelin çıktı hızına bağlamak. Önce istem uzunluğunu kontrol edin.
-   Çok küçük bir istemle kıyaslama yapmak. Uzun bağlamlı gerçek istemlerin prefill süresi çok daha uzundur.

## Sık sorulan sorular

### Uzun bir istem neden ilk token'ı yavaşlatır?

Model bir şey yazmadan önce her istem token'ı prefill'den geçmek zorundadır. Daha uzun istem daha fazla prefill işi demektir; bu yüzden istemin bir kısmı önbellekten sunulmadıkça ilk token süresi istem uzunluğuyla birlikte artar.

### Daha uzun bir yanıt ilk token'ı yavaşlatır mı?

Hayır. İlk token, istemin prefill'ini bekler. Daha uzun bir yanıt yalnızca ilk token geldikten sonra daha fazla decode adımı ekler.

### Chunked prefill (parçalı prefill) nedir?

Uzun bir istemi parçalara bölüp bunları devam eden decode adımlarıyla karıştıran bir zamanlama yöntemidir; böylece tek bir büyük istem diğer kullanıcıları durdurmaz. vLLM bunu mümkün olduğunda varsayılan olarak etkinleştirir.

## Ayrıca bakın

-   [KV önbelleği (KV cache)](https://broadrouter.com/tr/glossary/kv-cache/) (terim)
-   [İlk token süresi (TTFT)](https://broadrouter.com/tr/glossary/time-to-first-token/) (terim)
-   [Saniyedeki token (tokens per second, TPS)](https://broadrouter.com/tr/glossary/tokens-per-second/) (terim)
-   [İşlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/) (terim)
-   [Gecikme (latency)](https://broadrouter.com/tr/glossary/latency/) (terim)
-   [vLLM](https://broadrouter.com/tr/glossary/vllm/) (terim)
-   [Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/) (rehber)
-   [LLM gecikmesi: TTFT, saniye başına token ve uçtan uca süre](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) (yazı)
-   [LLM barındırmak mı, API mi: gerçek maliyet ve başa baş noktası](https://broadrouter.com/tr/blog/self-hosting-llm-vs-api-cost/) (yazı)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-prefill-and-decode&utm_content=page-cta) ·

**Kaynaklar**

-   [Zhong ve ark., DistServe: Disaggregating Prefill and Decoding for Goodput-optimized LLM Serving, arXiv 2401.09670 (kontrol tarihi 2026-11-15)](https://arxiv.org/abs/2401.09670)
-   [Agrawal ve ark., Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, arXiv 2403.02310 (kontrol tarihi 2026-11-15)](https://arxiv.org/abs/2403.02310)
-   [vLLM belgeleri, optimizasyon ve ayar: chunked prefill (kontrol tarihi 2026-11-15)](https://docs.vllm.ai/en/latest/configuration/optimization/)
