---
title: "Prefill اور decode کیا ہیں؟ LLM انفرنس کے دو مراحل | BroadRouter"
description: "Prefill آپ کا پورا پرامپٹ ایک ساتھ پڑھتا ہے؛ پھر decode جواب ایک ایک ٹوکن کر کے لکھتا ہے۔ دونوں مراحل کیسے مختلف ہیں اور TTFT اور رفتار کیوں طے کرتے ہیں۔"
url: https://broadrouter.com/ur/glossary/prefill-and-decode/
lang: ur
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/glossary/prefill-and-decode/) (اپ ڈیٹ: 2026-11-16).

# Prefill اور decode

اپ ڈیٹ 2026-11-16

Prefill اور decode، LLM انفرنس کے دو مراحل ہیں۔ Prefill میں ماڈل پورا پرامپٹ متوازی طور پر پروسیس کر کے اپنا KV cache بھرتا ہے؛ decode میں وہ اسی cache کو دوبارہ استعمال کرتے ہوئے جواب ایک ایک ٹوکن کر کے بناتا ہے۔ Prefill زیادہ تر پہلے ٹوکن تک کا وقت طے کرتا ہے؛ decode آؤٹ پٹ کی رفتار۔

دوسرے نام: پری فل، ڈی کوڈ، prefill kya hai، prefill aur decode kya hai، prefill، prefill phase، decode phase، prefill stage، prompt processing

ایک چیٹ درخواست دو الگ کام کرتی ہے: پرامپٹ پڑھنا، پھر جواب لکھنا۔ انفرنس انجینئرز انہیں prefill اور decode کہتے ہیں، اور GPU پر دونوں کا رویہ بہت مختلف ہے۔

## یہ کیسے کام کرتا ہے

1.  **Prefill۔** ماڈل پرامپٹ کا ہر ٹوکن ایک متوازی pass میں پڑھتا ہے اور ہر ٹوکن کے attention keys اور values کو [KV cache](https://broadrouter.com/ur/glossary/kv-cache/) میں رکھتا ہے۔ ابھی کچھ واپس نہیں ہوتا۔
2.  **Decode۔** ماڈل ایک ٹوکن بناتا ہے، اس کے keys اور values کو cache میں جوڑتا ہے، اور تب تک دہراتا ہے جب تک رک نہ جائے یا `max_tokens` تک نہ پہنچے۔

Sarathi-Serve مقالہ یہ فرق صاف بیان کرتا ہے: “Prefill iterations have high latency but saturate GPU compute due to parallel processing of the input prompt” (ترجمہ: ان پٹ پرامپٹ کی متوازی پروسیسنگ کی وجہ سے prefill iterations کی latency زیادہ ہوتی ہے لیکن وہ GPU compute کو پوری طرح بھر دیتی ہیں)، جبکہ “decode iterations have low latency but also low compute utilization.” (ترجمہ: decode iterations کی latency کم ہوتی ہے لیکن compute کا استعمال بھی کم)۔

دونوں مراحل ان دو latency نمبروں سے جڑتے ہیں جو صارفین محسوس کرتے ہیں۔ DistServe مقالہ ان کے نام دیتا ہے: “time to first token (TTFT) for the prefill phase and time per output token (TPOT) of each request for the decoding phase.” (ترجمہ: prefill مرحلے کے لیے پہلے ٹوکن تک کا وقت (TTFT) اور decoding مرحلے کے لیے ہر درخواست کا فی آؤٹ پٹ ٹوکن وقت (TPOT)۔)

ایک مثال: 20,000 ٹوکن کے پرامپٹ اور 300 ٹوکن کے جواب والی درخواست پہلا اسٹریم شدہ ٹوکن آنے سے پہلے پورے 20,000 ٹوکن کا prefill کرتی ہے، پھر 300 ترتیب وار decode قدم۔ پرامپٹ آدھا کرنے سے پہلے ٹوکن کا انتظار کم ہوتا ہے؛ 300 ٹوکن کتنی تیزی سے آتے ہیں، یہ نہیں بدلتا۔

## یہ کیوں اہم ہے

-   **[پہلے ٹوکن تک کا وقت](https://broadrouter.com/ur/glossary/time-to-first-token/) پرامپٹ کے سائز کے ساتھ چلتا ہے۔** لمبے system prompts، دستاویزات اور ٹولز کی فہرستیں، سب prefill کا کام بڑھاتے ہیں۔ Cached prefixes اس کا کچھ حصہ چھوڑ دیتے ہیں، اسی لیے [کیش شدہ ان پٹ ٹوکن](https://broadrouter.com/ur/glossary/cached-input-tokens/) لمبے پرامپٹس کو جلد شروع کرا سکتے ہیں۔
-   **[Tokens per second](https://broadrouter.com/ur/glossary/tokens-per-second/) ایک decode نمبر ہے۔** آؤٹ پٹ کی رفتار اس پر منحصر ہے کہ ہر decode قدم کتنی جلدی چلتا ہے، جسے [speculative decoding](https://broadrouter.com/ur/glossary/speculative-decoding/) بڑھانے کی کوشش کرتا ہے۔
-   **دونوں مراحل ایک دوسرے میں مداخلت کرتے ہیں۔** جب سرور دونوں کو ایک ہی GPU پر چلاتا ہے تو ایک بڑا prefill دوسرے صارفین کے decodes روک سکتا ہے۔ DistServe “strong prefill-decoding interferences” (ترجمہ: prefill اور decoding کے درمیان شدید مداخلت) بتاتا ہے اور دونوں مراحل کو الگ GPUs پر منتقل کرتا ہے۔ Sarathi-Serve اس کے بجائے “splits a prefill request into near equal sized chunks” (ترجمہ: prefill درخواست کو تقریباً برابر سائز کے ٹکڑوں میں بانٹتا ہے) اور انہیں “without pausing ongoing decodes” (ترجمہ: جاری decodes روکے بغیر) schedule کرتا ہے۔
-   **انجن یہ سودا آپ کے ہاتھ میں دیتے ہیں۔** vLLM کی tuning گائیڈ کہتی ہے کہ chunked prefill اسے prefill کے ٹکڑوں کو decode درخواستوں کے ساتھ batch کرنے دیتا ہے۔ چھوٹا `max_num_batched_tokens` inter-token latency بہتر کرتا ہے، جبکہ بڑا TTFT اور [throughput](https://broadrouter.com/ur/glossary/throughput/) کے حق میں جاتا ہے۔

[Latency، TTFT اور throughput گائیڈ](https://broadrouter.com/ur/blog/llm-latency-ttft-throughput/) دکھاتی ہے کہ کلائنٹ کی طرف سے دونوں مراحل کیسے ناپیں۔

## BroadNet Inference پر

BroadNet یہ شائع نہیں کرتا کہ اس کے سرورز prefill اور decode کو کیسے schedule کرتے ہیں۔ آپ اثر دیکھ سکتے ہیں: [اسٹریمنگ گائیڈ](https://broadrouter.com/ur/guides/streaming-chat-completions/) کی طرح جواب اسٹریم کریں، پہلے content chunk تک کا وقت (زیادہ تر prefill اور قطار) اور اس کے بعد chunks کی شرح (decode) لاگ کریں۔ [GLM 5.3](https://broadrouter.com/ur/models/glm-5.3/)، [DeepSeek V4.1 Flash](https://broadrouter.com/ur/models/deepseek-v4.1-flash/) اور [Qwen3.8 27B](https://broadrouter.com/ur/models/qwen3.8-27b/) پر ریزننگ ٹوکن بھی decode میں بنتے ہیں، اس لیے وہ نظر آنے والے جواب میں تاخیر کرتے ہیں اور `max_tokens` میں شمار ہوتے ہیں۔

## عام غلطیاں

-   سست پہلے ٹوکن کا الزام ماڈل کی آؤٹ پٹ رفتار کو دینا۔ پہلے پرامپٹ کی لمبائی دیکھیں۔
-   بہت چھوٹے پرامپٹ سے بینچ مارک کرنا۔ لمبے کانٹیکسٹ والے حقیقی پرامپٹس کا prefill کہیں لمبا ہوتا ہے۔

## عام سوالات

### لمبا پرامپٹ پہلا ٹوکن سست کیوں کر دیتا ہے؟

ماڈل کچھ بھی لکھے، اس سے پہلے پرامپٹ کے ہر ٹوکن کو prefill سے گزرنا ہوتا ہے۔ لمبے پرامپٹ کا مطلب زیادہ prefill کام ہے، اس لیے پہلے ٹوکن تک کا وقت پرامپٹ کی لمبائی کے ساتھ بڑھتا ہے، جب تک پرامپٹ کا کچھ حصہ cache سے نہ آئے۔

### کیا لمبا جواب پہلے ٹوکن کو سست کرتا ہے؟

نہیں۔ پہلا ٹوکن پرامپٹ کے prefill کا انتظار کرتا ہے۔ لمبا جواب پہلا ٹوکن آنے کے بعد بس زیادہ decode قدم جوڑتا ہے۔

### Chunked prefill کیا ہے؟

ایک scheduling طریقہ جو لمبے پرامپٹ کو ٹکڑوں میں بانٹ کر جاری decode قدموں کے ساتھ ملاتا ہے، تاکہ ایک بڑا پرامپٹ دوسرے صارفین کو نہ روکے۔ vLLM جہاں ممکن ہو، اسے بطورِ طے شدہ فعال کرتا ہے۔

## یہ بھی دیکھیں

-   [KV cache (کی ویلیو کیش)](https://broadrouter.com/ur/glossary/kv-cache/) (اصطلاح)
-   [پہلے ٹوکن تک کا وقت (TTFT، time to first token)](https://broadrouter.com/ur/glossary/time-to-first-token/) (اصطلاح)
-   [ٹوکن فی سیکنڈ (tokens per second، TPS)](https://broadrouter.com/ur/glossary/tokens-per-second/) (اصطلاح)
-   [تھروپٹ (throughput)](https://broadrouter.com/ur/glossary/throughput/) (اصطلاح)
-   [لیٹنسی (latency)](https://broadrouter.com/ur/glossary/latency/) (اصطلاح)
-   [vLLM](https://broadrouter.com/ur/glossary/vllm/) (اصطلاح)
-   [chat completions اسٹریم کریں اور ٹوٹے کنکشن سنبھالیں](https://broadrouter.com/ur/guides/streaming-chat-completions/) (گائیڈ)
-   [LLM لیٹنسی: TTFT، فی سیکنڈ ٹوکن اور مکمل جواب کا وقت](https://broadrouter.com/ur/blog/llm-latency-ttft-throughput/) (مضمون)
-   [LLM خود ہوسٹ کریں یا API لیں: اصل لاگت اور بریک ایون](https://broadrouter.com/ur/blog/self-hosting-llm-vs-api-cost/) (مضمون)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-glossary-prefill-and-decode&utm_content=page-cta) ·

**ذرائع**

-   [Zhong اور ساتھی، DistServe: Disaggregating Prefill and Decoding for Goodput-optimized LLM Serving، arXiv 2401.09670 (جانچ: 2026-11-15)](https://arxiv.org/abs/2401.09670)
-   [Agrawal اور ساتھی، Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve، arXiv 2403.02310 (جانچ: 2026-11-15)](https://arxiv.org/abs/2403.02310)
-   [vLLM دستاویزات، optimization اور tuning: chunked prefill (جانچ: 2026-11-15)](https://docs.vllm.ai/en/latest/configuration/optimization/)
