---
title: "طویل چلنے والے LLM ایجنٹس کا کانٹیکسٹ مینجمنٹ | BroadRouter"
description: "1M ٹوکن ونڈو کے ساتھ طویل ایجنٹ سیشن کو درست اور سستا کیسے رکھیں: append-only ہسٹری، کیش کے موافق پرامپٹ، کب compact کریں اور پہلے کیا ہٹائیں۔"
url: https://broadrouter.com/ur/blog/long-running-agent-context-management/
lang: ur
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/blog/long-running-agent-context-management/) (اپ ڈیٹ: 2026-11-16).

# طویل چلنے والے ایجنٹس میں 1M ونڈو کے ساتھ کانٹیکسٹ مینجمنٹ

BroadNet Inference ٹیم · 6 منٹ کی پڑھائی · شائع شدہ 2026-11-14 · اپ ڈیٹ 2026-11-16

کانٹیکسٹ کو append-only لاگ کی طرح رکھیں: پہلے مستقل سسٹم پرامپٹ اور ٹول لسٹ، پھر صرف بڑھنے والی ہسٹری، تاکہ ہر ٹرن کیش شدہ پری فکس دوبارہ استعمال کرے۔ DeepSeek V4.1 Flash جیسی 1,048,576 ٹوکن ونڈو کے ساتھ کبھی کبھار اور بڑے قدموں میں compact کریں، پہلے بھاری ٹول آؤٹ پٹ کم کریں، اور پائیدار حقائق ایک مختصر نوٹس فائل میں رکھیں جسے ایجنٹ دوبارہ پڑھتا ہے۔

## اہم نکات

-   بڑی ونڈو کانٹیکسٹ کے مسائل کو مؤخر کرتی ہے، ختم نہیں کرتی۔ حد کے قریب کیا ہوگا، اس کی منصوبہ بندی کریں۔
-   append-only ہسٹری پرامپٹ کا پری فکس مستحکم رکھتی ہے، اس لیے کیش شدہ ان پٹ سستا رہتا ہے۔
-   پچھلی ہسٹری کو دوبارہ لکھنے سے اس مقام کے بعد سے کیش ٹوٹ جاتا ہے۔
-   استدلال اور فیصلوں سے پہلے بھاری ٹول آؤٹ پٹ (لاگز، فائل ڈمپ) کم کریں۔
-   کبھی کبھار اور بڑے قدموں میں compact کریں، اور پائیدار حقائق کی ایک مختصر نوٹس فائل رکھیں۔

**اس صفحے پر**

1.  1M ٹوکن ونڈو طویل چلنے والے ایجنٹ کو کیا دیتی ہے؟
2.  اصول 1: ہسٹری append-only کیوں ہونی چاہیے؟
3.  اصول 2: کیش ریٹ کیسے ناپیں؟
4.  اصول 3: کانٹیکسٹ بڑھے تو پہلے کیا کاٹیں؟
5.  اصول 4: ایجنٹ کو اپنی ہسٹری کب compact کرنی چاہیے؟
6.  اصول 5: نوٹس فائل میں کیا ہونا چاہیے؟
7.  ریزننگ ٹوکن بجٹ پر کیا اثر ڈالتے ہیں؟
8.  کیا فلیٹ پلان پر یہ اہم ہے؟
9.  کانٹیکسٹ مینجمنٹ چیک لسٹ

دوپہر بھر کام کرنے والا کوڈنگ ایجنٹ بہت سی ہسٹری جمع کر لیتا ہے: پڑھی گئی فائلیں، چلائی گئی کمانڈز، ٹیسٹ آؤٹ پٹ، پلان، اصلاحات۔ ہر ٹرن یہ سب ماڈل کو واپس بھیجتا ہے۔ آپ اس بڑھتے کانٹیکسٹ کو کیسے مینج کرتے ہیں، یہ ایک ساتھ تین چیزیں طے کرتا ہے: ہر ٹرن کی لاگت، جواب کی رفتار، اور یہ کہ ایجنٹ کو اب بھی یاد ہے یا نہیں کہ وہ کیا کر رہا تھا۔

1M ٹوکن ونڈو ان سمجھوتوں کو بدلتی ہے۔ انہیں ختم نہیں کرتی۔

## 1M ٹوکن ونڈو طویل چلنے والے ایجنٹ کو کیا دیتی ہے؟

BroadNet Inference پر [DeepSeek V4.1 Flash](https://broadrouter.com/ur/models/deepseek-v4.1-flash/) اور [GLM 5.3](https://broadrouter.com/ur/models/glm-5.3/) فی درخواست 1,048,576 ٹوکن تک قبول کرتے ہیں، پرامپٹ اور جواب ملا کر۔ [Qwen3.8 27B](https://broadrouter.com/ur/models/qwen3.8-27b/) 262,144 قبول کرتا ہے۔ چھوٹی ونڈو میں ایجنٹ کو ایک دو گھنٹے کے کام کے بعد خلاصہ بنانا پڑتا ہے۔ دس لاکھ ٹوکن کے ساتھ وہ عموماً پورے سیشن کی خام ہسٹری رکھ سکتا ہے اور صرف بہت لمبے رن کے آخر کے قریب compact کرتا ہے۔

یہ حقیقی فائدہ ہے: خلاصوں میں معلومات ضائع ہوتی ہیں، اور ہر خلاصہ اس ایک تفصیل کو بھولنے کا موقع ہے جو سب سے اہم تھی۔ لیکن تین لاگتیں پھر بھی پرامپٹ کے ساتھ بڑھتی ہیں:

-   **پیسہ**، فی ٹوکن کلید پر، کیونکہ ہر ٹرن پورا پرامپٹ دوبارہ بھیجتا ہے۔
-   **لیٹنسی**، کیونکہ سرور کو پہلا آؤٹ پٹ ٹوکن دینے سے پہلے ہر ان پٹ ٹوکن پروسیس کرنا ہوتا ہے۔
-   **توجہ۔** ان پٹ بڑھنے پر معیار گر سکتا ہے، جسے [context rot](https://broadrouter.com/ur/glossary/context-rot/) کہتے ہیں۔ [“Lost in the Middle”](https://arxiv.org/abs/2307.03172) مقالے نے پایا کہ ماڈل لمبے ان پٹ کے شروع اور آخر کی معلومات درمیان کی معلومات سے زیادہ بھروسے سے استعمال کرتے ہیں۔ نئے ماڈل بہتر ہیں، لیکن اہم حقائق کناروں کے قریب رکھنے کی عادت اب بھی فائدہ دیتی ہے۔

## اصول 1: ہسٹری append-only کیوں ہونی چاہیے؟

پرامپٹ کیشنگ پرامپٹ کے آغاز سے میچ کرتی ہے۔ اگر اس ٹرن کے پہلے 300,000 ٹوکن پچھلے ٹرن جیسے ہی ہیں تو وہ کیش سے دیے جا سکتے ہیں؛ پہلا بدلا ہوا ٹوکن میچ ختم کر دیتا ہے۔ جب ماڈل رپورٹ کرتا ہے تو BroadNet کا API اسے `usage.prompt_tokens_details.cached_tokens` میں دکھاتا ہے اور کیش شدہ ان پٹ کم ریٹ پر بل کرتا ہے: DeepSeek V4.1 Flash پر $0.0055 فی 1M ٹوکن، جبکہ نئے ان پٹ کے لیے $0.175۔

اس لیے ہر درخواست ایک ہی ترتیب میں بنائیں اور ہمیشہ صرف آخر میں اضافہ کریں:

```text
[ system prompt ]        never changes during a session
[ tool definitions ]     fixed order, never changes
[ project notes ]        changes rarely, and only by appending
[ turn 1 ... turn N ]    grows at the end
[ new message ]
```

پری فکس توڑنے والی عام چیزیں یہ ہیں: سسٹم پرامپٹ میں ٹائم اسٹیمپ، بدلتی ترتیب میں ٹول کی تعریفیں، اور پرانے ٹول نتائج کو دوبارہ رینڈر کرنا۔ ایجنٹس کے لیے ایک اور شامل کریں: “sliding window” کٹائی، جو ہر بار سب سے پرانا ٹرن ہٹاتی ہے اور اس کے بعد کا سب کچھ کھسکا دیتی ہے۔ ان میں سے ہر چیز کیش شدہ پرامپٹ کو نیا پرامپٹ بنا دیتی ہے؛ [کیشنگ کے لیے پرامپٹ کی ساخت](https://broadrouter.com/ur/blog/prompt-structure-for-caching/) باقی وجوہات گنواتی ہے، ایک ٹیسٹ کے ساتھ جو ثابت کرتا ہے کہ پری فکس کیش ہوا۔ لمبے سیشن میں فرق بڑا ہے: پرامپٹ کا زیادہ تر حصہ نئے ان پٹ کی بجائے کیش شدہ ان پٹ ہو سکتا ہے۔ [کیش شدہ ان پٹ کا بل کیسے بنتا ہے](https://broadrouter.com/ur/blog/cached-input-tokens-explained/)۔

## اصول 2: کیش ریٹ کیسے ناپیں؟

اسے ہر درخواست پر لاگ کریں۔ OpenAI SDK کے ساتھ، کال کے بعد تین لائنیں یہ کام کر دیتی ہیں:

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

resp = client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=history, max_tokens=8000)
u = resp.usage
cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
print(f"turn prompt={u.prompt_tokens:,} cached={cached:,} ({cached / max(1, u.prompt_tokens):.0%})")
```

ایک صحت مند append-only ایجنٹ پہلے ٹرن کے بعد ہر ٹرن پر کیش شدہ حصہ زیادہ دکھاتا ہے۔ اچانک تقریباً صفر پر گرنے کا مطلب ہے کہ پرامپٹ کے شروع میں کچھ بدلا ہے۔ اسے ڈھونڈیں اور مستحکم کریں۔ [پرامپٹ کیشنگ کیلکولیٹر](https://broadrouter.com/tools/prompt-caching-calculator/) کیش ریٹ کو فی سیشن رقم میں بدل دیتا ہے۔

## اصول 3: کانٹیکسٹ بڑھے تو پہلے کیا کاٹیں؟

جب کانٹیکسٹ واقعی چھوٹا کرنا پڑے تو یہ اہم ہے کہ آپ کیا ہٹاتے ہیں۔ زیادہ تر ایجنٹ ٹرانسکرپٹس میں بڑا حصہ ٹول آؤٹ پٹ ہوتا ہے: 4,000 لائنوں کا ٹیسٹ لاگ، ایک فنکشن ڈھونڈنے کے لیے پڑھی گئی پوری فائل، ڈائریکٹری لسٹنگ۔ قیمتی حصہ چھوٹا ہوتا ہے: پلان، فیصلے اور ان کی وجوہات، جو ایررز درست کیے گئے۔

کاٹنے کی ترتیب، پہلے سے آخر تک:

1.  **پرانا ٹول آؤٹ پٹ۔** پرانے ٹول نتائج کا اصل حصہ ایک لائن کے stub سے بدلیں: “ran pytest: 3 failures in test\_api.py (fixed in turn 14)”۔
2.  **پرانا ہو چکا فائل مواد۔** اگر ایجنٹ نے `api.py` پڑھی، اس میں ترمیم کی، پھر دوبارہ پڑھی، تو پہلی بار پڑھا گیا حصہ فضول بوجھ ہے۔
3.  **بے نتیجہ تلاش۔** وہ تلاشیں اور ریڈز جن سے کوئی تبدیلی نہیں ہوئی۔
4.  **استدلال اور پلان۔** انہیں سب سے دیر تک رکھیں۔ یہ بتاتے ہیں کہ کوڈ ایسا کیوں ہے۔

ٹول آؤٹ پٹ کو بنتے ہی مختصر کر دینا اور بھی بہتر ہے۔ ہر ٹول نتیجے کی حد مقرر کریں (مثلاً لاگ کی آخری 200 لائنیں اور کل لائنوں کی گنتی) اور ضرورت ہو تو ایجنٹ کو مزید مانگنے دیں۔ اس سے ہسٹری append-only اور مختصر رہتی ہے۔

## اصول 4: ایجنٹ کو اپنی ہسٹری کب compact کرنی چاہیے؟

Compaction (پرانی ہسٹری کا خلاصہ بنا کر اسے چھوٹے بلاک میں بدلنا) بھاری اوزار ہے۔ یہ پری فکس دوبارہ لکھتا ہے، اس لیے compaction کے بعد والا ٹرن سسٹم پرامپٹ کے بعد کی ہر چیز کے لیے پوری ان پٹ قیمت ادا کرتا ہے۔ ہر چند ٹرن پر تھوڑا تھوڑا compact کرنے کا مطلب ہے یہ قیمت بار بار ادا کرنا۔

بہتر طریقہ:

-   **اونچی حد چنیں۔** 1M ونڈو کے ساتھ، مثلاً 60–70% بھرنے پر compact کرنا خلاصے والے ٹرن اور نئے کام کے لمبے سلسلے کے لیے جگہ چھوڑتا ہے۔
-   **حالیہ حصہ جوں کا توں رکھیں۔** پرانے حصے کا خلاصہ بنائیں اور آخری ٹرنز کا سلسلہ برقرار رکھیں۔ opencode کے [compaction ڈاکس](https://opencode.ai/docs/compaction/) یہی بتاتے ہیں: یہ گفتگو کا خلاصہ بناتا ہے اور سب سے حالیہ حصہ رکھتا ہے، پہلے سے طے شدہ طور پر تقریباً 15,000 ٹوکن۔
-   **پورے پرامپٹ کے ساتھ خلاصہ بنائیں۔** خلاصے کی درخواست میں پوری گفتگو بھیجنے سے وہ پچھلے ٹرن کا کیش دوبارہ استعمال کر پاتی ہے۔
-   **ایک بار compact کریں، پھر دوبارہ append کریں۔** compaction کے بعد نیا پری فکس مستحکم رہتا ہے، اور کیشنگ وہیں سے دوبارہ شروع ہوتی ہے۔

## اصول 5: نوٹس فائل میں کیا ہونا چاہیے؟

کچھ حقائق کو کتنے بھی compaction کے بعد باقی رہنا چاہیے: مقصد، پابندیاں، کیے گئے فیصلے، پروجیکٹ کو build اور test کرنے والی کمانڈز۔ انہیں ایک مختصر نوٹس فائل (`NOTES.md` یا کوئی ٹاسک فائل) میں رکھیں، جس میں ایجنٹ اضافہ کرتا ہے اور جسے دوبارہ پڑھتا ہے۔ یہ پرامپٹ کے اوپری حصے کے قریب رہتی ہے، کبھی کبھار بدلتی ہے، اور رن دوبارہ شروع ہونے پر نیا سیشن سب سے پہلے اسی کو پڑھتا ہے۔

یہ میموری کی سب سے سستی شکل بھی ہے: چند ہزار ٹوکن، جو ایجنٹ کو ہر خلاصے کے بعد وہی حقائق دوبارہ دریافت کرنے سے بچاتے ہیں۔

## ریزننگ ٹوکن بجٹ پر کیا اثر ڈالتے ہیں؟

DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ `max_tokens` میں گنی جاتی ہے۔ لمبا سیشن اسے نہیں بدلتا، لیکن بڑے پرامپٹ لوگوں کو “جگہ بچانے” کے لیے `max_tokens` کم کرنے پر اکساتے ہیں۔ ایسا نہ کریں۔ تنگ آؤٹ پٹ بجٹ خالی جواب پیدا کرتا ہے، جن پر ایجنٹ پھر دوبارہ کوشش کرتا ہے۔ [جواب خالی کیوں آتے ہیں](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)۔

یہ بھی یاد رکھیں کہ ونڈو پرامپٹ اور جواب دونوں کو ملا کر گنتی ہے۔ پرامپٹ 1,048,576 ٹوکن کے قریب پہنچے تو جواب کے لیے کوئی جگہ نہیں بچتی۔ وہاں پہنچنے سے پہلے compact کریں؛ [کانٹیکسٹ ونڈو کیلکولیٹر](https://broadrouter.com/tools/context-window-calculator/) دکھاتا ہے کہ کوئی پرامپٹ کتنی جگہ چھوڑتا ہے۔

## کیا فلیٹ پلان پر یہ اہم ہے؟

BroadNet پلان سیشن پر DeepSeek V4.1 Flash کا کوئی ٹوکن میٹر نہیں: Full Moon سیشن $60 ماہانہ ہے، پرامپٹ کتنے بھی لمبے ہوں۔ کیشنگ کی مالی دلیل ختم ہو جاتی ہے۔ باقی دو نہیں۔ کئی سرونگ سسٹمز میں کیش شدہ پری فکس عموماً تیزی سے پروسیس ہوتا ہے، اور اچھی طرح مینج کیا گیا کانٹیکسٹ بہتر جواب دیتا ہے۔ عادتیں وہی ہیں؛ صرف وجہ بدلتی ہے۔ [پلان سیشن کیسے کام کرتے ہیں](https://broadrouter.com/ur/guides/unlimited-llm-api-sessions/)۔

## کانٹیکسٹ مینجمنٹ چیک لسٹ

-   پورے سیشن کے لیے سسٹم پرامپٹ اور ٹول لسٹ مستقل۔
-   ہسٹری میں صرف اضافہ؛ پرانے ٹرنز کبھی دوبارہ فارمیٹ نہیں ہوتے۔
-   ہر درخواست پر کیش ریٹ لاگ۔
-   ٹول آؤٹ پٹ بنتے وقت محدود؛ پرانا آؤٹ پٹ بعد میں stub سے تبدیل۔
-   اونچی حد پر compaction، حالیہ حصہ جوں کا توں۔
-   مقصد، پابندیوں اور فیصلوں والی ایک نوٹس فائل۔
-   ریزننگ کے لیے کافی بڑا آؤٹ پٹ بجٹ۔

دس لاکھ ٹوکن کی ونڈو کب استعمال کرنا فائدہ مند ہے، اس پر مزید کے لیے [1M کانٹیکسٹ ونڈو گائیڈ](https://broadrouter.com/ur/blog/million-token-context-window-guide/) دیکھیں۔ بغیر پیش رفت کے بڑھتے سیشن روکنے کے لیے [ایجنٹ لوپ کی لاگت پر قابو](https://broadrouter.com/ur/blog/cut-coding-agent-llm-costs/) دیکھیں۔

اس موضوع کے مفت ٹولز (انگریزی میں)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[مفت ٹولز (انگریزی میں)](https://broadrouter.com/tools/)

## اس مضمون کی اصطلاحات

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[AI ایجنٹ (AI agent)](https://broadrouter.com/ur/glossary/agent/)

AI ایجنٹ ایسا نظام ہے جس میں لینگویج ماڈل کسی ہدف کی طرف اپنے قدم خود طے کرتا ہے: کون سے ٹولز کال کرنے ہیں، یہ چنتا ہے، نتائج پڑھتا ہے اور حتمی جواب یا کسی حد تک دہراتا رہتا ہے۔ مقررہ مقامات پر ماڈل کو کال کرنے والی اسکرپٹ کو عموماً workflow کہا جاتا ہے۔

[کانٹیکسٹ کمپیکشن (context compaction)](https://broadrouter.com/ur/glossary/context-compaction/)

Context compaction وہ طریقہ ہے جس میں کانٹیکسٹ ونڈو کی حد کے قریب پہنچی گفتگو کا خلاصہ بنایا جاتا ہے اور سیشن اسی خلاصے سے آگے چلتا ہے، تاکہ ایجنٹ اہم فیصلے اور حالت برقرار رکھے اور پرانے ٹول آؤٹ پٹ جیسی خام ہسٹری چھوڑ دے۔

[سسٹم پرامپٹ (system prompt)](https://broadrouter.com/ur/glossary/system-prompt/)

سسٹم پرامپٹ وہ ہدایتی متن ہے جو کوئی ایپلیکیشن گفتگو سے پہلے لینگویج ماڈل کو بھیجتی ہے، عموماً system یا developer رول والے پیغام کے طور پر۔ یہ ماڈل کا کردار، قواعد، لہجہ اور آؤٹ پٹ فارمیٹ طے کرتا ہے، اور ٹکراؤ کی صورت میں ماڈل کو صارف کے پیغامات کے بجائے اسی پر عمل کرنا ہوتا ہے۔

[ان پٹ اور آؤٹ پٹ ٹوکن (input and output tokens)](https://broadrouter.com/ur/glossary/input-and-output-tokens/)

ان پٹ ٹوکن وہ ٹوکن ہیں جو لینگویج ماڈل کسی درخواست میں پڑھتا ہے، جن میں سسٹم پرامپٹ، گفتگو کی تاریخ، ٹول ڈیفینیشنز اور تصاویر شامل ہیں۔ آؤٹ پٹ ٹوکن وہ ہیں جو وہ جواب میں بناتا ہے، ریزننگ سمیت۔ LLM API عموماً دونوں کی قیمت الگ رکھتے ہیں، اور آؤٹ پٹ عموماً مہنگا ہوتا ہے۔

[ٹول کالنگ (tool calling)](https://broadrouter.com/ur/glossary/tool-calling/)

ٹول کالنگ، جسے function calling بھی کہتے ہیں، LLM API کی وہ سہولت ہے جس میں ماڈل ڈویلپر کے طے کردہ کسی فنکشن کو چلانے کی ایک منظم درخواست، JSON آرگیومنٹس کے ساتھ، لوٹاتا ہے۔ ایپلیکیشن فنکشن چلا کر نتیجہ واپس بھیجتی ہے؛ ماڈل خود کبھی کوڈ نہیں چلاتا۔

[کانٹیکسٹ روٹ (context rot)](https://broadrouter.com/ur/glossary/context-rot/)

کانٹیکسٹ روٹ درستگی اور بھروسے کا وہ بتدریج نقصان ہے جو لینگویج ماڈلز میں ان پٹ لمبا ہونے پر نظر آتا ہے، تب بھی جب کام وہی رہے اور ان پٹ کانٹیکسٹ ونڈو کے اندر ہی ہو۔ یہ اصطلاح 2025 کی Chroma تکنیکی رپورٹ سے مشہور ہوئی، جس نے 18 ماڈلز ٹیسٹ کیے۔

[کانٹیکسٹ ونڈو (context window)](https://broadrouter.com/ur/glossary/context-window/)

کانٹیکسٹ ونڈو ٹوکنز کی وہ زیادہ سے زیادہ تعداد ہے جس کے ساتھ لینگویج ماڈل ایک درخواست میں کام کر سکتا ہے۔ اس میں پرامپٹ، گفتگو کی تاریخ، ٹول ڈیفینیشنز، تصاویر اور بننے والا آؤٹ پٹ، ریزننگ ٹوکنز سمیت، سب شامل ہیں۔ جو اس میں نہ سمائے اسے کاٹنا، خلاصہ کرنا یا کئی درخواستوں میں بانٹنا پڑتا ہے۔

## عام سوالات

### اگر ماڈل کی ونڈو 1M ہے تو کانٹیکسٹ مینج کرنے کی ضرورت ہی کیوں؟

کیونکہ پرامپٹ بڑھنے کے ساتھ لاگت، لیٹنسی اور درستگی تینوں بدلتی ہیں۔ لمبے پرامپٹ پروسیس ہونے میں زیادہ وقت لیتے ہیں، فی ٹوکن کلید پر ہر ٹرن میں زیادہ خرچ کرتے ہیں، اور تحقیق بتاتی ہے کہ ماڈل لمبے ان پٹ کے درمیان کی معلومات کم بھروسے سے استعمال کرتے ہیں۔

### کیسے پتا کروں کہ میرا ایجنٹ کیش hit کر رہا ہے؟

جب ماڈل رپورٹ کرتا ہے تو usage بلاک میں prompt\_tokens\_details.cached\_tokens ہوتا ہے۔ ہر درخواست کے لیے اسے prompt\_tokens سے تقسیم کریں اور یہ شرح لاگ کریں۔

### کیا فلیٹ پلان پر compaction اہم ہے؟

بل کے لیے نہیں، کیونکہ پلان سیشن میں ٹوکن میٹر نہیں ہوتا۔ پھر بھی بہت لمبے سیشن میں رفتار اور جواب کے معیار کے لیے یہ اہم ہے۔

## مزید پڑھیں

-   [1M ٹوکن کانٹیکسٹ ونڈو کب فائدہ مند ہے (اور کب نہیں)](https://broadrouter.com/ur/blog/million-token-context-window-guide/)
-   [کیش شدہ ان پٹ ٹوکن کیا ہیں: LLM API کا بل کیسے کم کریں](https://broadrouter.com/ur/blog/cached-input-tokens-explained/)
-   [کوڈنگ ایجنٹ کی LLM لاگت کم کرنے کے 10 طریقے، اندازاً بچت کے ساتھ](https://broadrouter.com/ur/blog/cut-coding-agent-llm-costs/)
-   [کوڈنگ ایجنٹس کو رات بھر بغیر نگرانی محفوظ طریقے سے کیسے چلائیں](https://broadrouter.com/ur/blog/overnight-coding-agent-runs/)
-   [AI کوڈنگ ایجنٹ کے ایک رن کی لاگت: مراحل، کانٹیکسٹ اور کیشنگ](https://broadrouter.com/ur/blog/ai-coding-agent-run-cost/)
-   [اوپن ماڈلز کے ساتھ Claude Code: پراکسی، نیٹو اینڈپوائنٹس اور حدیں](https://broadrouter.com/ur/blog/claude-code-with-openai-compatible-models/)
-   [گائیڈ: chat completions اسٹریم کریں اور ٹوٹے کنکشن سنبھالیں](https://broadrouter.com/ur/guides/streaming-chat-completions/)
-   [گائیڈ: ریزننگ ماڈل خالی جواب کیوں لوٹاتا ہے](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)
-   [گائیڈ: ایجنٹس کے لیے لامحدود LLM API پلانز کیسے کام کرتے ہیں](https://broadrouter.com/ur/guides/unlimited-llm-api-sessions/)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-long-running-agent-context-management&utm_content=page-cta) ·

**ذرائع**

-   [BroadNet Inference کا API ریفرنس، ریزننگ اور کیش شدہ ٹوکن (انگریزی میں)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-long-running-agent-context-management&utm_content=sources)
-   [Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv)](https://arxiv.org/abs/2307.03172)
-   [opencode ڈاکس، compaction](https://opencode.ai/docs/compaction/)
