BroadRouter

ان پٹ اور آؤٹ پٹ ٹوکن (input and output tokens)

اپ ڈیٹ

ان پٹ ٹوکن وہ ٹوکن ہیں جو لینگویج ماڈل کسی درخواست میں پڑھتا ہے، جن میں سسٹم پرامپٹ، گفتگو کی تاریخ، ٹول ڈیفینیشنز اور تصاویر شامل ہیں۔ آؤٹ پٹ ٹوکن وہ ہیں جو وہ جواب میں بناتا ہے، ریزننگ سمیت۔ LLM API عموماً دونوں کی قیمت الگ رکھتے ہیں، اور آؤٹ پٹ عموماً مہنگا ہوتا ہے۔

دوسرے نام: ان پٹ ٹوکن، آؤٹ پٹ ٹوکن، پرامپٹ ٹوکن، input output token kya hai، prompt tokens، completion tokens، input tokens، output tokens

ہر LLM درخواست کے دو رخ ہوتے ہیں: جو آپ بھیجتے ہیں اور جو واپس آتا ہے۔ API دونوں کو ٹوکنز میں گنتے ہیں، اور زیادہ تر دونوں کا بل الگ الگ شرحوں پر بناتے ہیں۔

یہ کیسے کام کرتا ہے

ان پٹ درخواست کی ہر چیز ہے: سسٹم پرامپٹ، ہر پچھلا پیغام، ٹول ڈیفینیشنز، ٹول کے نتائج، دستاویزات اور تصاویر۔ کئی باریوں والی چیٹ ہر باری میں پوری تاریخ دوبارہ بھیجتی ہے، اس لیے ان پٹ گفتگو کے ساتھ بڑھتا ہے۔

آؤٹ پٹ وہ سب ہے جو ماڈل بناتا ہے: نظر آنے والا جواب، ٹول کالز اور، ریزننگ ماڈلز میں، چھپے ہوئے ریزننگ ٹوکنز۔

usage بلاک دونوں بتاتا ہے:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

ایک درخواست کی لاگت یہ ہے:

(new input × input price) + (cached input × cached price) + (output × output price)، یعنی (نیا ان پٹ × ان پٹ قیمت) + (کیش شدہ ان پٹ × کیش شدہ قیمت) + (آؤٹ پٹ × آؤٹ پٹ قیمت)، جہاں ہر قیمت فی دس لاکھ (1M) ٹوکن ہے۔

یہ کیوں اہم ہے

دونوں کا تناسب طے کرتا ہے کہ کون سی قیمت زیادہ اہم ہے۔ چیٹ اسسٹنٹ مختصر سوال پر چند سو ٹوکن بنا سکتا ہے۔ کوڈنگ ایجنٹ ہر باری میں ریپوزٹری کا بڑا کانٹیکسٹ دوبارہ بھیجتا ہے اور چھوٹا پیچ لکھتا ہے، اس لیے ان پٹ، آؤٹ پٹ سے 20 گنا یا اس سے بھی زیادہ ہو سکتا ہے۔ ایجنٹس کے لیے ان پٹ قیمت اور کیش شدہ ان پٹ کی قیمت ہی بل کا بڑا حصہ طے کرتی ہیں۔

آؤٹ پٹ پر پھر بھی نظر رکھنی چاہیے۔ ریزننگ ماڈلز جواب دینے سے زیادہ ٹوکن سوچنے پر خرچ کر سکتے ہیں، اور ان کا بل آؤٹ پٹ کے طور پر بنتا ہے۔ ہم جن ماڈلز کو ٹریک کرتے ہیں، ان میں آؤٹ پٹ اور ان پٹ قیمت کا عام تناسب LLM API قیمت انڈیکس میں ہے۔

BroadNet Inference پر

شائع شدہ قیمتوں کی فائل سے، فی دس لاکھ ٹوکن:

ماڈل ان پٹ کیش شدہ ان پٹ آؤٹ پٹ
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

BroadNet کی ایک مثال میں ایک کل وقتی کوڈنگ ایجنٹ ماہانہ 1,000 ملین (ایک ارب) ان پٹ ٹوکن بھیجتا ہے، 80% کیش ہٹس کے ساتھ، اور 50 ملین (پانچ کروڑ) آؤٹ پٹ ٹوکن واپس پاتا ہے۔ DeepSeek V4.1 Flash پر فی ٹوکن حساب سے اس کی لاگت $65.40 ہے۔ مقررہ قیمت والا پلان میٹر ہٹا دیتا ہے: Full Moon فی سیشن $60 ماہانہ ہے۔ اپنے اعداد کا موازنہ قیمتوں کے کیلکولیٹر میں کریں یا مقررہ قیمت بمقابلہ فی ٹوکن ادائیگی پڑھیں۔

عام غلطیاں

  • صرف نظر آنے والے جواب کی قیمت لگانا اور ریزننگ ٹوکنز بھول جانا۔
  • یہ نظر انداز کرنا کہ تاریخ کتنی تیزی سے بڑھتی ہے۔ چیٹ کی 30ویں باری میں 30 باریوں کا ان پٹ ہو سکتا ہے۔

عام سوالات

پرامپٹ ٹوکن اور ان پٹ ٹوکن میں کیا فرق ہے؟

کوئی فرق نہیں۔ Chat Completions فارمیٹ انہیں prompt_tokens اور completion_tokens کہتا ہے۔ نئے API، جیسے OpenAI کا Responses API اور Anthropic کا Messages API، انہیں input_tokens اور output_tokens کہتے ہیں۔

آؤٹ پٹ ان پٹ سے مہنگا کیوں ہوتا ہے؟

ماڈل پورا پرامپٹ ایک ہی متوازی مرحلے میں پڑھ لیتا ہے، لیکن آؤٹ پٹ ایک ایک ٹوکن کر کے بناتا ہے، اس لیے ہر آؤٹ پٹ ٹوکن پر GPU کا زیادہ وقت لگتا ہے۔

کیا ٹول ڈیفینیشنز کا بھی بل بنتا ہے؟

ہاں۔ ٹول اسکیما اور ٹول کے نتائج پرامپٹ کا حصہ ہیں، اس لیے جس بھی درخواست میں وہ ہوں، اس میں وہ ان پٹ ٹوکن ہیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں