BroadRouter

LLM API کی لاگت کیسے کم کریں: 10 مراحل کی چیک لسٹ، درست ترتیب میں

BroadNet Inference ٹیم · 8 منٹ کی پڑھائی · شائع شدہ

LLM API کی لاگت کم کرنے کے لیے پہلے ہر درخواست کے ٹوکن لاگ کریں، پھر اس ترتیب سے چلیں: پرامپٹ کا پری فکس مستحکم رکھیں تاکہ وہ کیش ہو، پرامپٹ مختصر کریں، آؤٹ پٹ اور ریزننگ محدود کریں، ٹیسٹ پاس کرنے والا سب سے چھوٹا ماڈل چنیں، غیر فوری کام بیچ یا مؤخر کریں، دہرائے جواب کیش کریں، دوبارہ کوششیں محدود کریں، اور بریک ایون کے بعد مقررہ قیمت والا پلان لیں۔

”اپنا LLM بل 70% کم کریں“ جیسی زیادہ تر فہرستیں اچھے مشوروں کے ساتھ ایسے اعداد ملا دیتی ہیں جنہیں کسی نے ناپا نہیں۔ یہ چیک لسٹ اس ترتیب میں ہے کہ پہلے کیا کرنا چاہیے، اور ہر عدد کسی پرائس فائل یا فراہم کنندہ کی اپنی دستاویزات سے لیا گیا ہے۔ جس قدم پر اس سائٹ پر تفصیلی پوسٹ موجود ہے، وہاں اس کا لنک دیا گیا ہے۔ نیچے BroadNet کی قیمتیں اس کی پرائسنگ فائل سے ہیں، جو 2026-11-14 کو سنک کی گئی۔

LLM API کا بل کن چیزوں سے بنتا ہے؟

تقریباً ہر بل چار اعداد سے طے ہوتا ہے:

  1. نئے ان پٹ ٹوکن۔ پرامپٹ، اس حصے کو چھوڑ کر جو کیش سے پڑھا گیا۔
  2. کیش شدہ ان پٹ ٹوکن۔ دہرایا جانے والا پری فکس، جو کم ریٹ پر بل ہوتا ہے۔
  3. آؤٹ پٹ ٹوکن۔ جواب، اور سوچنے والے ماڈلز پر ساتھ میں ریزننگ ٹوکن۔
  4. درخواستوں کی تعداد۔ ہر کال، ہر دوبارہ کوشش سمیت، الگ بل ہوتی ہے۔

سب سے مہنگی اکائی آؤٹ پٹ ہے۔ BroadNet کے چیٹ ماڈلز پر، فی 1M ٹوکن:

ماڈل ان پٹ کیش شدہ ان پٹ آؤٹ پٹ
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 شائع نہیں $0.22

یعنی آپ کے پاس یہ راستے ہیں: کم نئے ٹوکن بھیجیں، زیادہ کیش سے پڑھیں، کم جنریٹ کریں، اور کم کالز کریں۔ LLM API کی قیمت کیسے بنتی ہے میں ہر اکائی تفصیل سے بیان کی گئی ہے۔

ایک نظر میں چیک لسٹ

قدم آپ کیا بدلتے ہیں کیا کم ہوتا ہے محنت
1. پیمائش کریں صرف لاگنگ ابھی کچھ نہیں؛ پتا چلتا ہے کہاں کم کرنا ہے کم
2. پری فکس کیش کریں پرامپٹ کی ترتیب ان پٹ کی قیمت کم
3. پرامپٹ مختصر کریں پرامپٹ کا مواد ان پٹ ٹوکن درمیانی
4. آؤٹ پٹ اور ریزننگ محدود کریں درخواست کی سیٹنگز آؤٹ پٹ ٹوکن کم
5. مناسب سائز کا ماڈل چنیں ماڈل کا انتخاب تمام قیمتیں درمیانی
6. کام بیچ کریں یا مؤخر کریں شیڈولنگ فی ٹوکن قیمت، جہاں دستیاب ہو درمیانی
7. جواب کیش کریں ایپ کا کوڈ پوری درخواستیں درمیانی
8. دوبارہ کوششیں اور لوپس محدود کریں ایپ کا کوڈ ضائع ہونے والی درخواستیں کم
9. خرچ کی حد مقرر کریں اکاؤنٹ اور کلیدیں بے قابو بل کم
10. مقررہ قیمت کا بریک ایون دیکھیں بلنگ ماڈل زیادہ حجم پر کل بل کم

1. کچھ بھی کم کرنے سے پہلے پیمائش کیوں ضروری ہے؟

کیونکہ بل وجہ چھپا لیتا ہے۔ ایک جیسی نظر آنے والی دو درخواستوں کے ٹوکنز میں دس گنا فرق ہو سکتا ہے۔ ہر chat completion ایک usage بلاک لوٹاتا ہے جس میں prompt_tokens، completion_tokens اور، جہاں فراہم کنندہ بتاتا ہے، کیش شدہ ٹوکن ہوتے ہیں۔ انہیں ہر فیچر اور ہر یوزر کے حساب سے لاگ کریں، پرامپٹ کا متن چھوڑ کر۔ ایک ہفتے بعد آپ جان جائیں گے کہ کون سا فیچر سب سے زیادہ خرچ کرتا ہے، اور خرچ ان پٹ سے ہے، کیش مس سے یا آؤٹ پٹ سے۔

PII ہٹا کر استعمال کی لاگنگ میں ایک لاگ اسکیما دیا گیا ہے۔ کسی فیچر کے لانچ سے پہلے اس کا اندازہ لگانے کے لیے LLM API لاگت کیلکولیٹر یا لانچ سے پہلے لاگت کا اندازہ والا طریقہ استعمال کریں۔

2. پرامپٹ کیشنگ سے لاگت کیسے کم ہوتی ہے؟

فراہم کنندگان پرامپٹ کے اس ابتدائی حصے کو کیش کر لیتے ہیں جو بالکل ویسا ہی دہرایا جائے۔ اگلی کال وہ پری فکس کیش شدہ قیمت پر پڑھتی ہے۔ OpenAI معاون ماڈلز پر 1,024 ٹوکن سے کیشنگ پہلے سے فعال رکھتا ہے، اور کہتا ہے کہ کیش شدہ ان پٹ “discounted up to 95%” (ترجمہ: 95% تک رعایت پر) ہے (2026-11-15 کو دیکھا گیا)۔ BroadNet پر DeepSeek V4.1 Flash کیش شدہ ان پٹ $0.0055 فی 1M پر بل کرتا ہے، جبکہ نیا ان پٹ $0.175 پر۔

اصول: مستحکم مواد پہلے، بدلنے والا مواد آخر میں۔ پہلے سسٹم پرامپٹ، پھر ٹول اسکیما، پھر مشترکہ دستاویزات، پھر تاریخ، اور پھر نیا سوال۔ سب سے اوپر رکھا ایک ٹائم اسٹیمپ یا بے ترتیب ٹول لسٹ اس کے بعد کی ہر چیز کا کیش توڑ دیتی ہے۔

3. پرامپٹ میں کون سی کٹوتی محفوظ ہے؟

وہ ہٹائیں جو ماڈل استعمال نہیں کرتا۔ عام فائدے یہاں ملتے ہیں: نثر میں لکھے لمبے سسٹم پرامپٹ، کام کی ضرورت سے زیادہ few-shot مثالیں، ان ٹولز کے اسکیما جنہیں وہ قدم کبھی کال نہیں کرتا، طویل JSON جہاں ایک مختصر ٹیبل کافی ہوتا، اور پوری چیٹ ہسٹری جہاں خلاصہ کافی ہوتا۔ ریٹریول بھی بھٹکتا ہے: جب دو حصوں سے سوال کا جواب مل جائے تو دس بھیجنا لاگت اور معیار دونوں کا مسئلہ ہے۔

ہر کٹوتی کو ان پٹس کے ایک مقررہ سیٹ پر ٹیسٹ کریں، تاکہ سستا پرامپٹ خاموشی سے جواب خراب نہ کر دے۔ پرامپٹ ٹوکن کم کریں میں ان میں سے ہر کٹوتی کی پیمائش دی گئی ہے۔ زبان سے بھی فرق پڑتا ہے: زیادہ تر ٹوکنائزرز پر عربی متن انگریزی سے زیادہ ٹوکن فی لفظ لیتا ہے؛ دیکھیں عربی بمقابلہ انگریزی میں فی لفظ ٹوکن۔

4. آؤٹ پٹ اور ریزننگ کو کیسے محدود کریں؟

کم مانگیں، اور اس کی حد مقرر کریں۔ نثر کی جگہ JSON فیلڈز مانگیں، ”وضاحت کریں“ کی جگہ الفاظ کی حد دیں، اور سوال دہرانے سے منع کریں۔ پھر max_tokens سیٹ کریں تاکہ بے قابو جواب رک جائے۔

سوچنے والے ماڈلز پر احتیاط چاہیے۔ BroadNet کی دستاویزات کہتی ہیں کہ ریزننگ max_tokens میں شمار ہوتی ہے، اس لیے کم حد پر جواب خالی آ سکتا ہے۔ 1,000 یا اس سے زیادہ ٹوکن رکھیں، اور آسان مراحل پر reasoning_effort کو low رکھیں۔ فی ٹوکن والی کلیدوں پر ریزننگ آؤٹ پٹ کے طور پر بل ہوتی ہے۔ ریزننگ ٹوکن: جتنا نظر آتا ہے اس سے زیادہ ادائیگی کیوں اور خالی جواب کا حل دونوں پہلو بیان کرتے ہیں۔

5. معیار کھوئے بغیر سستا ماڈل کیسے چنیں؟

فی ٹوکن قیمت نہیں، ہر کامیاب کام کی لاگت کا موازنہ کریں۔ متوقع آؤٹ پٹ کے ساتھ 50 سے 100 حقیقی ان پٹس تیار کریں، ہر امیدوار ماڈل چلائیں، اور خرچ کو کامیاب نتائج سے تقسیم کریں۔ جو ماڈل فی ٹوکن سستا ہے لیکن ایک تہائی بار ناکام ہوتا ہے، وہ دوبارہ کوششیں اور انسانی جائزہ شامل کرنے پر زیادہ مہنگا پڑ سکتا ہے۔

پہلے فیچرز دیکھیں۔ BroadNet پر ٹولز اور اسٹرکچرڈ آؤٹ پٹ صرف GLM 5.3 اور Qwen3.8 27B کے لیے درج ہیں۔ Gemma 4 VL 26B، BroadNet کا چھوٹا متن اور تصویر والا ماڈل ہے؛ آسان کاموں کے لیے اوپر کے ٹیبل میں اس کی قیمت دیکھیں۔ کئی ایپس آسان مراحل کے لیے چھوٹا ماڈل اور مشکل مراحل کے لیے بڑا ماڈل استعمال کرتی ہیں؛ ماڈل آپ اپنے کوڈ میں چنتے ہیں۔ بدلنے سے پہلے LLM کی جانچ کیسے کریں میں ایک ٹیسٹ پلان دیا گیا ہے۔

اپنے موجودہ ماڈل کے سستا ہونے کا انتظار نہ کریں۔ فراہم کنندگان کسی موجودہ ماڈل کی قیمت شاذ و نادر ہی کم کرتے ہیں؛ بچت عموماً نئے ورژن کے ساتھ آتی ہے۔ دیکھیں OpenAI بمقابلہ Anthropic بمقابلہ Google API قیمتوں کی تاریخ اور LLM API قیمتوں میں سب سے بڑی کمی۔

6. کیا انتظار کر سکنے والا کام بیچ یا مؤخر کیا جا سکتا ہے؟

جہاں فراہم کنندہ یہ سہولت دیتا ہے، جی ہاں، اور رعایت بڑی ہے۔ سب 2026-11-15 کو دیکھے گئے:

فراہم کنندہ رعایت شرط
OpenAI Batch API ہم وقت (synchronous) کالز کے مقابلے میں 50% 24 گھنٹے کے اندر مکمل؛ الگ ریٹ لمٹس
Anthropic Message Batches API 50% غیر ہم وقت؛ زیادہ تر بیچ ایک گھنٹے سے کم میں مکمل
DeepSeek API، آف پیک آف پیک ریٹس پیک کے آدھے پیک پیر سے جمعہ، 01:00 سے 04:00 اور 06:00 سے 10:00 UTC

BroadNet Inference کے پاس نہ Batch API ہے نہ آف پیک قیمتیں۔ BroadNet پر رات بھر چلنے والی جابز کو عام اینڈپوائنٹ پر، اپنی کلید کی حدوں کے اندر، دوبارہ شروع ہو سکنے والے رنر سے چلائیں۔ Batch API کے بغیر LLM بیچ پروسیسنگ میں کوڈ موجود ہے۔ اگر جاب گھنٹوں چلتی ہے تو مقررہ قیمت والا سیشن ٹوکنز سے سستا پڑ سکتا ہے (قدم 10)۔

7. پورے جواب کب کیش کرنے چاہئیں؟

جب وہی سوال انہی ان پٹس کے ساتھ دوبارہ آئے۔ FAQ بوٹس، دہرائے گئے آئٹمز کی درجہ بندی اور کریش کے بعد پائپ لائن کا دوبارہ چلنا، یہ سب کام دہراتے ہیں۔ ماڈل، پرامپٹ اور سیٹنگز پر مبنی exact-match کیش محفوظ شدہ جواب لوٹا دیتا ہے اور کال بچ جاتی ہے۔ میعاد مقرر کریں تاکہ جواب پرانے نہ ہوں۔ Python میں LLM ریسپانسز کیش کریں میں ایک مختصر عمل درآمد دکھایا گیا ہے۔

8. دوبارہ کوششیں اور لوپس پیسے کیسے ضائع کرتے ہیں؟

دوبارہ بھیجی گئی درخواست ایک نیا انفرنس ہے اور فی ٹوکن والی کلیدوں پر دوبارہ بل ہوتی ہے۔ صرف 429 اور 5xx ایررز پر، exponential backoff اور jitter کے ساتھ دوبارہ کوشش کریں، اور کوششیں محدود رکھیں۔ 400 پر کبھی دوبارہ کوشش نہ کریں: وہی غلط درخواست اسی طرح ناکام ہوگی۔

ایجنٹس ایک دوسرا خطرہ لاتے ہیں: ایسا لوپ جو ماڈل کو بار بار کال کرتا رہے۔ ہر کام کے مراحل محدود کریں، اور جب وہی ٹول کال دہرائی جائے تو رک جائیں۔ 429 ایررز سے نمٹنا اور کوڈنگ ایجنٹ کی لاگت کم کرنے کے 10 طریقے دونوں باتیں بیان کرتے ہیں۔

9. بل کو بے قابو ہونے سے کیسے روکیں؟

الرٹس بعد میں بتاتے ہیں۔ حدیں اسے روکتی ہیں۔ پری پیڈ بیلنس استعمال کریں، ہر ایپ کے لیے ایک کلید رکھیں تاکہ باقی کو روکے بغیر ایک کو منسوخ کر سکیں، اور سرور کلیدوں پر IP allow-list لگائیں۔ کوڈ میں ہر جاب کا بجٹ مقرر کریں اور ختم ہونے پر رک جائیں۔ LLM API خرچ پر کنٹرول میں اکاؤنٹ سے درخواست تک تمام پرتیں بیان کی گئی ہیں۔

10. مقررہ قیمت والا پلان فی ٹوکن قیمت سے کب بہتر ہوتا ہے؟

جب کوئی ایجنٹ دن کا زیادہ تر حصہ چلتا ہے۔ BroadNet، DeepSeek V4.1 Flash کو فی ٹوکن یا فی سیشن بیچتا ہے: Full Moon $60 ماہانہ، Orbit $15 ہفتہ وار یا Meteor $1 فی گھنٹہ، بغیر کسی ٹوکن میٹر کے۔ ایک سیشن ایک وقت میں ایک درخواست چلاتا ہے۔

فی ٹوکن بلنگ پر BroadNet کی مثالیں:

ورک لوڈ فی ٹوکن، ماہانہ سستا آپشن
سائیڈ پروجیکٹ $14.23 استعمال کے مطابق ادائیگی
روزانہ کا اسسٹنٹ $42.67 استعمال کے مطابق ادائیگی
کل وقتی کوڈنگ ایجنٹ $65.40 Full Moon
ہر وقت چلنے والا ایجنٹ $196.20 Full Moon

80% کیش ہٹ اور ہر آؤٹ پٹ ٹوکن پر 20 ان پٹ ٹوکن فرض کریں تو بریک ایون تقریباً 917 ملین ان پٹ اور 46 ملین آؤٹ پٹ ٹوکن ماہانہ پر آتا ہے۔ ہلکے استعمال میں فی ٹوکن ہی سستا رہتا ہے۔ بریک ایون کا مکمل حساب دیکھیں، یا اپنا حجم مقررہ قیمت بمقابلہ فی ٹوکن کیلکولیٹر میں آزمائیں۔

کون سے مراحل چھوڑ دینے چاہئیں؟

کچھ مقبول مشورے جتنا بچاتے ہیں اس سے زیادہ خرچ کرواتے ہیں:

  • پرامپٹ کو اتنا دبانا کہ وہ ٹوٹ جائے۔ اگر جوابوں کا معیار گرتا ہے اور یوزرز دوبارہ کوشش کرتے ہیں تو ان پٹ کی بچت ضائع ہو جاتی ہے۔
  • ہر ٹرن پر تاریخ کا خلاصہ بنانا۔ ہر خلاصہ ایک اضافی کال ہے، اور یہ پری فکس بدل دیتا ہے، اس لیے کیش مس ہوتا ہے۔ کبھی کبھار خلاصہ بنائیں اور باقی کو آگے جوڑتے جائیں۔
  • صرف سب سے کم فی ٹوکن قیمت کے پیچھے بھاگنا۔ ریٹ لمٹس، غائب فیچرز اور ناکامی کی شرح، سب لاگت بڑھاتے ہیں۔
  • چھوٹے ورک لوڈ کے لیے سیلف ہوسٹنگ۔ GPU کا بل گھنٹے کے حساب سے بنتا ہے، چاہے وہ مصروف ہوں یا خالی۔ سیلف ہوسٹنگ بمقابلہ API کی لاگت بتاتا ہے کہ بریک ایون کہاں ہے۔

BroadNet Inference کہاں موزوں ہے

BroadRouter، BroadNet کی اپنی ویب سائٹ ہے، اس لیے یہ حصہ اسی بات کو ذہن میں رکھ کر پڑھیں۔ BroadNet Inference ایک OpenAI سے مطابقت رکھنے والا API ہے، جس میں فی ٹوکن قیمت والے چار چیٹ ماڈلز ہیں، ان میں سے تین پر کیش شدہ ان پٹ ہے، اور مسلسل ایجنٹ استعمال کے لیے DeepSeek V4.1 Flash کا مقررہ قیمت والا پلان ہے۔ یہ Batch API یا آف پیک ریٹس نہیں دیتا، اس لیے انتظار کر سکنے والی بڑی جابز کے لیے OpenAI یا Anthropic کی بیچ رعایت، یا DeepSeek کے آف پیک اوقات، سستے پڑ سکتے ہیں۔ نئے اکاؤنٹس کو $5 کا ابتدائی کریڈٹ ملتا ہے، جو Gemma 4 VL 26B، دونوں Transcribe ماڈلز اور Gemma کی گھنٹے والی کلیدوں کا احاطہ کرتا ہے؛ DeepSeek، GLM اور Qwen کے لیے ٹاپ اپ ضروری ہے۔ سیلف سروس میں کوئی SLA نہیں ہے۔ قیمتیں دیکھیں یا پلانز کا موازنہ کریں۔

عام سوالات

LLM API کی لاگت کم کرنے کا سب سے تیز طریقہ کیا ہے؟

پرامپٹ کیشنگ سے شروع کریں۔ سسٹم پرامپٹ، ٹول اسکیما اور مشترکہ دستاویزات سب سے پہلے رکھیں اور ہر کال میں انہیں بائٹ بہ بائٹ یکساں رکھیں۔ کیش شدہ ان پٹ نئے ان پٹ کی قیمت کے ایک چھوٹے حصے پر بل ہوتا ہے، اور آپ کو نہ ماڈل بدلنا پڑتا ہے نہ کوئی فیچر۔ اس کے بعد آؤٹ پٹ محدود کریں، کیونکہ آؤٹ پٹ ٹوکن ان پٹ ٹوکن سے مہنگے ہوتے ہیں۔

کیا Batch API سے واقعی قیمت آدھی ہو جاتی ہے؟

OpenAI اور Anthropic پر، جی ہاں۔ OpenAI کا Batch API 24 گھنٹے میں مکمل ہونے کی مدت کے ساتھ 50% رعایت دیتا ہے، اور Anthropic کا Message Batches API لاگت 50 فیصد کم کرتا ہے (دونوں 2026-11-15 کو دیکھے گئے)۔ BroadNet Inference کے پاس Batch API نہیں ہے، اس لیے وہاں جابز عام اینڈپوائنٹس پر دوبارہ شروع ہو سکنے والے رنر سے چلائیں۔

کیا ریزننگ ٹوکن بھی میرے بل میں شامل ہوتے ہیں؟

جی ہاں، فی ٹوکن والی کلیدوں پر۔ ریزننگ completion ٹوکن میں رپورٹ ہوتی ہے اور آؤٹ پٹ کی قیمت پر بل ہوتی ہے۔ آسان مراحل کے لیے reasoning_effort کو low رکھیں، لیکن max_tokens کو 1,000 یا اس سے زیادہ رکھیں تاکہ جواب بیچ میں نہ کٹے۔

کیا چھوٹا ماڈل ہمیشہ سستا ہوتا ہے؟

فی ٹوکن، عموماً ہاں۔ فی کام، ہمیشہ نہیں۔ جس چھوٹے ماڈل کو دو دوبارہ کوششیں یا لمبا پرامپٹ چاہیے، وہ اس بڑے ماڈل سے مہنگا پڑ سکتا ہے جو پہلی بار میں درست جواب دے۔ اپنے ٹیسٹ سیٹ پر ہر کامیاب کام کی لاگت کا موازنہ کریں۔

مقررہ قیمت والا پلان فی ٹوکن ادائیگی سے کب سستا ہوتا ہے؟

جب استعمال زیادہ اور مسلسل ہو۔ BroadNet پر DeepSeek V4.1 Flash کا ایک Full Moon سیشن $60 ماہانہ ہے۔ 80% کیش ہٹ پر بریک ایون تقریباً 917 ملین ان پٹ اور 46 ملین آؤٹ پٹ ٹوکن ماہانہ پر آتا ہے۔ اس سے کم استعمال پر فی ٹوکن سستا ہے۔

کیا دوبارہ کوشش کے بھی پیسے لگتے ہیں؟

جی ہاں۔ دوبارہ بھیجی گئی درخواست ایک نیا انفرنس ہے اور فی ٹوکن والی کلیدوں پر دوبارہ بل ہوتی ہے۔ صرف 429 اور 5xx ایررز پر، وقفے (backoff) کے ساتھ دوبارہ کوشش کریں، اور کوششوں کی تعداد محدود رکھیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں