LLM بل کے زیادہ تر جھٹکوں کی ایک ہی وجہ ہوتی ہے: کوئی چیز بغیر کسی نگرانی کے API کو کال کرتی رہی۔ ایک دوبارہ کوشش کا لوپ، ایک ایجنٹ جو کام مکمل نہ کر سکا، کسی پبلک ریپوزیٹری میں لیک ہونے والی کلید۔ بجٹ الرٹس آپ کو اس کے بارے میں بعد میں بتاتے ہیں۔ یہ پوسٹ اکاؤنٹ سے لے کر ایک اکیلی درخواست تک، تہوں میں خرچ کا کنٹرول بناتی ہے، اور دکھاتی ہے کہ کون سے حصے BroadNet Inference سنبھالتا ہے اور کون سے آپ کوڈ میں شامل کرتے ہیں۔
صرف الرٹس کافی کیوں نہیں؟
الرٹ، usage درج ہونے کے بعد خرچ کا موازنہ ایک حد سے کرتا ہے۔ ایجنٹ لوپ ایک منٹ میں درجنوں درخواستیں کر سکتا ہے۔ جب تک ای میل آتی ہے، پیسے جا چکے ہوتے ہیں۔ الرٹس کو آخری حفاظت کے طور پر استعمال کریں، اور سخت روک وہاں رکھیں جہاں درخواست بنتی ہے۔
LLM خرچ کنٹرول کی تہیں کون سی ہیں؟
| تہ | کنٹرول | کیا روکتا ہے | کہاں سیٹ کریں |
|---|---|---|---|
| اکاؤنٹ | پری پیڈ بیلنس | جتنی رقم ڈالی، اس سے زیادہ خرچ | فراہم کنندہ کا اکاؤنٹ |
| کلید | ہر ایپ یا ایجنٹ کی الگ کلید | ایک لیک سے سب کچھ چلے جانا | فراہم کنندہ کا پورٹل |
| کلید | IP allow-list | چوری شدہ کلید کا کہیں اور استعمال | فراہم کنندہ کا پورٹل |
| درخواست | max_tokens، reasoning_effort |
ایک بہت بڑا جواب | آپ کا کوڈ |
| جاب | مراحل کی حد، دوبارہ کوششوں کی حد، لوپ کی پہچان | بے قابو ایجنٹس | آپ کا کوڈ |
| جاب | ہر ٹاسک اور ہر دن کا جاری بجٹ | کئی کالز میں آہستہ آہستہ رستا خرچ | آپ کا کوڈ یا پراکسی |
| رپورٹنگ | ٹوکن لاگنگ اور الرٹس | ایسا بہاؤ جو آپ محسوس نہ کریں | آپ کے لاگز |
| قیمت | مقررہ قیمت پلان یا گھنٹے والی کلید | خود ٹوکن میٹر | پلان کا انتخاب |
اکاؤنٹ کی سطح: پری پیڈ بیلنس خرچ کو کیسے محدود کرتا ہے؟
BroadNet Inference کی استعمال کے مطابق ادائیگی والی کلیدیں پری پیڈ اکاؤنٹ بیلنس سے رقم لیتی ہیں؛ نئے اکاؤنٹس $5 کے کریڈٹ اور بغیر کارڈ کے شروع ہوتے ہیں۔ جب استعمال کے مطابق ادائیگی والا الاؤنس ختم ہو جائے تو درخواستیں 401 لوٹاتی ہیں، اور جس خریداری (جیسے گھنٹے والی کلید) کی ادائیگی بیلنس نہ کر سکے وہ 402 insufficient_balance لوٹاتی ہے۔ دونوں کو رکنے کا اشارہ سمجھیں، دوبارہ کوشش کی چیز نہیں۔ BroadNet کا ایرر ریفرنس 429 کی وجوہات میں خرچ کی حد بھی لسٹ کرتا ہے، اس لیے کسی بھی 429 پر دوبارہ کوشش سے پہلے ایرر باڈی پڑھیں۔ تمام ایرر کوڈز اور بیک آف کے ساتھ 429 کیسے سنبھالیں۔
بیلنس آپ کی بیرونی حد ہے۔ اس میں اتنی ہی رقم ڈالیں جتنی آپ اس مہینے کھونے کو تیار ہیں، پورے سال کی نہیں۔ یہ رقم طے کرنے کے لیے پہلے اپنا متوقع ٹریفک LLM API لاگت کیلکولیٹر میں چلائیں۔
کلید کی سطح: لیک شدہ کلید کا نقصان کیسے محدود کریں؟
API کلید خرچ کرنے کا اختیار ہے: جس کے پاس ہے، وہ آپ کا بیلنس استعمال کر سکتا ہے۔ ہر کلید کے اثر کا دائرہ محدود کریں:
- ہر ایپ، ایجنٹ یا انوائرمنٹ کی ایک کلید۔ BroadNet ہر اکاؤنٹ پر 10 تک فعال کلیدوں کی اجازت دیتا ہے، ہر ایک ایک سال تک درست۔ انہیں ایسے نام دیں کہ لاگز بتائیں کس نے خرچ کیا۔
- کلیدوں کو اپنے سرورز تک محدود کریں۔ اپنے egress IPs یا CIDR رینجز IP allow-list میں شامل کریں، 32 اندراجات تک۔ دوسرے پتوں سے آنے والی درخواستوں کو 403 ملتا ہے۔
- جلدی منسوخ کریں۔ کلید کی منسوخی اور allow-list کی تبدیلیاں پانچ سیکنڈ کے اندر نئی درخواستوں پر لاگو ہوتی ہیں۔
- پورٹل کی اسناد سرورز پر نہ رکھیں۔ ان سے کلیدیں بن سکتی ہیں اور خریداری ہو سکتی ہے۔ انفرنس کلیدیں صرف ماڈلز کو کال کرتی ہیں۔
IP allow-lists سے API کلیدیں لاک کریں۔
درخواست کی سطح: ہر جواب کی حد کیسے مقرر کریں؟
ہر کال پر max_tokens سیٹ کریں۔ ریزننگ ماڈلز (DeepSeek V4.1 Flash، GLM 5.3، Qwen3.8 27B) پر اسے 1,000 یا زیادہ رکھیں، کیونکہ سوچ بھی اسی بجٹ میں آتی ہے اور بہت کم ویلیو خالی جواب لوٹاتی ہے، جس کی ادائیگی پھر بھی ہوتی ہے۔ آسان کاموں پر reasoning_effort کم کریں۔ ریزننگ ٹوکنز کیسے بل ہوتے ہیں۔
جاب کی سطح: بے قابو ایجنٹ لوپ کیسے روکیں؟
بے قابو لوپس کی علامات پہچانی جا سکتی ہیں: ایک ہی ٹول کال کا دہراؤ، ہر ٹرن پر بڑھتا کانٹیکسٹ، اور بغیر حد کے دوبارہ کوشش ہوتے ایررز۔ کلائنٹ کے گرد ایک گارڈ لگائیں:
import json, os, urllib.request
from openai import OpenAI
# Per-1M prices from BroadNet's machine-readable rate card
card = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in card["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
PRICE = {"in": m["input_per_m"], "cached": m["cached_input_per_m"], "out": m["output_per_m"]}
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=3)
class BudgetExceeded(Exception): pass
class Guard:
def __init__(self, budget_usd, max_steps=40):
self.budget, self.max_steps, self.spent, self.steps, self.last = budget_usd, max_steps, 0.0, 0, []
def call(self, **kw):
self.steps += 1
if self.steps > self.max_steps: raise BudgetExceeded("step cap")
if self.spent >= self.budget: raise BudgetExceeded("budget")
r = client.chat.completions.create(max_tokens=kw.pop("max_tokens", 4000), **kw)
u = r.usage
cached = (u.prompt_tokens_details.cached_tokens or 0) if u.prompt_tokens_details else 0
self.spent += ((u.prompt_tokens - cached) * PRICE["in"] + cached * PRICE["cached"]
+ u.completion_tokens * PRICE["out"]) / 1e6
calls = [(t.function.name, t.function.arguments) for t in (r.choices[0].message.tool_calls or [])]
self.last = (self.last + [calls])[-3:]
if calls and len(self.last) == 3 and all(c == calls for c in self.last):
raise BudgetExceeded("same tool call three times")
return r
گارڈ قیمتیں ہارڈ کوڈ کرنے کے بجائے ریٹ کارڈ سے پڑھتا ہے، اس لیے قیمتیں بدلنے پر بھی درست رہتا ہے۔ call() کو وہی ماڈل دیں جس کی قیمت آپ نے لی ہے۔ max_retries چھوٹا رکھیں: OpenAI SDKs پہلے ہی 429 اور 5xx پر دوبارہ کوشش کرتے ہیں، اور ہر دوبارہ کوشش پھر سے بل ہوتی ہے۔
ٹیم کے لیے یہی جانچ ایک مشترکہ پراکسی میں چلائیں تاکہ ہر سروس ایک ہی روزانہ بجٹ سے خرچ کرے۔ دوبارہ کوششیں ریٹ لمٹس سے بھی ٹکراتی ہیں: ریٹ لمٹ کیلکولیٹر دکھاتا ہے کہ آپ کی کلید اصل میں ایک منٹ میں کتنی کالز کی اجازت دیتی ہے۔
رپورٹنگ: کیا لاگ کریں اور کس پر الرٹ لگائیں؟
ہر درخواست پر لاگ کریں: کلید کا عرفی نام، فیچر یا ایجنٹ کا نام، ماڈل، prompt_tokens، prompt_tokens_details.cached_tokens، completion_tokens، اسٹیٹس اور X-Request-ID۔ اسٹریمنگ میں stream_options: {"include_usage": true} سیٹ کریں، ورنہ usage کبھی نہیں آتا (اسٹریمنگ گائیڈ)۔
ان لاگز سے ان پر الرٹ لگائیں:
- ہر کلید کی روزانہ لاگت، جب وہ آپ کے لاگت کے تخمینے کی متوقع رقم سے اوپر جائے؛
- ہر ٹاسک کے ٹوکن، جب وہ میڈین کے تین گنا سے زیادہ ہوں؛
- گرتا ہوا کیش حصہ، جو زیادہ ٹریفک کے بغیر لاگت بڑھاتا ہے؛
- 429 یا 5xx جوابات کی بڑھتی شرح، جس کا مطلب ہے دوبارہ کوششیں۔
BroadNet بغیر مواد کے ریکارڈز رکھتا ہے، جیسے اوقات، ٹوکن گنتی اور لاگت، پرامپٹس نہیں، اس لیے ہر فیچر کی تفصیل آپ کے اپنے لاگز میں ہی رہتی ہے۔ اگر آپ کی ڈیٹا پالیسی منع کرتی ہے تو پرامپٹ کا مواد لاگ کرنے سے بچیں۔ ہر صارف اور فیچر کی لاگت کے ساتھ usage لاگنگ کیسے بنائیں۔
قیمت کی سطح: مقررہ قیمت بجٹ سے بہتر کب ہے؟
سب سے قابلِ اعتماد خرچ کنٹرول ایسی قیمت ہے جو بدلتی نہیں:
- پلان سیشن: لامحدود DeepSeek V4.1 Flash کے لیے $60 ماہانہ (Full Moon)، $15 ہفتہ وار (Orbit) یا $1 فی گھنٹہ (Meteor)، ایک وقت میں ایک درخواست۔ پلان کلید پر درخواستیں آپ کے بیلنس سے کبھی رقم نہیں لیتیں۔
- گھنٹے والی کلید: ایک اسٹریم پر Gemma 4 VL 26B کے ایک گھنٹے کے لیے $0.50۔ ان کلیدوں کے لیے اچھی جو آپ کے سرورز سے باہر جاتی ہیں۔ گھنٹے والی کلیدوں کی وضاحت۔
پلان پر لوپ وقت ضائع کرتا ہے، پیسے نہیں۔ مراحل کی حد پھر بھی چاہیے، کیونکہ اٹکا ہوا ایجنٹ دوسرے کاموں کے لیے سیشن روک دیتا ہے۔ پلان آپ کے میٹر والے بل سے سستا ہے یا نہیں، یہ حجم پر منحصر ہے؛ مقررہ قیمت بمقابلہ فی ٹوکن کیلکولیٹر آپ کے ٹوکن مکس کا بریک ایون بتاتا ہے۔
فی ٹوکن ریٹس آپ کے ہوتے ہوئے بھی بڑھ سکتے ہیں۔ LLM API قیمتوں میں 52 محفوظ شدہ اضافے دکھاتے ہیں کہ ایسا کتنی بار ہوا، کن فراہم کنندگان پر اور کتنا۔
ایک مختصر چیک لسٹ
- آپ کی ماہانہ حد کے مطابق پری پیڈ بیلنس۔
- ہر ایپ کی ایک نام والی کلید، IP allow-list کے ساتھ۔
- ہر درخواست پر
max_tokens۔ - ہر ایجنٹ پر مراحل کی حد، دوبارہ کوششوں کی حد اور دہرائی گئی کال کی پہچان۔
- ہر جاب کی جاری لاگت، ہر کال سے پہلے جانچی ہوئی۔
- ہر درخواست کی ٹوکن لاگنگ، آپ کی حدوں پر الرٹس کے ساتھ۔
- جہاں استعمال مسلسل ہے یا کلید کھلی ہے، وہاں مقررہ قیمت پلان یا گھنٹے والی کلید۔
BroadNet Inference کہاں فٹ ہوتا ہے
BroadNet آپ کو اکاؤنٹ اور کلید کی تہیں دیتا ہے: پری پیڈ بیلنس، الگ الگ کلیدیں، سیکنڈوں میں منسوخ ہونے والی IP allow-lists، اور مقررہ قیمت پلانز و گھنٹے والی کلیدیں۔ اس پوسٹ کے جاب کی سطح والے بجٹ یہ نہیں دیتا؛ وہ آپ کے کوڈ یا پراکسی میں ہوتے ہیں۔ اگر آپ کو کئی فراہم کنندگان میں ہر ٹیم کا بجٹ چاہیے تو ان سب کے آگے ایک گیٹ وے صحیح ٹول ہے۔ قیمتیں پڑھیں۔
