BroadRouter
شروع کریں

IP allow-list سے API کلید کو اپنے سرورز تک محدود کریں

اپ ڈیٹ

اپنے سرورز کے باہر جانے والے (egress) IPv4 یا IPv6 پتے یا CIDR رینجز اکاؤنٹ کی allow-list میں شامل کریں، زیادہ سے زیادہ 32 اندراجات۔ نئی کلیدیں یہی فہرست لے لیتی ہیں، جب تک آپ کلید بناتے وقت allowed_ips نہ دیں۔ دوسرے پتوں سے آنے والی درخواستوں کو 403 ملتا ہے، اور allow-list کی تبدیلی یا منسوخی پانچ سیکنڈ کے اندر نافذ ہو جاتی ہے۔

API کا بل بے قابو ہونے کی سب سے عام وجہ لیک شدہ کلید ہے۔ BroadNet Inference آپ کو دو کنٹرول دیتا ہے: IP allow-list اور فوری منسوخی۔

دو طرح کے کریڈنشلز

کریڈنشل کس کام کے لیے اسے کیا سمجھیں
انفرنس کلید /v1/* پر ماڈل کی درخواستیں ایک ایپ یا ایجنٹ کا راز
پورٹل کریڈنشل اکاؤنٹ آٹومیشن: کلیدیں، allowed IPs، خریداریاں اکاؤنٹ کا مکمل اختیار

دونوں صرف ایک بار دکھائے جاتے ہیں۔ پورٹل صرف SHA-256 ہیش رکھتا ہے، اس لیے وہ کلید دوبارہ نہیں دکھا سکتا۔ استعمال کے مطابق ادائیگی والی انفرنس کلید بننے کی تاریخ سے ایک سال تک چلتی ہے، اور ایک اکاؤنٹ میں زیادہ سے زیادہ دس فعال کلیدیں ہو سکتی ہیں۔

allow-list سیٹ کریں

اکاؤنٹ کے صفحے پر ہر لائن میں ایک IPv4 یا IPv6 پتا یا CIDR رینج شامل کریں، زیادہ سے زیادہ 32 اندراجات۔ خالی فہرست کا مطلب ہے کوئی IP پابندی نہیں۔ نئی کلیدیں یہی اکاؤنٹ فہرست لے لیتی ہیں۔ ہر API درخواست پر edge وہ کلائنٹ IP جانچتا ہے جو Cloudflare بتاتا ہے۔

اسکرپٹ سے اکاؤنٹ کی فہرست سنبھالنے کے لیے PUT /portal/allowed_ips ایک ہی کال میں پوری فہرست بدل دیتا ہے (پورٹل کریڈنشل ضروری ہے)۔

پورٹل کریڈنشل سے کلید بناتے وقت اسے اس کی اپنی فہرست دیں:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

فی کلید allowed_ips اس کلید کے لیے اکاؤنٹ سے ملی فہرست کی جگہ لے لیتا ہے۔ جواب میں اصل کلید صرف ایک بار آتی ہے؛ اسے فوراً محفوظ کر لیں۔

لیک شدہ کلید فوراً منسوخ کریں

DELETE /portal/keys/{alias} استعمال کے مطابق ادائیگی والی کلید منسوخ کرتا ہے، اور DELETE /portal/keys/hourly/{alias} گھنٹے والی کلید منسوخ کرتا ہے (اصل خریداری کی رقم واپس نہیں ہوتی)۔ منسوخی یا allow-list کی تبدیلی کے بعد پانچ سیکنڈ کے اندر نئی درخواستیں رک جاتی ہیں۔

curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"

KEY_ALIAS کو وہ alias دیں جو اکاؤنٹ کے صفحے پر یا GET /portal/keys میں اس کلید کے لیے دکھایا جاتا ہے۔ alias خفیہ کلید نہیں ہے۔ اگر پورٹل کریڈنشل لیک ہو جائے تو اسے DELETE /portal/credentials/{id} سے منسوخ کریں: وہ سب کچھ کر سکتا ہے جو آپ کا اکاؤنٹ کر سکتا ہے۔

مسائل کا حل

  • فہرست میں شامل سرور سے 403۔ edge آپ کا عوامی egress پتا دیکھتا ہے، سرور کا نجی IP نہیں۔ NAT گیٹ وے، پراکسی یا لوڈ بیلنسر کے پیچھے موجود سرورز اسی ڈیوائس کے پتے سے باہر نکلتے ہیں۔ IPv6 والا سرور IPv6 سے باہر جا سکتا ہے، چاہے آپ نے صرف اس کا IPv4 پتا درج کیا ہو۔ وہ پتا درج کریں جس سے درخواست واقعی باہر جاتی ہے، یا اسے شامل کرنے والی CIDR رینج۔
  • نئی کلید اکاؤنٹ کی فہرست کو نظر انداز کرتی ہے۔ فی کلید allowed_ips ارے اس کلید کے لیے اکاؤنٹ سے ملی فہرست کی جگہ لے لیتا ہے۔ دیکھیں کہ کلید بناتے وقت آپ نے کیا دیا تھا۔
  • 409 key_limit_reached۔ اکاؤنٹ میں پہلے سے دس فعال کلیدیں ہیں۔ جو کلید اب استعمال نہیں ہوتی اسے منسوخ کریں۔
  • منسوخی کے چند سیکنڈ بعد بھی درخواستیں کامیاب ہوتی ہیں۔ کیش کے اپ ڈیٹ ہونے تک، پانچ سیکنڈ تک ایسا ہونا متوقع ہے۔

فہرست سے باہر کے پتے سے آنے والی درخواست کو 403 ملتا ہے۔ BroadNet کے تمام ایرر کوڈز اور کب دوبارہ کوشش کریں دیکھیں۔ نئی کلید سے پہلی درخواست بھیجنے کے لیے OpenAI Python SDK گائیڈ دیکھیں۔ IP allow-list کی لغت کا اندراج اس تصور کو عمومی انداز میں سمجھاتا ہے۔

A metal key whose bow is shaped like curly braces { }, with the text "One API key. More possibilities."

عام سوالات

LLM API کلید کو اپنے سرور کے IP پتے تک کیسے محدود کریں؟

سرور کا عوامی egress پتا، یا کوئی CIDR رینج، BroadNet اکاؤنٹ کے صفحے پر اکاؤنٹ کی allow-list میں شامل کریں، یا POST /portal/keys سے کلید بناتے وقت allowed_ips دیں۔ کسی بھی دوسرے پتے سے آنے والی درخواستیں 403 کے ساتھ رد کر دی جاتی ہیں۔

کیا خالی allow-list سب کچھ بلاک کر دیتی ہے؟

نہیں۔ خالی فہرست کا مطلب ہے کوئی IP پابندی نہیں، اس لیے کلید کسی بھی پتے سے چلتی ہے۔ پابندی فعال کرنے کے لیے کم از کم ایک اندراج شامل کریں۔

کیا میں انفرنس کلید سے دوسری کلیدیں بنا سکتا ہوں؟

نہیں۔ انفرنس کلیدیں صرف /v1/* ماڈل روٹس کو کال کرتی ہیں۔ کلیدیں بنانے اور منسوخ کرنے، allowed IPs بدلنے اور گھنٹے والی کلیدیں خریدنے کے لیے پورٹل کریڈنشل چاہیے، جس کے پاس اکاؤنٹ کا مکمل اختیار ہوتا ہے۔

لیک شدہ کلید کی منسوخی کتنی جلدی اثر کرتی ہے؟

BroadNet کی دستاویزات کہتی ہیں کہ منسوخی یا allow-list کی تبدیلی کے پانچ سیکنڈ کے اندر نئی درخواستیں رک جاتی ہیں، کیونکہ اجازت کے فیصلے اتنی دیر تک ایک ریپلیکیٹڈ کیش میں رہ سکتے ہیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں