LLM API key को सुरक्षित रखने के लिए उसे सीक्रेट मैनेजर में रखें और मॉडल को सिर्फ़ अपने सर्वर से कॉल करें, कभी ब्राउज़र या ऐप से नहीं। हर वर्कलोड को अपनी key दें, key को तय समय पर रोटेट करें, allow-list से उन्हें अपने सर्वर के IP तक सीमित करें, और लीक हुई key को पहले रद्द करें, जाँच बाद में करें।
यह पोस्ट उन आदतों के बारे में है जो key को सुरक्षित रखती हैं, साथ में BroadNet Inference के ख़ास कंट्रोल भी। पोर्टल में क़दम-दर-क़दम क्लिक के लिए API key और IP allow-list गाइड देखें; बजट और बेक़ाबू लूप से बचाव के लिए LLM API ख़र्च पर नियंत्रण देखें।
LLM API key कहाँ स्टोर करें?
key को सीक्रेट मैनेजर या अपने प्लेटफ़ॉर्म के एन्क्रिप्टेड सीक्रेट्स में रखें, कोड में कभी नहीं। OWASP Secrets Management Cheat Sheet सभी विकल्पों को विस्तार से समझाती है। उसकी चेतावनी पर ध्यान दें: एनवायरनमेंट वेरिएबल “are generally accessible to all processes and may be included in logs or system dumps” (अनुवाद: आम तौर पर सभी प्रोसेस के लिए उपलब्ध होते हैं और लॉग या सिस्टम डंप में आ सकते हैं), इसलिए जहाँ विकल्प हो, OWASP माउंट की गई सीक्रेट फ़ाइल या सीक्रेट स्टोर से सीक्रेट लाने को बेहतर मानता है। स्टार्ट-अप पर सीक्रेट मैनेजर से भरा गया एनवायरनमेंट वेरिएबल आम बीच का रास्ता है।
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
os.environ[...] इस्तेमाल करें, हार्ड-कोडेड फ़ॉलबैक वाला os.getenv(...) नहीं; फ़ॉलबैक ही वह रास्ता है जिससे key Git में पहुँचती हैं। लोकल डेवलपमेंट के लिए .env फ़ाइल ठीक है, अगर वह पहले कमिट से ही .gitignore में हो। अपने Git होस्ट की सीक्रेट स्कैनिंग और push protection चालू करें। GitHub पर push protection जाने-पहचाने सीक्रेट फ़ॉर्मैट वाले push को रिपॉज़िटरी तक पहुँचने से पहले ही रोक देता है; यूज़र के लिए push protection डिफ़ॉल्ट रूप से चालू है, लेकिन रिपॉज़िटरी-स्तर का push protection डिफ़ॉल्ट रूप से बंद है और उसे रिपॉज़िटरी एडमिन या ऑर्गनाइज़ेशन के मालिक को चालू करना होता है।
क्या API key ब्राउज़र या मोबाइल ऐप में रखी जा सकती है?
नहीं। क्लाइंट तक भेजी गई कोई भी चीज़ निकाली जा सकती है। फ़्रंट-एंड कोड और ऐप बंडल सार्वजनिक होते हैं, चाहे उन्हें कितना भी minify या obfuscate किया गया हो। LLM को अपने सर्वर से कॉल करें, अपने यूज़र को वहीं ऑथेंटिकेट करें, और अनुरोध आगे भेजने से पहले हर यूज़र पर अपनी सीमाएँ लगाएँ।
यही बात उन डेस्कटॉप टूल पर लागू होती है जो आप दूसरों को देते हैं। अगर टीम के किसी साथी को कोडिंग एजेंट चाहिए, तो एक key साझा करने के बजाय उन्हें उनके अपने अकाउंट पर उनकी अपनी key दें।
हर वर्कलोड को अलग key क्यों दें?
BroadNet Inference पर एक अकाउंट में दस तक चालू key हो सकती हैं। उनका इस्तेमाल करें:
| key का लेबल | कौन इस्तेमाल करता है |
|---|---|
prod-api |
प्रोडक्शन बैकएंड |
prod-worker |
बैच जॉब |
staging |
स्टेजिंग एनवायरनमेंट |
agent-ci |
CI में कोडिंग एजेंट |
dev-laptop-<name> |
लोकल डेवलपमेंट |
कोई key लीक हो तो आप सिर्फ़ उसे रद्द करते हैं, और बाक़ी चलती रहती हैं। लेबल से उपयोग भी पढ़ने में आसान हो जाता है: आप देख सकते हैं कि कौन-सा वर्कलोड कितना ख़र्च करता है। key का नाम उसे इस्तेमाल करने वाली चीज़ पर रखें, उसे बनाने वाले व्यक्ति पर नहीं।
IP allow-list key की रक्षा कैसे करती है?
IP allow-list का मतलब है कि चोरी हुई key आपके अपने इंफ़्रास्ट्रक्चर के अलावा कहीं काम नहीं करती। BroadNet Inference पर:
- अकाउंट की allow-list में 32 तक एंट्री आ सकती हैं, हर लाइन में एक IPv4 या IPv6 पता या CIDR रेंज।
- ख़ाली लिस्ट का मतलब है कोई पाबंदी नहीं।
- नई key अकाउंट की लिस्ट अपना लेती हैं, जब तक आप अपनी
allowed_ipsके साथ key न बनाएँ; ऐसी key के लिए वह लिस्ट विरासत में मिली लिस्ट की जगह ले लेती है। - लिस्ट से बाहर के पते से आया अनुरोध 403 (“refused by model, route or IP policy”; अनुवाद: मॉडल, रूट या IP नीति ने अस्वीकार किया) के साथ ठुकरा दिया जाता है।
पोर्टल API से अपनी अलग लिस्ट वाली key बनाएँ:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
रिस्पॉन्स में असली key एक बार आती है। उसे तुरंत अपने सीक्रेट मैनेजर में रखें; उसे दोबारा पढ़ा नहीं जा सकता। पूरे क़दम IP allow-list गाइड में हैं।
allow-list उन सर्वर के लिए ठीक है जिनका egress IP स्थिर हो: VPS, NAT गेटवे, ऑफ़िस का फ़िक्स्ड IP। बदलते नेटवर्क पर चलने वाले लैपटॉप के लिए बिना लिस्ट वाली अलग key इस्तेमाल करें और उस पर दाँव पर लगा बैलेंस कम रखें।
इन्फ़रेंस key को एडमिन क्रेडेंशियल से अलग क्यों रखें?
BroadNet दो तरह के क्रेडेंशियल इस्तेमाल करता है:
| क्रेडेंशियल | क्या कर सकता है | कहाँ रखें |
|---|---|---|
| इन्फ़रेंस key | /v1/* पर मॉडल अनुरोध |
जहाँ भी ऐप चलता है |
| पोर्टल क्रेडेंशियल | key बनाना और रद्द करना, अनुमत IP बदलना, ख़रीदारी करना | सिर्फ़ अपने ऑटोमेशन या एडमिन टूल में |
डॉक्स कहते हैं कि हर पोर्टल क्रेडेंशियल को पूरे अकाउंट का अधिकार मानें। पोर्टल क्रेडेंशियल को अपने ऐप्लिकेशन के साथ कभी डिप्लॉय न करें। अगर आपका ऐप सर्वर हैक हो, तो हमलावर के हाथ एक इन्फ़रेंस key लगनी चाहिए, अकाउंट का नियंत्रण नहीं।
API key कितनी बार रोटेट करनी चाहिए?
OWASP नियमित रोटेशन की सलाह देता है “so that any stolen credentials will only work for a short time” (अनुवाद: ताकि चोरी हुए क्रेडेंशियल सिर्फ़ थोड़े समय तक काम करें)। BroadNet की key बनने से एक साल तक चलती हैं, इसलिए हर key को वैसे भी बदलना ही होगा। रोटेशन को रोज़मर्रा का काम बनाएँ:
- उसी लेबल पैटर्न और allow-list के साथ नई key बनाएँ।
- उसे पुरानी के साथ डिप्लॉय करें, या सीक्रेट बदलकर रीस्टार्ट करें।
- ट्रैफ़िक को नई key पर जाते देखें।
- पुरानी key को
DELETE /portal/keys/{alias}से रद्द करें।
क्योंकि एक अकाउंट में दस तक चालू key हो सकती हैं, आप बिना डाउनटाइम के कुछ मिनट पुरानी और नई key साथ चला सकते हैं। टीम छोड़ रहे किसी सदस्य की पहुँच वाली key जल्दी रोटेट करें।
key लीक हो जाए तो क्या करें?
key लीक हो तो पहले उसे रद्द करें, जाँच बाद में। BroadNet Inference पर key रद्द करने या allow-list बदलने के पाँच सेकंड के अंदर नए अनुरोध रुक जाते हैं; डॉक्स बताते हैं कि ऑथराइज़ेशन के फ़ैसले इतनी तय अवधि तक एक रेप्लिकेटेड कैश में रह सकते हैं।
रद्द करने के बाद:
- अकाउंट पेज या
GET /portal/usageमें उस key का उपयोग देखें; - पता करें कि वह कैसे लीक हुई (कमिट हिस्ट्री, CI लॉग, साझा किया गया स्क्रीनशॉट);
- उसी जगह रखे बाक़ी सीक्रेट भी रोटेट करें।
रद्द या ब्लॉक की गई key 401 या 403 लौटाती है; एरर गाइड देखें, ताकि आपकी मॉनिटरिंग इन्हें अस्थायी एरर न समझे।
लॉग से key कैसे लीक होती हैं?
लॉग वाला लीक आसानी से नज़र से छूट जाता है। HTTP डीबग लॉगिंग, एरर रिपोर्टर और प्रॉक्सी एक्सेस लॉग में Authorization हेडर छिपा दें। सपोर्ट से संपर्क करते समय X-Request-ID, टाइमस्टैम्प, रूट, स्टेटस और key का alias भेजें, key ख़ुद कभी नहीं। BroadNet के डॉक्स के अनुसार पोर्टल हर key का सिर्फ़ हैश रखता है, इसलिए वह खोई हुई key भी आपको नहीं दिखा सकता।
जो लीक अभी पकड़ में नहीं आया, उसका नुक़सान कैसे सीमित करें?
ऊपर की हर आदत अपनाने के बाद भी मानकर चलें कि कोई key किसी दिन लीक हो सकती है। नुक़सान का दायरा छोटा रखें:
- उपयोग के अनुसार भुगतान वाला बैलेंस उतना ही रखें जितना खोना आपको मंज़ूर हो, और ज़रूरत पड़ने पर टॉप-अप करें।
- भारी एजेंट के लिए फ़्लैट प्लान इस्तेमाल करें: प्लान सेशन की कीमत तय होती है, इसलिए चोरी हुई प्लान key प्रति टोकन बिल नहीं बढ़ा सकती। देखें अनलिमिटेड का असली मतलब क्या है।
- हर key पर असामान्य ख़र्च या अनुरोध दर पर अलर्ट लगाएँ; LLM API कॉस्ट कैलकुलेटर आपको एक सामान्य मासिक आँकड़ा देता है जिसके मुक़ाबले अलर्ट सेट किया जा सके। LLM API ख़र्च पर नियंत्रण वाली हमारी पोस्ट बजट और अलर्ट समझाती है।
BroadNet Inference key के कौन-से कंट्रोल देता है?
| कंट्रोल | BroadNet Inference |
|---|---|
| key एक बार दिखती है, हैश के रूप में स्टोर | हाँ |
| हर अकाउंट में चालू key | 10 तक |
| key की अवधि | एक साल |
| IP allow-list | 32 तक IPv4, IPv6 या CIDR एंट्री |
| हर key की अपनी allow-list | हाँ, बनाते समय allowed_ips |
| रद्द करना कब लागू होता है | पाँच सेकंड के अंदर |
| अलग एडमिन क्रेडेंशियल | पोर्टल क्रेडेंशियल |
key आपके अकाउंट की रक्षा करती हैं; ज़ीरो डेटा रिटेंशन उसकी रक्षा करता है जो आप उसके ज़रिए भेजते हैं। लॉन्च से पहले दोनों पढ़ें।
