BroadRouter

Jan में BroadNet Inference को कस्टम OpenAI-compatible प्रोवाइडर बनाएँ

अपडेट किया गया

Jan में Settings, फिर Model Providers खोलें और Add Provider पर क्लिक करें। OpenAI-compatible चुनें, नाम BroadNet रखें, Base URL को https://inference.broadnet.ai/v1 पर सेट करें और अपनी BroadNet key पेस्ट करें। फिर + बटन से चैट मॉडल हाथ से जोड़ें, जैसे broadnet/glm-5.3, और हर मॉडल की capabilities में Tools या विज़न चालू करें।

Jan एक ओपन-सोर्स डेस्कटॉप चैट ऐप है, जो लोकल मॉडल चलाता है और क्लाउड API से भी जुड़ता है। OpenAI फ़ॉर्मैट में बात करने वाली कोई भी सेवा कस्टम प्रोवाइडर के रूप में जोड़ी जा सकती है। BroadNet Inference https://inference.broadnet.ai/v1 पर स्टैंडर्ड chat completions देता है। BroadRouter, BroadNet की अपनी साइट है। नीचे के स्टेप Jan 0.8.8 के समय के Jan के Custom Endpoints पेज के अनुसार हैं।

सेटअप

  1. key लें। BroadNet कंसोल में उपयोग के अनुसार भुगतान वाली key बनाएँ, या घंटे वाली key या कोई प्लान ख़रीदें।

  2. डायलॉग खोलें। Settings > Model Providers पर जाएँ और लिस्ट के बगल में Add Provider बटन पर क्लिक करें।

  3. API फ़ॉर्मैट चुनें। OpenAI-compatible चुनें, जो डिफ़ॉल्ट है।

  4. जानकारी भरें:

    फ़ील्ड वैल्यू
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key आपकी BroadNet key
  5. Create पर क्लिक करें।

  6. मॉडल हाथ से जोड़ें। प्रोवाइडर के Models सेक्शन में + पर क्लिक करें और हर चैट मॉडल ID हूबहू डालें, जैसे broadnet/glm-5.3।

  7. क्षमताएँ सेट करें। हर मॉडल के बगल में पेंसिल पर क्लिक करें और जो वह सपोर्ट करता है, उसे चालू करें (नीचे की टेबल)। कस्टम प्रोवाइडर के लिए Jan यह पहचान नहीं सकता।

  8. टेस्ट करें। नई चैट शुरू करें, मॉडल सिलेक्टर में BroadNet मॉडल चुनें और एक छोटा मैसेज भेजें।

सेव करने पर Jan https://inference.broadnet.ai/v1/models लाता है। BroadNet के डॉक्स इस एंडपॉइंट को मॉनिटर के लिए कैटलॉग मेटाडेटा बताते हैं, और 15 नवंबर 2026 को जब हमने इसे जाँचा, तो इसमें सिर्फ़ दो ट्रांसक्रिप्शन मॉडल थे। वे चैट नहीं कर सकते; अगर दिखें, तो उन्हें हटा दें।

मॉडल ID और क्षमताएँ

मॉडल ID Tools इमेज कॉन्टेक्स्ट
GLM 5.3 broadnet/glm-5.3 चालू बंद 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b चालू चालू 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash बंद (BroadNet ने सूचीबद्ध नहीं किया) चालू 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b बंद चालू 32,768

broadnet/gemma-4-26b-a4b अकेला चैट मॉडल है जो $5 शुरुआती क्रेडिट पर चलता है, और यही BroadNet की घंटे वाली key के पीछे का मॉडल है (एक घंटे के लिए $0.50, एक स्ट्रीम)। बाक़ी के लिए टॉप-अप चाहिए, या DeepSeek V4.1 Flash के लिए एक अनलिमिटेड प्लान।

बदलने लायक़ सेटिंग

  • आउटपुट सीमा. तीन मॉडल जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है। अगर आप किसी BroadNet मॉडल के लिए आउटपुट सीमा सेट करते हैं, तो उसे 1,000 टोकन या उससे ज़्यादा रखें।
  • सैंपलर. कस्टम प्रोवाइडर के लिए Jan सैंपलिंग पैरामीटर का पूरा सेट दिखाता है, और उसके डॉक्स चेतावनी देते हैं कि कस्टम एंडपॉइंट उन सैंपलर को चुपचाप अनदेखा कर सकते हैं जिन्हें वे सपोर्ट नहीं करते। अगर min-P जैसी कोई सेटिंग कुछ नहीं करती लगे, तो यही वजह है।
  • फ़ॉलबैक key. Jan हर प्रोवाइडर के लिए कई key रख सकता है और 401, 403 या 429 पर अगली key से दोबारा कोशिश करता है। BroadNet की Acceptable Use Policy रेट या कॉन्करेंसी सीमाओं से बचने के तरीक़ों पर रोक लगाती है, इसलिए अतिरिक्त key फ़ेलओवर के लिए इस्तेमाल करें, अपनी सीमाएँ कई गुना करने के लिए नहीं।

समस्या का समाधान

  • हर अनुरोध पर 404. Base URL में /v1 नहीं है। Jan के डॉक्स इसे सबसे आम ग़लती बताते हैं।
  • 401 या 403. key ग़लत है, एक्सपायर हो गई है या उसका अलाउंस ख़त्म हो गया है। Test keys पास होना यह साबित नहीं करता कि key काम करती है, क्योंकि जब हमने जाँचा, तब BroadNet का /v1/models बिना key के भी जवाब दे रहा था।
  • मॉडल नहीं मिला. broadnet/ प्रीफ़िक्स समेत ID जाँचें। पेड मॉडल के लिए टॉप-अप चाहिए।
  • ख़ाली जवाब. रीज़निंग ने आउटपुट बजट ख़र्च कर दिया। आउटपुट सीमा बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है; घंटे वाली key एक स्ट्रीम चलाती है। एरर और रीट्राई देखें।

अक्सर पूछे जाने वाले सवाल

BroadNet जोड़ने के बाद Jan सिर्फ़ ट्रांसक्रिप्शन मॉडल क्यों दिखाता है?

सेव करने पर Jan https://inference.broadnet.ai/v1/models लाता है। 15 नवंबर 2026 को हमने जाँचा, तब BroadNet के सार्वजनिक /v1/models में सिर्फ़ उसके दो ट्रांसक्रिप्शन मॉडल थे, जो चैट में काम नहीं करते। उन्हें हटा दें और चैट मॉडल ID हाथ से जोड़ें।

Jan का Test keys बटन OK कहता है। क्या मेरी key सही है?

ज़रूरी नहीं। Jan, /models कॉल करके key टेस्ट करता है, और जब हमने जाँचा, तब BroadNet का /v1/models बिना key के भी जवाब दे रहा था। key पक्की करने के लिए एक चैट मैसेज भेजें।

क्या मैं Jan में BroadNet की घंटे वाली key इस्तेमाल कर सकता हूँ?

हाँ। घंटे वाली key BroadNet Gemma 4 VL 26B चलाती है, ID broadnet/gemma-4-26b-a4b, एक समय में एक स्ट्रीम के साथ, जो एक चैट विंडो के लिए ठीक है।

क्या Jan पहचानता है कि BroadNet का कोई मॉडल इमेज या टूल सपोर्ट करता है?

नहीं। Jan के डॉक्स कहते हैं कि कस्टम प्रोवाइडर की क्षमताएँ अपने-आप नहीं पहचानी जातीं। DeepSeek V4.1 Flash, Qwen3.8 27B और Gemma 4 VL 26B के लिए इमेज इनपुट चालू करें, और GLM 5.3 और Qwen3.8 27B के लिए Tools।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें