BroadRouter
शुरू करें

LibreChat में BroadNet Inference को कस्टम एंडपॉइंट के रूप में जोड़ें

अपडेट किया गया

librechat.yaml में endpoints.custom के नीचे एक एंट्री जोड़ें: name में BroadNet, apiKey में BROADNET_API_KEY जैसा एनवायरनमेंट रेफ़रंस, baseURL में https://inference.broadnet.ai/v1, और models.default में broadnet/glm-5.3 जैसे BroadNet ID। key को .env में रखें, Docker पर फ़ाइल को कंटेनर में माउंट करें और LibreChat रीस्टार्ट करें। LibreChat base URL के आगे /chat/completions ख़ुद जोड़ता है।

LibreChat एक ओपन-सोर्स चैट ऐप है, जो OpenAI-compatible सेवाओं को कस्टम एंडपॉइंट के रूप में सपोर्ट करता है। आप उन्हें librechat.yaml में परिभाषित करते हैं, key को .env में रखते हैं, और Docker पर YAML फ़ाइल को कंटेनर में माउंट करते हैं। BroadRouter, BroadNet की अपनी साइट है; ये स्टेप LibreChat की कस्टम एंडपॉइंट गाइड के अनुसार हैं।

सेटअप

  1. librechat.yaml माउंट करें (सिर्फ़ Docker पर)। docker-compose.override.yml.example को docker-compose.override.yml में कॉपी करें और पक्का करें कि volume चालू है:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. प्रोजेक्ट रूट की librechat.yaml में endpoints.custom के नीचे एंडपॉइंट जोड़ें:
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

आपकी फ़ाइल में पहले से जो टॉप-लेवल key हैं, जैसे version, उन्हें रहने दें।

  1. .env में key सेट करें:
BROADNET_API_KEY=your-broadnet-key
  1. LibreChat रीस्टार्ट करें। Docker पर: docker compose down && docker compose up -d। लोकल इंस्टॉल पर npm run backend से रीस्टार्ट करें। इसके बाद BroadNet एंडपॉइंट सिलेक्टर में दिखता है।

फ़ील्ड से जुड़ी बातें

  • baseURL. LibreChat /chat/completions ख़ुद जोड़ता है, इसलिए ऊपर वाला /v1 रूट इस्तेमाल करें। directEndpoint: true सेट न करें; वह विकल्प उस baseURL के लिए है जो पहले से पूरा completions URL हो।
  • fetch: false. यह LibreChat का डिफ़ॉल्ट है; हमने इसे सिर्फ़ यह चुनाव साफ़ दिखाने के लिए लिखा है। BroadNet के डॉक्स GET /v1/models को मॉनिटर के लिए पब्लिक कैटलॉग मेटाडेटा बताते हैं, इसलिए default में मॉडल लिखना ज़्यादा भरोसेमंद है।
  • titleModel. LibreChat हर चैट का टाइटल एक अतिरिक्त अनुरोध से लिखता है। बिना रीज़निंग वाला छोटा, सस्ता मॉडल इस कॉल को छोटा रखता है। BroadNet के डॉक्स Gemma 4 VL 26B के लिए रीज़निंग सूचीबद्ध नहीं करते।
  • user_provided. अगर हर यूज़र को UI में अपनी BroadNet key डालनी है, तो apiKey: 'user_provided' सेट करें। LibreChat हर यूज़र की key एन्क्रिप्ट करके रखता है और पहली बार एंडपॉइंट चुनने पर माँगता है।
  • नाम अलग हो. उसी नाम का दूसरा एंडपॉइंट (बड़े-छोटे अक्षर का फ़र्क़ छोड़कर) पहले वाले को चुपचाप बदल देता है। अगर BroadNet नाम की एंट्री पहले से है, तो किसी एक का नाम बदलें।
  • key सीधे न लिखें. LibreChat के डॉक्स librechat.yaml में key टाइप करने की जगह ${VAR} रेफ़रंस की सलाह देते हैं, क्योंकि वरना key फ़ाइल में प्लेन टेक्स्ट में पड़ी रहेगी।

कौन-सा मॉडल चुनें

इस्तेमाल मॉडल
डिफ़ॉल्ट चैट, टूल, JSON GLM 5.3
इमेज और अरबी Qwen3.8 27B
लंबे दस्तावेज़, 1M कॉन्टेक्स्ट DeepSeek V4.1 Flash
टाइटल और छोटे जवाब BroadNet Gemma 4 VL 26B

इन मॉडल में से $5 के शुरुआती क्रेडिट पर सिर्फ़ Gemma 4 VL 26B चलता है; यह क्रेडिट दोनों Transcribe मॉडल को भी कवर करता है। कीमतों की तुलना प्राइसिंग पेज पर करें।

समस्या का समाधान

  • एंडपॉइंट नहीं दिखता. जाँचें कि name, baseURL, apiKey और models.default की स्पेलिंग सही है और वे endpoints.custom के अंदर सही इंडेंट में हैं। LibreChat अधूरी एंट्री बिना लॉग लाइन के छोड़ देता है। Docker पर पक्का करें कि docker-compose.override.yml में bind mount अनकमेंट है।
  • “Missing API Key for BroadNet”. BROADNET_API_KEY .env में नहीं है, या LibreChat रीस्टार्ट नहीं हुआ। एंडपॉइंट फिर भी दिखता है; एरर सिर्फ़ मैसेज भेजने पर आता है।
  • प्रोवाइडर से 401. key ग़लत है, एक्सपायर हो गई है, या उपयोग के अनुसार भुगतान वाला अलाउंस ख़त्म हो गया है।
  • मॉडल एरर. हर ID, broadnet/ प्रीफ़िक्स के साथ, BroadNet के ID से हूबहू मिलना चाहिए। GLM 5.3, Qwen3.8 27B और DeepSeek V4.1 Flash के लिए टॉप-अप चाहिए।
  • ख़ाली जवाब. DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है। अगर आपने LibreChat के पैरामीटर में कम max output सेट किया है, तो उसे बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • कई यूज़र होने पर 429. उपयोग के अनुसार भुगतान वाली एक key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोध की अनुमति देती है, जो एंडपॉइंट के सभी यूज़र में बँटती है। टाइटल वाले अनुरोध भी गिने जाते हैं। user_provided key से लोड बँट जाता है। एरर और रीट्राई देखें।
  • प्लान key. अनलिमिटेड प्लान सेशन एक बार में एक अनुरोध चलाता है और शेयर नहीं किया जा सकता, इसलिए वह कई यूज़र वाले LibreChat के लिए ठीक नहीं है।

अक्सर पूछे जाने वाले सवाल

मेरा BroadNet एंडपॉइंट LibreChat में क्यों नहीं दिखता?

अगर name, baseURL, apiKey या models.default ग़ायब हो या उसकी स्पेलिंग ग़लत हो, तो LibreChat कस्टम एंडपॉइंट को बिना किसी एरर या लॉग लाइन के छोड़ देता है। Docker पर यह भी देखें कि librechat.yaml, /app/librechat.yaml पर माउंट है और आपने रीस्टार्ट किया है।

क्या हर यूज़र अपनी BroadNet key ला सकता है?

हाँ। apiKey को user_provided पर सेट करें। फिर LibreChat हर यूज़र से पहली बार एंडपॉइंट चुनने पर key माँगता है और उसे एन्क्रिप्ट करके रखता है।

LibreChat "Missing API Key for BroadNet" क्यों दिखाता है?

apiKey में जिस वेरिएबल का रेफ़रंस है, वह .env में सेट नहीं है। एंडपॉइंट सिलेक्टर में फिर भी दिखता है, और एरर सिर्फ़ मैसेज भेजने पर आता है। वेरिएबल जोड़ें, फिर LibreChat रीस्टार्ट करें।

क्या LibreChat के baseURL में /chat/completions होना चाहिए?

नहीं। LibreChat डिफ़ॉल्ट रूप से baseURL के आगे /chat/completions जोड़ता है। https://inference.broadnet.ai/v1 इस्तेमाल करें। directEndpoint को true तभी करें, जब आपका डाला URL पहले से पूरा completions एंडपॉइंट हो।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें