LibreChat एक ओपन-सोर्स चैट ऐप है, जो OpenAI-compatible सेवाओं को कस्टम एंडपॉइंट के रूप में सपोर्ट करता है। आप उन्हें librechat.yaml में परिभाषित करते हैं, key को .env में रखते हैं, और Docker पर YAML फ़ाइल को कंटेनर में माउंट करते हैं। BroadRouter, BroadNet की अपनी साइट है; ये स्टेप LibreChat की कस्टम एंडपॉइंट गाइड के अनुसार हैं।
सेटअप
- librechat.yaml माउंट करें (सिर्फ़ Docker पर)।
docker-compose.override.yml.exampleकोdocker-compose.override.ymlमें कॉपी करें और पक्का करें कि volume चालू है:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- प्रोजेक्ट रूट की
librechat.yamlमेंendpoints.customके नीचे एंडपॉइंट जोड़ें:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
आपकी फ़ाइल में पहले से जो टॉप-लेवल key हैं, जैसे version, उन्हें रहने दें।
.envमें key सेट करें:
BROADNET_API_KEY=your-broadnet-key
- LibreChat रीस्टार्ट करें। Docker पर:
docker compose down && docker compose up -d। लोकल इंस्टॉल परnpm run backendसे रीस्टार्ट करें। इसके बाद BroadNet एंडपॉइंट सिलेक्टर में दिखता है।
फ़ील्ड से जुड़ी बातें
- baseURL. LibreChat
/chat/completionsख़ुद जोड़ता है, इसलिए ऊपर वाला/v1रूट इस्तेमाल करें।directEndpoint: trueसेट न करें; वह विकल्प उस baseURL के लिए है जो पहले से पूरा completions URL हो। - fetch: false. यह LibreChat का डिफ़ॉल्ट है; हमने इसे सिर्फ़ यह चुनाव साफ़ दिखाने के लिए लिखा है। BroadNet के डॉक्स
GET /v1/modelsको मॉनिटर के लिए पब्लिक कैटलॉग मेटाडेटा बताते हैं, इसलिएdefaultमें मॉडल लिखना ज़्यादा भरोसेमंद है। - titleModel. LibreChat हर चैट का टाइटल एक अतिरिक्त अनुरोध से लिखता है। बिना रीज़निंग वाला छोटा, सस्ता मॉडल इस कॉल को छोटा रखता है। BroadNet के डॉक्स Gemma 4 VL 26B के लिए रीज़निंग सूचीबद्ध नहीं करते।
- user_provided. अगर हर यूज़र को UI में अपनी BroadNet key डालनी है, तो
apiKey: 'user_provided'सेट करें। LibreChat हर यूज़र की key एन्क्रिप्ट करके रखता है और पहली बार एंडपॉइंट चुनने पर माँगता है। - नाम अलग हो. उसी नाम का दूसरा एंडपॉइंट (बड़े-छोटे अक्षर का फ़र्क़ छोड़कर) पहले वाले को चुपचाप बदल देता है। अगर BroadNet नाम की एंट्री पहले से है, तो किसी एक का नाम बदलें।
- key सीधे न लिखें. LibreChat के डॉक्स
librechat.yamlमें key टाइप करने की जगह${VAR}रेफ़रंस की सलाह देते हैं, क्योंकि वरना key फ़ाइल में प्लेन टेक्स्ट में पड़ी रहेगी।
कौन-सा मॉडल चुनें
| इस्तेमाल | मॉडल |
|---|---|
| डिफ़ॉल्ट चैट, टूल, JSON | GLM 5.3 |
| इमेज और अरबी | Qwen3.8 27B |
| लंबे दस्तावेज़, 1M कॉन्टेक्स्ट | DeepSeek V4.1 Flash |
| टाइटल और छोटे जवाब | BroadNet Gemma 4 VL 26B |
इन मॉडल में से $5 के शुरुआती क्रेडिट पर सिर्फ़ Gemma 4 VL 26B चलता है; यह क्रेडिट दोनों Transcribe मॉडल को भी कवर करता है। कीमतों की तुलना प्राइसिंग पेज पर करें।
समस्या का समाधान
- एंडपॉइंट नहीं दिखता. जाँचें कि
name,baseURL,apiKeyऔरmodels.defaultकी स्पेलिंग सही है और वेendpoints.customके अंदर सही इंडेंट में हैं। LibreChat अधूरी एंट्री बिना लॉग लाइन के छोड़ देता है। Docker पर पक्का करें किdocker-compose.override.ymlमें bind mount अनकमेंट है। - “Missing API Key for BroadNet”.
BROADNET_API_KEY.envमें नहीं है, या LibreChat रीस्टार्ट नहीं हुआ। एंडपॉइंट फिर भी दिखता है; एरर सिर्फ़ मैसेज भेजने पर आता है। - प्रोवाइडर से 401. key ग़लत है, एक्सपायर हो गई है, या उपयोग के अनुसार भुगतान वाला अलाउंस ख़त्म हो गया है।
- मॉडल एरर. हर ID,
broadnet/प्रीफ़िक्स के साथ, BroadNet के ID से हूबहू मिलना चाहिए। GLM 5.3, Qwen3.8 27B और DeepSeek V4.1 Flash के लिए टॉप-अप चाहिए। - ख़ाली जवाब. DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B पहले रीज़निंग करते हैं, और रीज़निंग
max_tokensमें गिनी जाती है। अगर आपने LibreChat के पैरामीटर में कम max output सेट किया है, तो उसे बढ़ाएँ। जवाब ख़ाली क्यों आते हैं। - कई यूज़र होने पर 429. उपयोग के अनुसार भुगतान वाली एक key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोध की अनुमति देती है, जो एंडपॉइंट के सभी यूज़र में बँटती है। टाइटल वाले अनुरोध भी गिने जाते हैं।
user_providedkey से लोड बँट जाता है। एरर और रीट्राई देखें। - प्लान key. अनलिमिटेड प्लान सेशन एक बार में एक अनुरोध चलाता है और शेयर नहीं किया जा सकता, इसलिए वह कई यूज़र वाले LibreChat के लिए ठीक नहीं है।
