BroadRouter

SillyTavern को BroadNet Inference से जोड़ें (Custom OpenAI-compatible)

अपडेट किया गया

SillyTavern के API Connections पैनल में Chat Completion चुनें, फिर Chat Completion Source में Custom (OpenAI-compatible)। Custom Endpoint को https://inference.broadnet.ai/v1 पर सेट करें, अपनी BroadNet key पेस्ट करें, Enter a Model ID में broadnet/qwen3.8-27b जैसा मॉडल ID टाइप करें, Connect और फिर Test Message पर क्लिक करें। Max Response Length को 1,000 टोकन या ज़्यादा रखें।

SillyTavern एक ओपन-सोर्स चैट फ़्रंट एंड है, जो कैरेक्टर चैट और रोलप्ले के लिए लोकप्रिय है। इसका Custom (OpenAI-compatible) सोर्स Chat Completion API टाइप को किसी भी ऐसे सर्वर से जोड़ता है जो सामान्य OpenAI स्कीमा इस्तेमाल करता है। BroadNet Inference https://inference.broadnet.ai/v1 पर स्टैंडर्ड chat completions देता है। BroadRouter, BroadNet की अपनी साइट है; स्टेप SillyTavern के डॉक्स और उसकी 1.19.0 रिलीज़ के अनुसार हैं।

सेटअप

  1. key लें। BroadNet कंसोल में उपयोग के अनुसार भुगतान वाली key बनाएँ, घंटे वाली key ख़रीदें, या अनलिमिटेड प्लान ख़रीदें।

  2. API Connections पैनल खोलें।

  3. API को Chat Completion पर सेट करें।

  4. Chat Completion Source को Custom (OpenAI-compatible) पर सेट करें।

  5. कस्टम फ़ॉर्म भरें:

    फ़ील्ड वैल्यू
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key आपकी BroadNet key
    Enter a Model ID broadnet/qwen3.8-27b
  6. Connect पर क्लिक करें।

  7. टेस्ट करें। Test Message पर क्लिक करें। SillyTavern मॉडल को एक सादा प्रॉम्प्ट भेजता है; जवाब आए, तो कनेक्शन ठीक है।

URL में /chat/completions न जोड़ें। SillyTavern का फ़ॉर्म कहता है कि यह हिस्सा अपने-आप जुड़ जाता है।

Available Models से चुनने के बजाय मॉडल ID टाइप करें। वह लिस्ट /v1/models से आती है, जिसे BroadNet के डॉक्स मॉनिटर के लिए कैटलॉग मेटाडेटा बताते हैं। 15 नवंबर 2026 को जब हमने इसे जाँचा, तो इसमें सिर्फ़ दो ट्रांसक्रिप्शन मॉडल थे, जो चैट नहीं कर सकते।

कौन-सा मॉडल चुनें

मॉडल ID कॉन्टेक्स्ट नोट
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1,048,576 लंबी चैट; अनलिमिटेड प्लान वाला मॉडल
Qwen3.8 27B broadnet/qwen3.8-27b 262,144 इमेज; BroadNet ने अरबी में टेस्ट किया
GLM 5.3 broadnet/glm-5.3 1,048,576 सिर्फ़ टेक्स्ट; टूल
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32,768 $5 मुफ़्त क्रेडिट और घंटे वाली key पर चलता है

अनलिमिटेड प्लान लंबे सेशन के लिए ठीक है क्योंकि आप प्रति टोकन भुगतान नहीं करते: Meteor का एक घंटा $1, Orbit का एक हफ़्ता $15 और Full Moon का एक महीना $60 का है। हर प्लान सेशन एक समय में एक अनुरोध चलाता है।

कौन-सी सेटिंग बदलने लायक हैं

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब से पहले रीज़निंग करते हैं, और रीज़निंग इसी सीमा में गिनी जाती है। 1,000 या ज़्यादा रखें, वरना जवाब ख़ाली आ सकते हैं।
  • Context Size (tokens). इसे टेबल में दिए मॉडल के हिसाब से रखें। SillyTavern इसे BroadNet से नहीं पढ़ सकता।
  • Prompt Post-Processing. अगर कोई मॉडल कई system मैसेज या रोल के क्रम की वजह से प्रॉम्प्ट ठुकराता है, तो पहले Merge consecutive roles आज़माएँ, फिर Semi-strict। SillyTavern के डॉक्स बताते हैं कि ये विकल्प टूल कॉल हटा देते हैं, जब तक आप “with tools” वाला विकल्प न चुनें।
  • Bypass status check. अगर SillyTavern चेतावनी दे कि API काम नहीं कर रहा, पर Test Message सफल हो, तो इसे टिक करें।

समस्या का समाधान

  • 401. key ग़लत है, एक्सपायर हो गई है या अलाउंस ख़त्म हो गया है। इसे दोबारा पेस्ट करें और Connect पर क्लिक करें।
  • 404 या “model not found”. URL /v1 पर ख़त्म होना चाहिए, और ID में broadnet/ प्रीफ़िक्स होना चाहिए। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट सिर्फ़ broadnet/gemma-4-26b-a4b और दो Transcribe मॉडल को कवर करता है।
  • ख़ाली जवाब. जवाब की लंबाई बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है, और घंटे वाली key और प्लान सेशन एक स्ट्रीम चलाते हैं। एरर और रीट्राई देखें।

अक्सर पूछे जाने वाले सवाल

BroadNet के लिए Available Models लिस्ट ग़लत या ख़ाली क्यों है?

SillyTavern इसे /v1/models से भरता है। 15 नवंबर 2026 को जब हमने जाँचा, तो BroadNet के सार्वजनिक /v1/models में सिर्फ़ उसके दो ट्रांसक्रिप्शन मॉडल थे। इसके बजाय चैट मॉडल ID को Enter a Model ID में टाइप करें।

लंबी रोलप्ले चैट के लिए BroadNet का कौन-सा मॉडल अच्छा है?

DeepSeek V4.1 Flash का कॉन्टेक्स्ट 1,048,576 टोकन है और यही BroadNet के फ़्लैट-रेट अनलिमिटेड प्लान वाला मॉडल है। Qwen3.8 27B वह मॉडल है जिसे BroadNet ने अरबी में टेस्ट किया, खाड़ी और मिस्री बोलियों समेत।

SillyTavern में जवाब ख़ाली क्यों आते हैं?

Gemma 4 VL 26B को छोड़कर BroadNet के चैट मॉडल जवाब से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है। SillyTavern का Max Response Length यही सीमा तय करता है, इसलिए इसे 1,000 टोकन या ज़्यादा करें।

क्या कंटेंट के नियम हैं?

हाँ। API से भेजी गई हर चीज़ पर BroadNet की स्वीकार्य उपयोग नीति लागू होती है, और नाबालिगों से जुड़े यौन कंटेंट पर उसकी रोक में काल्पनिक और सिंथेटिक कंटेंट भी साफ़ तौर पर शामिल है।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें