---
title: "SillyTavern Custom OpenAI-compatible endpoint सेटअप | BroadRouter"
description: "SillyTavern को Custom (OpenAI-compatible) Chat Completion सोर्स से BroadNet Inference से जोड़ें: सही मॉडल ID, प्रॉम्प्ट पोस्ट-प्रोसेसिंग और टोकन सीमाएँ।"
url: https://broadrouter.com/hi/guides/sillytavern-custom-openai-endpoint/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (2026-11-16 को अपडेट किया गया).

# SillyTavern को BroadNet Inference से जोड़ें (Custom OpenAI-compatible)

अपडेट किया गया 2026-11-16

SillyTavern के API Connections पैनल में Chat Completion चुनें, फिर Chat Completion Source में Custom (OpenAI-compatible)। Custom Endpoint को https://inference.broadnet.ai/v1 पर सेट करें, अपनी BroadNet key पेस्ट करें, Enter a Model ID में broadnet/qwen3.8-27b जैसा मॉडल ID टाइप करें, Connect और फिर Test Message पर क्लिक करें। Max Response Length को 1,000 टोकन या ज़्यादा रखें।

SillyTavern एक ओपन-सोर्स चैट फ़्रंट एंड है, जो कैरेक्टर चैट और रोलप्ले के लिए लोकप्रिय है। इसका **Custom (OpenAI-compatible)** सोर्स Chat Completion API टाइप को किसी भी ऐसे सर्वर से जोड़ता है जो सामान्य OpenAI स्कीमा इस्तेमाल करता है। BroadNet Inference `https://inference.broadnet.ai/v1` पर स्टैंडर्ड chat completions देता है। BroadRouter, BroadNet की अपनी साइट है; स्टेप [SillyTavern के डॉक्स](https://docs.sillytavern.app/usage/api-connections/openai/) और उसकी 1.19.0 रिलीज़ के अनुसार हैं।

## सेटअप

1.  **key लें।** BroadNet कंसोल में उपयोग के अनुसार भुगतान वाली key बनाएँ, घंटे वाली key ख़रीदें, या [अनलिमिटेड प्लान](https://broadrouter.com/hi/guides/unlimited-llm-api-sessions/) ख़रीदें।
    
2.  **API Connections** पैनल खोलें।
    
3.  **API** को **Chat Completion** पर सेट करें।
    
4.  **Chat Completion Source** को **Custom (OpenAI-compatible)** पर सेट करें।
    
5.  कस्टम फ़ॉर्म भरें:
    
    | फ़ील्ड | वैल्यू |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | आपकी BroadNet key |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  **Connect** पर क्लिक करें।
    
7.  **टेस्ट करें।** **Test Message** पर क्लिक करें। SillyTavern मॉडल को एक सादा प्रॉम्प्ट भेजता है; जवाब आए, तो कनेक्शन ठीक है।
    

URL में `/chat/completions` न जोड़ें। SillyTavern का फ़ॉर्म कहता है कि यह हिस्सा अपने-आप जुड़ जाता है।

**Available Models** से चुनने के बजाय मॉडल ID टाइप करें। वह लिस्ट `/v1/models` से आती है, जिसे BroadNet के डॉक्स मॉनिटर के लिए कैटलॉग मेटाडेटा बताते हैं। 15 नवंबर 2026 को जब हमने इसे जाँचा, तो इसमें सिर्फ़ दो ट्रांसक्रिप्शन मॉडल थे, जो चैट नहीं कर सकते।

## कौन-सा मॉडल चुनें

| मॉडल | ID | कॉन्टेक्स्ट | नोट |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1,048,576 | लंबी चैट; अनलिमिटेड प्लान वाला मॉडल |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262,144 | इमेज; BroadNet ने अरबी में टेस्ट किया |
| GLM 5.3 | `broadnet/glm-5.3` | 1,048,576 | सिर्फ़ टेक्स्ट; टूल |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32,768 | $5 मुफ़्त क्रेडिट और घंटे वाली key पर चलता है |

अनलिमिटेड प्लान लंबे सेशन के लिए ठीक है क्योंकि आप प्रति टोकन भुगतान नहीं करते: Meteor का एक घंटा $1, Orbit का एक हफ़्ता $15 और Full Moon का एक महीना $60 का है। हर प्लान सेशन एक समय में एक अनुरोध चलाता है।

## कौन-सी सेटिंग बदलने लायक हैं

-   **Max Response Length (tokens).** DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब से पहले रीज़निंग करते हैं, और रीज़निंग इसी सीमा में गिनी जाती है। 1,000 या ज़्यादा रखें, वरना जवाब ख़ाली आ सकते हैं।
-   **Context Size (tokens).** इसे टेबल में दिए मॉडल के हिसाब से रखें। SillyTavern इसे BroadNet से नहीं पढ़ सकता।
-   **Prompt Post-Processing.** अगर कोई मॉडल कई system मैसेज या रोल के क्रम की वजह से प्रॉम्प्ट ठुकराता है, तो पहले **Merge consecutive roles** आज़माएँ, फिर **Semi-strict**। SillyTavern के डॉक्स बताते हैं कि ये विकल्प टूल कॉल हटा देते हैं, जब तक आप “with tools” वाला विकल्प न चुनें।
-   **Bypass status check.** अगर SillyTavern चेतावनी दे कि API काम नहीं कर रहा, पर Test Message सफल हो, तो इसे टिक करें।

## समस्या का समाधान

-   **401.** key ग़लत है, एक्सपायर हो गई है या अलाउंस ख़त्म हो गया है। इसे दोबारा पेस्ट करें और Connect पर क्लिक करें।
-   **404 या “model not found”.** URL `/v1` पर ख़त्म होना चाहिए, और ID में `broadnet/` प्रीफ़िक्स होना चाहिए। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट सिर्फ़ `broadnet/gemma-4-26b-a4b` और दो Transcribe मॉडल को कवर करता है।
-   **ख़ाली जवाब.** जवाब की लंबाई बढ़ाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है, और घंटे वाली key और प्लान सेशन एक स्ट्रीम चलाते हैं। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[base URL](https://broadrouter.com/hi/glossary/base-url/)

base URL किसी API का तय मूल पता है, जैसे https://api.example.com/v1, जिसे क्लाइंट /chat/completions जैसे हर एंडपॉइंट पाथ के आगे जोड़ता है। OpenAI-compatible SDK में base URL को API key और मॉडल ID के साथ बदलने से वही कोड किसी दूसरे प्रोवाइडर से जुड़ जाता है।

[कॉन्टेक्स्ट विंडो (context window)](https://broadrouter.com/hi/glossary/context-window/)

कॉन्टेक्स्ट विंडो टोकन की वह अधिकतम संख्या है जिसके साथ लैंग्वेज मॉडल एक अनुरोध में काम कर सकता है। इसमें प्रॉम्प्ट, बातचीत का इतिहास, टूल डेफ़िनिशन, इमेज और जनरेट हुआ आउटपुट, रीज़निंग टोकन समेत, सब आता है। जो इसमें न समाए, उसे काटना, सारांश बनाना या कई अनुरोधों में बाँटना पड़ता है।

[टूल कॉलिंग (tool calling)](https://broadrouter.com/hi/glossary/tool-calling/)

टूल कॉलिंग, जिसे function calling भी कहते हैं, LLM API की वह सुविधा है जिसमें मॉडल डेवलपर के तय किए किसी फ़ंक्शन को चलाने का एक स्ट्रक्चर्ड अनुरोध, JSON आर्ग्युमेंट के साथ, लौटाता है। ऐप्लिकेशन फ़ंक्शन चलाकर नतीजा वापस भेजता है; मॉडल ख़ुद कभी कोड नहीं चलाता।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

## अक्सर पूछे जाने वाले सवाल

### BroadNet के लिए Available Models लिस्ट ग़लत या ख़ाली क्यों है?

SillyTavern इसे /v1/models से भरता है। 15 नवंबर 2026 को जब हमने जाँचा, तो BroadNet के सार्वजनिक /v1/models में सिर्फ़ उसके दो ट्रांसक्रिप्शन मॉडल थे। इसके बजाय चैट मॉडल ID को Enter a Model ID में टाइप करें।

### लंबी रोलप्ले चैट के लिए BroadNet का कौन-सा मॉडल अच्छा है?

DeepSeek V4.1 Flash का कॉन्टेक्स्ट 1,048,576 टोकन है और यही BroadNet के फ़्लैट-रेट अनलिमिटेड प्लान वाला मॉडल है। Qwen3.8 27B वह मॉडल है जिसे BroadNet ने अरबी में टेस्ट किया, खाड़ी और मिस्री बोलियों समेत।

### SillyTavern में जवाब ख़ाली क्यों आते हैं?

Gemma 4 VL 26B को छोड़कर BroadNet के चैट मॉडल जवाब से पहले रीज़निंग करते हैं, और रीज़निंग max\_tokens में गिनी जाती है। SillyTavern का Max Response Length यही सीमा तय करता है, इसलिए इसे 1,000 टोकन या ज़्यादा करें।

### क्या कंटेंट के नियम हैं?

हाँ। API से भेजी गई हर चीज़ पर BroadNet की स्वीकार्य उपयोग नीति लागू होती है, और नाबालिगों से जुड़े यौन कंटेंट पर उसकी रोक में काल्पनिक और सिंथेटिक कंटेंट भी साफ़ तौर पर शामिल है।

## संबंधित गाइड

-   [Jan में BroadNet Inference को कस्टम OpenAI-compatible प्रोवाइडर बनाएँ](https://broadrouter.com/hi/guides/jan-custom-endpoint/)
-   [Open WebUI को BroadNet Inference से जोड़ें](https://broadrouter.com/hi/guides/open-webui-openai-api/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**स्रोत**

-   [SillyTavern डॉक्स, Chat Completions API कनेक्शन, Custom OpenAI-compatible endpoint (2026-11-15 को जाँचा गया)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [SillyTavern सोर्स, public/index.html में Custom endpoint फ़ॉर्म, release ब्रांच (2026-11-15 को जाँचा गया)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [GitHub पर SillyTavern release 1.19.0, 2026-09-14 को प्रकाशित, नवीनतम release (2026-11-16 को जाँचा गया)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [BroadNet स्वीकार्य उपयोग नीति (Acceptable Use Policy) (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://www.broadnet.ai/aup)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
