---
title: "CrewAI में कस्टम OpenAI-कम्पैटिबल base_url सेटअप | BroadRouter"
description: "LLM(custom_openai=True, base_url=...) से CrewAI एजेंट को BroadNet Inference पर लाएँ, फिर टूल, लंबे कॉन्टेक्स्ट और फ़्लैट-रेट प्लान के लिए मॉडल चुनें।"
url: https://broadrouter.com/hi/guides/crewai-custom-openai-endpoint/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (2026-11-16 को अपडेट किया गया).

# CrewAI में BroadNet Inference को कस्टम OpenAI एंडपॉइंट बनाएँ

अपडेट किया गया 2026-11-16

crewai की LLM क्लास से मॉडल बनाएँ: model में broadnet/glm-5.3 जैसा BroadNet ID, custom\_openai=True, base\_url में https://inference.broadnet.ai/v1 और api\_key में अपनी BroadNet key। फिर वह LLM हर Agent को दें। CrewAI अपना नेटिव OpenAI क्लाइंट और chat completions इस्तेमाल करता है, इसलिए LiteLLM इंस्टॉल करने की ज़रूरत नहीं।

CrewAI एजेंट की टीमों के लिए एक Python फ़्रेमवर्क है। इसके डॉक्स एक **कस्टम OpenAI-कम्पैटिबल एंडपॉइंट** पैटर्न दिखाते हैं: `custom_openai=True` और `base_url` वाला `LLM`। BroadNet Inference `https://inference.broadnet.ai/v1` पर स्टैंडर्ड chat completions सर्व करता है, इसलिए यह वहीं जुड़ जाता है। BroadRouter, BroadNet की अपनी साइट है; यह गाइड वर्ज़न 1.15.41 तक के CrewAI डॉक्स और सोर्स के अनुसार है।

## इंस्टॉल करें

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## कनेक्ट करें

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

अगर `llm.call` कोई जवाब प्रिंट करता है, तो key, URL और मॉडल ID सही हैं।

## CrewAI अनुरोध को कैसे रूट करता है

CrewAI का सोर्स एक क्रम तय करता है: `custom_openai=True` सबसे पहले आता है और नेटिव OpenAI प्रोवाइडर को ज़बरदस्ती चुनता है, मॉडल का नाम चाहे जो इशारा करे। अगर `base_url`, `api_base`, `OPENAI_BASE_URL` या `OPENAI_API_BASE` से कोई कस्टम एंडपॉइंट सेट न हो, तो यह एरर भी देता है। मॉडल स्ट्रिंग जैसी लिखी है वैसी ही भेजी जाती है, इसलिए `broadnet/glm-5.3` बिना बदले BroadNet तक पहुँचता है।

`custom_openai` के बिना, `broadnet/glm-5.3` जैसे नाम को प्रोवाइडर `broadnet` माना जाएगा, जिसे CrewAI नहीं जानता, और वह LiteLLM पर चला जाएगा। डॉक्स में दिया गया दूसरा तरीक़ा है `base_url` के साथ `model="openai/broadnet/glm-5.3"`: CrewAI `openai/` प्रीफ़िक्स हटाकर बाक़ी हिस्सा भेजता है।

CrewAI के कोड और डॉक्स से दो और बातें:

-   **टोकन सीमा का फ़ील्ड।** जब आप `max_tokens` देते हैं, तो नेटिव क्लाइंट chat completions पर `max_tokens` भेजता है, वही फ़ील्ड जो BroadNet का API रेफ़रंस बताता है। अगर आप `max_completion_tokens` देते हैं, तो उसकी जगह वह भेजा जाता है।
-   **chat completions पर ही रहें।** CrewAI के डॉक्स Responses API पर जाने के लिए `api="responses"` दिखाते हैं। इसे सेट न करें; BroadNet वह API सूचीबद्ध नहीं करता।

## किस एजेंट के लिए कौन-सा मॉडल

| एजेंट | मॉडल | क्यों |
| --- | --- | --- |
| टूल वाले एजेंट | `broadnet/glm-5.3` | BroadNet टूल और स्ट्रक्चर्ड आउटपुट सूचीबद्ध करता है; 1M कॉन्टेक्स्ट |
| इमेज या अरबी इनपुट, टूल के साथ | `broadnet/qwen3.8-27b` | टूल और इमेज; 262K कॉन्टेक्स्ट |
| लंबे रीडिंग टास्क, फ़्लैट-रेट प्लान | `broadnet/deepseek-v4.1-flash` | अनलिमिटेड प्लान; BroadNet टूल सूचीबद्ध नहीं करता |

एक crew इन्हें मिला सकता है: हर `Agent` को उसका अपना `LLM` दें।

## समस्या का समाधान

-   **401.** key ग़लत है, एक्सपायर हो गई है या उसका अलाउंस ख़त्म हो गया है। अगर आपने `api_key` नहीं दिया, तो CrewAI ने `OPENAI_API_KEY` पढ़ा, जिसमें शायद OpenAI की key हो।
-   **“custom\_openai=True requires base\_url”.** `base_url` दें, या `OPENAI_BASE_URL` सेट करें।
-   **मॉडल नहीं मिला.** देखें कि ID हूबहू BroadNet के ID से मिलता है। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट सिर्फ़ `broadnet/gemma-4-26b-a4b` और दो Transcribe मॉडल को कवर करता है।
-   **`EmptyLLMResponseError`.** CrewAI ख़ाली जवाब पर एक बार रीट्राई करता है, फिर यह एरर देता है। `max_tokens` बढ़ाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **कई एजेंट के साथ 429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है, और एक प्लान सेशन एक समय में एक अनुरोध चलाता है। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[AI एजेंट (AI agent)](https://broadrouter.com/hi/glossary/agent/)

AI एजेंट ऐसा सिस्टम है जिसमें लैंग्वेज मॉडल किसी लक्ष्य की ओर अपने क़दम ख़ुद तय करता है: कौन-से टूल कॉल करने हैं, चुनता है, नतीजे पढ़ता है और अंतिम जवाब या किसी सीमा तक दोहराता रहता है। तय बिंदुओं पर मॉडल को कॉल करने वाली स्क्रिप्ट को आम तौर पर workflow कहते हैं।

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[Chat Completions API](https://broadrouter.com/hi/glossary/chat-completions-api/)

Chat Completions API, OpenAI का HTTP एंडपॉइंट POST /v1/chat/completions है, जो एक मॉडल का नाम और रोल वाले मैसेज की सूची लेता है और मॉडल का अगला मैसेज लौटाता है। इसके अनुरोध और जवाब का ढाँचा वह आम फ़ॉर्मैट बन गया जिसे OpenAI-कम्पैटिबल प्रोवाइडर और SDK अपनाते हैं।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

## अक्सर पूछे जाने वाले सवाल

### CrewAI में custom\_openai=True क्या करता है?

CrewAI का सोर्स बताता है कि यह मॉडल का नाम चाहे जैसा दिखे, नेटिव OpenAI प्रोवाइडर ही इस्तेमाल करवाता है, और इसके लिए base\_url, api\_base, OPENAI\_BASE\_URL या OPENAI\_API\_BASE ज़रूरी है। मॉडल स्ट्रिंग जैसी लिखी है वैसी ही जाती है, इसलिए broadnet/glm-5.3 बिना बदले BroadNet तक पहुँचता है।

### क्या मैं इसकी जगह model="openai/broadnet/glm-5.3" लिख सकता हूँ?

हाँ। कस्टम base\_url के साथ CrewAI openai/ प्रीफ़िक्स को अपने नेटिव OpenAI क्लाइंट पर भेजता है और प्रीफ़िक्स हटा देता है, इसलिए BroadNet को broadnet/glm-5.3 मिलता है। custom\_openai=True ज़्यादा साफ़ तरीक़ा है।

### मेरा crew EmptyLLMResponseError के साथ फ़ेल क्यों होता है?

जब मॉडल ऐसा खाली जवाब देता है जिसमें न कंटेंट हो, न टूल कॉल, तो CrewAI एक बार रीट्राई करता है, और रीट्राई भी खाली हो तो यह एरर देता है। BroadNet के रीज़निंग मॉडल पर इसका मतलब आम तौर पर यह होता है कि रीज़निंग ने आउटपुट बजट ख़त्म कर दिया। max\_tokens बढ़ाएँ।

### CrewAI एजेंट के लिए BroadNet का कौन-सा मॉडल लें?

टूल वाले एजेंट के लिए GLM 5.3, क्योंकि BroadNet उसके लिए टूल और स्ट्रक्चर्ड आउटपुट सूचीबद्ध करता है। Qwen3.8 27B में भी टूल हैं और यह इमेज भी लेता है।

## संबंधित गाइड

-   [BroadNet Inference के साथ Pydantic AI (OpenAICompatibleProvider)](https://broadrouter.com/hi/guides/pydantic-ai-openai-compatible/)
-   [BroadNet Inference के साथ OpenAI Python SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-python-sdk/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**स्रोत**

-   [CrewAI डॉक्स, LLMs (OpenAI, कस्टम OpenAI-कम्पैटिबल एंडपॉइंट) (2026-11-15 को जाँचा गया)](https://docs.crewai.com/en/concepts/llms)
-   [CrewAI सोर्स, custom\_openai की LLM रूटिंग (llm.py) (2026-11-15 को जाँचा गया)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python 3.10 से 3.13 (2026-11-15 को जाँचा गया)](https://pypi.org/project/crewai/)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-crewai-custom-openai-endpoint&utm_content=sources)
