---
title: "कस्टम OpenAI-compatible base_url के साथ LangGraph | BroadRouter"
description: "ChatOpenAI, base_url और BroadNet मॉडल ID से LangGraph का StateGraph या create_agent BroadNet Inference पर चलाएँ, साथ में टूल, स्ट्रीमिंग और मेमोरी।"
url: https://broadrouter.com/hi/guides/langgraph-openai-compatible/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/langgraph-openai-compatible/) (2026-11-16 को अपडेट किया गया).

# BroadNet Inference पर LangGraph एजेंट बनाएँ

अपडेट किया गया 2026-11-16

langgraph और langchain-openai इंस्टॉल करें, फिर ChatOpenAI बनाएँ: model में broadnet/glm-5.3 जैसा BroadNet ID, base\_url में https://inference.broadnet.ai/v1 और api\_key में अपनी BroadNet key। इसके साथ अपने टूल bind करें और इसे किसी StateGraph नोड में इस्तेमाल करें, या langchain के create\_agent को दें। GLM 5.3 या Qwen3.8 27B चुनें, जिनके लिए BroadNet टूल सूचीबद्ध करता है।

LangGraph, LangChain की लाइब्रेरी है, जिससे स्टेटफ़ुल और कई स्टेप वाले एजेंट ग्राफ़ के रूप में बनते हैं। इसका अपना कोई मॉडल क्लाइंट नहीं है: आपके नोड LangChain का कोई चैट मॉडल कॉल करते हैं। ग्राफ़ को BroadNet Inference पर चलाने के लिए उसे `langchain-openai` का `ChatOpenAI` BroadNet के base URL के साथ दें। BroadRouter, BroadNet की अपनी साइट है; यह गाइड LangGraph 1.2.22 और langchain-openai 1.8 के समय के LangGraph और LangChain डॉक्स के अनुसार है।

## इंस्टॉल करें

```bash
pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'
```

## टूल कॉल करने वाला ग्राफ़

```python
import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city."""
    return f"21C and sunny in {city}"

tools = [get_weather]
model = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)

def call_model(state: MessagesState):
    return {"messages": [model.invoke(state["messages"])]}

builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())

config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)
```

मॉडल नोड BroadNet को कॉल करता है। जब जवाब में टूल कॉल हों, तो `tools_condition` ग्राफ़ को टूल नोड पर भेजता है, और टूल का नतीजा वापस मॉडल के पास जाता है। checkpointer हर `thread_id` की बातचीत सँभालकर रखता है, इसलिए उसी config के साथ दूसरा `invoke` बातचीत को आगे बढ़ाता है।

## ग्राफ़ से टोकन स्ट्रीम करें

```python
for chunk, meta in graph.stream(
    {"messages": [{"role": "user", "content": "And in Dubai?"}]},
    config,
    stream_mode="messages",
):
    if chunk.content and meta["langgraph_node"] == "model":
        print(chunk.content, end="", flush=True)
```

`stream_mode="messages"` के साथ `ChatOpenAI`, BroadNet को `stream: true` भेजता है और LangGraph टोकन सीधे आगे बढ़ा देता है।

## पहले से बना (prebuilt) एजेंट

अगर आपको कस्टम ग्राफ़ नहीं चाहिए, तो prebuilt एजेंट लूप भी यही मॉडल लेता है:

```python
from langchain.agents import create_agent  # pip install langchain

agent = create_agent(
    ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})
```

`langgraph.prebuilt` का `create_react_agent` LangGraph 1.2.22 में अब भी चलता है, लेकिन चेतावनी दिखाता है कि वह `langchain.agents.create_agent` में चला गया है।

## कौन-सा मॉडल चुनें

| ग्राफ़ | मॉडल |
| --- | --- |
| टूल वाले एजेंट, स्ट्रक्चर्ड आउटपुट | `broadnet/glm-5.3` (1,048,576 टोकन का कॉन्टेक्स्ट) |
| टूल के साथ इमेज इनपुट या अरबी टेक्स्ट | `broadnet/qwen3.8-27b` (262,144 टोकन का कॉन्टेक्स्ट) |
| बिना टूल कॉल वाले ग्राफ़, लंबे दस्तावेज़ | `broadnet/deepseek-v4.1-flash` |

BroadNet के डॉक्स टूल और स्ट्रक्चर्ड आउटपुट सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए सूचीबद्ध करते हैं। DeepSeek V4.1 Flash [अनलिमिटेड प्लान](https://broadrouter.com/hi/guides/unlimited-llm-api-sessions/) वाला मॉडल है, इसलिए यह उन summarise-and-route ग्राफ़ के लिए ठीक है जो टूल कॉल नहीं करते। इस पर भरोसा करने से पहले इस पर टूल लूप टेस्ट कर लें। [हर मॉडल की कीमतें](https://broadrouter.com/hi/pricing/)।

## ज़रूरी सेटिंग

-   **chat completions पर ही रहें।** BroadNet `/v1/chat/completions` देता है। LangChain के डॉक्स कहते हैं कि जब आप OpenAI के बिल्ट-इन टूल, conversation state या `reasoning` पैरामीटर इस्तेमाल करते हैं, तो `ChatOpenAI` Responses API पर चला जाता है। इन्हें छोड़ दें और `use_responses_api=True` सेट न करें।
-   **आउटपुट सीमा.** DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B पर रीज़निंग आउटपुट बजट में गिनी जाती है। मॉडल पर `max_tokens` को 2,000 या उससे ज़्यादा रखें। हमारे टेस्ट में langchain-openai 1.8 ने इसे `max_completion_tokens` के रूप में भेजा।
-   **पैरलल ब्रांच.** मॉडल को कॉल करने वाली हर ब्रांच एक अलग अनुरोध है। उपयोग के अनुसार भुगतान वाली key एक साथ 4 चालू अनुरोध की अनुमति देती है, और प्लान सेशन एक बार में एक अनुरोध चलाता है।

## हमने इसे कैसे टेस्ट किया

2026-11-15 को हमने एक साफ़ वर्चुअल एनवायरनमेंट में langgraph 1.2.22, langchain-openai 1.8.0 और langchain 1.5.0 इंस्टॉल किए। हमने ऊपर का ग्राफ़, स्ट्रीमिंग लूप और `create_agent` एक लोकल मॉक सर्वर के सामने चलाए, जो BroadNet के chat-completions ढाँचे में जवाब देता है और टूल कॉल लौटाता है। हमने लॉग हुए अनुरोध जाँचे। हर कॉल `/v1/chat/completions` पर गई, मॉडल ID `broadnet/glm-5.3` बिना बदलाव के, Bearer key और टूल स्कीमा के साथ, और टूल का नतीजा `tool` मैसेज के रूप में वापस आया। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।

## समस्या का समाधान

-   **401.** key ग़लत है, एक्सपायर हो गई है, या उसका अलाउंस ख़त्म हो गया है।
-   **404.** `base_url` के अंत में `/v1` होना चाहिए। मॉडल ID `broadnet/` प्रीफ़िक्स के साथ जाँचें। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट पर सिर्फ़ `broadnet/gemma-4-26b-a4b` और दो Transcribe मॉडल चलते हैं।
-   **एजेंट कभी टूल कॉल नहीं करता.** `broadnet/glm-5.3` या `broadnet/qwen3.8-27b` पर स्विच करें।
-   **ख़ाली जवाब.** आउटपुट बजट रीज़निंग में ख़र्च हो गया। `max_tokens` बढ़ाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध की अनुमति देती है। `ChatOpenAI` में `max_retries` जोड़ें और [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[AI एजेंट (AI agent)](https://broadrouter.com/hi/glossary/agent/)

AI एजेंट ऐसा सिस्टम है जिसमें लैंग्वेज मॉडल किसी लक्ष्य की ओर अपने क़दम ख़ुद तय करता है: कौन-से टूल कॉल करने हैं, चुनता है, नतीजे पढ़ता है और अंतिम जवाब या किसी सीमा तक दोहराता रहता है। तय बिंदुओं पर मॉडल को कॉल करने वाली स्क्रिप्ट को आम तौर पर workflow कहते हैं।

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

[base URL](https://broadrouter.com/hi/glossary/base-url/)

base URL किसी API का तय मूल पता है, जैसे https://api.example.com/v1, जिसे क्लाइंट /chat/completions जैसे हर एंडपॉइंट पाथ के आगे जोड़ता है। OpenAI-compatible SDK में base URL को API key और मॉडल ID के साथ बदलने से वही कोड किसी दूसरे प्रोवाइडर से जुड़ जाता है।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

## अक्सर पूछे जाने वाले सवाल

### क्या LangGraph को BroadNet के लिए अलग इंटीग्रेशन चाहिए?

नहीं। LangGraph वही चैट मॉडल चलाता है जिसे आपके नोड कॉल करते हैं। LangChain का ChatOpenAI इस्तेमाल करें और base\_url को https://inference.broadnet.ai/v1 पर सेट करें; फिर मॉडल को कॉल करने वाला हर नोड chat completions से BroadNet पर जाता है।

### create\_react\_agent इस्तेमाल करूँ या create\_agent?

LangGraph 1.2 में langgraph.prebuilt का create\_react\_agent अब भी चलता है, लेकिन एक deprecation चेतावनी दिखाता है जो langchain पैकेज के create\_agent की ओर इशारा करती है। हमारे मॉक सर्वर पर BroadNet जैसे मॉडल ID के साथ दोनों चले।

### LangGraph एजेंट के लिए BroadNet का कौन-सा मॉडल सही है?

GLM 5.3 (broadnet/glm-5.3) या Qwen3.8 27B (broadnet/qwen3.8-27b)। एजेंट लूप टूल कॉल पर निर्भर करता है, और BroadNet सिर्फ़ इन्हीं दो मॉडल के लिए टूल सूचीबद्ध करता है।

### मेरा सेट किया max\_tokens, max\_completion\_tokens के रूप में क्यों जाता है?

langchain-openai 1.8 अनुरोध में max\_tokens का नाम बदलकर max\_completion\_tokens कर देता है। BroadNet का API रेफ़रंस max\_tokens बताता है। अगर आउटपुट सीमा का असर न दिखे, तो देखें कि आपका ऐप असल में कौन-सा अनुरोध भेजता है।

## संबंधित गाइड

-   [BroadNet Inference के साथ LangChain इस्तेमाल करें](https://broadrouter.com/hi/guides/langchain-openai-base-url/)
-   [BroadNet Inference पर OpenAI Agents SDK चलाएँ](https://broadrouter.com/hi/guides/openai-agents-sdk-custom-provider/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-langgraph-openai-compatible&utm_content=page-cta) ·

**स्रोत**

-   [LangGraph डॉक्स, Quickstart और Graph API (2026-11-15 को जाँचा गया)](https://docs.langchain.com/oss/python/langgraph/graph-api)
-   [LangChain डॉक्स, ChatOpenAI इंटीग्रेशन (2026-11-15 को जाँचा गया)](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI, langgraph 1.2.22 (2026-11-15 को जाँचा गया)](https://pypi.org/project/langgraph/)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-langgraph-openai-compatible&utm_content=sources)
