---
title: "OpenAI-compatible base_url के साथ Instructor (Pydantic)"
description: "Instructor से BroadNet Inference पर Pydantic ऑब्जेक्ट निकालें: कस्टम base_url के साथ from_openai या from_provider इस्तेमाल करें, और सही Mode चुनें।"
url: https://broadrouter.com/hi/guides/instructor-structured-output/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/instructor-structured-output/) (2026-11-16 को अपडेट किया गया).

# BroadNet Inference पर Instructor से स्ट्रक्चर्ड आउटपुट पाएँ

अपडेट किया गया 2026-11-16

base\_url https://inference.broadnet.ai/v1 और आपकी BroadNet key वाले OpenAI क्लाइंट को instructor.from\_openai में लपेटें, फिर chat.completions.create कॉल करें, जिसमें response\_model आपकी Pydantic क्लास हो और model हो broadnet/glm-5.3 या broadnet/qwen3.8-27b। BroadNet टूल और स्ट्रक्चर्ड आउटपुट इन्हीं दो मॉडल के लिए सूचीबद्ध करता है। Mode.TOOLS डिफ़ॉल्ट है; Mode.JSON\_SCHEMA भी चलता है।

Instructor एक Python लाइब्रेरी है, जो LLM के जवाबों को वैलिडेट किए गए Pydantic ऑब्जेक्ट में बदलती है और वैलिडेशन फ़ेल होने पर दोबारा कोशिश कर सकती है। यह OpenAI क्लाइंट को पैच करती है, और इसके डॉक्स `base_url` के ज़रिए OpenAI-कम्पैटिबल सर्वर को कवर करते हैं। BroadNet Inference `https://inference.broadnet.ai/v1` पर chat completions देता है, और टूल और स्ट्रक्चर्ड आउटपुट GLM 5.3 और Qwen3.8 27B के लिए सूचीबद्ध करता है। BroadRouter, BroadNet की अपनी साइट है। यह गाइड वर्ज़न 1.17.0 के समय के Instructor डॉक्स के अनुसार है।

## इंस्टॉल करें

```bash
pip install instructor
export BROADNET_API_KEY='your-broadnet-key'
```

## एक ऑब्जेक्ट निकालें

```python
import os
import instructor
from openai import OpenAI
from pydantic import BaseModel

class Invoice(BaseModel):
    vendor: str
    total: float
    currency: str

client = instructor.from_openai(
    OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    mode=instructor.Mode.TOOLS,
)

invoice = client.chat.completions.create(
    model="broadnet/glm-5.3",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": "Acme Trading invoice, total 1,250.00 SAR"}],
)
print(invoice)
```

Instructor, `Invoice` को एक टूल स्कीमा में बदलता है, `tool_choice` से मॉडल को उसे कॉल करने पर मजबूर करता है, और आर्गुमेंट वैलिडेट करता है। अगर ऑब्जेक्ट वैलिडेट नहीं होता, तो वह वैलिडेशन एरर के साथ दोबारा पूछता है; कितनी बार, यह `max_retries` से तय करें।

## या from\_provider इस्तेमाल करें

```python
pclient = instructor.from_provider(
    "openai/broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
invoice = pclient.create(response_model=Invoice, max_tokens=4000,
                         messages=[{"role": "user", "content": "Acme Trading, 1,250.00 SAR"}])
```

`openai/` वाला हिस्सा क्लाइंट चुनता है। बाक़ी, `broadnet/glm-5.3`, मॉडल ID के रूप में भेजा जाता है।

## कौन-सा मोड

| मोड | यह क्या भेजता है | BroadNet के साथ इस्तेमाल |
| --- | --- | --- |
| `Mode.TOOLS` (डिफ़ॉल्ट) | आपके स्कीमा के साथ एक ज़बरदस्ती वाला टूल कॉल | हाँ, GLM 5.3 या Qwen3.8 27B पर |
| `Mode.JSON_SCHEMA` | `json_schema` टाइप का `response_format` | हाँ, GLM 5.3 या Qwen3.8 27B पर |
| `Mode.MD_JSON` | एक सादा अनुरोध; JSON टेक्स्ट से पार्स होता है | दूसरे मॉडल के लिए फ़ॉलबैक; पहले टेस्ट करें |
| `Mode.RESPONSES_TOOLS` | Responses API | नहीं: BroadNet chat completions देता है |

## इमेज

Qwen3.8 27B टूल के साथ इमेज भी लेता है, इसलिए यह किसी फ़ोटो या स्कैन को सीधे आपके मॉडल में पढ़ सकता है:

```python
import base64
img = base64.b64encode(open("invoice.jpg", "rb").read()).decode()
invoice = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "Extract the invoice fields."},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + img}},
    ]}],
)
```

उपयोग के अनुसार भुगतान वाली key पर इमेज इनपुट टोकन में गिनी जाती है। [विज़न से अरबी इनवॉइस पढ़ना](https://broadrouter.com/hi/guides/read-arabic-invoices-with-vision/) देखें।

## हमने इसे कैसे टेस्ट किया

2026-11-15 को हमने एक साफ़ वर्चुअल एनवायरनमेंट में instructor 1.17.0 और openai 3.3.0 इंस्टॉल किए और ऊपर के उदाहरण एक लोकल मॉक सर्वर पर चलाए, जो BroadNet के chat-completions ढाँचे में जवाब देता है। हमने लॉग किए गए अनुरोध पढ़े। `Mode.TOOLS` ने स्कीमा को ज़बरदस्ती वाले `tool_choice` के साथ एक टूल के रूप में भेजा, `Mode.JSON_SCHEMA` ने `json_schema` वाला response format भेजा, और दोनों ने एक वैध `Invoice` लौटाया। `from_provider` ने मॉडल ID बिना बदलाव के भेजा। हमारा मॉक खुले टेक्स्ट में JSON नहीं लिखता, इसलिए हमने `Mode.MD_JSON` टेस्ट नहीं किया, और इमेज वाला उदाहरण नहीं भेजा। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।

## समस्या का समाधान

-   **वैलिडेशन रीट्राई जो कभी सफल नहीं होते.** GLM 5.3 और Qwen3.8 27B पर रीज़निंग `max_tokens` में गिनी जाती है। कम सीमा से टूल आर्गुमेंट बीच में कट सकते हैं। इसे बढ़ाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **अनुरोध पर 400.** जाँचें कि आप GLM 5.3 या Qwen3.8 27B पर हैं। अगर ज़बरदस्ती वाला `tool_choice` अस्वीकार हो, तो `Mode.JSON_SCHEMA` आज़माएँ।
-   **401.** key ग़लत है, एक्सपायर हो गई है या उसका अलाउंस ख़त्म हो गया है।
-   **404.** `base_url` के अंत में `/v1` होना चाहिए। GLM 5.3 और Qwen3.8 27B के लिए टॉप-अप चाहिए; $5 क्रेडिट उन्हें कवर नहीं करता।
-   **बैच एक्सट्रैक्शन में 429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है। हर वैलिडेशन रीट्राई एक और अनुरोध है। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[Chat Completions API](https://broadrouter.com/hi/glossary/chat-completions-api/)

Chat Completions API, OpenAI का HTTP एंडपॉइंट POST /v1/chat/completions है, जो एक मॉडल का नाम और रोल वाले मैसेज की सूची लेता है और मॉडल का अगला मैसेज लौटाता है। इसके अनुरोध और जवाब का ढाँचा वह आम फ़ॉर्मैट बन गया जिसे OpenAI-कम्पैटिबल प्रोवाइडर और SDK अपनाते हैं।

[इनपुट और आउटपुट टोकन (input and output tokens)](https://broadrouter.com/hi/glossary/input-and-output-tokens/)

इनपुट टोकन वे टोकन हैं जिन्हें लैंग्वेज मॉडल किसी अनुरोध में पढ़ता है, जिनमें सिस्टम प्रॉम्प्ट, बातचीत का इतिहास, टूल डेफ़िनिशन और इमेज शामिल हैं। आउटपुट टोकन वे हैं जो वह जवाब में बनाता है, रीज़निंग समेत। LLM API आम तौर पर दोनों की कीमत अलग रखते हैं, और आउटपुट आम तौर पर महँगा होता है।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

## अक्सर पूछे जाने वाले सवाल

### BroadNet के साथ Instructor का कौन-सा मोड इस्तेमाल करूँ?

Mode.TOOLS, जो डिफ़ॉल्ट है, GLM 5.3 या Qwen3.8 27B पर, जिन्हें BroadNet टूल और स्ट्रक्चर्ड आउटपुट के साथ सूचीबद्ध करता है। Mode.JSON\_SCHEMA इसकी जगह json\_schema वाला response\_format भेजता है। हमारे मॉक सर्वर टेस्ट में दोनों ने वैध ऑब्जेक्ट दिए।

### क्या मैं Mode.RESPONSES\_TOOLS इस्तेमाल कर सकता हूँ?

नहीं। Instructor के डॉक्स कहते हैं कि इसे तभी चुनें जब सर्वर Responses API लागू करता हो। BroadNet सिर्फ़ chat completions देता है।

### क्या Instructor, BroadNet पर DeepSeek V4.1 Flash या Gemma के साथ चलता है?

BroadNet उन मॉडल के लिए टूल या स्ट्रक्चर्ड आउटपुट सूचीबद्ध नहीं करता। Mode.MD\_JSON सादे टेक्स्ट में JSON माँगता है और उसे पार्स करता है, जो चल सकता है, लेकिन भरोसा करने से पहले इसे अपने डेटा पर टेस्ट करें।

### from\_provider के लिए मॉडल स्ट्रिंग कैसे लिखूँ?

openai/broadnet/glm-5.3 लिखें। Instructor पहले हिस्से को प्रोवाइडर के रूप में अलग करता है, और हमारे टेस्ट में उसने broadnet/glm-5.3 सर्वर को बिना बदलाव के भेजा।

## संबंधित गाइड

-   [BroadNet Inference के साथ OpenAI Python SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-python-sdk/)
-   [BroadNet Inference के साथ Pydantic AI (OpenAICompatibleProvider)](https://broadrouter.com/hi/guides/pydantic-ai-openai-compatible/)
-   [विज़न मॉडल से अरबी इनवॉइस और रसीदें पढ़ें](https://broadrouter.com/hi/guides/read-arabic-invoices-with-vision/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-instructor-structured-output&utm_content=page-cta) ·

**स्रोत**

-   [Instructor डॉक्स, OpenAI और OpenAI-compatible सर्वर (2026-11-15 को जाँचा गया)](https://python.useinstructor.com/integrations/openai/)
-   [PyPI, instructor 1.17.0 (2026-11-15 को जाँचा गया)](https://pypi.org/project/instructor/)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-instructor-structured-output&utm_content=sources)
