BroadRouter

BroadNet Inference पर OpenAI Agents SDK चलाएँ

अपडेट किया गया

base_url https://inference.broadnet.ai/v1 और अपनी BroadNet key के साथ एक AsyncOpenAI क्लाइंट बनाएँ, उसे broadnet/glm-5.3 जैसे मॉडल ID के साथ OpenAIChatCompletionsModel में लपेटें और वह मॉडल अपने Agent को दें। जब तक ट्रेसिंग के लिए आपके पास अलग OpenAI key न हो, set_tracing_disabled(True) कॉल करें।

OpenAI Agents SDK, टूल, हैंडऑफ़ और गार्डरेल वाले एजेंट बनाने का Python फ़्रेमवर्क है। इसके डॉक्स बताते हैं कि non-OpenAI प्रोवाइडर कैसे जोड़ें। BroadNet Inference जैसे OpenAI-कम्पैटिबल API के लिए आप SDK को अपना AsyncOpenAI क्लाइंट देते हैं और Chat Completions वाली मॉडल क्लास इस्तेमाल करते हैं। SDK डिफ़ॉल्ट रूप से Responses API इस्तेमाल करता है, जिसे कई प्रोवाइडर नहीं देते।

सेटअप

  1. SDK इंस्टॉल करें। इसके लिए Python 3.10 या नया वर्शन चाहिए।
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. क्लाइंट, मॉडल और एजेंट बनाएँ।
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. इसे चलाएँ। एजेंट को get_order_status कॉल करना चाहिए और उसके नतीजे से जवाब देना चाहिए।

प्रोवाइडर जोड़ने के तीन तरीक़े

SDK के डॉक्स ये बिल्ट-इन विकल्प बताते हैं:

  • हर एजेंट के लिए: ऊपर की तरह OpenAIChatCompletionsModel को Agent.model के रूप में दें। यह तब काम का है जब अलग-अलग एजेंट अलग-अलग प्रोवाइडर इस्तेमाल करते हों।
  • ग्लोबल डिफ़ॉल्ट: set_default_openai_client(client) आपके क्लाइंट को डिफ़ॉल्ट बना देता है। इसके साथ set_default_openai_api("chat_completions") भी लगाएँ।
  • हर रन के लिए: RunConfig(model_provider=...) में एक कस्टम ModelProvider दें।

ग्लोबल डिफ़ॉल्ट ऐसा दिखता है:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

सिर्फ़ एनवायरनमेंट वेरिएबल से काम चलाना हो, तो OPENAI_BASE_URL=https://inference.broadnet.ai/v1 और OPENAI_API_KEY को अपनी BroadNet key पर सेट करें, फिर वही set_default_openai_api और set_tracing_disabled कॉल करें।

SDK के डॉक्स कहते हैं कि Chat Completions के ज़रिए चलाने पर वह सिर्फ़ Responses वाले फ़ील्ड, जैसे previous_response_id, conversation_id और prompt, बिना बताए छोड़ देता है। इसकी जगह एरर पाने के लिए OpenAIProvider पर strict_feature_validation=True सेट करें। बातचीत की स्थिति अपने कोड में रखें, उदाहरण के लिए पिछले नतीजे की इनपुट लिस्ट अगले रन में देकर। OpenAI के होस्टेड टूल, जैसे वेब सर्च और फ़ाइल सर्च, दूसरे प्रोवाइडरों पर मौजूद नहीं हैं। एजेंट जो भी कॉल करे, उसके लिए function_tool इस्तेमाल करें।

ट्रेसिंग

ट्रेसिंग डिफ़ॉल्ट रूप से चालू रहती है और ट्रेस OpenAI को भेजती है। SDK के डॉक्स कहते हैं कि platform.openai.com की API key न हो तो इसे set_tracing_disabled() से बंद करें या कोई दूसरा ट्रेसिंग प्रोसेसर सेट करें। अगर आपके पास OpenAI key है, तो आप ट्रेसिंग चालू रख सकते हैं और वह key set_tracing_export_api_key(...) से दे सकते हैं। SDK उसे सिर्फ़ ट्रेस अपलोड करने के लिए इस्तेमाल करता है। आपकी BroadNet key इसके लिए काम नहीं करेगी।

कौन-सा मॉडल चुनें

एजेंट का प्रकार मॉडल नोट
टूल इस्तेमाल करने वाले एजेंट GLM 5.3 टूल और स्ट्रक्चर्ड आउटपुट सूचीबद्ध; 1M कॉन्टेक्स्ट
टूल के साथ इमेज इनपुट Qwen3.8 27B 262K कॉन्टेक्स्ट; अरबी में टेस्ट किया गया
फ़्लैट रेट पर लंबे चलने वाले एजेंट DeepSeek V4.1 Flash अनलिमिटेड प्लान; BroadNet टूल सूचीबद्ध नहीं करता

SDK के डॉक्स चेतावनी देते हैं कि कुछ प्रोवाइडर JSON-schema वाले स्ट्रक्चर्ड आउटपुट सपोर्ट नहीं करते। अगर आप किसी एजेंट पर output_type सेट करते हैं, तो GLM 5.3 या Qwen3.8 27B इस्तेमाल करें। कीमतों की तुलना प्राइसिंग पेज पर करें।

समस्या निवारण

  • 401. BroadNet key ग़लत है, एक्सपायर हो चुकी है, या उपयोग के अनुसार भुगतान वाली सीमा ख़त्म हो गई है। लॉग में ट्रेसिंग की एरर अलग बात है: उनका मतलब है कि ट्रेसिंग अब भी बिना OpenAI key के चालू है।
  • 404 या “not found”. शायद आप Responses API पर हैं। OpenAIChatCompletionsModel या set_default_openai_api("chat_completions") इस्तेमाल करें। अगर वह सेट है, तो जाँचें कि मॉडल ID बिल्कुल BroadNet वाले ID जैसा है। पेड मॉडल के लिए टॉप-अप चाहिए; $5 का क्रेडिट Gemma 4 VL 26B और दो Transcribe मॉडल को कवर करता है।
  • ख़ाली final_output. रीज़निंग max_tokens में गिनी जाती है। अगर आपने ModelSettings(max_tokens=...) सेट किया है, तो उसे बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। हर टूल राउंड-ट्रिप एक नया अनुरोध है। एरर और रीट्राई देखें।
  • प्लान पर समानांतर एजेंट. एक अनलिमिटेड प्लान सेशन एक समय में एक ही अनुरोध चलाता है। asyncio.gather से एक साथ शुरू किए गए एजेंटों को हर एक के लिए अलग सेशन चाहिए, वरना वे क़तार में लगते हैं। फ़्लैट रेट पर समानांतर एजेंट चलाने के बारे में पढ़ें।

अक्सर पूछे जाने वाले सवाल

कस्टम base URL के साथ Agents SDK से 404 एरर क्यों आते हैं?

SDK डिफ़ॉल्ट रूप से Responses API इस्तेमाल करता है, जबकि BroadNet chat completions देता है। OpenAIChatCompletionsModel इस्तेमाल करें, या अगर आप क्लाइंट को एनवायरनमेंट वेरिएबल से कॉन्फ़िगर करते हैं तो set_default_openai_api("chat_completions") कॉल करें।

Agents SDK ट्रेसिंग को लेकर शिकायत क्यों करता है?

ट्रेसिंग, डेटा OpenAI पर अपलोड करती है और उसे platform.openai.com की key चाहिए। ऐसी key न हो तो SDK के डॉक्स set_tracing_disabled() या कोई दूसरा ट्रेसिंग प्रोसेसर इस्तेमाल करने की सलाह देते हैं।

क्या मैं Agents SDK को सिर्फ़ एनवायरनमेंट वेरिएबल से कॉन्फ़िगर कर सकता हूँ?

हाँ। OPENAI_BASE_URL को https://inference.broadnet.ai/v1 पर और OPENAI_API_KEY को अपनी BroadNet key पर सेट करें, फिर set_default_openai_api("chat_completions") और set_tracing_disabled(True) कॉल करें। जो एजेंट कोई मॉडल नहीं बताते, उनके लिए मॉडल OPENAI_DEFAULT_MODEL से तय होता है।

मल्टी-एजेंट रन के लिए कितने प्लान सेशन चाहिए?

एक साथ चलने वाले हर अनुरोध के लिए एक। हैंडऑफ़ में एजेंट एक के बाद एक चलते हैं, इसलिए एक सेशन काफ़ी है। asyncio.gather से समानांतर चलने वाले एजेंटों को हर एक के लिए अलग सेशन चाहिए।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें