BroadRouter

BroadNet Inference پر OpenAI Agents SDK چلائیں

اپ ڈیٹ

base_url https://inference.broadnet.ai/v1 اور اپنی BroadNet کلید کے ساتھ ایک AsyncOpenAI کلائنٹ بنائیں، اسے broadnet/glm-5.3 جیسے ماڈل ID کے ساتھ OpenAIChatCompletionsModel میں لپیٹیں اور وہ ماڈل اپنے Agent کو دیں۔ جب تک ٹریسنگ کے لیے آپ کے پاس الگ OpenAI کلید نہ ہو، set_tracing_disabled(True) کال کریں۔

OpenAI Agents SDK، ٹولز، ہینڈ آف اور گارڈ ریلز والے ایجنٹس بنانے کا Python فریم ورک ہے۔ اس کی دستاویزات بتاتی ہیں کہ non-OpenAI پرووائیڈرز کیسے جوڑے جائیں۔ BroadNet Inference جیسے OpenAI-compatible API کے لیے آپ SDK کو اپنا AsyncOpenAI کلائنٹ دیتے ہیں اور Chat Completions والی ماڈل کلاس استعمال کرتے ہیں۔ SDK ڈیفالٹ طور پر Responses API استعمال کرتا ہے، جو کئی پرووائیڈرز فراہم نہیں کرتے۔

سیٹ اپ

  1. SDK انسٹال کریں۔ اس کے لیے Python 3.10 یا نیا ورژن چاہیے۔
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. کلائنٹ، ماڈل اور ایجنٹ بنائیں۔
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. اسے چلائیں۔ ایجنٹ کو get_order_status کال کرنا چاہیے اور اس کے نتیجے سے جواب دینا چاہیے۔

پرووائیڈر جوڑنے کے تین طریقے

SDK کی دستاویزات یہ بلٹ اِن آپشنز بتاتی ہیں:

  • ہر ایجنٹ کے لیے: اوپر کی طرح OpenAIChatCompletionsModel کو Agent.model کے طور پر دیں۔ یہ تب کام آتا ہے جب مختلف ایجنٹس مختلف پرووائیڈرز استعمال کرتے ہوں۔
  • گلوبل ڈیفالٹ: set_default_openai_client(client) آپ کے کلائنٹ کو ڈیفالٹ بنا دیتا ہے۔ اس کے ساتھ set_default_openai_api("chat_completions") بھی لگائیں۔
  • ہر رن کے لیے: RunConfig(model_provider=...) میں ایک کسٹم ModelProvider دیں۔

گلوبل ڈیفالٹ ایسا دکھتا ہے:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

صرف انوائرنمنٹ ویری ایبلز سے کام چلانا ہو تو OPENAI_BASE_URL=https://inference.broadnet.ai/v1 اور OPENAI_API_KEY کو اپنی BroadNet کلید پر سیٹ کریں، پھر وہی set_default_openai_api اور set_tracing_disabled کالز کریں۔

SDK کی دستاویزات کہتی ہیں کہ Chat Completions کے ذریعے چلانے پر وہ صرف Responses والے فیلڈز، جیسے previous_response_id، conversation_id اور prompt، بغیر بتائے چھوڑ دیتا ہے۔ اس کی جگہ ایرر لینے کے لیے OpenAIProvider پر strict_feature_validation=True سیٹ کریں۔ گفتگو کی حالت اپنے کوڈ میں رکھیں، مثلاً پچھلے نتیجے کی ان پٹ لسٹ اگلے رن میں دے کر۔ OpenAI کے ہوسٹڈ ٹولز، جیسے ویب سرچ اور فائل سرچ، دوسرے پرووائیڈرز پر موجود نہیں ہیں۔ ایجنٹ جو کچھ بھی کال کرے، اس کے لیے function_tool استعمال کریں۔

ٹریسنگ

ٹریسنگ ڈیفالٹ طور پر آن رہتی ہے اور ٹریسز OpenAI کو بھیجتی ہے۔ SDK کی دستاویزات کہتی ہیں کہ platform.openai.com کی API کلید نہ ہو تو اسے set_tracing_disabled() سے بند کریں یا کوئی دوسرا ٹریسنگ پراسیسر سیٹ کریں۔ اگر آپ کے پاس OpenAI کلید ہے تو ٹریسنگ آن رکھ کر وہ کلید set_tracing_export_api_key(...) سے دے سکتے ہیں۔ SDK اسے صرف ٹریسز اپ لوڈ کرنے کے لیے استعمال کرتا ہے۔ آپ کی BroadNet کلید اس کام کے لیے نہیں چلے گی۔

کون سا ماڈل چنیں

ایجنٹ کی قسم ماڈل نوٹس
ٹولز استعمال کرنے والے ایجنٹس GLM 5.3 ٹولز اور اسٹرکچرڈ آؤٹ پٹ درج؛ 1M کانٹیکسٹ
ٹولز کے ساتھ امیج ان پٹ Qwen3.8 27B 262K کانٹیکسٹ؛ عربی میں ٹیسٹ کیا گیا
مقررہ ریٹ پر دیر تک چلنے والے ایجنٹس DeepSeek V4.1 Flash لامحدود پلانز؛ BroadNet ٹولز درج نہیں کرتا

SDK کی دستاویزات خبردار کرتی ہیں کہ کچھ پرووائیڈرز JSON-schema والا اسٹرکچرڈ آؤٹ پٹ سپورٹ نہیں کرتے۔ اگر آپ کسی ایجنٹ پر output_type سیٹ کرتے ہیں تو GLM 5.3 یا Qwen3.8 27B استعمال کریں۔ قیمتوں کا موازنہ پرائسنگ صفحے پر کریں۔

مسائل کا حل

  • 401۔ BroadNet کلید غلط ہے، اس کی میعاد ختم ہو گئی ہے، یا استعمال کے مطابق ادائیگی والا الاؤنس ختم ہو گیا ہے۔ لاگز میں ٹریسنگ کی ایررز الگ معاملہ ہیں: ان کا مطلب ہے کہ ٹریسنگ اب بھی OpenAI کلید کے بغیر آن ہے۔
  • 404 یا “not found”۔ غالباً آپ Responses API پر ہیں۔ OpenAIChatCompletionsModel یا set_default_openai_api("chat_completions") استعمال کریں۔ اگر یہ سیٹ ہے تو جانچیں کہ ماڈل ID بالکل BroadNet والے ID جیسا ہے۔ پیڈ ماڈلز کے لیے ٹاپ اپ چاہیے؛ $5 کریڈٹ Gemma 4 VL 26B اور دو Transcribe ماڈلز کو کور کرتا ہے۔
  • خالی final_output۔ ریزننگ max_tokens میں گنی جاتی ہے۔ اگر آپ نے ModelSettings(max_tokens=...) سیٹ کیا ہے تو اسے بڑھائیں۔ جوابات خالی کیوں آتے ہیں۔
  • 429۔ استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 درخواستوں کی اجازت دیتی ہے۔ ہر ٹول راؤنڈ ٹرپ ایک نئی درخواست ہے۔ ایررز اور دوبارہ کوشش دیکھیں۔
  • پلان پر متوازی ایجنٹس۔ ایک لامحدود پلان سیشن ایک وقت میں ایک ہی درخواست چلاتا ہے۔ asyncio.gather سے اکٹھے شروع کیے گئے ایجنٹس میں سے ہر ایک کو الگ سیشن چاہیے، ورنہ وہ قطار میں لگتے ہیں۔ مقررہ ریٹ پر متوازی ایجنٹس چلانے کے بارے میں پڑھیں۔

عام سوالات

کسٹم base URL کے ساتھ Agents SDK سے 404 ایررز کیوں آتے ہیں؟

SDK ڈیفالٹ طور پر Responses API استعمال کرتا ہے، جبکہ BroadNet چیٹ کمپلیشنز فراہم کرتا ہے۔ OpenAIChatCompletionsModel استعمال کریں، یا اگر آپ کلائنٹ کو انوائرنمنٹ ویری ایبلز سے کنفیگر کرتے ہیں تو set_default_openai_api("chat_completions") کال کریں۔

Agents SDK ٹریسنگ کے بارے میں شکایت کیوں کرتا ہے؟

ٹریسنگ، ڈیٹا OpenAI پر اپ لوڈ کرتی ہے اور اسے platform.openai.com کی کلید چاہیے۔ ایسی کلید نہ ہو تو SDK کی دستاویزات set_tracing_disabled() یا کوئی دوسرا ٹریسنگ پراسیسر استعمال کرنے کا مشورہ دیتی ہیں۔

کیا میں Agents SDK کو صرف انوائرنمنٹ ویری ایبلز سے کنفیگر کر سکتا ہوں؟

ہاں۔ OPENAI_BASE_URL کو https://inference.broadnet.ai/v1 پر اور OPENAI_API_KEY کو اپنی BroadNet کلید پر سیٹ کریں، پھر set_default_openai_api("chat_completions") اور set_tracing_disabled(True) کال کریں۔ جو ایجنٹس کوئی ماڈل نہیں بتاتے، ان کا ماڈل OPENAI_DEFAULT_MODEL سے طے ہوتا ہے۔

ملٹی ایجنٹ رن کے لیے کتنے پلان سیشن چاہییں؟

بیک وقت چلنے والی ہر درخواست کے لیے ایک۔ ہینڈ آف میں ایجنٹس ایک کے بعد ایک چلتے ہیں، اس لیے ایک سیشن کافی ہے۔ asyncio.gather سے متوازی چلنے والے ایجنٹس میں سے ہر ایک کو الگ سیشن چاہیے۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں