BroadRouter

Jalankan OpenAI Agents SDK pada BroadNet Inference

Dikemas kini

Cipta klien AsyncOpenAI dengan base_url https://inference.broadnet.ai/v1 dan kunci BroadNet anda, balutkannya dalam OpenAIChatCompletionsModel dengan ID model seperti broadnet/glm-5.3, dan hantar model itu kepada Agent anda. Panggil set_tracing_disabled(True) melainkan anda mempunyai kunci OpenAI berasingan untuk tracing.

OpenAI Agents SDK ialah rangka kerja Python untuk ejen dengan tools, handoff dan guardrail. Dokumentasinya menerangkan cara memasang penyedia bukan OpenAI. Untuk API serasi OpenAI seperti BroadNet Inference, anda berikan SDK klien AsyncOpenAI anda sendiri dan gunakan kelas model Chat Completions. SDK menggunakan Responses API secara lalai, dan banyak penyedia tidak menyediakannya.

Persediaan

  1. Pasang SDK. Ia memerlukan Python 3.10 atau lebih baharu.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. Cipta klien, model dan ejen.
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. Jalankannya. Ejen sepatutnya memanggil get_order_status dan menjawab berdasarkan hasilnya.

Tiga cara menyambungkan penyedia

Dokumentasi SDK menyenaraikan pilihan terbina dalam ini:

  • Bagi setiap ejen: hantar OpenAIChatCompletionsModel sebagai Agent.model, seperti di atas. Gunakan cara ini apabila ejen yang berbeza menggunakan penyedia yang berbeza.
  • Lalai global: set_default_openai_client(client) menjadikan klien anda sebagai lalai. Pasangkannya dengan set_default_openai_api("chat_completions").
  • Bagi setiap larian: hantar ModelProvider tersuai dalam RunConfig(model_provider=...).

Lalai global kelihatan seperti ini:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

Dengan pemboleh ubah persekitaran sahaja, tetapkan OPENAI_BASE_URL=https://inference.broadnet.ai/v1 dan OPENAI_API_KEY kepada kunci BroadNet anda, kemudian buat panggilan set_default_openai_api dan set_tracing_disabled yang sama.

Apabila anda melalui Chat Completions, dokumentasi SDK menyatakan ia membuang secara senyap medan khusus Responses, seperti previous_response_id, conversation_id dan prompt. Untuk mendapat ralat sebaliknya, tetapkan strict_feature_validation=True pada OpenAIProvider. Simpan keadaan perbualan dalam kod anda sendiri, contohnya dengan menghantar senarai input hasil sebelumnya ke larian seterusnya. Tools yang dihoskan oleh OpenAI seperti carian web dan carian fail tidak wujud pada penyedia lain. Gunakan function_tool untuk apa sahaja yang perlu dipanggil oleh ejen.

Tracing

Tracing dihidupkan secara lalai dan menghantar jejak ke OpenAI. Dokumentasi SDK menyatakan bahawa tanpa kunci API daripada platform.openai.com, anda patut mematikannya dengan set_tracing_disabled() atau menyediakan pemproses tracing yang lain. Jika anda ada kunci OpenAI, anda boleh kekalkan tracing dan hantar kunci itu dengan set_tracing_export_api_key(...). SDK menggunakannya hanya untuk memuat naik jejak. Kunci BroadNet anda tidak akan berfungsi untuk tujuan ini.

Model mana yang patut dipilih

Jenis ejen Model Nota
Ejen yang menggunakan tools GLM 5.3 Tools dan output berstruktur disenaraikan; konteks 1M
Input imej dengan tools Qwen3.8 27B Konteks 262K; diuji dalam bahasa Arab
Ejen yang berjalan lama dengan kadar tetap DeepSeek V4.1 Flash Pelan tanpa had; tools tidak disenaraikan oleh BroadNet

Dokumentasi SDK memberi amaran bahawa sesetengah penyedia tidak menyokong output berstruktur JSON-schema. Jika anda menetapkan output_type pada ejen, gunakan GLM 5.3 atau Qwen3.8 27B. Bandingkan harga di halaman harga.

Penyelesaian masalah

  • 401. Kunci BroadNet salah, tamat tempoh, atau kehabisan elaun bayar ikut guna. Ralat tracing dalam log ialah perkara berasingan: ia bermakna tracing masih hidup tanpa kunci OpenAI.
  • 404 atau “not found”. Kemungkinan besar anda menggunakan Responses API. Gunakan OpenAIChatCompletionsModel atau set_default_openai_api("chat_completions"). Jika itu sudah ditetapkan, pastikan ID model sepadan tepat dengan ID BroadNet. Model berbayar memerlukan tambah nilai; kredit $5 meliputi Gemma 4 VL 26B dan dua model Transcribe.
  • final_output kosong. Penaakulan dikira dalam max_tokens. Jika anda menetapkan ModelSettings(max_tokens=...), naikkannya. Mengapa jawapan kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Setiap pusingan tool ialah permintaan baharu. Lihat ralat dan cuba semula.
  • Ejen selari pada pelan. Satu sesi pelan tanpa had menjalankan satu permintaan pada satu masa. Ejen yang dilancarkan serentak dengan asyncio.gather memerlukan satu sesi setiap satu, atau mereka akan beratur. Lihat menjalankan ejen selari dengan kadar tetap.

Soalan lazim

Mengapakah saya mendapat ralat 404 daripada Agents SDK dengan base URL tersuai?

SDK menggunakan Responses API secara lalai, manakala BroadNet menyediakan chat completions. Gunakan OpenAIChatCompletionsModel, atau panggil set_default_openai_api("chat_completions") jika anda mengkonfigurasi klien melalui pemboleh ubah persekitaran.

Mengapakah Agents SDK merungut tentang tracing?

Tracing dimuat naik ke OpenAI dan memerlukan kunci daripada platform.openai.com. Dokumentasi SDK mengesyorkan set_tracing_disabled() jika anda tiada kunci itu, atau pemproses tracing yang lain.

Bolehkah saya mengkonfigurasi Agents SDK dengan pemboleh ubah persekitaran sahaja?

Boleh. Tetapkan OPENAI_BASE_URL kepada https://inference.broadnet.ai/v1 dan OPENAI_API_KEY kepada kunci BroadNet anda, kemudian panggil set_default_openai_api("chat_completions") dan set_tracing_disabled(True). OPENAI_DEFAULT_MODEL menetapkan model untuk ejen yang tidak menamakan model.

Berapakah bilangan sesi pelan yang diperlukan untuk larian berbilang ejen?

Satu bagi setiap permintaan yang berjalan serentak. Handoff menjalankan ejen satu demi satu, jadi satu sesi sudah memadai. Ejen yang dijalankan secara selari dengan asyncio.gather memerlukan satu sesi setiap satu.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity