OpenAI Agents SDK ialah rangka kerja Python untuk ejen dengan tools, handoff dan guardrail. Dokumentasinya menerangkan cara memasang penyedia bukan OpenAI. Untuk API serasi OpenAI seperti BroadNet Inference, anda berikan SDK klien AsyncOpenAI anda sendiri dan gunakan kelas model Chat Completions. SDK menggunakan Responses API secara lalai, dan banyak penyedia tidak menyediakannya.
Persediaan
- Pasang SDK. Ia memerlukan Python 3.10 atau lebih baharu.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
- Cipta klien, model dan ejen.
import asyncio
import os
from agents import (
Agent,
AsyncOpenAI,
OpenAIChatCompletionsModel,
Runner,
function_tool,
set_tracing_disabled,
)
set_tracing_disabled(disabled=True) # tracing needs a platform.openai.com key
client = AsyncOpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)
@function_tool
def get_order_status(order_id: str) -> str:
"""Look up an order."""
return f"Order {order_id}: shipped"
agent = Agent(
name="Support agent",
instructions="Answer briefly. Use tools when you need order data.",
model=model,
tools=[get_order_status],
)
async def main():
result = await Runner.run(agent, "Where is order 4471?")
print(result.final_output)
asyncio.run(main())
- Jalankannya. Ejen sepatutnya memanggil
get_order_statusdan menjawab berdasarkan hasilnya.
Tiga cara menyambungkan penyedia
Dokumentasi SDK menyenaraikan pilihan terbina dalam ini:
- Bagi setiap ejen: hantar
OpenAIChatCompletionsModelsebagaiAgent.model, seperti di atas. Gunakan cara ini apabila ejen yang berbeza menggunakan penyedia yang berbeza. - Lalai global:
set_default_openai_client(client)menjadikan klien anda sebagai lalai. Pasangkannya denganset_default_openai_api("chat_completions"). - Bagi setiap larian: hantar
ModelProvidertersuai dalamRunConfig(model_provider=...).
Lalai global kelihatan seperti ini:
import os
from agents import (
Agent,
AsyncOpenAI,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)
agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")
Dengan pemboleh ubah persekitaran sahaja, tetapkan OPENAI_BASE_URL=https://inference.broadnet.ai/v1 dan OPENAI_API_KEY kepada kunci BroadNet anda, kemudian buat panggilan set_default_openai_api dan set_tracing_disabled yang sama.
Apabila anda melalui Chat Completions, dokumentasi SDK menyatakan ia membuang secara senyap medan khusus Responses, seperti previous_response_id, conversation_id dan prompt. Untuk mendapat ralat sebaliknya, tetapkan strict_feature_validation=True pada OpenAIProvider. Simpan keadaan perbualan dalam kod anda sendiri, contohnya dengan menghantar senarai input hasil sebelumnya ke larian seterusnya. Tools yang dihoskan oleh OpenAI seperti carian web dan carian fail tidak wujud pada penyedia lain. Gunakan function_tool untuk apa sahaja yang perlu dipanggil oleh ejen.
Tracing
Tracing dihidupkan secara lalai dan menghantar jejak ke OpenAI. Dokumentasi SDK menyatakan bahawa tanpa kunci API daripada platform.openai.com, anda patut mematikannya dengan set_tracing_disabled() atau menyediakan pemproses tracing yang lain. Jika anda ada kunci OpenAI, anda boleh kekalkan tracing dan hantar kunci itu dengan set_tracing_export_api_key(...). SDK menggunakannya hanya untuk memuat naik jejak. Kunci BroadNet anda tidak akan berfungsi untuk tujuan ini.
Model mana yang patut dipilih
| Jenis ejen | Model | Nota |
|---|---|---|
| Ejen yang menggunakan tools | GLM 5.3 | Tools dan output berstruktur disenaraikan; konteks 1M |
| Input imej dengan tools | Qwen3.8 27B | Konteks 262K; diuji dalam bahasa Arab |
| Ejen yang berjalan lama dengan kadar tetap | DeepSeek V4.1 Flash | Pelan tanpa had; tools tidak disenaraikan oleh BroadNet |
Dokumentasi SDK memberi amaran bahawa sesetengah penyedia tidak menyokong output berstruktur JSON-schema. Jika anda menetapkan output_type pada ejen, gunakan GLM 5.3 atau Qwen3.8 27B. Bandingkan harga di halaman harga.
Penyelesaian masalah
- 401. Kunci BroadNet salah, tamat tempoh, atau kehabisan elaun bayar ikut guna. Ralat tracing dalam log ialah perkara berasingan: ia bermakna tracing masih hidup tanpa kunci OpenAI.
- 404 atau “not found”. Kemungkinan besar anda menggunakan Responses API. Gunakan
OpenAIChatCompletionsModelatauset_default_openai_api("chat_completions"). Jika itu sudah ditetapkan, pastikan ID model sepadan tepat dengan ID BroadNet. Model berbayar memerlukan tambah nilai; kredit $5 meliputi Gemma 4 VL 26B dan dua model Transcribe. final_outputkosong. Penaakulan dikira dalammax_tokens. Jika anda menetapkanModelSettings(max_tokens=...), naikkannya. Mengapa jawapan kosong.- 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Setiap pusingan tool ialah permintaan baharu. Lihat ralat dan cuba semula.
- Ejen selari pada pelan. Satu sesi pelan tanpa had menjalankan satu permintaan pada satu masa. Ejen yang dilancarkan serentak dengan
asyncio.gathermemerlukan satu sesi setiap satu, atau mereka akan beratur. Lihat menjalankan ejen selari dengan kadar tetap.
