Das OpenAI Agents SDK ist ein Python-Framework für Agents mit Tools, Handoffs und Guardrails. Seine Dokumentation beschreibt, wie man Provider außerhalb von OpenAI anbindet. Für eine OpenAI-kompatible API wie BroadNet Inference übergeben Sie dem SDK Ihren eigenen AsyncOpenAI-Client und verwenden die Modellklasse für Chat Completions. Standardmäßig nutzt das SDK die Responses API, die viele Anbieter nicht bereitstellen.
Einrichtung
- SDK installieren. Es braucht Python 3.10 oder neuer.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
- Client, Modell und Agent erstellen.
import asyncio
import os
from agents import (
Agent,
AsyncOpenAI,
OpenAIChatCompletionsModel,
Runner,
function_tool,
set_tracing_disabled,
)
set_tracing_disabled(disabled=True) # tracing needs a platform.openai.com key
client = AsyncOpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)
@function_tool
def get_order_status(order_id: str) -> str:
"""Look up an order."""
return f"Order {order_id}: shipped"
agent = Agent(
name="Support agent",
instructions="Answer briefly. Use tools when you need order data.",
model=model,
tools=[get_order_status],
)
async def main():
result = await Runner.run(agent, "Where is order 4471?")
print(result.final_output)
asyncio.run(main())
- Ausführen. Der Agent sollte
get_order_statusaufrufen und anhand des Ergebnisses antworten.
Drei Wege, den Provider anzubinden
Die SDK-Dokumentation nennt diese eingebauten Optionen:
- Pro Agent: Übergeben Sie
OpenAIChatCompletionsModelalsAgent.model, wie oben. Das passt, wenn verschiedene Agents verschiedene Provider nutzen. - Globaler Standard:
set_default_openai_client(client)macht Ihren Client zum Standard. Kombinieren Sie das mitset_default_openai_api("chat_completions"). - Pro Lauf: Übergeben Sie einen eigenen
ModelProviderinRunConfig(model_provider=...).
Der globale Standard sieht so aus:
import os
from agents import (
Agent,
AsyncOpenAI,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)
agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")
Nur mit Umgebungsvariablen setzen Sie OPENAI_BASE_URL=https://inference.broadnet.ai/v1 und OPENAI_API_KEY auf Ihren BroadNet-Schlüssel und machen dann dieselben Aufrufe von set_default_openai_api und set_tracing_disabled.
Wenn Sie über Chat Completions gehen, verwirft das SDK laut seiner Dokumentation stillschweigend Felder, die es nur in der Responses API gibt, etwa previous_response_id, conversation_id und prompt. Wenn Sie stattdessen einen Fehler wollen, setzen Sie strict_feature_validation=True auf OpenAIProvider. Halten Sie den Gesprächszustand in Ihrem eigenen Code, zum Beispiel indem Sie die Input-Liste des vorherigen Ergebnisses an den nächsten Lauf übergeben. Gehostete OpenAI-Tools wie Websuche und Dateisuche gibt es bei anderen Providern nicht. Verwenden Sie function_tool für alles, was der Agent aufrufen soll.
Tracing
Das Tracing ist standardmäßig aktiv und sendet Traces an OpenAI. Laut SDK-Dokumentation sollten Sie es ohne API-Schlüssel von platform.openai.com mit set_tracing_disabled() abschalten oder einen anderen Tracing-Prozessor einrichten. Wenn Sie einen OpenAI-Schlüssel haben, können Sie das Tracing aktiv lassen und diesen Schlüssel mit set_tracing_export_api_key(...) übergeben. Das SDK verwendet ihn nur zum Hochladen der Traces. Ihr BroadNet-Schlüssel funktioniert dafür nicht.
Welches Modell passt
| Agent-Typ | Modell | Hinweise |
|---|---|---|
| Agents mit Tools | GLM 5.3 | Tools und strukturierte Ausgabe gelistet; 1M Kontext |
| Bildeingabe mit Tools | Qwen3.8 27B | 262K Kontext; auf Arabisch getestet |
| Lang laufende Agents zum Festpreis | DeepSeek V4.1 Flash | Unbegrenzte Pläne; Tools von BroadNet nicht gelistet |
Die SDK-Dokumentation warnt, dass manche Provider keine strukturierten Ausgaben per JSON-Schema unterstützen. Wenn Sie output_type an einem Agent setzen, nehmen Sie GLM 5.3 oder Qwen3.8 27B. Preise vergleichen Sie auf der Preisseite.
Fehlerbehebung
- 401. Der BroadNet-Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Tracing-Fehler im Log sind etwas anderes: Sie bedeuten, dass das Tracing ohne OpenAI-Schlüssel noch aktiv ist.
- 404 oder „not found“. Wahrscheinlich nutzen Sie die Responses API. Verwenden Sie
OpenAIChatCompletionsModeloderset_default_openai_api("chat_completions"). Ist das gesetzt, prüfen Sie, ob die Modell-ID exakt der von BroadNet entspricht. Kostenpflichtige Modelle erfordern eine Aufladung; das Guthaben von $5 deckt Gemma 4 VL 26B und die beiden Transcribe-Modelle ab. - Leeres
final_output. Reasoning zählt zumax_tokens. Wenn SieModelSettings(max_tokens=...)setzen, erhöhen Sie den Wert. Warum Antworten leer zurückkommen. - 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Jeder Tool-Roundtrip ist eine neue Anfrage. Siehe Fehler und Retries.
- Parallele Agents in einem Plan. Eine Session eines unbegrenzten Plans verarbeitet jeweils eine Anfrage. Agents, die gemeinsam mit
asyncio.gathergestartet werden, brauchen je eine eigene Session, sonst stehen sie in der Warteschlange. Siehe parallele Agents zum Festpreis betreiben.
