BroadRouter

OpenAI Agents SDK mit BroadNet Inference betreiben

Aktualisiert

Erstellen Sie einen AsyncOpenAI-Client mit base_url https://inference.broadnet.ai/v1 und Ihrem BroadNet-Schlüssel, verpacken Sie ihn in OpenAIChatCompletionsModel mit einer Modell-ID wie broadnet/glm-5.3 und übergeben Sie dieses Modell an Ihren Agent. Rufen Sie set_tracing_disabled(True) auf, sofern Sie keinen separaten OpenAI-Schlüssel für das Tracing haben.

Das OpenAI Agents SDK ist ein Python-Framework für Agents mit Tools, Handoffs und Guardrails. Seine Dokumentation beschreibt, wie man Provider außerhalb von OpenAI anbindet. Für eine OpenAI-kompatible API wie BroadNet Inference übergeben Sie dem SDK Ihren eigenen AsyncOpenAI-Client und verwenden die Modellklasse für Chat Completions. Standardmäßig nutzt das SDK die Responses API, die viele Anbieter nicht bereitstellen.

Einrichtung

  1. SDK installieren. Es braucht Python 3.10 oder neuer.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. Client, Modell und Agent erstellen.
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. Ausführen. Der Agent sollte get_order_status aufrufen und anhand des Ergebnisses antworten.

Drei Wege, den Provider anzubinden

Die SDK-Dokumentation nennt diese eingebauten Optionen:

  • Pro Agent: Übergeben Sie OpenAIChatCompletionsModel als Agent.model, wie oben. Das passt, wenn verschiedene Agents verschiedene Provider nutzen.
  • Globaler Standard: set_default_openai_client(client) macht Ihren Client zum Standard. Kombinieren Sie das mit set_default_openai_api("chat_completions").
  • Pro Lauf: Übergeben Sie einen eigenen ModelProvider in RunConfig(model_provider=...).

Der globale Standard sieht so aus:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

Nur mit Umgebungsvariablen setzen Sie OPENAI_BASE_URL=https://inference.broadnet.ai/v1 und OPENAI_API_KEY auf Ihren BroadNet-Schlüssel und machen dann dieselben Aufrufe von set_default_openai_api und set_tracing_disabled.

Wenn Sie über Chat Completions gehen, verwirft das SDK laut seiner Dokumentation stillschweigend Felder, die es nur in der Responses API gibt, etwa previous_response_id, conversation_id und prompt. Wenn Sie stattdessen einen Fehler wollen, setzen Sie strict_feature_validation=True auf OpenAIProvider. Halten Sie den Gesprächszustand in Ihrem eigenen Code, zum Beispiel indem Sie die Input-Liste des vorherigen Ergebnisses an den nächsten Lauf übergeben. Gehostete OpenAI-Tools wie Websuche und Dateisuche gibt es bei anderen Providern nicht. Verwenden Sie function_tool für alles, was der Agent aufrufen soll.

Tracing

Das Tracing ist standardmäßig aktiv und sendet Traces an OpenAI. Laut SDK-Dokumentation sollten Sie es ohne API-Schlüssel von platform.openai.com mit set_tracing_disabled() abschalten oder einen anderen Tracing-Prozessor einrichten. Wenn Sie einen OpenAI-Schlüssel haben, können Sie das Tracing aktiv lassen und diesen Schlüssel mit set_tracing_export_api_key(...) übergeben. Das SDK verwendet ihn nur zum Hochladen der Traces. Ihr BroadNet-Schlüssel funktioniert dafür nicht.

Welches Modell passt

Agent-Typ Modell Hinweise
Agents mit Tools GLM 5.3 Tools und strukturierte Ausgabe gelistet; 1M Kontext
Bildeingabe mit Tools Qwen3.8 27B 262K Kontext; auf Arabisch getestet
Lang laufende Agents zum Festpreis DeepSeek V4.1 Flash Unbegrenzte Pläne; Tools von BroadNet nicht gelistet

Die SDK-Dokumentation warnt, dass manche Provider keine strukturierten Ausgaben per JSON-Schema unterstützen. Wenn Sie output_type an einem Agent setzen, nehmen Sie GLM 5.3 oder Qwen3.8 27B. Preise vergleichen Sie auf der Preisseite.

Fehlerbehebung

  • 401. Der BroadNet-Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Tracing-Fehler im Log sind etwas anderes: Sie bedeuten, dass das Tracing ohne OpenAI-Schlüssel noch aktiv ist.
  • 404 oder „not found“. Wahrscheinlich nutzen Sie die Responses API. Verwenden Sie OpenAIChatCompletionsModel oder set_default_openai_api("chat_completions"). Ist das gesetzt, prüfen Sie, ob die Modell-ID exakt der von BroadNet entspricht. Kostenpflichtige Modelle erfordern eine Aufladung; das Guthaben von $5 deckt Gemma 4 VL 26B und die beiden Transcribe-Modelle ab.
  • Leeres final_output. Reasoning zählt zu max_tokens. Wenn Sie ModelSettings(max_tokens=...) setzen, erhöhen Sie den Wert. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Jeder Tool-Roundtrip ist eine neue Anfrage. Siehe Fehler und Retries.
  • Parallele Agents in einem Plan. Eine Session eines unbegrenzten Plans verarbeitet jeweils eine Anfrage. Agents, die gemeinsam mit asyncio.gather gestartet werden, brauchen je eine eigene Session, sonst stehen sie in der Warteschlange. Siehe parallele Agents zum Festpreis betreiben.

Häufige Fragen

Warum liefert das Agents SDK mit eigener Basis-URL 404-Fehler?

Das SDK nutzt standardmäßig die Responses API. BroadNet bietet Chat Completions. Verwenden Sie OpenAIChatCompletionsModel oder rufen Sie set_default_openai_api("chat_completions") auf, wenn Sie den Client über Umgebungsvariablen konfigurieren.

Warum beschwert sich das Agents SDK über das Tracing?

Das Tracing lädt Daten zu OpenAI hoch und braucht einen Schlüssel von platform.openai.com. Die SDK-Dokumentation empfiehlt set_tracing_disabled(), wenn Sie keinen haben, oder einen anderen Tracing-Prozessor.

Kann ich das Agents SDK nur über Umgebungsvariablen konfigurieren?

Ja. Setzen Sie OPENAI_BASE_URL auf https://inference.broadnet.ai/v1 und OPENAI_API_KEY auf Ihren BroadNet-Schlüssel und rufen Sie dann set_default_openai_api("chat_completions") und set_tracing_disabled(True) auf. OPENAI_DEFAULT_MODEL legt das Modell für Agents fest, die keines nennen.

Wie viele Plan-Sessions braucht ein Lauf mit mehreren Agents?

Eine pro gleichzeitig laufender Anfrage. Handoffs führen einen Agent nach dem anderen aus, daher reicht eine Session. Agents, die mit asyncio.gather parallel laufen, brauchen je eine eigene Session.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen