BroadRouter

Faire tourner l’OpenAI Agents SDK sur BroadNet Inference

Mis à jour

Créez un client AsyncOpenAI avec base_url https://inference.broadnet.ai/v1 et votre clé BroadNet, encapsulez-le dans OpenAIChatCompletionsModel avec un ID de modèle comme broadnet/glm-5.3, puis passez ce modèle à votre Agent. Appelez set_tracing_disabled(True), sauf si vous disposez d’une clé OpenAI distincte pour le tracing.

L’OpenAI Agents SDK est un framework Python pour créer des agents avec outils, handoffs et guardrails. Sa documentation explique comment brancher des fournisseurs autres qu’OpenAI. Pour une API compatible OpenAI comme BroadNet Inference, vous donnez au SDK votre propre client AsyncOpenAI et utilisez la classe de modèle Chat Completions. Par défaut, le SDK passe par la Responses API, que beaucoup de fournisseurs ne servent pas.

Mise en place

  1. Installez le SDK. Il nécessite Python 3.10 ou plus récent.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. Créez le client, le modèle et l’agent.
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. Lancez-le. L’agent doit appeler get_order_status et répondre à partir de son résultat.

Trois façons de brancher le fournisseur

La documentation du SDK cite ces options intégrées :

  • Par agent : passez OpenAIChatCompletionsModel comme Agent.model, comme ci-dessus. À utiliser quand des agents différents passent par des fournisseurs différents.
  • Par défaut, globalement : set_default_openai_client(client) fait de votre client le client par défaut. Associez-le à set_default_openai_api("chat_completions").
  • Par run : passez un ModelProvider personnalisé dans RunConfig(model_provider=...).

La variante globale ressemble à ceci :

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

Avec les seules variables d’environnement, définissez OPENAI_BASE_URL=https://inference.broadnet.ai/v1 et OPENAI_API_KEY sur votre clé BroadNet, puis faites les mêmes appels à set_default_openai_api et set_tracing_disabled.

Quand vous passez par Chat Completions, la documentation du SDK indique qu’il ignore silencieusement les champs propres à la Responses API, comme previous_response_id, conversation_id et prompt. Pour obtenir une erreur à la place, définissez strict_feature_validation=True sur OpenAIProvider. Gérez l’état de la conversation dans votre propre code, par exemple en passant la liste d’entrées du résultat précédent au run suivant. Les outils hébergés d’OpenAI, comme la recherche web et la recherche de fichiers, n’existent pas chez les autres fournisseurs. Utilisez function_tool pour tout ce que l’agent doit appeler.

Tracing

Le tracing est activé par défaut et envoie les traces à OpenAI. La documentation du SDK indique que, sans clé d’API de platform.openai.com, il faut le désactiver avec set_tracing_disabled() ou configurer un autre processeur de tracing. Si vous avez une clé OpenAI, vous pouvez laisser le tracing actif et passer cette clé avec set_tracing_export_api_key(...). Le SDK ne l’utilise que pour envoyer les traces. Votre clé BroadNet ne fonctionne pas pour cela.

Quel modèle choisir ?

Type d’agent Modèle Remarques
Agents avec outils GLM 5.3 Outils et sortie structurée indiqués ; contexte de 1M
Entrée image avec outils Qwen3.8 27B Contexte de 262K ; testé en arabe
Agents de longue durée à prix forfaitaire DeepSeek V4.1 Flash Forfaits illimités ; outils non indiqués par BroadNet

La documentation du SDK prévient que certains fournisseurs ne prennent pas en charge les sorties structurées par schéma JSON. Si vous définissez output_type sur un agent, utilisez GLM 5.3 ou Qwen3.8 27B. Comparez les prix sur la page des tarifs.

Dépannage

  • 401. La clé BroadNet est erronée, expirée ou son quota de paiement à l’usage est épuisé. Les erreurs de tracing dans les logs sont un autre problème : elles signifient que le tracing est encore actif sans clé OpenAI.
  • 404 ou « not found ». Vous passez probablement par la Responses API. Utilisez OpenAIChatCompletionsModel ou set_default_openai_api("chat_completions"). Si c’est déjà fait, vérifiez que l’ID du modèle correspond exactement à celui de BroadNet. Les modèles payants nécessitent une recharge ; le crédit de $5 couvre Gemma 4 VL 26B et les deux modèles Transcribe.
  • final_output vide. Le raisonnement est décompté de max_tokens. Si vous définissez ModelSettings(max_tokens=...), augmentez la valeur. Pourquoi les réponses reviennent vides.
  • 429. Une clé à l’usage autorise 30 requêtes par minute et 4 simultanées. Chaque aller-retour d’outil est une nouvelle requête. Voir codes d’erreur et nouvelles tentatives.
  • Agents parallèles sur un forfait. Une session de forfait illimité traite une requête à la fois. Des agents lancés ensemble avec asyncio.gather nécessitent chacun une session, sinon ils font la queue. Voir faire tourner des agents en parallèle à prix forfaitaire.

Questions fréquentes

Pourquoi l’Agents SDK renvoie-t-il des erreurs 404 avec une URL de base personnalisée ?

Le SDK utilise la Responses API par défaut. BroadNet sert les chat completions. Utilisez OpenAIChatCompletionsModel, ou appelez set_default_openai_api("chat_completions") si vous configurez le client par variables d’environnement.

Pourquoi l’Agents SDK se plaint-il du tracing ?

Le tracing envoie les données à OpenAI et nécessite une clé de platform.openai.com. La documentation du SDK recommande set_tracing_disabled() si vous n’en avez pas, ou un autre processeur de tracing.

Puis-je configurer l’Agents SDK uniquement avec des variables d’environnement ?

Oui. Définissez OPENAI_BASE_URL sur https://inference.broadnet.ai/v1 et OPENAI_API_KEY sur votre clé BroadNet, puis appelez set_default_openai_api("chat_completions") et set_tracing_disabled(True). OPENAI_DEFAULT_MODEL fixe le modèle des agents qui n’en nomment aucun.

Combien de sessions de forfait faut-il pour un run multi-agents ?

Une par requête exécutée en même temps. Les handoffs exécutent les agents l’un après l’autre, une session suffit donc. Des agents lancés en parallèle avec asyncio.gather nécessitent chacun une session.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity