LangGraph est la bibliothèque de LangChain pour créer des agents à état, en plusieurs étapes, sous forme de graphes. Elle n’a pas de client de modèle propre : vos nœuds appellent un modèle de chat LangChain. Pour faire tourner un graphe sur BroadNet Inference, donnez-lui le ChatOpenAI de langchain-openai avec l’URL de base de BroadNet. BroadRouter est le site de BroadNet ; ce guide suit la documentation de LangGraph et de LangChain à la date de LangGraph 1.2.22 et langchain-openai 1.8.
Installation
pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'
Un graphe avec appels d’outils
import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver
@tool
def get_weather(city: str) -> str:
"""Get the weather for a city."""
return f"21C and sunny in {city}"
tools = [get_weather]
model = ChatOpenAI(
model="broadnet/glm-5.3",
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)
def call_model(state: MessagesState):
return {"messages": [model.invoke(state["messages"])]}
builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())
config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)
Le nœud du modèle appelle BroadNet. tools_condition envoie le graphe vers le nœud d’outils quand la réponse contient des appels d’outils, et le résultat de l’outil revient au modèle. Le checkpointer conserve la conversation par thread_id : un second invoke avec la même configuration la poursuit donc.
Streamer les tokens du graphe
for chunk, meta in graph.stream(
{"messages": [{"role": "user", "content": "And in Dubai?"}]},
config,
stream_mode="messages",
):
if chunk.content and meta["langgraph_node"] == "model":
print(chunk.content, end="", flush=True)
Avec stream_mode="messages", ChatOpenAI envoie stream: true à BroadNet et LangGraph transmet les tokens.
L’agent prêt à l’emploi
Si vous n’avez pas besoin d’un graphe sur mesure, la boucle d’agent prête à l’emploi accepte le même modèle :
from langchain.agents import create_agent # pip install langchain
agent = create_agent(
ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})
create_react_agent de langgraph.prebuilt tourne encore dans LangGraph 1.2.22, mais affiche un avertissement indiquant qu’il a été déplacé vers langchain.agents.create_agent.
Quel modèle choisir ?
| Graphe | Modèle |
|---|---|
| Agents avec outils, sortie structurée | broadnet/glm-5.3 (contexte de 1 048 576 tokens) |
| Outils plus entrée image ou texte arabe | broadnet/qwen3.8-27b (contexte de 262 144 tokens) |
| Graphes sans appels d’outils, longs documents | broadnet/deepseek-v4.1-flash |
La documentation de BroadNet indique les outils et la sortie structurée pour GLM 5.3 et Qwen3.8 27B uniquement. DeepSeek V4.1 Flash est le modèle des forfaits illimités : il convient donc aux graphes qui résument et aiguillent sans appeler d’outils. Testez une boucle d’outils dessus avant de vous y fier. Les prix de chaque modèle.
Les réglages qui comptent
- Restez sur chat completions. BroadNet sert
/v1/chat/completions. D’après la documentation de LangChain,ChatOpenAIbascule vers l’API Responses quand vous utilisez les outils intégrés d’OpenAI, l’état de conversation ou le paramètrereasoning. Laissez-les de côté et ne réglez pasuse_responses_api=True. - Limite de sortie. Sur DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B, le raisonnement est décompté du budget de sortie. Réglez
max_tokenssur 2 000 ou plus sur le modèle. Lors de notre test, langchain-openai 1.8 l’a envoyé sous la formemax_completion_tokens. - Branches parallèles. Chaque branche qui appelle le modèle est une requête distincte. Une clé à l’usage autorise 4 requêtes en cours, et une session de forfait les traite une par une.
Comment nous l’avons testé
Le 15 novembre 2026, nous avons installé langgraph 1.2.22, langchain-openai 1.8.0 et langchain 1.5.0 dans un environnement virtuel vierge. Nous avons exécuté le graphe ci-dessus, la boucle de streaming et create_agent face à un serveur fictif local qui parle le format chat completions de BroadNet et renvoie des appels d’outils. Nous avons vérifié les requêtes journalisées. Chaque appel est arrivé sur /v1/chat/completions avec l’ID de modèle broadnet/glm-5.3 inchangé, une clé Bearer et le schéma de l’outil, et le résultat de l’outil est revenu sous forme de message tool. Faute de clé BroadNet, nous n’avons pas testé de vraie sortie de modèle.
Dépannage
- 401. La clé est erronée, a expiré ou a épuisé son allocation.
- 404.
base_urldoit se terminer par/v1. Vérifiez l’ID du modèle, avec le préfixebroadnet/. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre quebroadnet/gemma-4-26b-a4bet les deux modèles Transcribe. - L’agent n’appelle jamais d’outil. Passez à
broadnet/glm-5.3oubroadnet/qwen3.8-27b. - Réponses vides. Le budget de sortie a été consommé par le raisonnement. Augmentez
max_tokens. Pourquoi les réponses reviennent vides. - 429. Une clé à l’usage autorise 30 requêtes par minute. Ajoutez
max_retriesàChatOpenAIet consultez codes d’erreur et nouvelles tentatives.
