LangGraph は、状態を持つ多段階のエージェントをグラフとして作るための、LangChain のライブラリです。独自のモデルクライアントは持たず、ノードが LangChain のチャットモデルを呼び出します。グラフを BroadNet Inference で動かすには、langchain-openai の ChatOpenAI に BroadNet のベース URL を指定して渡します。BroadRouter は BroadNet 自身のサイトです。この記事は LangGraph 1.2.22 と langchain-openai 1.8 時点の LangGraph と LangChain のドキュメントに基づいています。
インストール
pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'
ツールを呼び出すグラフ
import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver
@tool
def get_weather(city: str) -> str:
"""Get the weather for a city."""
return f"21C and sunny in {city}"
tools = [get_weather]
model = ChatOpenAI(
model="broadnet/glm-5.3",
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)
def call_model(state: MessagesState):
return {"messages": [model.invoke(state["messages"])]}
builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())
config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)
model ノードが BroadNet を呼び出します。返答にツール呼び出しが含まれていれば、tools_condition がグラフを tools ノードに進め、ツールの結果がモデルに戻ります。チェックポインターは thread_id ごとに会話を保存するので、同じ config で 2 回目の invoke を呼ぶと会話の続きになります。
グラフからトークンをストリーミングする
for chunk, meta in graph.stream(
{"messages": [{"role": "user", "content": "And in Dubai?"}]},
config,
stream_mode="messages",
):
if chunk.content and meta["langgraph_node"] == "model":
print(chunk.content, end="", flush=True)
stream_mode="messages" を指定すると、ChatOpenAI は BroadNet に stream: true を送り、LangGraph がトークンをそのまま流します。
プリビルトのエージェント
独自のグラフが不要なら、プリビルトのエージェントループに同じモデルを渡せます。
from langchain.agents import create_agent # pip install langchain
agent = create_agent(
ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})
langgraph.prebuilt の create_react_agent も LangGraph 1.2.22 でまだ動きますが、langchain.agents.create_agent に移動したという警告が表示されます。
モデルの選び方
| グラフ | モデル |
|---|---|
| ツールを使うエージェント、構造化出力 | broadnet/glm-5.3(コンテキスト 1,048,576 トークン) |
| ツールと画像入力、またはアラビア語のテキスト | broadnet/qwen3.8-27b(コンテキスト 262,144 トークン) |
| ツール呼び出しのないグラフ、長い文書 | broadnet/deepseek-v4.1-flash |
BroadNet のドキュメントでツールと構造化出力が記載されているのは GLM 5.3 と Qwen3.8 27B だけです。DeepSeek V4.1 Flash は無制限プランのモデルなので、ツールを呼ばない「要約して振り分ける」タイプのグラフに向いています。ツールループに使う場合は、頼る前にテストしてください。全モデルの料金。
重要な設定
- chat completions を使い続けます。 BroadNet が提供しているのは
/v1/chat/completionsです。LangChain のドキュメントによると、OpenAI の組み込みツール、会話状態、reasoningパラメーターを使うとChatOpenAIは Responses API に切り替わります。これらは使わず、use_responses_api=Trueも設定しないでください。 - 出力上限。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B では推論も出力の上限に含まれます。モデルの
max_tokensを 2,000 以上にしてください。私たちのテストでは、langchain-openai 1.8 はこれをmax_completion_tokensとして送りました。 - 並列ブランチ。 モデルを呼ぶブランチはそれぞれ別のリクエストになります。従量課金のキーでは処理中のリクエストは同時に 4 個まで、プランのセッションは一度に 1 つずつ処理します。
テスト方法
2026-11-15 に、クリーンな仮想環境に langgraph 1.2.22、langchain-openai 1.8.0、langchain 1.5.0 をインストールしました。上のグラフ、ストリーミングのループ、create_agent を、BroadNet の chat completions の形式で応答しツール呼び出しを返すローカルのモックサーバーに向けて実行し、記録されたリクエストを確認しました。すべての呼び出しが /v1/chat/completions に届き、モデル ID broadnet/glm-5.3 はそのまま、Bearer キーとツールのスキーマが付いていて、ツールの結果は tool メッセージとして返ってきました。BroadNet のキーは持っていなかったため、実際のモデル出力はテストしていません。
トラブルシューティング
- 401。 キーが間違っている、期限切れ、または利用枠を使い切っています。
- 404。
base_urlは/v1で終わっている必要があります。broadnet/プレフィックスを含めてモデル ID を確認してください。有料モデルにはチャージが必要です。$5 のクレジットで使えるのはbroadnet/gemma-4-26b-a4bと 2 つの Transcribe モデルだけです。 - エージェントがツールを呼ばない。
broadnet/glm-5.3かbroadnet/qwen3.8-27bに切り替えてください。 - 回答が空になる。 出力の上限を推論で使い切っています。
max_tokensを上げてください。回答が空で返ってくる理由。 - 429。 従量課金のキーでは 1 分あたり 30 リクエストまでです。
ChatOpenAIにmax_retriesを追加し、エラーとリトライを参照してください。
