BroadRouter
始める

BroadNet Inference で LangGraph エージェントを作る

更新日

langgraph と langchain-openai をインストールし、ChatOpenAI を model に broadnet/glm-5.3 などの BroadNet の ID、base_url に https://inference.broadnet.ai/v1、api_key に BroadNet のキーを指定して作成します。ツールをバインドして StateGraph のノードで使うか、langchain の create_agent に渡します。BroadNet がツールを記載している GLM 5.3 か Qwen3.8 27B を使ってください。

LangGraph は、状態を持つ多段階のエージェントをグラフとして作るための、LangChain のライブラリです。独自のモデルクライアントは持たず、ノードが LangChain のチャットモデルを呼び出します。グラフを BroadNet Inference で動かすには、langchain-openai の ChatOpenAI に BroadNet のベース URL を指定して渡します。BroadRouter は BroadNet 自身のサイトです。この記事は LangGraph 1.2.22 と langchain-openai 1.8 時点の LangGraph と LangChain のドキュメントに基づいています。

インストール

pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'

ツールを呼び出すグラフ

import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city."""
    return f"21C and sunny in {city}"

tools = [get_weather]
model = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)

def call_model(state: MessagesState):
    return {"messages": [model.invoke(state["messages"])]}

builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())

config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)

model ノードが BroadNet を呼び出します。返答にツール呼び出しが含まれていれば、tools_condition がグラフを tools ノードに進め、ツールの結果がモデルに戻ります。チェックポインターは thread_id ごとに会話を保存するので、同じ config で 2 回目の invoke を呼ぶと会話の続きになります。

グラフからトークンをストリーミングする

for chunk, meta in graph.stream(
    {"messages": [{"role": "user", "content": "And in Dubai?"}]},
    config,
    stream_mode="messages",
):
    if chunk.content and meta["langgraph_node"] == "model":
        print(chunk.content, end="", flush=True)

stream_mode="messages" を指定すると、ChatOpenAI は BroadNet に stream: true を送り、LangGraph がトークンをそのまま流します。

プリビルトのエージェント

独自のグラフが不要なら、プリビルトのエージェントループに同じモデルを渡せます。

from langchain.agents import create_agent  # pip install langchain

agent = create_agent(
    ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})

langgraph.prebuilt の create_react_agent も LangGraph 1.2.22 でまだ動きますが、langchain.agents.create_agent に移動したという警告が表示されます。

モデルの選び方

グラフ モデル
ツールを使うエージェント、構造化出力 broadnet/glm-5.3(コンテキスト 1,048,576 トークン)
ツールと画像入力、またはアラビア語のテキスト broadnet/qwen3.8-27b(コンテキスト 262,144 トークン)
ツール呼び出しのないグラフ、長い文書 broadnet/deepseek-v4.1-flash

BroadNet のドキュメントでツールと構造化出力が記載されているのは GLM 5.3 と Qwen3.8 27B だけです。DeepSeek V4.1 Flash は無制限プランのモデルなので、ツールを呼ばない「要約して振り分ける」タイプのグラフに向いています。ツールループに使う場合は、頼る前にテストしてください。全モデルの料金。

重要な設定

  • chat completions を使い続けます。 BroadNet が提供しているのは /v1/chat/completions です。LangChain のドキュメントによると、OpenAI の組み込みツール、会話状態、reasoning パラメーターを使うと ChatOpenAI は Responses API に切り替わります。これらは使わず、use_responses_api=True も設定しないでください。
  • 出力上限。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B では推論も出力の上限に含まれます。モデルの max_tokens を 2,000 以上にしてください。私たちのテストでは、langchain-openai 1.8 はこれを max_completion_tokens として送りました。
  • 並列ブランチ。 モデルを呼ぶブランチはそれぞれ別のリクエストになります。従量課金のキーでは処理中のリクエストは同時に 4 個まで、プランのセッションは一度に 1 つずつ処理します。

テスト方法

2026-11-15 に、クリーンな仮想環境に langgraph 1.2.22、langchain-openai 1.8.0、langchain 1.5.0 をインストールしました。上のグラフ、ストリーミングのループ、create_agent を、BroadNet の chat completions の形式で応答しツール呼び出しを返すローカルのモックサーバーに向けて実行し、記録されたリクエストを確認しました。すべての呼び出しが /v1/chat/completions に届き、モデル ID broadnet/glm-5.3 はそのまま、Bearer キーとツールのスキーマが付いていて、ツールの結果は tool メッセージとして返ってきました。BroadNet のキーは持っていなかったため、実際のモデル出力はテストしていません。

トラブルシューティング

  • 401。 キーが間違っている、期限切れ、または利用枠を使い切っています。
  • 404。 base_url は /v1 で終わっている必要があります。broadnet/ プレフィックスを含めてモデル ID を確認してください。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは broadnet/gemma-4-26b-a4b と 2 つの Transcribe モデルだけです。
  • エージェントがツールを呼ばない。 broadnet/glm-5.3 か broadnet/qwen3.8-27b に切り替えてください。
  • 回答が空になる。 出力の上限を推論で使い切っています。max_tokens を上げてください。回答が空で返ってくる理由。
  • 429。 従量課金のキーでは 1 分あたり 30 リクエストまでです。ChatOpenAI に max_retries を追加し、エラーとリトライを参照してください。

よくある質問

LangGraph には BroadNet 専用のインテグレーションが必要ですか?

必要ありません。LangGraph はノードが呼び出すチャットモデルをそのまま動かします。LangChain の ChatOpenAI で base_url を https://inference.broadnet.ai/v1 にすれば、モデルを呼ぶすべてのノードが chat completions で BroadNet に接続します。

create_react_agent と create_agent のどちらを使うべきですか?

LangGraph 1.2 では、langgraph.prebuilt の create_react_agent はまだ動きますが、langchain パッケージの create_agent を案内する非推奨の警告が出ます。どちらも BroadNet 形式のモデル ID で私たちのモックサーバーに対して動作しました。

LangGraph のエージェントにはどの BroadNet モデルを使えばよいですか?

GLM 5.3(broadnet/glm-5.3)か Qwen3.8 27B(broadnet/qwen3.8-27b)です。エージェントのループはツール呼び出しに依存しており、BroadNet がツールを記載しているのはこの 2 つのモデルだけです。

設定した max_tokens が max_completion_tokens として送られるのはなぜですか?

langchain-openai 1.8 はリクエスト内で max_tokens を max_completion_tokens に名前を変えて送ります。BroadNet の API リファレンスに記載されているのは max_tokens です。出力上限が効いていないように見える場合は、アプリが実際に送っているリクエストを確認してください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く