LangGraph, LangChain’in graf olarak kurulan, durum tutan (stateful) ve çok adımlı ajanlar için kütüphanesidir. Kendine ait bir model istemcisi yoktur: düğümleriniz bir LangChain sohbet modelini çağırır. Bir grafı BroadNet Inference üzerinde çalıştırmak için ona langchain-openai paketindeki ChatOpenAI sınıfını BroadNet’in base URL’siyle verin. BroadRouter, BroadNet’in kendi sitesidir; bu rehber LangGraph 1.2.22 ve langchain-openai 1.8 itibarıyla LangGraph ve LangChain belgelerini izler.
Kurulum
pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'
Araç çağıran bir graf
import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver
@tool
def get_weather(city: str) -> str:
"""Get the weather for a city."""
return f"21C and sunny in {city}"
tools = [get_weather]
model = ChatOpenAI(
model="broadnet/glm-5.3",
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)
def call_model(state: MessagesState):
return {"messages": [model.invoke(state["messages"])]}
builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())
config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)
Model düğümü BroadNet’i çağırır. Yanıtta araç çağrıları varsa tools_condition grafı araç düğümüne yönlendirir ve araç sonucu modele geri döner. Checkpointer konuşmayı thread_id başına saklar; aynı config ile yapılan ikinci bir invoke konuşmayı sürdürür.
Graftan token akışı
for chunk, meta in graph.stream(
{"messages": [{"role": "user", "content": "And in Dubai?"}]},
config,
stream_mode="messages",
):
if chunk.content and meta["langgraph_node"] == "model":
print(chunk.content, end="", flush=True)
stream_mode="messages" ile ChatOpenAI, BroadNet’e stream: true gönderir ve LangGraph token’ları olduğu gibi iletir.
Hazır ajan
Özel bir grafa ihtiyacınız yoksa hazır ajan döngüsü aynı modeli alır:
from langchain.agents import create_agent # pip install langchain
agent = create_agent(
ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})
langgraph.prebuilt içindeki create_react_agent LangGraph 1.2.22’de hâlâ çalışır, ancak langchain.agents.create_agent konumuna taşındığını belirten bir uyarı yazdırır.
Hangi modeli seçmeli
| Graf | Model |
|---|---|
| Araç kullanan ajanlar, yapılandırılmış çıktı | broadnet/glm-5.3 (1.048.576 token bağlam) |
| Araçlar artı görsel girdi veya Arapça metin | broadnet/qwen3.8-27b (262.144 token bağlam) |
| Araç çağrısı olmayan graflar, uzun belgeler | broadnet/deepseek-v4.1-flash |
BroadNet’in belgeleri araçları ve yapılandırılmış çıktıyı yalnızca GLM 5.3 ve Qwen3.8 27B için listeler. DeepSeek V4.1 Flash, sınırsız planlarda sunulan modeldir; bu yüzden araç çağırmayan özetle-ve-yönlendir graflarına uygundur. Bir araç döngüsüne güvenmeden önce onu bu modelde test edin. Tüm modellerin fiyatları.
Önemli ayarlar
- Chat completions’ta kalın. BroadNet
/v1/chat/completionssunar. LangChain belgelerine göreChatOpenAI, OpenAI’nin yerleşik araçlarını, konuşma durumunu veyareasoningparametresini kullandığınızda Responses API’ye geçer. Bunları kullanmayın veuse_responses_api=Trueayarlamayın. - Çıktı sınırı. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B’de akıl yürütme çıktı bütçesine dahildir. Modelde
max_tokensdeğerini 2.000 veya üzeri yapın. Testimizde langchain-openai 1.8 bunumax_completion_tokensolarak gönderdi. - Paralel dallar. Modeli çağıran her dal ayrı bir istektir. Kullandıkça öde anahtarı aynı anda 4 işlemdeki isteğe izin verir; bir plan oturumu ise istekleri tek tek çalıştırır.
Bunu nasıl test ettik
2026-11-15’te temiz bir sanal ortama langgraph 1.2.22, langchain-openai 1.8.0 ve langchain 1.5.0 kurduk. Yukarıdaki grafı, akış döngüsünü ve create_agent örneğini, BroadNet’in chat completions yapısını konuşan ve araç çağrıları döndüren yerel bir mock sunucuya karşı çalıştırdık. Kaydedilen istekleri inceledik. Her çağrı /v1/chat/completions adresine gitti; broadnet/glm-5.3 model kimliği değişmeden, bir Bearer anahtarı ve araç şemasıyla. Araç sonucu da bir tool mesajı olarak geri geldi. Elimizde bir BroadNet anahtarı yoktu; bu yüzden gerçek model çıktısını test etmedik.
Sorun giderme
- 401. Anahtar yanlış, süresi dolmuş veya kullanım hakkı tükenmiş.
- 404.
base_url/v1ile bitmelidir. Model kimliğinibroadnet/önekiyle birlikte kontrol edin. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızcabroadnet/gemma-4-26b-a4bmodelini kapsar. - Ajan hiç araç çağırmıyor.
broadnet/glm-5.3veyabroadnet/qwen3.8-27bmodeline geçin. - Boş yanıtlar. Çıktı bütçesi akıl yürütmeye gitti.
max_tokensdeğerini artırın. Yanıtlar neden boş geliyor. - 429. Kullandıkça öde anahtarı dakikada 30 isteğe izin verir.
ChatOpenAI’yemax_retriesekleyin ve hatalar ve yeniden denemeler rehberine bakın.
