LangChain’in ChatOpenAI sınıfı, base_url ile herhangi bir uç noktayı kabul eder. BroadNet Inference standart chat completions yapısını kullandığı için bu yöntem onunla da çalışır. API’yi doğrudan çağırmak istiyorsanız Python SDK rehberine bakın.
Kurulum
Güncel langchain-openai sürümleri (1.x) Python 3.11 veya daha yenisini gerektirir.
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
Bağlantı
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="broadnet/glm-5.3",
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_tokens=2000, # reasoning counts toward this limit
)
print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
openai_api_base, base_url için bir takma addır. İkisi de verilmezse LangChain OPENAI_API_BASE değişkenini okur, ardından alttaki openai istemcisi OPENAI_BASE_URL değişkenini okur. (Koddaki yorum, akıl yürütmenin bu sınıra dahil olduğunu söylüyor.)
Bilmeniz gerekenler
- Akıl yürütme metni saklanmaz. LangChain’in belgelerine göre
ChatOpenAIresmi OpenAI spesifikasyonunu izler vereasoning_contentgibi standart dışı alanları tutmaz. Nihai yanıtı alırsınız; bir zincirin ihtiyaç duyduğu da genellikle budur. - Akıl yürütmeye yer bırakın. GLM 5.3, DeepSeek V4.1 Flash ve Qwen3.8 27B önce akıl yürütür. Küçük bir
max_tokensboş bir yanıt döndürebilir. Yanıtlar neden boş geliyor. - Akışta kullanım bilgisi. Uç noktayı
OPENAI_BASE_URLile yapılandırdığınızda LangChainstream_usageseçeneğini varsayılan olarak kapatır. Akış sırasında token sayılarını görmek istiyorsanızstream_usage=Trueverin. BroadNet’in belgelerine göre kullanım bilgisi istendiğinde son parçada gelir. - Chat completions’ta kalın. BroadNet, Responses API’yi değil
/v1/chat/completionsuç noktasını sunar. LangChain’in belgelerine göreChatOpenAI; OpenAI’nin yerleşik araçlarını (web araması, dosya araması, kod yorumlayıcı ve benzerleri), konuşma durumunu veyareasoningparametresini kullandığınızda Responses API’ye geçer. Bunları kullanmayın veuse_responses_api=Trueayarlamayın. - Token sınırının adı. LangChain’in belgelerine göre
max_tokensdahili olarakmax_completion_tokensalanına dönüştürülür. BroadNet’in belgelerimax_tokensalanını anlatır. Bir sınır yok sayılıyor gibi görünüyorsa uygulamanızın gönderdiği isteği kontrol edin.
Hangi zincir için hangi model
| Zincir | Model |
|---|---|
| Araç çağırma ve yapılandırılmış çıktı | broadnet/glm-5.3 |
| Uzun belgeler ve ajanlar, sınırsız plan | broadnet/deepseek-v4.1-flash |
| Arapça metin veya görseller | broadnet/qwen3.8-27b |
Tüm modellerin fiyatlarını görün.
Sorun giderme
- 401. Anahtar yanlış, süresi dolmuş ya da kullandıkça öde kullanım hakkı tükenmiş. Hiç
api_keyvermediyseniz LangChain, bir OpenAI anahtarı içerebilecekOPENAI_API_KEYdeğişkenini kullanmıştır. - 404 veya “not found”.
base_urldeğerinin/v1ile bittiğini ve çağrıyı hiçbir şeyin Responses API’ye yönlendirmediğini kontrol edin (yukarıya bakın). Ardından model kimliğininbroadnet/önekiyle birlikte BroadNet’tekiyle birebir aynı olduğunu doğrulayın. Ücretli modeller için bakiye yüklemeniz gerekir; $5 kredi yalnızcabroadnet/gemma-4-26b-a4bmodelini kapsar. - Boş
content. Akıl yürütme bütçeyi tüketmiş.max_tokensdeğerini artırın. Yanıtlar neden boş geliyor. - Araç çağrıları hiç gerçekleşmiyor.
broadnet/glm-5.3veyabroadnet/qwen3.8-27bkullanın. BroadNet’in belgeleri araç desteğini yalnızca bu ikisi için listeler. - Toplu veya paralel zincirlerde 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir.
batch()için runnable yapılandırmasındamax_concurrencyayarlayın. Hata kodları ve yeniden denemeler rehberine bakın.
