BroadRouter

استخدام LangChain مع BroadNet Inference

آخر تحديث

ثبّت الحزمة langchain-openai، ثم أنشئ ChatOpenAI مع ضبط base_url على https://inference.broadnet.ai/v1، وapi_key على مفتاح BroadNet، ومعرّف نموذج من BroadNet مثل broadnet/glm-5.3. بعدها تعمل سلاسل invoke والبث واستدعاء الأدوات عبر chat completions. تجنّب الميزات الخاصة بـ Responses API، واترك في max_tokens مساحة للاستدلال المنطقي.

يقبل ChatOpenAI في LangChain أي نقطة نهاية عبر base_url. وهذا يعمل مع BroadNet Inference لأنها تستخدم بنية chat completions القياسية. أما إن كنت تستدعي الواجهة مباشرة، فراجع دليل Python SDK.

التثبيت

تحتاج الإصدارات الحالية من langchain-openai (السلسلة 1.x) إلى Python 3.11 أو أحدث.

pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'

الاتصال

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)

الاسم openai_api_base بديل لـ base_url. وإن غاب كلاهما، يقرأ LangChain المتغيّر OPENAI_API_BASE، ثم يقرأ عميل openai الأساسي OPENAI_BASE_URL.

ما يجب معرفته

  • نص الاستدلال المنطقي لا يُحفَظ. يقول توثيق LangChain إن ChatOpenAI يلتزم بمواصفة OpenAI الرسمية ولا يحتفظ بالحقول غير القياسية مثل reasoning_content. تحصل على الإجابة النهائية، وهي عادةً ما تحتاجه السلسلة.
  • اترك مساحة للاستدلال المنطقي. تبدأ نماذج GLM 5.3 وDeepSeek V4.1 Flash وQwen3.8 27B بالاستدلال المنطقي أولًا، وقد تُرجع قيمة صغيرة في max_tokens إجابة فارغة. راجع لماذا تعود الإجابات فارغة.
  • الاستخدام أثناء البث. حين تضبط نقطة النهاية عبر OPENAI_BASE_URL، يعطّل LangChain الخيار stream_usage افتراضيًا. مرّر stream_usage=True إن أردت أعداد الرموز أثناء البث. ويذكر توثيق BroadNet أن بيانات الاستخدام تصل في آخر جزء عند طلبها.
  • ابقَ على chat completions. تقدّم BroadNet المسار /v1/chat/completions، لا Responses API. ويقول توثيق LangChain إن ChatOpenAI ينتقل إلى Responses API حين تستخدم أدوات OpenAI المدمجة (البحث على الويب، والبحث في الملفات، ومفسّر الشيفرة وما شابهها)، أو حالة المحادثة، أو المعامل reasoning. لا تستخدمها، ولا تضبط use_responses_api=True.
  • اسم حد الرموز. يقول توثيق LangChain إن max_tokens يُحوَّل داخليًا إلى max_completion_tokens، بينما يصف توثيق BroadNet المعامل max_tokens. فإن بدا أن الحد يُتجاهَل، فافحص الطلب الذي يرسله تطبيقك.

أي نموذج لأي سلسلة

السلسلة النموذج
استدعاء الأدوات والمخرجات المنظَّمة broadnet/glm-5.3
المستندات الطويلة والوكلاء، الخطة غير المحدودة broadnet/deepseek-v4.1-flash
النصوص أو الصور العربية broadnet/qwen3.8-27b

اطّلع على أسعار كل النماذج.

حل المشكلات

  • 401. المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيد الدفع حسب الاستخدام. وإن لم تمرّر api_key، فقد استخدم LangChain المتغيّر OPENAI_API_KEY، وربما يحمل مفتاحًا من OpenAI.
  • 404 أو “not found”. تأكّد أن base_url ينتهي بـ /v1 وأن لا شيء يوجّه الاستدعاء إلى Responses API (انظر أعلاه). ثم تأكّد أن معرّف النموذج يطابق معرّف BroadNet تمامًا، مع البادئة broadnet/. النماذج المدفوعة تحتاج إلى شحن الرصيد؛ فالرصيد المبدئي البالغ $5 يغطي broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • الحقل content فارغ. استهلك الاستدلال المنطقي الميزانية. ارفع max_tokens. راجع لماذا تعود الإجابات فارغة.
  • لا تحدث استدعاءات الأدوات أبدًا. استخدم broadnet/glm-5.3 أو broadnet/qwen3.8-27b؛ فتوثيق BroadNet يُدرج الأدوات لهذين النموذجين فقط.
  • الخطأ 429 في السلاسل الدفعية أو المتوازية. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 في آنٍ واحد. اضبط max_concurrency في إعدادات الـ runnable عند استدعاء batch(). راجع رموز الأخطاء وإعادة المحاولة.

أسئلة شائعة

هل أستخدم base_url أم openai_api_base في ChatOpenAI؟

أيهما شئت. فـ openai_api_base اسم بديل لـ base_url. وإن لم تمرّر أيًّا منهما، يبحث LangChain عن OPENAI_API_BASE، ثم يقرأ عميل openai المتغيّر OPENAI_BASE_URL.

هل يمكن ضبط نقطة نهاية BroadNet بمتغيّرات البيئة وحدها؟

نعم. اضبط OPENAI_BASE_URL على https://inference.broadnet.ai/v1 وOPENAI_API_KEY على مفتاح BroadNet، ثم أنشئ ChatOpenAI بمعرّف النموذج فقط. ومرّر stream_usage=True إن أردت أعداد الرموز أثناء البث.

لماذا يُسقط LangChain الحقل reasoning_content من ردود BroadNet؟

يقول توثيق LangChain إن ChatOpenAI يلتزم بمواصفة OpenAI الرسمية ولا يستخرج الحقول غير القياسية مثل reasoning_content. ومع ذلك تصلك الإجابة النهائية في content.

هل يدعم ChatOpenAI مع BroadNet استدعاء الأدوات؟

نعم، عبر bind_tools، على النماذج التي تُدرجها BroadNet مع دعم الأدوات. استخدم broadnet/glm-5.3 أو broadnet/qwen3.8-27b لاستدعاء الأدوات ولـ with_structured_output.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity