BroadRouter

استخدام CrewAI مع BroadNet Inference كنقطة نهاية OpenAI مخصّصة

آخر تحديث

أنشئ النموذج بالفئة LLM في crewai، ومرّر model بمعرّف من BroadNet مثل broadnet/glm-5.3، وcustom_openai=True، وbase_url بقيمة https://inference.broadnet.ai/v1، وapi_key بمفتاح BroadNet، ثم أعطِ هذا الـ LLM لكل Agent. يستخدم CrewAI عميل OpenAI الأصلي وchat completions، فلا حاجة إلى تثبيت LiteLLM.

CrewAI إطار عمل بلغة Python لفرق الوكلاء. ويعرض توثيقه نمط نقطة نهاية مخصّصة متوافقة مع OpenAI: كائن LLM مع custom_openai=True وbase_url. وBroadNet Inference تخدم chat completions القياسية على https://inference.broadnet.ai/v1، فتندمج هنا مباشرة. BroadRouter هو موقع BroadNet نفسها؛ ويتبع هذا الدليل توثيق CrewAI وشيفرته المصدرية حتى الإصدار 1.15.41.

التثبيت

pip install crewai
export BROADNET_API_KEY='your-broadnet-key'

الاتصال

import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))

إن طبع llm.call إجابة، فالمفتاح والعنوان ومعرّف النموذج صحيحة.

كيف يوجّه CrewAI الطلب

تحدد الشيفرة المصدرية لـ CrewAI ترتيبًا: يأتي custom_openai=True أولًا ويفرض مزوّد OpenAI الأصلي، متجاوزًا أي شيء يوحي به اسم النموذج. كما يرفع خطأً ما لم تُضبط نقطة نهاية مخصّصة عبر base_url أو api_base أو OPENAI_BASE_URL أو OPENAI_API_BASE. ويُرسَل اسم النموذج كما هو، فيصل broadnet/glm-5.3 إلى BroadNet دون تغيير.

ومن دون custom_openai، سيُقرأ اسم مثل broadnet/glm-5.3 على أنه المزوّد broadnet، وهو مزوّد لا يعرفه CrewAI، فيعود إلى LiteLLM. والبديل الموثّق هو model="openai/broadnet/glm-5.3" مع base_url: إذ يحذف CrewAI البادئة openai/ ويرسل الباقي.

وأمران آخران من شيفرة CrewAI وتوثيقه:

  • حقل حد الرموز. عندما تمرّر max_tokens، يرسل العميل الأصلي max_tokens في chat completions، وهو الحقل الذي يصفه المرجع التقني لـ BroadNet API. وإن مرّرت max_completion_tokens، فهو الذي يُرسَل بدلًا منه.
  • ابقَ على chat completions. يعرض توثيق CrewAI الخيار api="responses" للتبديل إلى Responses API. لا تضبطه؛ فـ BroadNet لا تُدرج هذه الواجهة.

أي نموذج لأي وكيل

الوكيل النموذج السبب
وكلاء يستخدمون الأدوات broadnet/glm-5.3 تُدرج BroadNet الأدوات والمخرجات المنظَّمة؛ سياق 1M
إدخال صور أو نص عربي، مع الأدوات broadnet/qwen3.8-27b الأدوات مع الصور؛ سياق 262K
مهام قراءة طويلة، خطة ثابتة السعر broadnet/deepseek-v4.1-flash خطط غير محدودة؛ لا تُدرج BroadNet الأدوات له

يمكن لفريق الوكلاء أن يمزج بينها: أعطِ كل Agent كائن LLM خاصًا به.

حل المشكلات

  • 401. المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيده. وإن لم تمرّر api_key، فقد قرأ CrewAI المتغير OPENAI_API_KEY، الذي قد يحمل مفتاح OpenAI.
  • “custom_openai=True requires base_url”. مرّر base_url، أو اضبط OPENAI_BASE_URL.
  • النموذج غير موجود. تأكّد أن المعرّف يطابق معرّف BroadNet تمامًا. النماذج المدفوعة تحتاج إلى شحن الرصيد؛ والرصيد البالغ $5 يغطي broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • EmptyLLMResponseError. يعيد CrewAI المحاولة مرة واحدة عند الإجابة الفارغة، ثم يرفع هذا الخطأ. ارفع max_tokens. راجع لماذا تعود الإجابات فارغة.
  • 429 مع عدة وكلاء. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 قيد التنفيذ، وجلسة الخطة تشغّل طلبًا واحدًا في كل مرة. راجع الأخطاء وإعادة المحاولة.

أسئلة شائعة

ماذا يفعل custom_openai=True في CrewAI؟

تقول الشيفرة المصدرية لـ CrewAI إنه يفرض مزوّد OpenAI الأصلي أيًّا كان شكل اسم النموذج، ويتطلب base_url أو api_base أو OPENAI_BASE_URL أو OPENAI_API_BASE. ويُرسَل اسم النموذج كما هو، فيصل broadnet/glm-5.3 إلى BroadNet دون تغيير.

هل يمكنني كتابة model="openai/broadnet/glm-5.3" بدلًا من ذلك؟

نعم. مع base_url مخصّص، يوجّه CrewAI البادئة openai/ إلى عميل OpenAI الأصلي ويحذفها، فتتلقى BroadNet المعرّف broadnet/glm-5.3. لكن custom_openai=True هو الصيغة الأوضح.

لماذا يفشل فريق الوكلاء بالخطأ EmptyLLMResponseError؟

يعيد CrewAI المحاولة مرة واحدة عندما تصل إجابة فارغة، أي بلا محتوى وبلا استدعاءات أدوات، ويرفع هذا الخطأ إذا جاءت الإعادة فارغة أيضًا. ومع نماذج الاستدلال في BroadNet يعني ذلك عادةً أن الاستدلال المنطقي استنفد ميزانية المخرجات. ارفع max_tokens.

أي نموذج من BroadNet يناسب وكلاء CrewAI؟

GLM 5.3 للوكلاء الذين يستخدمون الأدوات، لأن BroadNet تُدرج له الأدوات والمخرجات المنظَّمة. ونموذج Qwen3.8 27B يدعم الأدوات أيضًا ويقبل الصور.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity