BroadRouter

استخدام Vercel AI SDK مع BroadNet Inference

آخر تحديث

ثبّت الحزمتين ai و@ai-sdk/openai-compatible، ثم استدعِ createOpenAICompatible مع name بالقيمة broadnet، وbaseURL بالقيمة https://inference.broadnet.ai/v1، ومفتاح BroadNet في apiKey. مرّر إلى المزوّد معرّف نموذج من BroadNet مثل broadnet/glm-5.3، واستخدم generateText أو streamText كالمعتاد. أبقِ المفتاح على الخادم، وامنح نماذج الاستدلال المنطقي قيمة سخية في maxOutputTokens.

AI SDK من Vercel مجموعة أدوات TypeScript لتطبيقات LLM. وتُنشئ حزمتها @ai-sdk/openai-compatible مزوّدًا لأي واجهة API تتبع صيغة chat completions من OpenAI. وBroadNet Inference تتبعها، فلا تغيّر سوى base URL والمفتاح ومعرّفات النماذج. وإن أردت عميل OpenAI العادي بدلًا من ذلك، فراجع دليل Node SDK.

الإعداد

  1. ثبّت الحزم. وقت كتابة هذا الدليل، يقدّم npm الإصدار 7.x من ai والإصدار 3.x من @ai-sdk/openai-compatible.

    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
  2. أنشئ المزوّد.

    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
  3. ولّد النص.

    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
  4. بثّ الإجابة. ضع streamText مكان generateText واقرأ textStream. ويشرح دليل البث المتدفق صيغة البيانات المنقولة تحت ذلك.

تصبح قيمة name التي تمرّرها مفتاحًا لخيارات المزوّد وبياناته الوصفية، لذا اجعلها قصيرة وثابتة. وكلٌّ من provider('id') وprovider.chatModel('id') يُنشئ نموذج محادثة؛ ولا يوجد إعداد منفصل لكل نموذج. أبقِ المفتاح على الخادم، ولا تستورد هذا الملف في شيفرة تعمل في المتصفح، وإلا وصل المفتاح إلى كل زائر.

يُدرج توثيق المزوّد توليد النصوص، والبث، واستدعاء الأدوات، والمخرجات المنظَّمة، ومحتوى الاستدلال المنطقي، وإدخال الصور ضمن القدرات المدعومة، مع ملاحظة أن بعضها يعتمد على المزوّد. وفي BroadNet، يعمل إدخال الصور مع DeepSeek V4.1 Flash وQwen3.8 27B وGemma 4 VL 26B، بينما يقبل GLM 5.3 النصوص فقط.

خيارات تستحق الضبط

  • reasoningEffort. مرّره عبر providerOptions تحت مفتاح باسم المزوّد. يقول توثيق AI SDK إن القيم الدقيقة تعتمد على المزوّد؛ ويعرض توثيق BroadNet القيمة low.
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
  • supportsStructuredOutputs. لا يرسل AI SDK مخططات JSON إلا حين تكون هذه القيمة true على المزوّد. وتُدرج BroadNet المخرجات المنظَّمة لنموذجَي GLM 5.3 وQwen3.8 27B، فإن فعّلتها فاستخدم هذين النموذجين للمخرجات المقيّدة بمخطط.
  • maxRetries. تعيد generateText المحاولة مرتين افتراضيًا. اضبطها بما يناسب حد المعدل لديك.
  • مخرجات الاستدلال المنطقي. يقرأ AI SDK محتوى الاستدلال المنطقي حين يُرجعه المزوّد. والحقل reasoningText في المستوى الأعلى من النتيجة مُعلَّم الآن بأنه مُهمَل لصالح finalStep.reasoningText. لا تبنِ منطقًا يفترض وجود الاستدلال المنطقي.

أي نموذج تختار

الحاجة النموذج السياق
استدعاء الأدوات، والمخرجات المنظَّمة broadnet/glm-5.3 1,048,576
الصور مع الأدوات، والعربية broadnet/qwen3.8-27b 262,144
السياق الطويل، والخطة ثابتة السعر broadnet/deepseek-v4.1-flash 1,048,576
استدعاءات نصوص وصور رخيصة broadnet/gemma-4-26b-a4b 32,768

أسعار كل نموذج لكل رمز في صفحة الأسعار.

حل المشكلات

  • 401. المتغيّر BROADNET_API_KEY غير موجود في بيئة التشغيل (راجع إعدادات متغيّرات البيئة لدى مزوّد الاستضافة)، أو المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيد الدفع حسب الاستخدام.
  • تجاهُل providerOptions. يجب أن يطابق المفتاح قيمة name للمزوّد بصيغة camelCase. فمع name: 'broadnet' استخدم providerOptions.broadnet.
  • أخطاء النموذج. يجب أن يطابق المعرّف معرّف BroadNet تمامًا، مع البادئة broadnet/. تحتاج نماذج GLM 5.3 وQwen3.8 27B وDeepSeek V4.1 Flash إلى شحن الرصيد؛ أما الرصيد المبدئي البالغ $5 فيغطي Gemma 4 VL 26B ونموذجَي Transcribe.
  • نص فارغ مع finishReason بالقيمة “length”. استهلك الاستدلال المنطقي الميزانية. ارفع maxOutputTokens أو اخفض reasoningEffort. راجع لماذا تعود الإجابات فارغة.
  • الخطأ 429 تحت الضغط. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 قيد التنفيذ. والدوال عديمة الخادم (serverless) تتوسّع بسرعة، لذا ضع سقفًا للتزامن في تطبيقك. راجع الأخطاء وإعادة المحاولة.
  • وكلاء متوازون على مفتاح خطة. جلسة الخطة غير المحدودة الواحدة تشغّل طلبًا واحدًا في كل مرة. وتشغيل Promise.all على عدة وكلاء يحتاج إلى جلسة لكل وكيل، وإلا انتظرت الطلبات في طابور.

أسئلة شائعة

هل أستخدم @ai-sdk/openai أم @ai-sdk/openai-compatible؟

استخدم @ai-sdk/openai-compatible لواجهات API المتوافقة مع OpenAI من جهات أخرى. فهي تستدعي نقطة نهاية chat completions، وهي ما تقدّمه BroadNet Inference.

لماذا يكون النص المولَّد فارغًا؟

يُحتسب الاستدلال المنطقي ضمن max_tokens في BroadNet. فإن كانت قيمة maxOutputTokens صغيرة، فقد يستهلكها النموذج كلها قبل أن تبدأ الإجابة. ارفعها أو اضبط reasoningEffort على low.

كيف أحصل على استخدام الرموز أثناء البث؟

اضبط includeUsage على true عند إنشاء المزوّد. يقول توثيق AI SDK إنه يضيف بيانات الاستخدام إلى الاستجابات المتدفقة، وقيمته الافتراضية false.

هل أحتاج إلى إعداد منفصل لكل نموذج من BroadNet؟

لا. مزوّد واحد من createOpenAICompatible يغطي كل النماذج. استدعِ broadnet('model-id') أو broadnet.chatModel('model-id') بأي معرّف لنموذج محادثة من BroadNet.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity