AI SDK من Vercel مجموعة أدوات TypeScript لتطبيقات LLM. وتُنشئ حزمتها @ai-sdk/openai-compatible مزوّدًا لأي واجهة API تتبع صيغة chat completions من OpenAI. وBroadNet Inference تتبعها، فلا تغيّر سوى base URL والمفتاح ومعرّفات النماذج. وإن أردت عميل OpenAI العادي بدلًا من ذلك، فراجع دليل Node SDK.
الإعداد
-
ثبّت الحزم. وقت كتابة هذا الدليل، يقدّم npm الإصدار 7.x من
aiوالإصدار 3.x من@ai-sdk/openai-compatible.npm install ai @ai-sdk/openai-compatible export BROADNET_API_KEY='your-broadnet-key' -
أنشئ المزوّد.
// broadnet.ts import { createOpenAICompatible } from '@ai-sdk/openai-compatible'; export const broadnet = createOpenAICompatible({ name: 'broadnet', baseURL: 'https://inference.broadnet.ai/v1', apiKey: process.env.BROADNET_API_KEY, includeUsage: true, // usage data in streaming responses }); -
ولّد النص.
import { generateText } from 'ai'; import { broadnet } from './broadnet'; const { text, usage, finishReason } = await generateText({ model: broadnet('broadnet/glm-5.3'), prompt: 'Explain idempotency keys in two sentences.', maxOutputTokens: 4000, // reasoning counts toward this }); console.log(text, finishReason, usage); -
بثّ الإجابة. ضع
streamTextمكانgenerateTextواقرأtextStream. ويشرح دليل البث المتدفق صيغة البيانات المنقولة تحت ذلك.
تصبح قيمة name التي تمرّرها مفتاحًا لخيارات المزوّد وبياناته الوصفية، لذا اجعلها قصيرة وثابتة. وكلٌّ من provider('id') وprovider.chatModel('id') يُنشئ نموذج محادثة؛ ولا يوجد إعداد منفصل لكل نموذج. أبقِ المفتاح على الخادم، ولا تستورد هذا الملف في شيفرة تعمل في المتصفح، وإلا وصل المفتاح إلى كل زائر.
يُدرج توثيق المزوّد توليد النصوص، والبث، واستدعاء الأدوات، والمخرجات المنظَّمة، ومحتوى الاستدلال المنطقي، وإدخال الصور ضمن القدرات المدعومة، مع ملاحظة أن بعضها يعتمد على المزوّد. وفي BroadNet، يعمل إدخال الصور مع DeepSeek V4.1 Flash وQwen3.8 27B وGemma 4 VL 26B، بينما يقبل GLM 5.3 النصوص فقط.
خيارات تستحق الضبط
- reasoningEffort. مرّره عبر
providerOptionsتحت مفتاح باسم المزوّد. يقول توثيق AI SDK إن القيم الدقيقة تعتمد على المزوّد؛ ويعرض توثيق BroadNet القيمةlow.
const result = await generateText({
model: broadnet('broadnet/deepseek-v4.1-flash'),
prompt: 'Classify: "refund my order" -> intent?',
providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
- supportsStructuredOutputs. لا يرسل AI SDK مخططات JSON إلا حين تكون هذه القيمة
trueعلى المزوّد. وتُدرج BroadNet المخرجات المنظَّمة لنموذجَي GLM 5.3 وQwen3.8 27B، فإن فعّلتها فاستخدم هذين النموذجين للمخرجات المقيّدة بمخطط. - maxRetries. تعيد
generateTextالمحاولة مرتين افتراضيًا. اضبطها بما يناسب حد المعدل لديك. - مخرجات الاستدلال المنطقي. يقرأ AI SDK محتوى الاستدلال المنطقي حين يُرجعه المزوّد. والحقل
reasoningTextفي المستوى الأعلى من النتيجة مُعلَّم الآن بأنه مُهمَل لصالحfinalStep.reasoningText. لا تبنِ منطقًا يفترض وجود الاستدلال المنطقي.
أي نموذج تختار
| الحاجة | النموذج | السياق |
|---|---|---|
| استدعاء الأدوات، والمخرجات المنظَّمة | broadnet/glm-5.3 |
1,048,576 |
| الصور مع الأدوات، والعربية | broadnet/qwen3.8-27b |
262,144 |
| السياق الطويل، والخطة ثابتة السعر | broadnet/deepseek-v4.1-flash |
1,048,576 |
| استدعاءات نصوص وصور رخيصة | broadnet/gemma-4-26b-a4b |
32,768 |
أسعار كل نموذج لكل رمز في صفحة الأسعار.
حل المشكلات
- 401. المتغيّر
BROADNET_API_KEYغير موجود في بيئة التشغيل (راجع إعدادات متغيّرات البيئة لدى مزوّد الاستضافة)، أو المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيد الدفع حسب الاستخدام. - تجاهُل providerOptions. يجب أن يطابق المفتاح قيمة
nameللمزوّد بصيغة camelCase. فمعname: 'broadnet'استخدمproviderOptions.broadnet. - أخطاء النموذج. يجب أن يطابق المعرّف معرّف BroadNet تمامًا، مع البادئة
broadnet/. تحتاج نماذج GLM 5.3 وQwen3.8 27B وDeepSeek V4.1 Flash إلى شحن الرصيد؛ أما الرصيد المبدئي البالغ $5 فيغطي Gemma 4 VL 26B ونموذجَي Transcribe. - نص فارغ مع finishReason بالقيمة “length”. استهلك الاستدلال المنطقي الميزانية. ارفع
maxOutputTokensأو اخفضreasoningEffort. راجع لماذا تعود الإجابات فارغة. - الخطأ 429 تحت الضغط. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 قيد التنفيذ. والدوال عديمة الخادم (serverless) تتوسّع بسرعة، لذا ضع سقفًا للتزامن في تطبيقك. راجع الأخطاء وإعادة المحاولة.
- وكلاء متوازون على مفتاح خطة. جلسة الخطة غير المحدودة الواحدة تشغّل طلبًا واحدًا في كل مرة. وتشغيل
Promise.allعلى عدة وكلاء يحتاج إلى جلسة لكل وكيل، وإلا انتظرت الطلبات في طابور.
