BroadRouter

عتاد GPU لدى BroadNet وطريقة تقديم النماذج، كما تصفها BroadNet

بقلم فريق BroadNet Inference · قراءة في 5 دقائق · تاريخ النشر · آخر تحديث

تقول BroadNet إنها تشغّل منظومة تقديم واحدة على ثلاث طبقات من العتاد: وحدات GPU لمراكز البيانات من A100 إلى B300، وطبقة محطات عمل من بطاقات RTX وDGX Spark تحمل واجهة API العامة الدائمة التشغيل، وأجهزة في مواقع العملاء. وتُفيد بأنها شغّلت نحو 270 نموذجًا عبر 13 عائلة GPU من NVIDIA وAMD. وبعض نماذج API يقدّمها بدلًا من ذلك شركاء استدلال في الولايات المتحدة.

تصف BroadNet عتاد الاستدلال لديها بتفصيل غير معتاد. فـ كتالوج النماذج لديها يسرد وحدات GPU التي تقول إنها تشغّلها، والإنتاجية المقيسة لكل بطاقة، وما تعلّمته من تشغيل النماذج نفسها عليها. تلخّص هذه الصفحة ما تقوله BroadNet، بكلماتها حيث يهم ذلك. لم نفحص العتاد بأنفسنا، والقياسات قياسات BroadNet نفسها، من سبتمبر 2026.

ما العتاد الذي تقول BroadNet إنها تشغّله؟

تقول BroadNet إنها تشغّل “one fleet, three tiers, one stack” (الترجمة: أسطول واحد، وثلاث طبقات، ومنظومة واحدة): المحركات نفسها، والتكميمات نفسها، والبوابة نفسها، من مسرّعات مراكز البيانات وصولًا إلى الأجهزة في مواقع العملاء.

الطبقة وحدات GPU التي تذكرها BroadNet ما تستخدمها BroadNet له
مركز البيانات B300 وB200 وH200 وH100 وA100 80 GB تقديم النماذج الرائدة، والتكميم والمعايرة، والضبط الدقيق، ونقاط النهاية الخاصة المخصصة، وعمليات النشر الخاضعة لإقامة البيانات
محطات العمل RTX PRO 6000 Blackwell وRTX 5090 وRTX 3090 وDGX Spark GB10 وRadeon AI PRO R9700 واجهة API العامة الدائمة التشغيل، والقياس المعياري عبر CUDA وROCm، وتطوير النماذج
موقع العميل DGX Spark GB10 وأجهزة AMD مدمجة عمليات النشر المحلية والمعزولة عن الشبكة على المنظومة نفسها

وإجمالًا تُفيد BroadNet بأنها شغّلت نحو 270 نموذجًا، وحمّلت نحو 200 نقطة حفظ (checkpoint)، عبر نحو 40 عائلة نماذج، و12 صيغة تكميم أو أكثر، و13 عائلة GPU. وتقول أيضًا: “a single H100 serves the entire current public catalogue with headroom” (الترجمة: وحدة H100 واحدة تقدّم الكتالوج العام الحالي كاملًا مع هامش إضافي).

ما نماذج API التي تعمل عليه؟

ليست كلها. يقول بيان الخصوصية لدى BroadNet إن نماذجها الخاصة والنماذج مفتوحة الأوزان التي تستضيفها تعمل على عتاد مملوك لـ BroadNet أو مستأجر في الولايات المتحدة، مع سعة لدى شركاء كاحتياط، وإن النماذج التي يقدّمها الشركاء تعمل بشروط عدم الاحتفاظ بالبيانات لدى شركاء استدلال في الولايات المتحدة. وتسمّي شروط الخدمة لديها DeepSeek V4.1 Flash نموذجًا مستضافًا لدى شريك.

ما تقوله صفحات BroadNet نفسها لكل نموذج:

النموذج على API العتاد الذي تذكره BroadNet
Gemma 4 VL 26B وحدات GPU من فئة NVIDIA Blackwell مع نسخة احتياطية جاهزة
Transcribe Arabic وTranscribe وحدات GPU من NVIDIA تشغّلها BroadNet في الولايات المتحدة
DeepSeek V4.1 Flash مستضاف لدى شريك (شروط الخدمة، البند 7.3)
GLM 5.3 وQwen3.8 27B غير مذكور لحركة API

إذا كان مكان معالجة بياناتك مهمًا، فاسأل BroadNet قبل إرسالها. وتقول صفحة الاستدلال لديها إن المعالجة الإقليمية في منطقة الشرق الأوسط وشمال أفريقيا أو في أوروبا متاحة عند الطلب.

ما سرعة كل GPU؟

تنشر BroadNet الإنتاجية الإجمالية للمخرجات لكل GPU لنموذج واحد، Qwen3-VL 30B A3B Instruct، مع 32 طلبًا متزامنًا:

GPU الطبقة عرض نطاق الذاكرة الرموز الإجمالية في الثانية
B300 مركز البيانات 8,000 GB/s 14,500
B200 مركز البيانات 8,000 GB/s 14,000
H200 مركز البيانات 4,800 GB/s 8,400
H100 مركز البيانات 3,350 GB/s 5,800
A100 80 GB مركز البيانات 2,039 GB/s 3,500
RTX PRO 6000 Blackwell محطات العمل 1,792 GB/s 3,100
RTX 3090 محطات العمل 936 GB/s 1,630
DGX Spark GB10 محطات العمل 273 GB/s 1,597
Radeon AI PRO R9700 محطات العمل 640 GB/s 1,087

وتنبّه BroadNet إلى أن أرقام مراكز البيانات “planning numbers from our measured per-GPU curve” (الترجمة: أرقام تخطيطية مأخوذة من منحنانا المقيس لكل GPU)، لا قياسات مباشرة على كل بطاقة. وترتفع معظم الصفوف مع عرض نطاق الذاكرة، وهو الحد المعتاد لفك الترميز، لكن ليس كلها: فـ DGX Spark GB10 (273 GB/s) يكاد يعادل RTX 3090 (936 GB/s)، ويأتي Radeon AI PRO R9700 (640 GB/s) بعدهما كليهما.

ما الذي تقول BroadNet إن عتادها علّمها إياه؟

يسرد الكتالوج ثماني نتائج، كلٌّ منها موسوم بعبارة “measured on our own hardware” (الترجمة: قيست على عتادنا الخاص). وأهمها لمشتري API:

  • CUDA مقابل ROCm. عند تشغيل النماذج نفسها على NVIDIA CUDA وAMD ROCm، حوّلت CUDA ضعف ما حوّلته ROCm تقريبًا من عرض نطاق الذاكرة إلى رموز، فتوزّع BroadNet أحجام العمل وفقًا لذلك.
  • فك الترميز التخميني تحت الحمل. كلّف EAGLE3 نسبة 69% من الإنتاجية عند 32 طلبًا متزامنًا، فأبقت BroadNet على مسوّدات التنبؤ متعدد الرموز. وتقيس دراسة تقديم Uno لديها الأثر نفسه لطريقة أخرى.
  • طريقة التقديم مهمة بقدر الأوزان. سجّلت أوزان Gemma 4 26B نفسها، حين قدّمها مزوّد مستضاف، متوسطًا أقل بمقدار 0.13 مقارنة بما تسمّيه BroadNet “our own serving” (الترجمة: تقديمنا الخاص). وقاعدة BroadNet: أبقِ النموذج المنافس ونموذج المقارنة على طريقة التقديم نفسها قبل المقارنة بينهما.
  • قد يفوز نموذج بمعاملات نشطة أقل. تفوّق نموذج مزيج الخبراء 26B على Gemma 4 31B الكثيف في 5 من 6 خطوات في المسار، بنحو ثُمن المعاملات النشطة.
  • تكافؤ مع النماذج الرائدة في مسار واحد. في تقييم أعمى لـ 240 تتبعًا، طابق Gemma 4 الذي تقدّمه BroadNet نموذج Claude Sonnet في خمس من ست خطوات مقيسة، مع استجابات أسرع بمقدار 1.2 إلى 6.5 مرة لكل خطوة.
  • السرعة لكل طلب. عمل Qwen3-VL 30B A3B بسرعة 36.5 إلى 110 رموز في الثانية لكل طلب على ما تصفه BroadNet بتقديمها الخاص، بحسب قياس BroadNet، مقابل 7 إلى 19 لدى أربعة مزوّدين على OpenRouter قاستهم BroadNet.
  • البنية تتفوق على اختيار النموذج. في مجموعة صعبة اختلف فيها نموذجا رؤية محليان، رفع التصعيد إلى نموذج حَكَم مستضاف الدقة من 1 من 12 إلى 11 من 12.

مقارنة Sonnet هي أقوى ادعاء، وهي ضيقة: مسار روبوت محادثة لشركة واحدة، حكم عليه بشكل أعمى ثلاثة مقيّمين، على 240 محادثة إنتاجية من 11 مستأجرًا، بحسب صفحة Gemma 4 لدى BroadNet. ولا يعني ذلك أن Gemma 4 يضاهي Sonnet عمومًا. ولم تنشر BroadNet تقريرًا كاملًا عن ذلك التقييم في صفحة أبحاثها.

كيف يُقدَّم نموذج Gemma 4؟

نموذج Gemma 4 VL 26B لدى BroadNet هو أوضح مثال على خيارات التقديم لديها، بحسب صفحة النموذج:

  • الأوزان: Gemma 4 26B A4B من Google، كمّمتها BroadNet إلى AWQ بدقة 4 بت. واختبرت BroadNet صيغة NVFP4 ثم تخلّت عنها بعد مقارنة مباشرة.
  • فك الترميز: فك ترميز تخميني بالتنبؤ متعدد الرموز مع رمزين مسوَّدين (k=2)، وذاكرة KV مؤقتة بدقة fp8.
  • القالب: قالب محادثة ضبطته BroadNet لمسار عملها الحواري.
  • المرونة: نسخة احتياطية جاهزة مع تحويل تلقائي عند الفشل.
  • النتيجة: نحو 136 رمزًا في الثانية على تدفق واحد، و90.86 في مجموعة اختبارات الجودة الداخلية لدى BroadNet.

راجع التكميم وفك الترميز التخميني لمعرفة المصطلحات.

ماذا يعني ذلك لك؟

لمستخدم الدفع حسب الاستخدام، تظهر خيارات التقديم لدى BroadNet في السرعة المنشورة، نحو 100 رمز في الثانية عادةً على نموذج الخطة، وفي الحدود: 30 طلبًا في الدقيقة و4 قيد التنفيذ لكل مفتاح. وتقول شروط BroadNet إن الخدمة الذاتية بلا التزام بالتوافر؛ ومستويات الخدمة لا تأتي إلا مع اتفاقية مكتوبة. كيف تقارن اتفاقيات SLA لدى المزوّدين الآخرين.

وللاحتياجات الأكبر، تقدّم BroadNet نقاط نهاية خاصة على وحدات GPU محجوزة، بنموذجك ومفتاحك وحدودك ومنطقتك، وأجهزة محلية على المنظومة نفسها. وإذا كنت توازن ذلك مع استئجار وحدات GPU خاصة بك، فإن دليلنا لتكلفة الاستضافة الذاتية مقابل API يمر عبر الحسابات، ويبيّن مقال النماذج التي استبعدتها BroadNet كيف اختارت ما تقدّمه.

أسئلة شائعة

هل تشغّل BroadNet وحدات GPU خاصة بها؟

تقول BroadNet إنها تدير أسطولها الخاص من وحدات GPU من NVIDIA وAMD. ويقول بيان الخصوصية لديها إن نماذجها الخاصة والنماذج مفتوحة الأوزان التي تستضيفها تعمل على عتاد مملوك لـ BroadNet أو مستأجر في الولايات المتحدة، مع سعة لدى شركاء كاحتياط. أما النماذج التي يقدّمها الشركاء، مثل DeepSeek V4.1 Flash، فتعمل لدى شركاء استدلال في الولايات المتحدة.

أي GPU يقدّم واجهة API العامة؟

يضع كتالوج BroadNet "the always-on public API" (الترجمة: واجهة API العامة الدائمة التشغيل) على طبقة محطات العمل لديها (RTX PRO 6000 Blackwell وRTX 5090 وRTX 3090 وDGX Spark GB10 وRadeon AI PRO R9700). وتذكر صفحة Gemma 4 لديها وحدات GPU من فئة NVIDIA Blackwell مع نسخة احتياطية جاهزة.

هل هناك اتفاقية مستوى خدمة (SLA) منشورة لوقت التشغيل؟

لا للخدمة الذاتية. تقول شروط خدمة BroadNet إن الخدمة الذاتية بلا التزام بالتوافر، وإن مستويات الخدمة لا توجد إلا في اتفاقية مكتوبة منفصلة، كما في حالة نقطة النهاية الخاصة.

هل يمكنني الحصول على GPU مخصص؟

نعم. تقدّم BroadNet نقاط نهاية خاصة على GPU أو عقدة محجوزة، مع النموذج الذي تختاره، ومفتاحك وحدودك الخاصة، والمنطقة التي تحتاجها. وتُسعَّر بحسب حركة بياناتك عند الطلب.

هل تستطيع BroadNet تشغيل النماذج في مقري؟

تقول BroadNet إن طبقة موقع العميل لديها تشغّل المنظومة نفسها على DGX Spark GB10 وأجهزة AMD المدمجة، لعمليات النشر المحلية والمعزولة عن الشبكة.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity