---
title: "Gemma 4 26B MoE پر Uno: BroadNet کی اسٹڈی اور DOI | BroadRouter"
description: "BroadNet نے mixture-of-experts ماڈل Gemma 4 26B A4B کے لیے پہلا Uno self-drafting adapter ٹرین کیا۔ کیا ناپا گیا، self-drafting کب فائدہ دیتا ہے، اور DOI۔"
url: https://broadrouter.com/ur/blog/uno-mixture-of-experts-gemma-4-study/
lang: ur
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/blog/uno-mixture-of-experts-gemma-4-study/) (اپ ڈیٹ: 2026-11-16).

# Gemma 4 26B پر Uno: BroadNet کی mixture-of-experts اسٹڈی

BroadNet Inference ٹیم · 3 منٹ کی پڑھائی · شائع شدہ 2026-11-15 · اپ ڈیٹ 2026-11-16

BroadNet کا ستمبر 2026 کا preprint (DOI 10.5281/zenodo.22820511) mixture-of-experts ماڈل Gemma 4 26B A4B کے لیے پہلا Uno adapter ٹرین کرتا ہے، جسے 4-bit پر سرو کیا گیا۔ 72 پرامپٹس والے پروڈکشن ورک لوڈ پر adapter سادہ ڈیکوڈنگ سے 1.166 گنا تیز ہے، دو الگ drafters (1.474 اور 1.553) سے پیچھے، لیکن تقریباً 10,500 ٹوکن کانٹیکسٹ پر پروڈکشن drafter سے آگے۔

## اہم نکات

-   Zenodo پر preprint، DOI 10.5281/zenodo.22820511، ورژن 2.3، 18 ستمبر 2026، CC BY 4.0۔ peer-review نہیں ہوا۔
-   ہدف: Gemma 4 26B A4B، جو BroadNet Gemma 4 VL 26B کی بنیاد ہے، 4-bit weights کے ساتھ سرو کیا گیا۔
-   965 قطاروں پر ٹرین کیے گئے rank-16 adapter نے قبول شدہ drafts کو 42.4% سے بڑھا کر 48.9% کیا۔
-   سادہ ڈیکوڈنگ کے مقابلے میں رفتار میں اضافہ: Uno adapter کے لیے 1.166x، multi-token-prediction drafter کے لیے 1.474x، block drafter کے لیے 1.553x۔
-   تقریباً 10,500 ٹوکن کانٹیکسٹ پر adapter پروڈکشن drafter سے آگے رہا، 1.089x بمقابلہ 1.011x۔

**اس صفحے پر**

1.  سوال کیا تھا؟
2.  BroadNet نے اسے کیسے ٹیسٹ کیا؟
3.  کیا نتائج نکلے؟
4.  عملی طور پر اس کا کیا مطلب ہے؟
5.  حدیں کیا ہیں؟

BroadNet کا دوسرا Uno preprint پہلی بار self-drafting کو ایک [mixture-of-experts](https://broadrouter.com/ur/glossary/mixture-of-experts/) ماڈل پر لاگو کرتا ہے۔ 18 ستمبر 2026 کو Zenodo پر DOI [10.5281/zenodo.22820511](https://doi.org/10.5281/zenodo.22820511) کے تحت شائع ہونے والا یہ پیپر Gemma 4 26B A4B کو 4-bit پر سرو کرتا ہے اور اس کے لیے ایک Uno adapter ٹرین کرتا ہے۔ ہدف وہی بنیادی ماڈل ہے جو BroadNet Inference پر [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ur/models/gemma-4-vl-26b/) کا ہے۔

یہ [vLLM میں Uno کی سرونگ اسٹڈی](https://broadrouter.com/ur/blog/uno-in-vllm-serving-study/) کے بعد آیا ہے، جس میں ایک dense 8B ماڈل ٹیسٹ کیا گیا تھا۔ نیچے کے اعداد BroadNet کے ہیں؛ ہم نے انہیں دہرا کر نہیں جانچا۔

## سوال کیا تھا؟

speculative decoding کئی ٹوکنز کا draft بناتی ہے اور انہیں ایک pass میں verify کرتی ہے۔ mixture-of-experts ماڈل پر ایک اضافی فکر ہے: draft کی قطاریں مختلف experts تک route ہو سکتی ہیں، اس لیے چار ٹوکنز کا draft بنانے میں ایک ٹوکن بنانے سے کہیں زیادہ expert weights پڑھنے پڑ سکتے ہیں۔ پیپر پوچھتا ہے کہ کیا یہ “expert fan-out” self-drafting کو بہت مہنگا بنا دیتا ہے، اور self-drafting کب الگ drafter سے بہتر ہوتا ہے۔

## BroadNet نے اسے کیسے ٹیسٹ کیا؟

پیپر کے abstract اور BroadNet کی methods والی سطر کے مطابق:

-   **ماڈل:** Gemma 4 26B A4B، ہر ٹوکن پر تقریباً 4B پیرامیٹرز فعال، 4-bit weights کے ساتھ۔
-   **ہارڈویئر:** 24 GB درجے کے GPUs، ایک وقت میں ایک sequence۔
-   **ورک لوڈ:** BroadNet کی پروڈکشن ٹریفک سے 72 پرامپٹس؛ ہر رفتار کے اضافے کو اسی سیشن میں سادہ ڈیکوڈنگ والے رن سے تقسیم کیا گیا۔
-   **لمبا کانٹیکسٹ:** تقریباً 10,500 ٹوکن والے پانچ پرامپٹس کا الگ سیٹ۔
-   **Adapter:** rank 16، 965 قطاروں پر اسی 4-bit checkpoint کے ذریعے ٹرین کیا گیا جس پر وہ سرو ہوتا ہے، ایک 24 GB GPU پر، بغیر کسی full-precision weights کے۔

## کیا نتائج نکلے؟

| Gemma 4 26B A4B کو کیسے ڈیکوڈ کیا گیا | سادہ ڈیکوڈنگ کے مقابلے میں رفتار کا اضافہ |
| --- | --- |
| سادہ ڈیکوڈنگ | 1.000 |
| Uno pilot adapter، width 4 | 1.166 |
| Multi-token-prediction drafter، width 2 | 1.474 |
| Block drafter، width 8 | 1.553 |
| تقریباً 10,500 ٹوکن کانٹیکسٹ پر Uno | 1.089 (MTP drafter: 1.011) |

BroadNet کے بتائے دوسرے نتائج:

-   **ٹریننگ سے فائدہ ہوا۔** 1,500 updates میں قبول شدہ حصہ 42.4% سے 48.9% ہوا، اور 2,000 قطاروں والے بڑے corpus نے، جسے اسی recipe پر ٹرین کیا گیا، matched anchor run کے مقابلے میں ہر verify step میں 0.49 زیادہ draft ٹوکن قبول کروائے۔
-   **Expert fan-out حقیقی ہے، مگر سستا۔** چار draft قطاروں نے 22 الگ experts کو چھوا جبکہ ایک قطار نے 8 کو، پھر بھی قطاروں سے متعلق پوری لاگت تقریباً 2.4 steps کی سائیکل میں 0.53 steps تک محدود رہی۔ BroadNet کا نتیجہ ہے کہ اس درجے کے ہارڈویئر پر routing کی لاگت “worth under a fifth of a cycle” (ترجمہ: ایک سائیکل کے پانچویں حصے سے کم) ہے۔
-   **Lossless۔** BroadNet نے ایک ایسے پروفائل کے لیے جانچ بنائی جس کا سادہ آؤٹ پٹ مختلف سیشنز میں خود کو نہیں دہراتا، اور Uno کو “as close to plain as plain is to itself” (ترجمہ: سادہ ڈیکوڈنگ کے اتنا ہی قریب جتنی سادہ ڈیکوڈنگ خود سے ہے) بتاتا ہے۔
-   **پانچ زبانیں۔** پیپر پانچ زبانوں میں اس adapter کی قبولیت کی وہ پیمائش دیتا ہے جسے وہ پہلی پیمائش کہتا ہے۔

## عملی طور پر اس کا کیا مطلب ہے؟

پیپر کا اپنا اصول سیدھا ہے: اگر آپ کے ماڈل کے لیے اچھا چھوٹا drafter موجود ہے تو اسے استعمال کریں؛ self-drafting لمبے کانٹیکسٹ پر اور ان ماڈلز پر اپنی جگہ بناتا ہے جن کا کوئی drafter نہیں۔ یہ BroadNet کے اپنے بتائے سیٹ اپ سے میل کھاتا ہے: اس کا کیٹلاگ Gemma 4 26B کو پروڈکشن میں multi-token-prediction drafter (k=2) کے ساتھ دکھاتا ہے، “90%+ acceptance on structured prompts” (ترجمہ: structured پرامپٹس پر 90%+ قبولیت) کے ساتھ۔

پروڈکشن میں drafter کتنا اضافہ کرتا ہے؟ BroadNet کے کیٹلاگ کے مطابق RTX 3090 پر multi-token prediction نے 48.8% اضافہ کیا، اور اس کا Gemma 4 VL 26B صفحہ speculative decoding آن ہونے پر ایک stream پر تقریباً 136 ٹوکن فی سیکنڈ بتاتا ہے۔ دونوں BroadNet کی اپنی پیمائشیں ہیں، اس سرونگ کنفیگریشن پر جو اس کا ماڈل صفحہ بیان کرتا ہے، اس لیے API سے آپ کی رفتار لوڈ پر اور آپ کے پرامپٹ اور جواب کی لمبائی پر بھی منحصر ہے۔

API خریدنے والوں کے لیے کارآمد حصہ adapter نہیں، طریقہ ہے۔ BroadNet کہتا ہے کہ وہ جو بھی ماڈل سرو کرتا ہے، وہ گاہک تک پہنچنے سے پہلے اسی حساب سے گزرتا ہے: ایک draft سائیکل کی لاگت ناپو، پھر وہ drafter چنو جو اصل ورک لوڈ پر جیتتا ہے۔ اسی نظم و ضبط کی وجہ سے اس نے saturated سرونگ کے لیے [EAGLE3 کو مسترد کیا](https://broadrouter.com/ur/blog/models-broadnet-ruled-out/)۔

## حدیں کیا ہیں؟

-   **صرف single-stream۔** ایک وقت میں ایک sequence، ہر arm کا ایک رن۔ batch سرونگ کا رویہ مختلف ہوتا ہے، جیسا dense اسٹڈی نے دکھایا۔
-   **ایک ماڈل۔** نتائج 24 GB درجے کے کارڈز پر 4-bit والے Gemma 4 26B A4B کے ہیں۔
-   **ایک preprint۔** Zenodo پر ورژن 2.3، peer-review نہیں ہوا، ساتھ میں ایک evidence آرکائیو منسلک ہے۔

[vllm-uno](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0) کی ریلیز v0.3.0 میں سرونگ پروفائل، کنٹینر امیج اور validation ریکارڈ ہیں، تاکہ اعداد جانچے جا سکیں۔ سرو کیے گئے ماڈل کو خود آزمانے کے لیے BroadNet کا [براؤزر playground](https://broadrouter.com/ur/guides/try-broadnet-inference-playground/) بغیر اکاؤنٹ کے Gemma 4 چلاتا ہے۔

اس موضوع کے مفت ٹولز (انگریزی میں)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[مفت ٹولز (انگریزی میں)](https://broadrouter.com/tools/)

## اس مضمون کی اصطلاحات

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[اسپیکیولیٹو ڈیکوڈنگ (speculative decoding)](https://broadrouter.com/ur/glossary/speculative-decoding/)

اسپیکیولیٹو ڈیکوڈنگ ایک انفرنس تکنیک ہے جس میں چھوٹا، تیز ڈرافٹ ماڈل اگلے کئی ٹوکنز تجویز کرتا ہے اور بڑا ٹارگٹ ماڈل انہیں ایک ہی forward pass میں جانچ کر قبول شدہ ٹوکنز رکھتا ہے۔ یہ آؤٹ پٹ کی ڈسٹری بیوشن بدلے بغیر جنریشن تیز کرتی ہے۔

[ٹوکن فی سیکنڈ (tokens per second، TPS)](https://broadrouter.com/ur/glossary/tokens-per-second/)

ٹوکن فی سیکنڈ (TPS) وہ شرح ہے جس پر لینگویج ماڈل آؤٹ پٹ ٹوکن بناتا ہے، عموماً ایک درخواست کے پہلے ٹوکن کے بعد ناپی جاتی ہے۔ یہ طے کرتی ہے کہ جواب کتنی تیزی سے اسٹریم ہوگا۔ تمام بیک وقت درخواستوں کا مجموعہ سسٹم تھروپٹ ہے؛ پہلے ٹوکن سے پہلے کا انتظار الگ ناپا جاتا ہے۔

[vLLM](https://broadrouter.com/ur/glossary/vllm/)

vLLM، LLM inference اور سرونگ کے لیے ایک اوپن سورس لائبریری ہے، جو پہلے UC Berkeley کی Sky Computing Lab میں بنائی گئی۔ یہ PagedAttention سے KV cache میموری سنبھالتی ہے، آنے والی درخواستوں کو مسلسل بیچ کرتی ہے، کئی quantization فارمیٹس سپورٹ کرتی ہے اور OpenAI-compatible HTTP سرور دیتی ہے۔

## عام سوالات

### mixture-of-experts ماڈل کیا ہوتا ہے؟

ایسا ماڈل جس کی لیئرز میں کئی expert sub-networks ہوتے ہیں، جن میں سے ہر ٹوکن کے لیے صرف چند چلتے ہیں۔ Gemma 4 26B A4B میں کل 26B پیرامیٹرز ہیں اور ہر ٹوکن پر تقریباً 4B فعال ہوتے ہیں، اسی لیے اپنے سائز کے لحاظ سے اسے سرو کرنا سستا ہے۔

### یہاں Uno adapter باقی drafters سے سست کیوں ہے؟

پیپر اسے ساختی وجہ بتاتا ہے: ایک self-drafting سائیکل میں پورے ماڈل کے دو forward passes لگتے ہیں، جبکہ الگ drafter ان میں سے ایک کو چھوٹے نیٹ ورک سے بدل دیتا ہے۔ اس لیے جب کوئی مخصوص چھوٹا drafter موجود ہو تو عام طور پر وہی جیتتا ہے۔

### self-drafting کب فائدہ دیتا ہے؟

پیپر کے مطابق لمبے کانٹیکسٹ پر، جہاں چوڑا draft ہر سائیکل میں زیادہ ٹوکن پکے کرتا ہے (تقریباً 10,500 ٹوکن پر 1.089x بمقابلہ 1.011x)، اور ان ماڈلز کے لیے جن کا کوئی چھوٹا drafter ہے ہی نہیں۔

### کیا BroadNet اپنے Gemma 4 API کے لیے یہ adapter استعمال کرتا ہے؟

BroadNet کا ماڈل صفحہ کہتا ہے کہ اس کا Gemma 4 26B build، multi-token-prediction speculative decoding (k=2) کے ساتھ سرو ہوتا ہے۔ Uno adapter ایک تحقیقی artifact کے طور پر شائع کیا گیا ہے؛ BroadNet یہ نہیں کہتا کہ وہ API ٹریفک اس سے سرو کرتا ہے۔

### کیا میں adapter ڈاؤن لوڈ کر سکتا ہوں؟

جی ہاں۔ BroadNet اسے Hugging Face پر Broadnet/gemma-4-26B-A4B-uno-pilot-adapter کے نام سے شائع کرتا ہے، اور سرونگ پروفائل اور کنٹینر امیج vllm-uno ریلیز v0.3.0 میں ہیں۔

## مزید پڑھیں

-   [vLLM میں Uno: BroadNet کی سرونگ اسٹڈی نے کیا ناپا](https://broadrouter.com/ur/blog/uno-in-vllm-serving-study/)
-   [BroadNet کا GPU ہارڈویئر اور سروِنگ کا طریقہ، BroadNet کی زبانی](https://broadrouter.com/ur/blog/broadnet-gpu-fleet-and-serving/)
-   [BroadNet نے کون سے ماڈلز پرکھ کر مسترد کیے، اور کیوں](https://broadrouter.com/ur/blog/models-broadnet-ruled-out/)
-   [1M ٹوکن کانٹیکسٹ ونڈو کب فائدہ مند ہے (اور کب نہیں)](https://broadrouter.com/ur/blog/million-token-context-window-guide/)
-   [LLM API جوابات کیش کر کے لاگت کم کریں: Python میں ایگزیکٹ میچ کیش](https://broadrouter.com/ur/blog/cache-llm-responses-cut-cost/)
-   [دستاویزی AI ورک فلو میں انسانی جائزے کو شامل کریں](https://broadrouter.com/ur/blog/document-review-queues/)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-uno-mixture-of-experts-gemma-4-study&utm_content=page-cta) ·

**ذرائع**

-   [Al Zubaidi, Self-drafting with Uno on a mixture of experts: serving and training an adapter for Gemma 4 26B A4B, Zenodo preprint v2.3, 2026-09-18 (ریکارڈ حاصل کیا گیا 2026-11-15)](https://doi.org/10.5281/zenodo.22820511)
-   [BroadNet بلاگ، Uno for vLLM now runs mixture-of-experts models (17 ستمبر 2026؛ حاصل کیا گیا 2026-11-15) (انگریزی میں)](https://www.broadnet.ai/blog/uno-mixture-of-experts)
-   [BroadNet Research: اہم نتائج (حاصل کیا گیا 2026-11-15) (انگریزی میں)](https://www.broadnet.ai/research)
-   [vllm-uno ریلیز v0.3.0 (حاصل کیا گیا 2026-11-15)](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0)
-   [BroadNet Gemma 4 VL 26B ماڈل صفحہ: سرونگ کنفیگریشن (حاصل کیا گیا 2026-11-15) (انگریزی میں)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
