---
title: "Uno en Gemma 4 26B MoE: estudio de BroadNet y DOI | BroadRouter"
description: "BroadNet entrenó el primer adaptador de autoborrador Uno para un modelo de mezcla de expertos, Gemma 4 26B A4B. Qué midió, cuándo compensa el autoborrador y el DOI."
url: https://broadrouter.com/es/blog/uno-mixture-of-experts-gemma-4-study/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/uno-mixture-of-experts-gemma-4-study/) (actualizado el 2026-11-16).

# Uno en Gemma 4 26B: el estudio de BroadNet sobre mezcla de expertos

Por el equipo de BroadNet Inference · 3 min de lectura · Publicado 2026-11-15 · Actualizado 2026-11-16

El preprint de BroadNet de septiembre de 2026 (DOI 10.5281/zenodo.22820511) entrena el primer adaptador Uno para un modelo de mezcla de expertos, Gemma 4 26B A4B, servido a 4 bits. El adaptador decodifica 1.166 veces más rápido que la decodificación normal en una carga de producción de 72 prompts, por detrás de dos drafters separados con 1.474 y 1.553, pero supera al drafter de producción con unos 10,500 tokens de contexto.

## Puntos clave

-   Preprint en Zenodo, DOI 10.5281/zenodo.22820511, versión 2.3, 18 de septiembre de 2026, CC BY 4.0. Sin revisión por pares.
-   Modelo objetivo: Gemma 4 26B A4B, la base de BroadNet Gemma 4 VL 26B, servido con pesos de 4 bits.
-   Un adaptador de rango 16 entrenado con 965 filas elevó los borradores aceptados del 42.4 % al 48.9 %.
-   Aceleración frente a la decodificación normal: 1.166x con el adaptador Uno, 1.474x con un drafter de predicción de varios tokens y 1.553x con un drafter por bloques.
-   Con unos 10,500 tokens de contexto, el adaptador superó al drafter de producción: 1.089x frente a 1.011x.

**En esta página**

1.  ¿Cuál era la pregunta?
2.  ¿Cómo lo probó BroadNet?
3.  ¿Qué encontró?
4.  ¿Qué significa en la práctica?
5.  ¿Cuáles son los límites?

El segundo preprint de Uno de BroadNet aplica por primera vez el autoborrador (self-drafting) a un modelo de [mezcla de expertos](https://broadrouter.com/es/glossary/mixture-of-experts/). Publicado en Zenodo el 18 de septiembre de 2026 con el DOI [10.5281/zenodo.22820511](https://doi.org/10.5281/zenodo.22820511), sirve Gemma 4 26B A4B a 4 bits y entrena para él un adaptador Uno. El objetivo es el mismo modelo base que [BroadNet Gemma 4 VL 26B](https://broadrouter.com/es/models/gemma-4-vl-26b/) en BroadNet Inference.

Da continuación al [estudio de serving de Uno en vLLM](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/), que probó un modelo denso de 8B. Las cifras de abajo son de BroadNet; no las hemos reproducido.

## ¿Cuál era la pregunta?

La decodificación especulativa redacta varios tokens como borrador y los verifica en una sola pasada. En un modelo de mezcla de expertos hay una preocupación adicional: las filas del borrador pueden enrutarse a expertos distintos, así que redactar cuatro tokens podría leer muchos más pesos de expertos que generar uno. El artículo se pregunta si esa «dispersión entre expertos» (expert fan-out) hace que el autoborrador sea demasiado caro, y cuándo el autoborrador supera a un drafter separado.

## ¿Cómo lo probó BroadNet?

Según el resumen del artículo y la descripción del método de BroadNet:

-   **Modelo:** Gemma 4 26B A4B, con unos 4B de parámetros activos por token, con pesos de 4 bits.
-   **Hardware:** GPU de la clase de 24 GB, una secuencia a la vez.
-   **Carga de trabajo:** 72 prompts del tráfico de producción de BroadNet; cada aceleración se divide entre una ejecución con decodificación normal en la misma sesión.
-   **Contexto largo:** un conjunto aparte de cinco prompts de unos 10,500 tokens.
-   **Adaptador:** rango 16, entrenado con 965 filas a través del mismo checkpoint de 4 bits con el que se sirve, en una sola GPU de 24 GB, sin pesos de precisión completa en el proceso.

## ¿Qué encontró?

| Cómo se decodificó Gemma 4 26B A4B | Aceleración frente a la decodificación normal |
| --- | --- |
| Decodificación normal | 1.000 |
| Adaptador piloto Uno, ancho 4 | 1.166 |
| Drafter de predicción de varios tokens, ancho 2 | 1.474 |
| Drafter por bloques, ancho 8 | 1.553 |
| Uno con unos 10,500 tokens de contexto | 1.089 (drafter MTP: 1.011) |

Otros resultados que informa BroadNet:

-   **El entrenamiento ayudó.** La proporción aceptada subió del 42.4 % al 48.9 % en 1,500 actualizaciones, y un corpus mayor de 2,000 filas, entrenado con la misma receta, aceptó 0.49 tokens de borrador más por paso de verificación que la ejecución de referencia equivalente.
-   **La dispersión entre expertos es real, pero barata.** Cuatro filas de borrador tocaron 22 expertos distintos frente a los 8 de una sola fila; aun así, todo el costo relacionado con las filas quedó acotado en 0.53 pasos de un ciclo de unos 2.4. BroadNet concluye que el costo del enrutamiento “worth under a fifth of a cycle” (Traducción: equivale a menos de una quinta parte de un ciclo) en esta clase de hardware.
-   **Sin pérdida.** BroadNet construyó una comprobación para un perfil cuya salida normal no se reproduce a sí misma entre sesiones, e informa que Uno queda “as close to plain as plain is to itself” (Traducción: tan cerca de la salida normal como la salida normal lo está de sí misma).
-   **Cinco idiomas.** El artículo ofrece lo que llama la primera medición de la aceptación de este adaptador en cinco idiomas.

## ¿Qué significa en la práctica?

La regla del propio artículo es sencilla: si existe un buen drafter pequeño para su modelo, úselo; el autoborrador se gana su lugar con contexto largo y en modelos que no tienen drafter. Eso coincide con lo que BroadNet dice que ejecuta: su catálogo indica Gemma 4 26B en producción con un drafter de predicción de varios tokens (k=2), con “90%+ acceptance on structured prompts” (Traducción: más del 90 % de aceptación en prompts estructurados).

¿Cuánto aporta un drafter en producción? El catálogo de BroadNet informa que la predicción de varios tokens añadió un 48.8 % en una RTX 3090, y su página de Gemma 4 VL 26B indica unos 136 tokens por segundo en un solo stream con la decodificación especulativa activada. Ambas son mediciones propias de BroadNet, con la configuración de serving que describe su página del modelo, así que la velocidad que usted obtenga a través de la API depende también de la carga y de la longitud de su prompt y de la respuesta.

Para quien compra una API, lo útil es el método, no el adaptador. BroadNet dice que cada modelo que sirve pasa por este cálculo antes de llegar a un cliente: medir el costo de un ciclo de borrador y luego elegir el drafter que gane con la carga de trabajo real. La misma disciplina la llevó a [descartar EAGLE3](https://broadrouter.com/es/blog/models-broadnet-ruled-out/) para el serving saturado.

## ¿Cuáles son los límites?

-   **Solo un stream.** Una secuencia a la vez, una ejecución por variante. El serving por lotes se comporta de otra manera, como mostró el estudio del modelo denso.
-   **Un solo modelo.** Los resultados son para Gemma 4 26B A4B a 4 bits en tarjetas de la clase de 24 GB.
-   **Un preprint.** Versión 2.3 en Zenodo, sin revisión por pares, con un archivo de evidencias adjunto.

La versión v0.3.0 de [vllm-uno](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0) incluye el perfil de serving, una imagen de contenedor y el registro de validación, de modo que las cifras pueden comprobarse. Para probar el modelo servido, el [playground en el navegador](https://broadrouter.com/es/guides/try-broadnet-inference-playground/) de BroadNet ejecuta Gemma 4 sin necesidad de cuenta.

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Prefill y decode (fases de inferencia de un LLM)](https://broadrouter.com/es/glossary/prefill-and-decode/)

Prefill y decode son las dos fases de la inferencia de un LLM. En el prefill, el modelo procesa todo el prompt en paralelo y llena su caché KV; en el decode, genera la respuesta token a token reutilizando esa caché. El prefill determina sobre todo el tiempo hasta el primer token; el decode, la velocidad de salida.

[Mixture of experts (MoE, mezcla de expertos)](https://broadrouter.com/es/glossary/mixture-of-experts/)

Mixture of experts (MoE, mezcla de expertos) es un diseño de red neuronal en el que una capa contiene muchas subredes expertas y un router aprendido envía cada token solo a unas pocas. Un modelo de lenguaje MoE tiene un número total de parámetros grande, pero usa un pequeño subconjunto activo por token.

[Tokens por segundo (TPS)](https://broadrouter.com/es/glossary/tokens-per-second/)

Los tokens por segundo (TPS) son la velocidad a la que un modelo de lenguaje genera tokens de salida, normalmente medida en una solicitud tras llegar su primer token. Marcan qué tan rápido fluye la respuesta. Sumados en todas las solicitudes concurrentes son el throughput del sistema; la espera hasta el primer token se mide aparte.

[vLLM](https://broadrouter.com/es/glossary/vllm/)

vLLM es una biblioteca de código abierto para inferencia y servicio de LLM, desarrollada originalmente en el Sky Computing Lab de UC Berkeley. Gestiona la memoria de la caché KV con PagedAttention, agrupa las solicitudes entrantes de forma continua, admite muchos formatos de cuantización y ofrece un servidor HTTP compatible con OpenAI.

## Preguntas frecuentes

### ¿Qué es un modelo de mezcla de expertos?

Un modelo cuyas capas contienen muchas subredes expertas, de las que solo unas pocas se ejecutan para cada token. Gemma 4 26B A4B tiene 26B de parámetros en total y unos 4B activos por token, y por eso es barato de servir para su tamaño.

### ¿Por qué aquí el adaptador Uno es más lento que los otros drafters?

El artículo lo explica como algo estructural: un ciclo de autoborrador cuesta dos pasadas hacia adelante del modelo completo, mientras que un drafter separado sustituye una de ellas por una red pequeña. Por eso, cuando existe un drafter pequeño dedicado, normalmente gana.

### ¿Cuándo compensa el autoborrador?

Según el artículo, con contexto largo, donde el borrador más ancho confirma más tokens por ciclo (1.089x frente a 1.011x con unos 10,500 tokens), y en modelos que no tienen ningún drafter pequeño.

### ¿Usa BroadNet este adaptador en su API de Gemma 4?

La página del modelo de BroadNet dice que su versión de Gemma 4 26B se sirve con decodificación especulativa de predicción de varios tokens (k=2). El adaptador Uno se publica como resultado de investigación; BroadNet no dice que atienda con él el tráfico de la API.

### ¿Puedo descargar el adaptador?

Sí. BroadNet lo publica en Hugging Face como Broadnet/gemma-4-26B-A4B-uno-pilot-adapter, con el perfil de serving y la imagen de contenedor en la versión v0.3.0 de vllm-uno.

## Siga leyendo

-   [Uno en vLLM: qué midió el estudio de serving de BroadNet](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/)
-   [Modelos que BroadNet evaluó y descartó, y por qué](https://broadrouter.com/es/blog/models-broadnet-ruled-out/)
-   [Ventana de contexto de 1M de tokens: cuándo compensa y cuándo no](https://broadrouter.com/es/blog/million-token-context-window-guide/)
-   [Caché de respuestas de APIs de LLM para reducir costos en Python](https://broadrouter.com/es/blog/cache-llm-responses-cut-cost/)
-   [Integre la revisión humana en su flujo de IA documental](https://broadrouter.com/es/blog/document-review-queues/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-uno-mixture-of-experts-gemma-4-study&utm_content=page-cta) ·

**Fuentes**

-   [Al Zubaidi, Self-drafting with Uno on a mixture of experts: serving and training an adapter for Gemma 4 26B A4B, preprint en Zenodo v2.3, 2026-09-18 (registro consultado el 2026-11-15)](https://doi.org/10.5281/zenodo.22820511)
-   [Blog de BroadNet, Uno for vLLM now runs mixture-of-experts models (17 de septiembre de 2026; consultado el 2026-11-15) (en inglés)](https://www.broadnet.ai/blog/uno-mixture-of-experts)
-   [BroadNet Research: hallazgos principales (consultado el 2026-11-15)](https://www.broadnet.ai/es/research)
-   [Versión v0.3.0 de vllm-uno (consultado el 2026-11-15)](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0)
-   [Página del modelo BroadNet Gemma 4 VL 26B: configuración de serving (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models/gemma-4-vl-26b)
