---
title: "Uno en vLLM: estudio de BroadNet, DOI y resultados | BroadRouter"
description: "BroadNet integró en vLLM el adaptador de autoborrador Uno y lo midió en una H100: 2.58x el rendimiento de vLLM normal con un stream y 1.74x con 32. Método y límites."
url: https://broadrouter.com/es/blog/uno-in-vllm-serving-study/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/uno-in-vllm-serving-study/) (actualizado el 2026-11-15).

# Uno en vLLM: qué midió el estudio de serving de BroadNet

Por el equipo de BroadNet Inference · 4 min de lectura · Publicado 2026-11-15

Uno en vLLM es un preprint de BroadNet de septiembre de 2026 (DOI 10.5281/zenodo.22652610). Añade a vLLM Uno, un adaptador que permite a un modelo redactar sus propios tokens como borrador. En una H100 con Qwen3-8B, BroadNet midió 2.58 veces el rendimiento de vLLM normal con un stream, 2.20 veces con ocho y 1.74 veces con 32, a menos de un 3 % de la implementación de referencia.

## Puntos clave

-   El artículo es un preprint en Zenodo, DOI 10.5281/zenodo.22652610, publicado el 8 de septiembre de 2026 con licencia CC BY 4.0. No tiene revisión por pares.
-   Uno es un método de IFM; la aportación de BroadNet es la integración nativa en vLLM y las mediciones de serving.
-   En una carga matemática controlada con H100 y Qwen3-8B: 2.58x frente a vLLM normal con 1 stream, 2.20x con 8 y 1.74x con 32.
-   Con ajustes de producción, 7,657 tokens por segundo con 32 streams, frente a 7,505 de la referencia de SGLang.
-   Las mejoras corresponden a un modelo, una carga de trabajo y unos ajustes concretos. Mida con su propio tráfico antes de confiar en ellas.

**En esta página**

1.  ¿Qué problema aborda Uno?
2.  ¿Qué construyó BroadNet?
3.  ¿Cómo se midió?
4.  ¿Qué encontró el estudio?
5.  ¿Cuáles son los límites?
6.  ¿Por qué importa si usted solo llama a una API?

Uno en vLLM es un preprint del área de investigación de BroadNet, publicado en Zenodo el 8 de septiembre de 2026 con el DOI [10.5281/zenodo.22652610](https://doi.org/10.5281/zenodo.22652610). Presenta una implementación nativa en vLLM de Uno, un método de decodificación especulativa desarrollado por IFM, y mide cuánto más rápido sirve que vLLM normal. Su registro en Zenodo indica como autor a Mohammad Al Zubaidi.

Esta página resume lo que dice el artículo, cómo lo midió y qué le dice y qué no. Las cifras son de BroadNet; no las hemos reproducido.

## ¿Qué problema aborda Uno?

Un modelo de lenguaje normalmente genera un token por cada pasada hacia adelante. La decodificación especulativa acelera esto adivinando varios tokens por adelantado y comprobándolos en una sola pasada del modelo completo. La mayoría de los métodos usan un modelo de borrador separado y más pequeño. Uno, en cambio, añade un adaptador entrenado al propio modelo, de modo que el modelo redacta sus propios tokens y luego los verifica con sus pesos originales. Consulte [decodificación especulativa](https://broadrouter.com/es/glossary/speculative-decoding/) para la idea general.

La pregunta del artículo es práctica: ¿esa aceleración sobrevive dentro de un motor de serving de producción, con batching, caché y muchas solicitudes a la vez?

## ¿Qué construyó BroadNet?

El artículo del blog de BroadNet es claro con el crédito: “Uno, developed by IFM and collaborators” (Traducción: Uno, desarrollado por IFM y colaboradores) es el método, y la aportación de BroadNet es “the native vLLM integration, the engineering that makes its execution paths work together, and the serving evaluation” (Traducción: la integración nativa en vLLM, la ingeniería que hace que sus rutas de ejecución funcionen juntas y la evaluación de serving). El resumen enumera las piezas de ejecución: enrutamiento condicional del adaptador, estado completo de claves y valores del borrador, planificación asíncrona, reproducción de CUDA graphs, cálculo superpuesto del adaptador y reutilización de filas semilla.

El código es público en el [repositorio vllm-uno](https://github.com/brntech/vllm-uno) de BroadNet, y BroadNet lo ha propuesto al proyecto vLLM como pull request 55947.

## ¿Cómo se midió?

La prueba principal es controlada:

-   **Hardware y modelo:** una NVIDIA H100, Qwen3-8B en bfloat16, con el adaptador Uno publicado para Qwen3-8B.
-   **Carga de trabajo:** ocho prompts de matemáticas, repetidos en ciclo para llenar lotes mayores, cada uno generando hasta 512 tokens, con la caché de prefijos desactivada.
-   **Línea base:** vLLM autorregresivo convencional (“plain vLLM”, es decir, vLLM normal) con la misma configuración.
-   **Concurrencia:** 1, 8 y 32 streams simultáneos.

Una segunda comparación, separada, activa la caché de prefijos y usa los ajustes de serving elegidos por BroadNet, para compararse con la implementación de referencia de SGLang.

## ¿Qué encontró el estudio?

| Medición | Resultado informado por BroadNet |
| --- | --- |
| Rendimiento frente a vLLM normal, 1 stream | 2.58x |
| Rendimiento frente a vLLM normal, 8 streams | 2.20x |
| Rendimiento frente a vLLM normal, 32 streams | 1.74x |
| Diferencia con la implementación de referencia de SGLang | menos del 3 % con 1, 8 y 32 streams |
| Ajustes de producción, 32 streams | 7,657 tokens/s, frente a 7,505 de SGLang (2.0 % por delante) |
| Latencia del primer token en caliente, ablación dentro de vLLM | 25 % menor con dos procesos de API en lugar de uno |

El dato clave para planificar capacidad es la última fila del primer bloque: un 74 % más de salida por segundo con 32 streams concurrentes, desde la misma GPU. Es lo que el blog de BroadNet llama “the central payoff” (Traducción: el beneficio central), porque una aceleración que desaparece bajo carga aporta poco a una API compartida.

Una versión posterior (v0.2.0, sobre el Model Runner V2 de vLLM) se describe en el blog de BroadNet con 2.1 a 2.4 veces más salida en un solo stream en Blackwell, 1.7 a 1.9 veces en Ampere y 2.6 veces en Hopper. Son hardware y versiones distintos de los de la tabla principal del artículo, por eso las cifras difieren.

## ¿Cuáles son los límites?

-   **Un modelo, una carga de trabajo.** El resultado controlado es Qwen3-8B con prompts de matemáticas. El código, el chat o los documentos largos pueden aceptar menos tokens de borrador.
-   **Las mejoras se reducen con la carga.** La tendencia de 2.58x a 1.74x es la forma esperada: cuando la GPU está ocupada, se agota el cómputo sobrante para el borrador.
-   **Un preprint.** El artículo está depositado en Zenodo, sin revisión por pares. Su archivo complementario contiene el inventario de evidencias y los datos de las figuras, que es lo que permite a otros comprobarlo.
-   **Autoinformado.** BroadNet ejecutó ambas variantes. La coincidencia dentro del 3 % con la implementación de referencia es la propia comprobación del artículo al respecto.

## ¿Por qué importa si usted solo llama a una API?

El rendimiento por GPU determina lo que un proveedor puede cobrar y qué tan rápido responde bajo carga. El catálogo de BroadNet informa que mide los métodos de borrador con concurrencia real antes de elegir uno, y que descartó EAGLE3 después de que costara el 69 % del rendimiento con 32 solicitudes concurrentes. El [estudio posterior sobre Gemma 4 26B](https://broadrouter.com/es/blog/uno-mixture-of-experts-gemma-4-study/) aplica el mismo método al modelo de mezcla de expertos que BroadNet vende como [Gemma 4 VL 26B](https://broadrouter.com/es/models/gemma-4-vl-26b/). Para ver cómo encaja esto en las decisiones de serving más amplias de BroadNet, consulte [el hardware GPU de BroadNet y su enfoque de serving](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/).

Si usted ejecuta sus propios servidores vLLM, la lección práctica es medir cualquier método de borrador con la concurrencia que realmente usa, no con un solo stream.

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[vLLM](https://broadrouter.com/es/glossary/vllm/)

vLLM es una biblioteca de código abierto para inferencia y servicio de LLM, desarrollada originalmente en el Sky Computing Lab de UC Berkeley. Gestiona la memoria de la caché KV con PagedAttention, agrupa las solicitudes entrantes de forma continua, admite muchos formatos de cuantización y ofrece un servidor HTTP compatible con OpenAI.

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Prefill y decode (fases de inferencia de un LLM)](https://broadrouter.com/es/glossary/prefill-and-decode/)

Prefill y decode son las dos fases de la inferencia de un LLM. En el prefill, el modelo procesa todo el prompt en paralelo y llena su caché KV; en el decode, genera la respuesta token a token reutilizando esa caché. El prefill determina sobre todo el tiempo hasta el primer token; el decode, la velocidad de salida.

[Latencia (latency)](https://broadrouter.com/es/glossary/latency/)

La latencia, en una API de modelos de lenguaje, es el tiempo que tarda una solicitud desde que se envía hasta que se recibe el último token de salida. Es la suma del tiempo hasta el primer token y el tiempo de generación, y suele reportarse en percentiles como p50 y p95, no como promedio.

[Mixture of experts (MoE, mezcla de expertos)](https://broadrouter.com/es/glossary/mixture-of-experts/)

Mixture of experts (MoE, mezcla de expertos) es un diseño de red neuronal en el que una capa contiene muchas subredes expertas y un router aprendido envía cada token solo a unas pocas. Un modelo de lenguaje MoE tiene un número total de parámetros grande, pero usa un pequeño subconjunto activo por token.

[Parámetro seed (semilla)](https://broadrouter.com/es/glossary/seed-parameter/)

El parámetro seed (semilla) es un entero que usted envía con la solicitud para que la API intente muestrear los mismos tokens cuando se repite la misma solicitud. OpenAI lo describe como un mejor esfuerzo: el determinismo no está garantizado, y el campo system\_fingerprint muestra cuándo cambió la configuración del backend.

[Tiempo hasta el primer token (TTFT)](https://broadrouter.com/es/glossary/time-to-first-token/)

El tiempo hasta el primer token (TTFT) es lo que pasa desde que se envía una solicitud a un modelo de lenguaje hasta que llega el primer token de salida. Incluye la red, la cola del servidor y el prefill, cuando el modelo lee todo el prompt, así que crece con el largo del prompt y la carga.

## Preguntas frecuentes

### ¿Qué es Uno?

Uno es un método de decodificación especulativa desarrollado por IFM y colaboradores. Un pequeño adaptador entrenado permite al modelo proponer varios tokens a la vez, y luego los propios pesos del modelo los verifican. No hay un modelo de borrador separado.

### ¿La aceleración es sin pérdida?

BroadNet lo afirma para su versión: siempre que vLLM normal reproduce su propia salida, Uno coincide con sus tokens en decodificación greedy, y sus pruebas de distribución muestreada pasan. La decodificación especulativa verifica cada token del borrador con el modelo completo, así que la calidad de la salida no debería cambiar; compruébelo con sus propios prompts.

### ¿Uno ayuda con alta concurrencia?

Menos que con baja concurrencia. En la prueba controlada del artículo, la mejora bajó de 2.58x con un stream a 1.74x con 32. El catálogo de BroadNet informa además que otro método, EAGLE3, costó el 69 % del rendimiento con 32 solicitudes concurrentes, así que los métodos de borrador deben probarse con su carga real.

### ¿Puedo ejecutarlo yo mismo?

Sí. BroadNet publica la implementación en su repositorio vllm-uno, con una imagen de contenedor, versiones fijadas y un registro de validación para cada versión, y la ha propuesto a vLLM como pull request 55947.

### ¿BroadNet Inference usa Uno en los modelos de su API?

BroadNet no lo dice. Su catálogo indica drafters de predicción de varios tokens (k=2) en producción para Gemma 4 26B. Uno es un resultado de investigación que BroadNet publica; consulte a BroadNet si lo necesita en un endpoint privado.

## Siga leyendo

-   [Uno en Gemma 4 26B: el estudio de BroadNet sobre mezcla de expertos](https://broadrouter.com/es/blog/uno-mixture-of-experts-gemma-4-study/)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/)
-   [Latencia de LLM: TTFT, tokens por segundo y latencia total](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/)
-   [Modelos que BroadNet evaluó y descartó, y por qué](https://broadrouter.com/es/blog/models-broadnet-ruled-out/)
-   [Caché de respuestas de APIs de LLM para reducir costos en Python](https://broadrouter.com/es/blog/cache-llm-responses-cut-cost/)
-   [Integre la revisión humana en su flujo de IA documental](https://broadrouter.com/es/blog/document-review-queues/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-uno-in-vllm-serving-study&utm_content=page-cta) ·

**Fuentes**

-   [Al Zubaidi, Uno in vLLM: An Independent Implementation and Empirical Serving Study, preprint en Zenodo v1.0, 2026-09-08 (registro consultado el 2026-11-15)](https://doi.org/10.5281/zenodo.22652610)
-   [BroadNet Research: artículos publicados y hallazgos principales (consultado el 2026-11-15)](https://www.broadnet.ai/es/research)
-   [Blog de BroadNet, Bringing Uno to vLLM (8 de septiembre de 2026; consultado el 2026-11-15) (en inglés)](https://www.broadnet.ai/blog/bringing-uno-to-vllm)
-   [Repositorio vllm-uno de BroadNet (consultado el 2026-11-15)](https://github.com/brntech/vllm-uno)
-   [IFM, repositorio del proyecto Uno (consultado el 2026-11-15)](https://github.com/ifm-ai/uno)
