---
title: "¿Qué es vLLM? El motor open source para servir LLM | BroadRouter"
description: "vLLM es un motor de código abierto para servir LLM, basado en PagedAttention y batching continuo, con un servidor compatible con OpenAI. Qué hace y cuándo usarlo."
url: https://broadrouter.com/es/glossary/vllm/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/glossary/vllm/) (actualizado el 2026-11-15).

# vLLM

Actualizado 2026-11-15

vLLM es una biblioteca de código abierto para inferencia y servicio de LLM, desarrollada originalmente en el Sky Computing Lab de UC Berkeley. Gestiona la memoria de la caché KV con PagedAttention, agrupa las solicitudes entrantes de forma continua, admite muchos formatos de cuantización y ofrece un servidor HTTP compatible con OpenAI.

También llamado: servidor vLLM, motor vLLM, servir modelos con vLLM, vLLM server, vLLM serve

Cuando alguien aloja por su cuenta un modelo de pesos abiertos en un servidor con GPU, vLLM es uno de los primeros motores que prueba.

## Cómo funciona

La documentación del proyecto describe vLLM como “a fast and easy-to-use library for LLM inference and serving” (traducción: una biblioteca rápida y fácil de usar para inferencia y servicio de LLM), “Originally developed in the Sky Computing Lab at UC Berkeley” (traducción: desarrollada originalmente en el Sky Computing Lab de UC Berkeley). Sus ideas centrales:

-   **PagedAttention.** El artículo de 2023 detrás de vLLM gestiona la memoria de la [caché KV](https://broadrouter.com/es/glossary/kv-cache/) con un método “inspired by the classical virtual memory and paging techniques in operating systems” (traducción: inspirado en las técnicas clásicas de memoria virtual y paginación de los sistemas operativos). Reporta “near-zero waste in KV cache memory” (traducción: un desperdicio casi nulo de memoria de caché KV) y de 2 a 4 veces el [throughput](https://broadrouter.com/es/glossary/throughput/) de FasterTransformer y Orca con una latencia similar.
-   **Batching continuo.** Las solicitudes entrantes se agrupan de forma dinámica en lugar de esperar un lote fijo. La documentación menciona junto a esto el chunked prefill y el prefix caching; vea [prefill y decode](https://broadrouter.com/es/glossary/prefill-and-decode/).
-   **Muchos formatos.** La documentación lista FP8, INT8, INT4, GPTQ/[AWQ](https://broadrouter.com/es/glossary/awq/), [GGUF](https://broadrouter.com/es/glossary/gguf/) y otros para [cuantización](https://broadrouter.com/es/glossary/quantization/).
-   **Hardware.** GPU de NVIDIA y AMD y varias familias de CPU, con plugins para otros aceleradores.
-   **Un servidor compatible con OpenAI.** Inícielo con `vllm serve` y llámelo como cualquier [API compatible con OpenAI](https://broadrouter.com/es/glossary/openai-compatible-api/).

Una llamada mínima de cliente a su propio servidor:

```python
from openai import OpenAI
client = OpenAI(base_url="http://YOUR_VLLM_HOST/v1", api_key="unused")
r = client.chat.completions.create(
    model="your-model",
    messages=[{"role": "user", "content": "Hello"}])
```

El servidor necesita una [plantilla de chat](https://broadrouter.com/es/glossary/chat-template/) para el modelo. La documentación de servicio advierte: “Without a chat template, the server will not be able to process chat and all chat requests will error.” (traducción: sin una plantilla de chat, el servidor no podrá procesar el chat y todas las solicitudes de chat darán error). Puede pasar una con `--chat-template`.

## Por qué importa

-   **Referencia para el autoalojamiento.** Si compara el precio de una API con operar sus propias GPU, vLLM es un motor habitual para medir. Nuestra [guía de costos de autoalojar un LLM vs usar una API](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) sugiere probar sus prompts reales con concurrencia real en vLLM o SGLang.
-   **La forma de servir cambia los resultados.** Los mismos pesos pueden ser más rápidos o más lentos, y puntuar distinto, según la versión del motor, la cuantización y los ajustes.
-   **Un vocabulario compartido.** Términos como PagedAttention, chunked prefill y [decodificación especulativa](https://broadrouter.com/es/glossary/speculative-decoding/) se entienden mejor cuando sabe dónde los usa vLLM.

## En BroadNet Inference

BroadNet no dice qué motor sirve su API pública, así que esta página no afirma ninguno. Lo que BroadNet sí ha publicado: un preprint de septiembre de 2026, [Uno in vLLM](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/), que añade a vLLM el adaptador de autoborrador (self-drafting) Uno de IFM y reporta 2.58 veces el throughput de vLLM sin modificar con un stream y 1.74 veces con 32, en una H100 con Qwen3-8B. Su código es público en el repositorio vllm-uno de BroadNet. El catálogo de BroadNet también incluye una compilación AWQ INT4 de [Qwen3.8 27B](https://broadrouter.com/es/models/qwen3.8-27b/) sobre su vLLM parcheado para AMD ROCm entre las configuraciones de laboratorio. Para ver cómo describe BroadNet su flota, consulte [su artículo sobre hardware GPU y servicio](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/).

## Preguntas frecuentes

### ¿vLLM es un proveedor de API?

No. vLLM es software que usted ejecuta en su propio hardware. Usarlo directamente significa que usted opera las GPU, el escalado y las actualizaciones.

### ¿Puedo apuntar el SDK de OpenAI a un servidor vLLM?

Sí. vLLM expone un servidor compatible con OpenAI, así que configura la base URL del SDK con su servidor y envía solicitudes de chat completion. El modelo necesita una plantilla de chat; si no, las solicitudes de chat fallan.

### ¿BroadNet Inference funciona con vLLM?

BroadNet no dice qué motor sirve su API pública. Ha publicado una implementación de investigación sobre vLLM (Uno in vLLM) e incluye una compilación parcheada de vLLM para AMD ROCm entre sus configuraciones de laboratorio.

## Vea también

-   [Caché KV (KV cache)](https://broadrouter.com/es/glossary/kv-cache/) (término)
-   [Prefill y decode (fases de inferencia de un LLM)](https://broadrouter.com/es/glossary/prefill-and-decode/) (término)
-   [Throughput (rendimiento total)](https://broadrouter.com/es/glossary/throughput/) (término)
-   [Cuantización (quantization)](https://broadrouter.com/es/glossary/quantization/) (término)
-   [API compatible con OpenAI](https://broadrouter.com/es/glossary/openai-compatible-api/) (término)
-   [Decodificación especulativa (speculative decoding)](https://broadrouter.com/es/glossary/speculative-decoding/) (término)
-   [Uno en vLLM: qué midió el estudio de serving de BroadNet](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/) (artículo)
-   [Alojar un LLM propio o usar una API: costo real y punto de equilibrio](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) (artículo)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/) (artículo)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-vllm&utm_content=page-cta) ·

**Fuentes**

-   [Kwon et al., Efficient Memory Management for LLM Serving with PagedAttention, arXiv 2309.06180 (consultado el 2026-11-15)](https://arxiv.org/abs/2309.06180)
-   [Documentación de vLLM, visión general (consultado el 2026-11-15)](https://docs.vllm.ai/en/latest/)
-   [Documentación de vLLM, servicio en línea y plantillas de chat (consultado el 2026-11-15)](https://docs.vllm.ai/en/latest/serving/online_serving/)
-   [Al Zubaidi, Uno in vLLM: An Independent Implementation and Empirical Serving Study, preprint en Zenodo (consultado el 2026-11-15)](https://doi.org/10.5281/zenodo.22652610)
