---
title: "Cos’è vLLM? Il motore open source per servire LLM | BroadRouter"
description: "vLLM è un motore open source per servire LLM, basato su PagedAttention e continuous batching, con un server compatibile OpenAI. Cosa fa e quando usarlo."
url: https://broadrouter.com/it/glossary/vllm/
lang: it
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/vllm/) (aggiornato il 2026-11-15).

# vLLM

Aggiornato 2026-11-15

vLLM è una libreria open source per l’inferenza e il serving di LLM, sviluppata inizialmente allo Sky Computing Lab di UC Berkeley. Gestisce la memoria della KV cache con PagedAttention, raggruppa in batch continuo le richieste in arrivo, supporta molti formati di quantizzazione ed espone un server HTTP compatibile OpenAI.

Detto anche: vLLM, server vLLM, motore di inferenza vLLM, serving di LLM, vLLM server, vLLM serve

Quando si ospita in proprio un modello open-weight su un server GPU, vLLM è uno dei primi motori che si provano.

## Come funziona

La documentazione del progetto descrive vLLM come “a fast and easy-to-use library for LLM inference and serving” (traduzione: una libreria veloce e facile da usare per l’inferenza e il serving di LLM), “Originally developed in the Sky Computing Lab at UC Berkeley” (traduzione: sviluppata originariamente nello Sky Computing Lab di UC Berkeley). Le sue idee centrali:

-   **PagedAttention.** Il paper del 2023 alla base di vLLM gestisce la memoria della [KV cache](https://broadrouter.com/it/glossary/kv-cache/) con un metodo “inspired by the classical virtual memory and paging techniques in operating systems” (traduzione: ispirato alle classiche tecniche di memoria virtuale e paginazione dei sistemi operativi). Riporta “near-zero waste in KV cache memory” (traduzione: spreco quasi nullo nella memoria della KV cache) e un [throughput](https://broadrouter.com/it/glossary/throughput/) da 2 a 4 volte quello di FasterTransformer e Orca a latenza simile.
-   **Continuous batching.** Le richieste in arrivo vengono raggruppate in batch in modo dinamico invece di aspettare un batch fisso. La documentazione elenca accanto a questo il chunked prefill e il prefix caching; vedi [prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/).
-   **Molti formati.** Per la [quantizzazione](https://broadrouter.com/it/glossary/quantization/) la documentazione elenca FP8, INT8, INT4, GPTQ/[AWQ](https://broadrouter.com/it/glossary/awq/), [GGUF](https://broadrouter.com/it/glossary/gguf/) e altri.
-   **Hardware.** GPU NVIDIA e AMD e diverse famiglie di CPU, con plugin per altri acceleratori.
-   **Un server compatibile OpenAI.** Lo avvii con `vllm serve` e lo chiami come un’[API compatibile OpenAI](https://broadrouter.com/it/glossary/openai-compatible-api/).

Una chiamata minima dal client al tuo server:

```python
from openai import OpenAI
client = OpenAI(base_url="http://YOUR_VLLM_HOST/v1", api_key="unused")
r = client.chat.completions.create(
    model="your-model",
    messages=[{"role": "user", "content": "Hello"}])
```

Il server ha bisogno di un [chat template](https://broadrouter.com/it/glossary/chat-template/) per il modello. La documentazione sul serving avverte: “Without a chat template, the server will not be able to process chat and all chat requests will error.” (traduzione: senza un chat template il server non potrà elaborare la chat e tutte le richieste di chat andranno in errore.) Puoi passarne uno con `--chat-template`.

## Perché è importante

-   **Riferimento per il self-hosting.** Se confronti il prezzo di un’API con l’uso di GPU tue, vLLM è un motore comune per fare le misure. La nostra [guida ai costi del self-hosting rispetto alle API](https://broadrouter.com/it/blog/self-hosting-llm-vs-api-cost/) suggerisce di testare i tuoi prompt reali, con la concorrenza reale, su vLLM o SGLang.
-   **Il serving cambia i risultati.** Gli stessi pesi possono essere più veloci o più lenti, e ottenere punteggi diversi, a seconda della versione del motore, della quantizzazione e delle impostazioni.
-   **Un vocabolario comune.** Termini come PagedAttention, chunked prefill e [speculative decoding](https://broadrouter.com/it/glossary/speculative-decoding/) sono più facili da seguire quando sai dove li usa vLLM.

## Su BroadNet Inference

BroadNet non dice quale motore serve la sua API pubblica, quindi questa pagina non ne indica uno. Ciò che BroadNet ha pubblicato: un preprint di settembre 2026, [Uno in vLLM](https://broadrouter.com/it/blog/uno-in-vllm-serving-study/), che aggiunge a vLLM l’adapter di self-drafting Uno di IFM e riporta un throughput di 2,58 volte quello di vLLM base con uno stream e di 1,74 volte con 32, su una H100 con Qwen3-8B. Il codice è pubblico nel repository vllm-uno di BroadNet. Il catalogo di BroadNet elenca anche, tra le configurazioni di laboratorio, una build AWQ INT4 di [Qwen3.8 27B](https://broadrouter.com/it/models/qwen3.8-27b/) sul suo vLLM con patch per AMD ROCm. Per come BroadNet descrive la propria flotta, vedi [il suo articolo su hardware GPU e serving](https://broadrouter.com/it/blog/broadnet-gpu-fleet-and-serving/).

## Domande frequenti

### vLLM è un provider di API?

No. vLLM è un software che fai girare sul tuo hardware. Usarlo direttamente significa gestire tu GPU, scalabilità e aggiornamenti.

### Posso puntare l’SDK di OpenAI su un server vLLM?

Sì. vLLM espone un server compatibile OpenAI, quindi imposti il base URL dell’SDK sul tuo server e invii richieste di chat completion. Il modello ha bisogno di un chat template, altrimenti le richieste di chat falliscono.

### BroadNet Inference gira su vLLM?

BroadNet non dice quale motore serve la sua API pubblica. Ha pubblicato un’implementazione di ricerca su vLLM (Uno in vLLM) e tra le sue configurazioni di laboratorio elenca una build di vLLM con patch per AMD ROCm.

## Vedi anche

-   [KV cache (cache chiave-valore)](https://broadrouter.com/it/glossary/kv-cache/) (termine)
-   [Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/) (termine)
-   [Throughput](https://broadrouter.com/it/glossary/throughput/) (termine)
-   [Quantizzazione (quantization)](https://broadrouter.com/it/glossary/quantization/) (termine)
-   [API compatibile con OpenAI](https://broadrouter.com/it/glossary/openai-compatible-api/) (termine)
-   [Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/) (termine)
-   [Uno in vLLM: che cosa ha misurato lo studio di BroadNet](https://broadrouter.com/it/blog/uno-in-vllm-serving-study/) (articolo)
-   [LLM in self-hosting o via API: costo reale e punto di pareggio](https://broadrouter.com/it/blog/self-hosting-llm-vs-api-cost/) (articolo)
-   [Hardware GPU e serving di BroadNet, come li descrive BroadNet](https://broadrouter.com/it/blog/broadnet-gpu-fleet-and-serving/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-vllm&utm_content=page-cta) ·

**Fonti**

-   [Kwon et al., Efficient Memory Management for LLM Serving with PagedAttention, arXiv 2309.06180 (verificato il 2026-11-15)](https://arxiv.org/abs/2309.06180)
-   [Documentazione di vLLM, panoramica (verificata il 2026-11-15)](https://docs.vllm.ai/en/latest/)
-   [Documentazione di vLLM, online serving e chat template (verificata il 2026-11-15)](https://docs.vllm.ai/en/latest/serving/online_serving/)
-   [Al Zubaidi, Uno in vLLM: An Independent Implementation and Empirical Serving Study, preprint su Zenodo (verificato il 2026-11-15)](https://doi.org/10.5281/zenodo.22652610)
