---
title: "¿Qué es AWQ? Cuantización consciente de activaciones"
description: "AWQ es un método de cuantización de pesos a 4 bits que usa estadísticas de activación para proteger los pesos más importantes. Cómo funciona y dónde se usa."
url: https://broadrouter.com/es/glossary/awq/
lang: es
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/glossary/awq/) (actualizado el 2026-11-16).

# AWQ (cuantización de pesos consciente de activaciones)

Actualizado 2026-11-16

AWQ (activation-aware weight quantization) es un método posterior al entrenamiento que comprime los pesos de un LLM a baja precisión, normalmente enteros de 4 bits. Usa estadísticas de activación de un pequeño conjunto de calibración para encontrar los canales de pesos más importantes y los escala para que pierdan menos precisión. No necesita retropropagación.

También llamado: AWQ, cuantización AWQ, cuantización consciente de activaciones, cuantización de pesos consciente de activaciones, activation-aware weight quantization, AWQ quantization

Un modelo de 4 bits ocupa alrededor de una cuarta parte que su original de 16 bits. AWQ es una de las formas más usadas de llegar ahí sin perder mucha calidad.

## Cómo funciona

La [cuantización](https://broadrouter.com/es/glossary/quantization/) simple redondea cada peso a un pequeño conjunto de valores. Algunos pesos importan más que otros, y redondearlos es lo que más daño hace. El hallazgo clave del artículo de AWQ es que “Protecting only 1% salient weights can greatly reduce quantization error” (traducción: proteger solo el 1 % de los pesos destacados puede reducir mucho el error de cuantización), y que para encontrar esos pesos “we should refer to the activation distribution, not weights.” (traducción: debemos fijarnos en la distribución de las activaciones, no en los pesos).

Los pasos, a grandes rasgos:

1.  Pase un pequeño conjunto de calibración por el modelo en precisión completa y registre el tamaño de las activaciones por canal.
2.  Escale al alza los canales de pesos destacados con lo que el artículo llama “an equivalent transformation” (traducción: una transformación equivalente), de modo que el redondeo les cueste menos mientras la salida de la capa se mantiene igual. Así se evita la “hardware-inefficient mix-precision quantization” (traducción: cuantización de precisión mixta, ineficiente para el hardware).
3.  Redondee todos los pesos a baja precisión, normalmente enteros de 4 bits con una escala por grupo de pesos.

El artículo subraya que “AWQ does not rely on any backpropagation or reconstruction” (traducción: AWQ no depende de ninguna retropropagación ni reconstrucción), por lo que “generalizes to different domains and modalities” (traducción: generaliza a distintos dominios y modalidades) sin sobreajustarse al conjunto de calibración. Ganó el premio al mejor artículo de MLSys 2024.

En vLLM, un checkpoint AWQ ya cuantizado se carga con un solo argumento:

```python
from vllm import LLM
llm = LLM(model="TheBloke/Llama-2-7b-Chat-AWQ", quantization="auto_awq")
```

La página de vLLM describe que el formato reduce los pesos “from BF16/FP16 to INT4” (traducción: de BF16/FP16 a INT4) y advierte que “The AutoAWQ library is deprecated” (traducción: la biblioteca AutoAWQ está obsoleta); los nuevos modelos AWQ se crean con llm-compressor de vLLM.

## Por qué importa

-   **Memoria y costo.** Los pesos más pequeños caben en menos GPUs o en GPUs más baratas, y dejan más memoria para la [caché KV](https://broadrouter.com/es/glossary/kv-cache/), lo que significa más solicitudes a la vez.
-   **Velocidad.** La decodificación lee todos los pesos para cada token, así que pesos más pequeños pueden dar una salida más rápida. El artículo reporta que su runtime TinyChat ofrece “more than 3x speedup over the Huggingface FP16 implementation” (traducción: una aceleración de más de 3 veces frente a la implementación FP16 de Huggingface).
-   **Mismos pesos, resultados distintos.** Dos proveedores que sirven «el mismo modelo» pueden usar cuantizaciones distintas. Pregunte qué formato sirve cada proveedor cuando compare la calidad.

AWQ cuantiza solo los pesos. Es distinto de [FP8](https://broadrouter.com/es/glossary/fp8/), que también puede cuantizar activaciones, y de [GGUF](https://broadrouter.com/es/glossary/gguf/), un formato de archivo con sus propios tipos de cuantización para llama.cpp.

## En BroadNet Inference

BroadNet informa que sirve [Gemma 4 VL 26B](https://broadrouter.com/es/models/gemma-4-vl-26b/) con pesos AWQ de 4 bits que cuantizó ella misma, junto con decodificación especulativa por predicción de múltiples tokens (k=2) y una caché KV en fp8. Según la página del modelo, probó NVFP4 y lo retiró tras una comparación directa. BroadNet también informa que los mismos pesos de Gemma 4 servidos por un proveedor alojado obtuvieron en promedio 0.13 menos que su propio servicio (BroadNet no indica en qué métrica ni en qué escala); el [artículo sobre la flota de GPUs y el servicio](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/) tiene los detalles. BroadNet no publica el formato de cuantización de sus demás modelos de la API. Si planea ejecutar pesos AWQ por su cuenta, la [guía de costos de autoalojamiento frente a API](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) explica las cuentas.

## Preguntas frecuentes

### ¿AWQ es lo mismo que INT4?

AWQ es un método; INT4 es un formato numérico. AWQ suele producir pesos enteros de 4 bits, así que un modelo AWQ es un tipo de modelo INT4. Otros métodos, como GPTQ o los tipos de cuantización de GGUF, también pueden producir pesos de 4 bits.

### ¿AWQ reduce la calidad?

Cualquier cuantización de pocos bits puede reducirla. El artículo de AWQ reporta que proteger alrededor del 1 % de los pesos destacados reduce mucho el error de cuantización, pero debe probar el modelo cuantizado con sus propios prompts.

### ¿Puedo ejecutar modelos AWQ en vLLM?

Sí. La documentación de vLLM muestra cómo cargar un checkpoint AWQ ya cuantizado. También indica que la biblioteca AutoAWQ está obsoleta y remite al proyecto llm-compressor de vLLM para crear nuevos modelos AWQ.

## Vea también

-   [Cuantización (quantization)](https://broadrouter.com/es/glossary/quantization/) (término)
-   [INT4](https://broadrouter.com/es/glossary/int4/) (término)
-   [FP8](https://broadrouter.com/es/glossary/fp8/) (término)
-   [GGUF](https://broadrouter.com/es/glossary/gguf/) (término)
-   [vLLM](https://broadrouter.com/es/glossary/vllm/) (término)
-   [Modelo de pesos abiertos (open-weight model)](https://broadrouter.com/es/glossary/open-weight-model/) (término)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/) (artículo)
-   [Alojar un LLM propio o usar una API: costo real y punto de equilibrio](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) (artículo)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-awq&utm_content=page-cta) ·

**Fuentes**

-   [Lin et al., AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration, arXiv 2306.00978 (consultado el 2026-11-15)](https://arxiv.org/abs/2306.00978)
-   [Documentación de vLLM, cuantización con AutoAWQ (consultado el 2026-11-15)](https://docs.vllm.ai/en/latest/features/quantization/auto_awq.html)
-   [BroadNet, página del modelo Gemma 4 VL 26B: configuración de servicio (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models/gemma-4-vl-26b)
