---
title: "Hardware GPU y serving de BroadNet, según BroadNet | BroadRouter"
description: "Qué dice BroadNet sobre el hardware de BroadNet Inference: tres niveles de GPU, de B300 a equipos en el cliente, rendimiento por GPU y lo aprendido en sus pruebas."
url: https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/broadnet-gpu-fleet-and-serving/) (actualizado el 2026-11-16).

# El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado 2026-11-15 · Actualizado 2026-11-16

BroadNet afirma que usa un mismo stack de serving en tres niveles de hardware: GPU de centro de datos de A100 a B300, un nivel de estaciones de trabajo con tarjetas RTX y DGX Spark que sostiene la API pública siempre activa, y equipos en las instalaciones de clientes. Reporta unos 270 modelos ejecutados en 13 familias de GPU, NVIDIA y AMD. Algunos modelos de la API los sirven socios de inferencia en EE. UU.

## Puntos clave

-   Tres niveles, un stack: centro de datos (B300, B200, H200, H100, A100), estación de trabajo (RTX PRO 6000, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700) e instalaciones del cliente.
-   BroadNet dice que el nivel de estaciones de trabajo sostiene la API pública siempre activa; las GPU de centro de datos se encargan del serving de modelos insignia, el fine-tuning y los endpoints privados.
-   Su hallazgo medido: NVIDIA CUDA convierte en tokens aproximadamente el doble de ancho de banda de memoria que AMD ROCm con los mismos modelos.
-   El serving importa tanto como los pesos: según BroadNet, los mismos pesos de Gemma 4 26B puntuaron 0.13 menos en un proveedor alojado que en lo que llama su propio serving.
-   No todos los modelos de la API funcionan en el hardware que BroadNet dice que es suyo: los términos de BroadNet indican que DeepSeek V4.1 Flash está alojado por un socio.

**En esta página**

1.  ¿Qué hardware dice utilizar BroadNet?
2.  ¿Qué modelos de la API funcionan en él?
3.  ¿Qué velocidad tiene cada GPU?
4.  ¿Qué dice BroadNet que le enseñó su hardware?
5.  ¿Cómo se sirve el modelo Gemma 4?
6.  ¿Qué significa esto para usted?

BroadNet describe su hardware de inferencia con un detalle poco habitual. Su [catálogo de modelos](https://www.broadnet.ai/inference/models) enumera las GPU que dice utilizar, el rendimiento medido por tarjeta y lo que aprendió al ejecutar los mismos modelos en todas ellas. Esta página resume lo que dice BroadNet, con sus propias palabras cuando importa. No hemos inspeccionado el hardware, y las mediciones son de BroadNet, de septiembre de 2026.

## ¿Qué hardware dice utilizar BroadNet?

BroadNet afirma que opera “one fleet, three tiers, one stack” (Traducción: una flota, tres niveles, un stack): los mismos motores, cuantizaciones y gateway desde los aceleradores de centro de datos hasta los equipos en instalaciones de clientes.

| Nivel | GPU que enumera BroadNet | Para qué lo usa BroadNet |
| --- | --- | --- |
| Centro de datos | B300, B200, H200, H100, A100 80 GB | Serving de modelos insignia, cuantización y calibración, fine-tuning, endpoints privados dedicados, ubicaciones con residencia de datos |
| Estación de trabajo | RTX PRO 6000 Blackwell, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700 | La API pública siempre activa, benchmarking con CUDA y ROCm, desarrollo de modelos |
| Instalaciones del cliente | DGX Spark GB10, equipos AMD compactos | Despliegues on-premise y aislados de la red con el mismo stack |

En total, BroadNet reporta unos 270 modelos ejecutados, unos 200 checkpoints cargados, unas 40 familias de modelos, 12 o más formatos de cuantización y 13 familias de GPU. También afirma que “a single H100 serves the entire current public catalogue with headroom” (Traducción: una sola H100 sirve todo el catálogo público actual con margen).

## ¿Qué modelos de la API funcionan en él?

No todos. La [declaración de privacidad](https://www.broadnet.ai/inference-privacy) de BroadNet indica que sus propios modelos y los modelos de pesos abiertos que aloja funcionan en hardware propio o arrendado por BroadNet en Estados Unidos, con capacidad de socios como respaldo, y que los modelos servidos por socios funcionan bajo condiciones de cero retención de datos con socios de inferencia en EE. UU. Sus [Términos del Servicio](https://www.broadnet.ai/terms) nombran a [DeepSeek V4.1 Flash](https://broadrouter.com/es/models/deepseek-v4.1-flash/) como alojado por un socio.

Lo que dicen las propias páginas de BroadNet por modelo:

| Modelo en la API | Hardware que nombra BroadNet |
| --- | --- |
| [Gemma 4 VL 26B](https://broadrouter.com/es/models/gemma-4-vl-26b/) | GPU NVIDIA de clase Blackwell con un respaldo en caliente |
| [Transcribe Arabic](https://broadrouter.com/es/models/cohere-transcribe-arabic/) y [Transcribe](https://broadrouter.com/es/models/cohere-transcribe/) | GPU NVIDIA operadas por BroadNet en Estados Unidos |
| DeepSeek V4.1 Flash | Alojado por un socio (Términos del Servicio §7.3) |
| GLM 5.3, Qwen3.8 27B | No se indica para el tráfico de la API |

Si le importa dónde se procesan sus datos, pregunte a BroadNet antes de enviarlos. Su página de inferencia indica que el procesamiento regional en MENA o Europa está disponible a petición.

## ¿Qué velocidad tiene cada GPU?

BroadNet publica el rendimiento agregado de salida por GPU para un modelo, Qwen3-VL 30B A3B Instruct con 32 solicitudes concurrentes:

| GPU | Nivel | Ancho de banda de memoria | Tokens/s agregados |
| --- | --- | --- | --- |
| B300 | Centro de datos | 8,000 GB/s | 14,500 |
| B200 | Centro de datos | 8,000 GB/s | 14,000 |
| H200 | Centro de datos | 4,800 GB/s | 8,400 |
| H100 | Centro de datos | 3,350 GB/s | 5,800 |
| A100 80 GB | Centro de datos | 2,039 GB/s | 3,500 |
| RTX PRO 6000 Blackwell | Estación de trabajo | 1,792 GB/s | 3,100 |
| RTX 3090 | Estación de trabajo | 936 GB/s | 1,630 |
| DGX Spark GB10 | Estación de trabajo | 273 GB/s | 1,597 |
| Radeon AI PRO R9700 | Estación de trabajo | 640 GB/s | 1,087 |

BroadNet aclara que las cifras de centro de datos son “planning numbers from our measured per-GPU curve” (Traducción: cifras de planificación a partir de nuestra curva medida por GPU), no mediciones directas en cada tarjeta. La mayoría de las filas suben con el ancho de banda de memoria, el límite habitual de la decodificación, pero no todas: DGX Spark GB10 (273 GB/s) casi iguala a la RTX 3090 (936 GB/s), y la Radeon AI PRO R9700 (640 GB/s) queda por detrás de ambas.

## ¿Qué dice BroadNet que le enseñó su hardware?

El catálogo enumera ocho hallazgos, cada uno marcado como “measured on our own hardware” (Traducción: medido en nuestro propio hardware). Los más relevantes para quien compra una API:

-   **CUDA frente a ROCm.** Al ejecutar los mismos modelos en NVIDIA CUDA y AMD ROCm, CUDA convirtió en tokens aproximadamente el doble de ancho de banda de memoria, así que BroadNet distribuye las cargas de trabajo en consecuencia.
-   **Decodificación especulativa bajo carga.** EAGLE3 costó el 69 % del rendimiento con 32 solicitudes concurrentes, así que BroadNet se quedó con los drafters de predicción de varios tokens. Su [estudio de serving de Uno](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/) mide el mismo efecto para otro método.
-   **El serving importa tanto como los pesos.** Los mismos pesos de Gemma 4 26B servidos por un proveedor alojado puntuaron de media 0.13 menos que en lo que BroadNet llama “our own serving” (Traducción: nuestro propio serving). La regla de BroadNet: mantener a un modelo candidato y a su referencia en el mismo serving antes de compararlos.
-   **Un modelo con menos parámetros activos puede ganar.** El mixture of experts de 26B superó al Gemma 4 31B denso en 5 de 6 pasos del pipeline con aproximadamente una octava parte de los parámetros activos.
-   **Paridad con la frontera en un pipeline.** En una evaluación a ciegas de 240 trazas, el Gemma 4 servido por BroadNet igualó a Claude Sonnet en cinco de seis pasos medidos, con respuestas entre 1.2 y 6.5 veces más rápidas por paso.
-   **Velocidad por solicitud.** Qwen3-VL 30B A3B funcionó a entre 36.5 y 110 tokens por segundo por solicitud en lo que BroadNet describe como su propio serving, según la medición de BroadNet, frente a entre 7 y 19 en cuatro proveedores de OpenRouter que BroadNet midió.
-   **La arquitectura supera a la elección del modelo.** En un conjunto difícil en el que dos modelos de visión locales discrepaban, escalar a un árbitro alojado subió la precisión de 1 de 12 a 11 de 12.

La comparación con Sonnet es la afirmación más fuerte, y es acotada: el pipeline de chatbot de una empresa, juzgado a ciegas por tres jueces, sobre 240 conversaciones de producción de 11 clientes, según la [página de Gemma 4](https://www.broadnet.ai/inference/models/gemma-4-vl-26b) de BroadNet. No significa que Gemma 4 iguale a Sonnet en general. BroadNet no ha publicado un informe completo de esa evaluación en su página de investigación.

## ¿Cómo se sirve el modelo Gemma 4?

El Gemma 4 VL 26B de BroadNet es el ejemplo más claro de sus decisiones de serving, según su página del modelo:

-   **Pesos:** Gemma 4 26B A4B de Google, cuantizado por BroadNet a AWQ de 4 bits. BroadNet probó NVFP4 y lo descartó tras una comparación directa.
-   **Decodificación:** decodificación especulativa con predicción de varios tokens y dos tokens borrador (k=2), y una [caché KV](https://broadrouter.com/es/glossary/kv-cache/) en fp8.
-   **Plantilla:** una plantilla de chat que BroadNet ajustó para su flujo conversacional.
-   **Resiliencia:** un respaldo en caliente con conmutación automática por error.
-   **Resultado:** unos 136 tokens por segundo en un único stream, y 90.86 en la batería interna de calidad de BroadNet.

Consulte [cuantización](https://broadrouter.com/es/glossary/quantization/) y [decodificación especulativa](https://broadrouter.com/es/glossary/speculative-decoding/) para los términos.

## ¿Qué significa esto para usted?

Para un usuario de pago por uso, las decisiones de serving de BroadNet se notan en la velocidad publicada, unos 100 tokens por segundo típica en el modelo del plan, y en los límites: 30 solicitudes por minuto y 4 en curso por clave. Los términos de BroadNet indican que el autoservicio no tiene compromiso de disponibilidad; los niveles de servicio solo llegan con un acuerdo escrito. [Cómo se comparan los SLA de otros proveedores](https://broadrouter.com/es/blog/llm-api-sla-uptime-compared/).

Para necesidades mayores, BroadNet ofrece endpoints privados en GPU reservadas, con su modelo, clave, límites y región, y equipos on-premise con el mismo stack. Si lo está comparando con alquilar sus propias GPU, nuestra [guía de costo de autoalojamiento frente a API](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) desarrolla los cálculos, y [los modelos que BroadNet descartó](https://broadrouter.com/es/blog/models-broadnet-ruled-out/) muestra cómo eligió qué servir.

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Cuantización (quantization)](https://broadrouter.com/es/glossary/quantization/)

La cuantización es el proceso de almacenar los números de una red neuronal, sobre todo sus pesos, en un formato de menor precisión, como 8 o 4 bits en lugar de 16, para que el modelo use menos memoria y a menudo funcione más rápido. Los buenos métodos mantienen pequeña la pérdida de precisión.

[Prefill y decode (fases de inferencia de un LLM)](https://broadrouter.com/es/glossary/prefill-and-decode/)

Prefill y decode son las dos fases de la inferencia de un LLM. En el prefill, el modelo procesa todo el prompt en paralelo y llena su caché KV; en el decode, genera la respuesta token a token reutilizando esa caché. El prefill determina sobre todo el tiempo hasta el primer token; el decode, la velocidad de salida.

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Mixture of experts (MoE, mezcla de expertos)](https://broadrouter.com/es/glossary/mixture-of-experts/)

Mixture of experts (MoE, mezcla de expertos) es un diseño de red neuronal en el que una capa contiene muchas subredes expertas y un router aprendido envía cada token solo a unas pocas. Un modelo de lenguaje MoE tiene un número total de parámetros grande, pero usa un pequeño subconjunto activo por token.

[Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/)

El pago por uso es un modelo de precios en el que usted paga solo lo que usa, medido por unidades como tokens, solicitudes o minutos de audio, sin suscripción ni compromiso mínimo. La mayoría de las APIs de LLM cobran así, desde un saldo prepagado o con una factura periódica.

[Fine-tuning (ajuste fino)](https://broadrouter.com/es/glossary/fine-tuning/)

El fine-tuning (ajuste fino) es el proceso de seguir entrenando un modelo de lenguaje preentrenado con un conjunto de datos más pequeño y específico de una tarea, como conversaciones de ejemplo, para que sus pesos cambien y realice esa tarea o estilo con más fiabilidad sin necesitar instrucciones o ejemplos largos en cada prompt.

[Límite de frecuencia (rate limit)](https://broadrouter.com/es/glossary/rate-limit/)

Un límite de frecuencia (rate limit) es un tope que una API impone a cuánto puede usarla un cliente en un periodo, como solicitudes por minuto o tokens por minuto. Las solicitudes que lo superan se rechazan, normalmente con HTTP 429 Too Many Requests, hasta que el uso vuelve a quedar por debajo.

## Preguntas frecuentes

### ¿BroadNet opera sus propias GPU?

BroadNet afirma que opera su propia flota de GPU NVIDIA y AMD. Su declaración de privacidad indica que sus propios modelos y los modelos de pesos abiertos que aloja funcionan en hardware propio o arrendado por BroadNet en Estados Unidos, con capacidad de socios como respaldo. Los modelos servidos por socios, como DeepSeek V4.1 Flash, funcionan con socios de inferencia en EE. UU.

### ¿Qué GPU sirve la API pública?

El catálogo de BroadNet sitúa "the always-on public API" (Traducción: la API pública siempre activa) en su nivel de estaciones de trabajo (RTX PRO 6000 Blackwell, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700). Su página de Gemma 4 menciona GPU NVIDIA de clase Blackwell con un respaldo en caliente.

### ¿Hay un SLA de disponibilidad publicado?

No para el autoservicio. Los Términos del Servicio de BroadNet indican que el autoservicio no tiene compromiso de disponibilidad, y que los niveles de servicio solo existen en un acuerdo escrito aparte, como el de un endpoint privado.

### ¿Puedo obtener una GPU dedicada?

Sí. BroadNet ofrece endpoints privados en una GPU o un nodo reservado, con el modelo que usted elija, su propia clave y límites, y la región que necesite. Se cotizan según su tráfico, a petición.

### ¿Puede BroadNet ejecutar modelos en mis instalaciones?

BroadNet afirma que su nivel de instalaciones del cliente ejecuta el mismo stack en DGX Spark GB10 y equipos AMD compactos para despliegues on-premise y aislados de la red (air-gapped).

## Siga leyendo

-   [Modelos que BroadNet evaluó y descartó, y por qué](https://broadrouter.com/es/blog/models-broadnet-ruled-out/)
-   [Uno en vLLM: qué midió el estudio de serving de BroadNet](https://broadrouter.com/es/blog/uno-in-vllm-serving-study/)
-   [Uno en Gemma 4 26B: el estudio de BroadNet sobre mezcla de expertos](https://broadrouter.com/es/blog/uno-mixture-of-experts-gemma-4-study/)
-   [Alojar un LLM propio o usar una API: costo real y punto de equilibrio](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/)
-   [Latencia de LLM: TTFT, tokens por segundo y latencia total](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/)
-   [Caché de respuestas de APIs de LLM para reducir costos en Python](https://broadrouter.com/es/blog/cache-llm-responses-cut-cost/)
-   [Integre la revisión humana en su flujo de IA documental](https://broadrouter.com/es/blog/document-review-queues/)
-   [Guía: Pruebe BroadNet Inference en su navegador, sin cuenta](https://broadrouter.com/es/guides/try-broadnet-inference-playground/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-broadnet-gpu-fleet-and-serving&utm_content=page-cta) ·

**Fuentes**

-   [Catálogo de modelos de BroadNet: capacidad, rendimiento por GPU y hallazgos de hardware (medido en septiembre de 2026; consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models)
-   [Página del modelo Gemma 4 VL 26B de BroadNet: configuración de serving y evaluación a ciegas (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models/gemma-4-vl-26b)
-   [Declaración de privacidad de BroadNet Inference: dónde se procesa (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference-privacy)
-   [Términos del Servicio de BroadNet, §7.3 y §7.4: alojamiento por socios y disponibilidad (consultado el 2026-11-15)](https://www.broadnet.ai/es/terms)
-   [BroadNet Research: hallazgos abiertos de su laboratorio (consultado el 2026-11-15)](https://www.broadnet.ai/es/research)
