BroadRouter

Alojar un LLM propio o usar una API: costo real y punto de equilibrio

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado · Actualizado

Una GPU alquilada cuesta lo mismo por hora esté ocupada u ociosa, así que alojar el modelo usted mismo solo supera a una API con una utilización alta y constante. Divida el precio por hora entre los tokens que el servidor produce realmente por hora, sume el tiempo de ingeniería y de guardias, y compárelo con el precio de la API por 1M de tokens. Con tráfico irregular o moderado, la API gana casi siempre.

“Ahorraríamos dinero si lo ejecutáramos nosotros” es una de las afirmaciones más frecuentes al planificar el costo de un LLM, y una de las que menos se comprueban. Las cuentas no son difíciles. Tienen una variable que la gente estima mal (la utilización) y un costo que se deja fuera (las personas). Este artículo ofrece la fórmula, precios de alquiler reales y una forma de aplicarla con sus propias cifras.

¿Cuánto cuesta hoy alquilar una GPU?

Precios por hora de las páginas oficiales de precios, consultados el 2026-11-14 (RunPod) y el 2026-11-16 (Lambda). Aquí un mes son 730 horas.

GPU Proveedor y nivel (consultado el 2026-11-14) Por GPU y hora Al mes, siempre encendida
H100 SXM RunPod Secure Cloud USD 4.39 unos USD 3,205
H100 SXM RunPod Community Cloud USD 2.69 unos USD 1,964
H100 PCIe RunPod Secure Cloud USD 2.89 unos USD 2,110
H200 RunPod Secure Cloud USD 5.29 unos USD 3,862
A100 80GB SXM RunPod Secure Cloud USD 2.19 unos USD 1,599
L40S RunPod Secure Cloud USD 1.09 unos USD 796
H100 SXM Lambda bajo demanda, de 1 a 8 GPU (vigente desde el 2026-11-16; consultado el 2026-11-16) USD 4.59 a 4.89 unos USD 3,351 a 3,570

La página de Lambda (consultada el 2026-11-16) indica que estos precios entran en vigor el 2026-11-16 a las 00:00 UTC; la tarifa por GPU baja a medida que crece el nodo, hasta USD 4.59 en un nodo de 8 GPU. Las tarifas de Community Cloud de RunPod son precios “desde” que varían según el host. Secure Cloud y Community Cloud son niveles de alojamiento distintos, así que lea las condiciones de cada nivel si tiene normas sobre el tratamiento de datos. Muchos modelos necesitan más de una GPU: un nodo de 8 H100 a la tarifa de Secure Cloud cuesta unos USD 25,638 al mes.

¿Cómo se calcula el costo por millón de tokens con su propia GPU?

Una GPU produce tokens a cierta tasa agregada entre todas las solicitudes que procesa en lote. Su costo por token es el precio por hora repartido entre los tokens que realmente produce:

costo por 1M de tokens = precio por hora ÷ (tokens por segundo agregados × 3,600 ÷ 1,000,000) ÷ utilización

La utilización es la proporción de horas en que la GPU hace trabajo útil a esa tasa. Un ejemplo práctico con cifras supuestas (no es un benchmark: mida su propio modelo):

  • GPU: una H100 SXM en Community Cloud, USD 2.69 por hora.
  • Salida agregada supuesta: 1,500 tokens por segundo con un buen batching.
  • Tokens por hora a plena carga: 1,500 × 3,600 = 5.4 millones.
Utilización Tokens efectivos por hora Costo por 1M de tokens de salida
100 % (siempre saturada) 5.4M USD 0.50
50 % 2.7M USD 1.00
25 % (ocupada solo en horario laboral) 1.35M USD 1.99
10 % (tráfico irregular de producto) 0.54M USD 4.98

Ahora compárelo con el precio de una API por 1M de tokens de salida. La tabla de precios de APIs de LLM muestra lo que cobran decenas de proveedores por los mismos pesos abiertos; en BroadNet Inference, DeepSeek V4.1 Flash cuesta $0.52 por 1M de tokens de salida y Gemma 4 VL 26B cuesta $0.22. Busque la fila en la que su costo propio baja del precio de la API: esa es su utilización de equilibrio. El ejemplo ignora los tokens de entrada, que también consumen tiempo de GPU (prefill), así que el costo real de alojar el modelo es mayor de lo que muestra la tabla.

¿Cuántos tokens al mes necesita para alcanzar el punto de equilibrio?

Dele la vuelta. Una GPU encendida cuesta su precio mensual pase lo que pase. La API cuesta tokens × precio. El volumen de equilibrio es:

tokens mensuales para el equilibrio = costo mensual de la GPU ÷ precio de la API por 1M de tokens × 1,000,000

Para una H100 de Community Cloud (unos USD 1,964 al mes) frente a un precio de salida de $0.52 por 1M, divida 1,964 entre ese precio y obtendrá los millones de tokens de salida al mes que debe sustituir antes de que la GPU se amortice. Haga lo mismo con su precio combinado de entrada y salida si su carga de trabajo usa sobre todo entrada, como suele ocurrir con los agentes; el artículo sobre tarifa plana frente a pago por token explica cómo combinarlos.

Y esa GPU tiene que poder servir el modelo. Si el modelo necesita cuatro GPU, multiplique el costo mensual por cuatro antes de dividir.

¿Qué costos se suelen olvidar?

Costo Qué cubre Cómo contarlo
Puesta en marcha de ingeniería Motor de inferencia, elección de cuantización, autoescalado, pruebas de carga Horas puntuales × su tarifa
Operación continua Actualizaciones, drivers y motor, renovación de modelos Horas al mes × su tarifa
Guardias Alguien se despierta cuando el nodo se cae Su política de guardias
Redundancia Un segundo nodo para que un fallo no sea una caída del servicio Duplica la partida de GPU
Margen ocioso Capacidad para picos que debe mantener lista Reduce la utilización
Evaluación Comprobar una nueva versión del modelo antes de cambiar Horas por versión

La redundancia es la que más cambia la respuesta. Una sola GPU es un punto único de fallo. Con dos GPU, su utilización se reduce a la mitad de un día para otro. Consulte cómo evaluar un modelo antes de cambiar para ver el trabajo de evaluación que trae cada actualización.

¿Cuándo conviene alojar el modelo uno mismo?

  • Volumen alto y constante. Pipelines por lotes que mantienen las GPU saturadas día y noche.
  • Los datos deben quedarse dentro de su red. Es un requisito estricto, no un argumento de costo. Compruebe antes si una API con retención cero de datos cumple sus normas.
  • Un modelo que ninguna API ofrece. Su propio fine-tune o un modelo de pesos abiertos poco común.
  • Capacidad garantizada. Necesita un throughput que los límites de frecuencia de una API no le darán.

Para todo lo demás, sobre todo tráfico irregular, productos en fase inicial y agentes que funcionan por ráfagas, una API es más barata y no exige turnos de guardia.

¿Hay opciones de precio fijo entre una GPU y la facturación por token?

Existe un término medio entre alquilar una GPU y pagar por token. BroadNet vende una clave por hora para Gemma 4 VL 26B a $0.50 la hora (un stream, 120 solicitudes por minuto, 300,000 tokens por minuto), lo que equivale a $360.00 si la usara todo el mes. También vende sesiones de plan ilimitadas para DeepSeek V4.1 Flash a $60 al mes, cada una con una solicitud a la vez a unos 100 tokens por segundo. Ofrecen una factura predecible como una GPU alquilada, sin puesta en marcha ni operación, pero con una concurrencia fija por clave o sesión en lugar de toda la capacidad de batching de una GPU.

Dónde encaja BroadNet Inference

BroadNet Inference es el lado de la API en esta comparación: precios por token, planes de tarifa plana y claves por hora para modelos de pesos abiertos, algunos alojados por socios de inferencia estadounidenses, detrás de una API compatible con OpenAI. Encaja con equipos cuyo tráfico dejaría ociosa una GPU alquilada buena parte del día, o que no quieren operar infraestructura de inferencia. No encaja si necesita servir un fine-tune propio, un despliegue on-premises o cientos de solicitudes en paralelo con una sola clave. Haga sus cuentas en la calculadora de costos de API de LLM y compárelas con la tabla anterior. Si aún está eligiendo entre modelos abiertos y cerrados, costo de API de modelos de pesos abiertos frente a cerrados compara los precios por token de la página de cada proveedor. La calculadora de alojamiento propio frente a API hace todo el cálculo del punto de equilibrio con su throughput medido y estos precios de GPU.

Preguntas frecuentes

¿Es más barato alojar un LLM propio que usar una API?

Solo con un volumen alto y constante. Una GPU alquilada se factura cada hora; una API solo factura los tokens que usa. Si su GPU fuera a estar ociosa la mayor parte del día, la API es más barata incluso antes de contar el tiempo de ingeniería.

¿Cuánto cuesta alquilar una H100 por hora?

En la página de precios de RunPod, el 2026-11-14, una H100 SXM costaba USD 4.39 por hora en Secure Cloud y desde USD 2.69 en Community Cloud. Lambda indica la H100 SXM bajo demanda a entre USD 4.59 y 4.89 por GPU y hora, según el tamaño del nodo, con precios vigentes desde el 2026-11-16. Consulte las páginas para ver las tarifas actuales.

¿Cuántas GPU necesito para alojar un modelo grande?

Como mínimo, memoria suficiente para los pesos más la caché KV de sus solicitudes concurrentes. Los modelos grandes de mezcla de expertos suelen necesitar un nodo con varias GPU. Consulte la ficha del modelo para ver su número de parámetros y la configuración recomendada.

¿Cuándo tiene sentido alojar el modelo uno mismo aunque cueste más?

Cuando los datos no pueden salir de su red, cuando necesita un modelo ajustado (fine-tune) o personalizado que ninguna API ofrece, o cuando necesita capacidad garantizada. Son razones de control, no de costo.

¿Cómo mido el throughput real de mi GPU?

Ejecute sus prompts reales con su concurrencia real en un motor de inferencia como vLLM o SGLang, y registre el total de tokens de salida por segundo de todas las solicitudes. Las cifras máximas de los fabricantes suponen un batching ideal.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity