BroadRouter

Cómo reducir los costos de una API de LLM: 10 pasos, en orden

Por el equipo de BroadNet Inference · 8 min de lectura · Publicado

Para reducir los costos de una API de LLM, registre primero los tokens por solicitud y siga este orden: mantenga estable el prefijo del prompt para que se cachee, recorte prompts, limite salida y razonamiento, use el modelo más pequeño que pase sus pruebas, agrupe o posponga lo que puede esperar, cachee respuestas repetidas, acote los reintentos y pase a tarifa plana al superar el punto de equilibrio.

La mayoría de las listas del tipo «reduzca su factura de LLM en un 70 %» mezclan buenos consejos con cifras que nadie midió. Esta lista está ordenada según lo que conviene hacer primero, y cada cifra sale de un archivo de precios o de la documentación del propio proveedor. Cuando un paso tiene un artículo más detallado en este sitio, se enlaza. Los precios de BroadNet que verá abajo provienen de su archivo de precios, sincronizado el 2026-11-14.

¿Qué determina la factura de una API de LLM?

Cuatro números deciden casi cualquier factura:

  1. Tokens de entrada nuevos. El prompt, menos la parte que se lee de la caché.
  2. Tokens de entrada en caché. El prefijo repetido, facturado a una tarifa menor.
  3. Tokens de salida. La respuesta, más los tokens de razonamiento en los modelos que piensan.
  4. Número de solicitudes. Cada llamada, incluido cada reintento, se factura por separado.

La salida es la unidad cara. En los modelos de chat de BroadNet, por 1M de tokens:

Modelo Entrada Entrada en caché Salida
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 no publicado $0.22

Así que las palancas son: enviar menos tokens nuevos, leer más de la caché, generar menos y hacer menos llamadas. Cómo funcionan los precios de las API de LLM explica cada unidad en detalle.

La lista de un vistazo

Paso Qué cambia Qué reduce Esfuerzo
1. Medir Solo el registro Nada todavía; muestra dónde recortar Bajo
2. Cachear el prefijo El orden del prompt El precio de la entrada Bajo
3. Recortar el prompt El contenido del prompt Los tokens de entrada Medio
4. Limitar salida y razonamiento La configuración de la solicitud Los tokens de salida Bajo
5. Elegir el modelo adecuado La elección del modelo Todos los precios Medio
6. Agrupar o posponer trabajo La programación El precio por token, donde se ofrece Medio
7. Cachear respuestas El código de la aplicación Solicitudes completas Medio
8. Acotar reintentos y bucles El código de la aplicación Solicitudes desperdiciadas Bajo
9. Fijar límites de gasto La cuenta y las claves Facturas descontroladas Bajo
10. Calcular el equilibrio con tarifa plana El modelo de facturación La factura total a gran volumen Bajo

1. ¿Por qué medir antes de recortar nada?

Porque la factura oculta la causa. Dos solicitudes que parecen iguales pueden diferir diez veces en tokens. Cada chat completion devuelve un bloque usage con prompt_tokens, completion_tokens y, cuando el proveedor lo reporta, los tokens en caché. Registre esos valores por funcionalidad y por usuario, sin el texto del prompt. Al cabo de una semana sabrá qué funcionalidad gasta más y si el problema es la entrada, los fallos de caché o la salida.

Registro de uso con datos personales ocultos muestra un esquema de registro. Para dimensionar una funcionalidad antes de lanzarla, use la calculadora de costos de API de LLM o el método de estimar el costo antes del lanzamiento.

2. ¿Cómo reduce costos el prompt caching?

Los proveedores guardan en caché el inicio de un prompt que se repite exactamente. La siguiente llamada lee ese prefijo al precio de caché. OpenAI activa la caché por defecto en los modelos compatibles a partir de 1,024 tokens y dice que la entrada en caché tiene un “discounted up to 95%” (Traducción: «descuento de hasta el 95 %») (consultado el 2026-11-15). En BroadNet, DeepSeek V4.1 Flash factura la entrada en caché a $0.0055 por 1M, frente a $0.175 de la entrada nueva.

La regla: contenido estático primero, contenido cambiante al final. Prompt del sistema, luego esquemas de herramientas, luego documentos compartidos, luego historial y, por último, la pregunta nueva. Una marca de tiempo o una lista de herramientas desordenada al principio rompe la caché para todo lo que viene después.

3. ¿Qué recortes del prompt son seguros?

Recorte lo que el modelo no usa. Ahorros habituales: prompts del sistema largos escritos en prosa, más ejemplos few-shot de los que la tarea necesita, esquemas de herramientas que el paso nunca llama, JSON verboso donde bastaría una tabla compacta e historial completo del chat donde bastaría un resumen. La recuperación también se desvía: enviar diez fragmentos cuando dos responden la pregunta es un problema de costo y de calidad.

Pruebe cada recorte con un conjunto fijo de entradas, para que un prompt más barato no estropee las respuestas sin que usted lo note. Reducir los tokens del prompt incluye recortes medidos para cada uno de estos casos. El idioma también importa: el texto en árabe usa más tokens por palabra que el inglés en la mayoría de los tokenizadores; consulte tokens por palabra en árabe frente a inglés.

4. ¿Cómo se limitan la salida y el razonamiento?

Pida menos y póngale un tope. Pida campos JSON en lugar de prosa, un límite de palabras en lugar de «explique» y que no se repita la pregunta. Después configure max_tokens para que una respuesta desbocada se detenga.

Los modelos que piensan requieren cuidado. La documentación de BroadNet indica que el razonamiento cuenta para max_tokens, así que un límite bajo puede devolver una respuesta vacía. Mantenga 1,000 tokens o más y configure reasoning_effort en low en los pasos sencillos. Con claves de pago por token, el razonamiento se factura como salida. Tokens de razonamiento: por qué paga más de lo que ve y la solución a la respuesta vacía cubren ambos lados.

5. ¿Cómo elegir un modelo más barato sin perder calidad?

Compare el costo por tarea exitosa, no el precio por token. Prepare de 50 a 100 entradas reales con sus salidas esperadas, ejecute cada candidato y divida el gasto entre los aciertos. Un modelo más barato por token que falla un tercio de las veces puede salir más caro cuando se cuentan los reintentos y la revisión humana.

Revise primero las funcionalidades. En BroadNet, las herramientas y la salida estructurada están documentadas solo para GLM 5.3 y Qwen3.8 27B. Gemma 4 VL 26B es el modelo más pequeño de BroadNet para texto e imágenes; consulte su precio en la tabla de arriba para tareas sencillas. Muchas aplicaciones usan un modelo pequeño para los pasos fáciles y uno más grande para los difíciles; usted elige el modelo en su propio código. Cómo evaluar un LLM antes de cambiar ofrece un plan de pruebas.

No espere a que su modelo actual baje de precio. Los proveedores rara vez rebajan el precio de un modelo existente; el ahorro suele llegar con una versión nueva. Consulte la historia de precios de las API de OpenAI, Anthropic y Google y las mayores rebajas de precios de API de LLM.

6. ¿Se puede agrupar o posponer el trabajo que puede esperar?

Donde el proveedor lo ofrece, sí, y los descuentos son grandes. Todo consultado el 2026-11-15:

Proveedor Descuento Condición
Batch API de OpenAI 50 % frente a las llamadas síncronas Se completa en 24 horas; límites de frecuencia separados
Message Batches API de Anthropic 50 % Asíncrona; la mayoría de los lotes termina en menos de una hora
API de DeepSeek, fuera de horas pico Las tarifas fuera de horas pico son la mitad de las de horas pico Horas pico de 01:00 a 04:00 y de 06:00 a 10:00 UTC, de lunes a viernes

BroadNet Inference no tiene Batch API ni precios fuera de horas pico. Para los trabajos nocturnos en BroadNet, ejecútelos con un ejecutor reanudable sobre el endpoint normal, dentro de los límites de su clave. Procesamiento por lotes con LLM sin Batch API incluye el código. Si el trabajo dura horas, una sesión de tarifa plana puede costar menos que los tokens (paso 10).

7. ¿Cuándo conviene cachear respuestas completas?

Cuando la misma pregunta vuelve a llegar con las mismas entradas. Los bots de preguntas frecuentes, la clasificación de elementos repetidos y las nuevas ejecuciones de un pipeline tras una caída repiten trabajo. Una caché de coincidencia exacta, con clave por modelo, prompt y configuración, devuelve la respuesta guardada y se salta la llamada. Defina una caducidad para que las respuestas no queden obsoletas. Cachear respuestas de LLM en Python muestra una implementación pequeña.

8. ¿Cómo desperdician dinero los reintentos y los bucles?

Una solicitud reintentada es una inferencia nueva y se vuelve a facturar con claves de pago por token. Reintente solo ante errores 429 y 5xx, con backoff exponencial y jitter, y limite los intentos. Nunca reintente un 400: la misma solicitud errónea falla de la misma forma.

Los agentes añaden un segundo riesgo: un bucle que sigue llamando al modelo. Limite los pasos por tarea y deténgase cuando se repita la misma llamada a herramienta. Cómo manejar los errores 429 y 10 formas de reducir el costo de los agentes de programación cubren ambos casos.

9. ¿Cómo evitar que la factura se descontrole?

Las alertas avisan cuando ya pasó. Los límites lo impiden. Use un saldo prepagado, una clave por aplicación para poder revocar una sin detener las demás y una lista de IP permitidas en las claves de servidor. En el código, fije un presupuesto por trabajo y deténgase cuando se agote. Control del gasto en API de LLM expone las capas, desde la cuenta hasta la solicitud.

10. ¿Cuándo gana un plan de tarifa plana al precio por token?

Cuando un agente trabaja la mayor parte del día. BroadNet vende DeepSeek V4.1 Flash por token o por sesión: Luna Llena (Full Moon) a $60 al mes, Órbita (Orbit) a $15 a la semana o Meteoro (Meteor) a $1 la hora, sin medidor de tokens. Cada sesión ejecuta una solicitud a la vez.

Escenarios calculados por BroadNet con facturación por token:

Carga de trabajo Por token al mes Opción más barata
Proyecto personal $14.23 el pago por uso
Asistente diario $42.67 el pago por uso
Agente de programación a tiempo completo $65.40 Luna Llena
Agente siempre activo $196.20 Luna Llena

Con un 80 % de aciertos de caché y 20 tokens de entrada por cada token de salida, el punto de equilibrio está en unos 917 millones de tokens de entrada y 46 millones de de salida al mes. El uso ligero sigue siendo más barato por token. Vea el cálculo completo del punto de equilibrio o pruebe sus volúmenes en la calculadora de tarifa plana frente a pago por token.

¿Qué pasos conviene evitar?

Algunos consejos populares cuestan más de lo que ahorran:

  • Comprimir los prompts hasta romperlos. El ahorro en entrada se pierde si baja la calidad de las respuestas y los usuarios vuelven a intentarlo.
  • Resumir el historial en cada turno. Cada resumen es una llamada adicional y cambia el prefijo, así que la caché falla. Resuma rara vez y añada el resto al final.
  • Perseguir solo el precio por token más bajo. Los límites de frecuencia, las funcionalidades que faltan y las tasas de fallo suman costo.
  • Autoalojar para una carga pequeña. Las GPU se facturan por hora, estén ocupadas o no. Autoalojamiento frente a costo de API muestra dónde está el punto de equilibrio.

Dónde encaja BroadNet Inference

BroadRouter es el sitio web de la propia BroadNet, así que valore esta sección teniendo eso en cuenta. BroadNet Inference es una API compatible con OpenAI con cuatro modelos de chat con precio por token, entrada en caché en tres de ellos y un plan de tarifa plana para DeepSeek V4.1 Flash pensado para el uso constante de agentes. No ofrece Batch API ni tarifas fuera de horas pico, así que, para trabajos grandes que pueden esperar, los descuentos por lotes de OpenAI o Anthropic, o las horas fuera de pico de DeepSeek, pueden costar menos. Las cuentas nuevas reciben $5 de crédito inicial, que cubre Gemma 4 VL 26B, los dos modelos Transcribe y las claves por hora de Gemma; DeepSeek, GLM y Qwen requieren una recarga. El autoservicio no tiene SLA. Vea los precios o compare los planes.

Preguntas frecuentes

¿Cuál es la forma más rápida de reducir los costos de una API de LLM?

Empiece por el prompt caching. Ponga primero el prompt del sistema, los esquemas de herramientas y los documentos compartidos, y manténgalos idénticos byte a byte entre llamadas. La entrada en caché se factura a una fracción del precio de la entrada nueva, sin cambiar de modelo ni de funcionalidad. Después limite la salida, porque los tokens de salida cuestan más que los de entrada.

¿De verdad una Batch API reduce el precio a la mitad?

En OpenAI y Anthropic, sí. La Batch API de OpenAI ofrece un 50 % de descuento con una ventana de finalización de 24 horas, y la Message Batches API de Anthropic reduce el costo en un 50 por ciento (ambas consultadas el 2026-11-15). BroadNet Inference no tiene Batch API, así que ejecute los trabajos con un ejecutor reanudable sobre los endpoints normales.

¿Los tokens de razonamiento forman parte de mi factura?

Sí, con claves de pago por token. El razonamiento se reporta dentro de los completion tokens y se factura al precio de salida. Configure reasoning_effort en low para los pasos sencillos, pero mantenga max_tokens en 1,000 o más para que la respuesta no se corte.

¿Un modelo más pequeño siempre es más barato?

Por token, normalmente sí. Por tarea, no siempre. Un modelo más pequeño que necesita dos reintentos o un prompt más largo puede costar más que uno más grande que acierta a la primera. Compare el costo por tarea exitosa en su propio conjunto de pruebas.

¿Cuándo es más barato un plan de tarifa plana que pagar por token?

Cuando el uso es alto y constante. En BroadNet, una sesión de Luna Llena cuesta $60 al mes para DeepSeek V4.1 Flash. Con un 80 % de aciertos de caché, el punto de equilibrio está en unos 917 millones de tokens de entrada y 46 millones de de salida al mes. Por debajo de eso, pagar por token es más barato.

¿Los reintentos cuestan dinero?

Sí. Una solicitud reintentada es una inferencia nueva y se vuelve a facturar con claves de pago por token. Reintente solo ante errores 429 y 5xx, con backoff, y limite el número de intentos.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity