BroadRouter

Cómo estimar el costo de una API de LLM antes de lanzar una función

Por el equipo de BroadNet Inference · 6 min de lectura · Publicado · Actualizado

Para estimar el costo de una API de LLM, modele una acción del usuario, no una llamada a la API: cuente las llamadas por acción, mida los tokens de entrada, en caché y de salida por llamada con muestras reales y multiplique por usuarios y acciones al mes. Sume razonamiento y reintentos, y calcule escenarios bajo, esperado y alto. Nuestro ejemplo con DeepSeek V4.1 Flash da $42.67 al mes.

Para estimar el costo de una API de LLM antes del lanzamiento, ponga precio a una acción del usuario y no a una llamada a la API. Cuente las llamadas que hay detrás, mida los tokens de entrada nueva, de entrada en caché y de salida con 20 a 50 muestras reales, multiplique por las acciones mensuales y sume el razonamiento y los reintentos. Nuestro ejemplo de redacción de respuestas de soporte con DeepSeek V4.1 Flash da $42.67 al mes.

Se trata de una previsión previa al lanzamiento para una sola función; cuando ya tenga usuarios de pago, el costo de LLM por usuario en un SaaS trata los márgenes y los niveles de precios.

¿Cuál es la fórmula del costo de una API de LLM?

monthly cost = actions per month × calls per action
             × ( new input tokens × input price
               + cached input tokens × cached price
               + output tokens × output price ) / 1,000,000

Los tokens de salida incluyen el razonamiento. Los tokens en caché son entrada que el proveedor reutiliza a un precio menor. Todo lo demás es medición. La calculadora gratuita de costos de API de LLM aplica esta fórmula al precio de lista de cualquier modelo.

¿Cómo se construye el modelo de costos, paso a paso?

  1. Defina la unidad de trabajo. “Redactar una respuesta de soporte”, “resumir una llamada”, “arreglar una prueba que falla”. Ponga precio a eso, no a “una solicitud”.
  2. Cuente las llamadas por acción. Una respuesta con recuperación puede ser una sola llamada. Un agente que planifica, edita y comprueba puede hacer diez. Sume su tasa de reintentos: un timeout que se reintenta se factura de nuevo.
  3. Mida los tokens por llamada con muestras reales. Tome entre 20 y 50 entradas realistas, no demos limpias. Para un primer recuento aproximado antes de llamar a ninguna API, péguelas en el contador de tokens. Lea usage.prompt_tokens, usage.prompt_tokens_details.cached_tokens y usage.completion_tokens en cada respuesta. Con streaming, configure stream_options: {"include_usage": true}; la guía de streaming muestra dónde aparece.
  4. Separe la entrada nueva de la entrada en caché. El prompt del sistema, la lista de herramientas y los documentos compartidos pueden ir en caché si van primero y no cambian. El texto del usuario no.
  5. Incluya el razonamiento en la salida. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B piensan antes de responder. Esos tokens de razonamiento se facturan como salida y a menudo superan a la respuesta visible. Por qué el razonamiento cuesta más de lo que se ve.
  6. Estime el volumen. Usuarios activos × acciones por usuario al día × 30.
  7. Multiplique y sume. Convierta los totales de tokens a millones y aplique el precio por 1M.
  8. Calcule tres escenarios. Bajo, esperado y alto. El tráfico de lanzamiento es incierto y los prompts crecen con el tiempo.
  9. Compruebe los límites, no solo el dinero. Las solicitudes por minuto en el pico y las solicitudes en curso deben caber en los límites de frecuencia de su clave.
  10. Elija el modelo de facturación. Por token para tráfico irregular generado por usuarios; un plan de tarifa plana para agentes siempre activos.

¿Cómo queda una estimación práctica? Un redactor de respuestas de soporte

Una aplicación de mesa de ayuda añade “Redactar respuesta”. Las cifras siguientes son supuestos ilustrativos. Sustituya cada una por sus mediciones.

Dato Valor De dónde sale
Agentes de soporte (personal) que usan la función 500 Plan de producto
Borradores por agente al día 4 Uso en el piloto
Días al mes 30
Acciones al mes 60,000 500 × 4 × 30
Llamadas por acción 1 Una llamada con artículos recuperados
Tokens de entrada por llamada 5,000 Prompt del sistema, hilo del ticket, tres artículos de ayuda
Proporción de entrada en caché 50 % Prompt del sistema y prefijo de artículos estables
Tokens de salida por llamada 500 Unos 200 visibles y 300 de razonamiento
Modelo DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 por 1M

Ahora los totales:

Partida Tokens al mes Precio por 1M
Entrada nueva 150M $0.175
Entrada en caché 150M $0.0055
Salida, incluido el razonamiento 30M $0.52
Costo mensual esperado $42.67

Son 300M de tokens de entrada y 30M de salida: 60,000 × 5,000 y 60,000 × 500.

¿Qué amplitud deben tener los escenarios bajo y alto?

Escenario Acciones al mes Tokens de entrada / salida Costo mensual
Bajo: adopción lenta 20,000 100M / 10M $14.23
Esperado 60,000 300M / 30M $42.67
Alto: adopción 3× 180,000 900M / 90M 3 × $42.67

Los tres mantienen la misma proporción de caché del 50 %. Si esa proporción baja, la factura sube: en este modelo la entrada nueva cuesta $0.175 por 1M frente a $0.0055 en caché. Cómo mantener alta la proporción de caché.

¿Qué es lo que más cambia la estimación?

  • Longitud del contexto. Una recuperación que trae diez artículos en lugar de tres puede duplicar la entrada. Mida los tokens después de cada cambio en el prompt.
  • Razonamiento. Configurar reasoning_effort en low para borradores sencillos reduce la salida oculta. Razonamiento y max_tokens.
  • Reintentos y bucles. Una tasa de reintentos del 5 % suma un 5 % a cada partida. Un bucle de agente sin límite de pasos no tiene techo alguno. Control del gasto en APIs de LLM.
  • Elección del modelo. Gemma 4 VL 26B cuesta $0.10 de entrada y $0.22 de salida por 1M, pero su contexto es de 32,768 tokens y BroadNet no indica razonamiento para él. Pruebe la calidad antes de cambiar para ahorrar.
  • Idioma. El mismo contenido puede necesitar muchos más tokens en árabe o hindi que en inglés, y la diferencia depende del tokenizador. Nuestro conjunto de datos de costo real por idioma muestra el precio por 1M de caracteres en cada idioma, para cada modelo y proveedor.
  • Crecimiento del prompt. Los prompts suelen crecer tras el lanzamiento a medida que se atienden casos límite. Repita la medición en cada versión.
  • Cambios de precio. Los precios de lista rara vez cambian, pero pueden subir. En las páginas de precios archivadas de 11 proveedores registramos 52 subidas de precio de lista entre 2024 y noviembre de 2026, cada una comparando el precio de un modelo con su propio precio anterior (frente a 100 bajadas); la subida mediana fue del 40 % sobre un precio combinado. Consulte cómo presupuestar las subidas de precio de las APIs de LLM.

Si la estimación sale demasiado alta, recorra la lista de 10 pasos para reducir los costos de una API de LLM antes de cambiar la función.

¿El volumen cabe en los límites de frecuencia?

60,000 acciones al mes son unas 2,000 al día. Si una décima parte de los borradores del día llega en la hora de más actividad, son 200 por hora, o unas 3 por minuto. Una clave de pago por uso de BroadNet admite 30 solicitudes por minuto y 4 en curso, así que cabe en una sola clave. Compruebe también el escenario alto, o pase su propio pico por la calculadora de límites de frecuencia. Para la relación entre frecuencia y solicitudes en curso, consulte concurrencia. Si recibe errores 429, espere y reintente.

¿Debería esta función usar un plan de tarifa plana?

Probablemente no. Una sesión Luna Llena (Full Moon) cuesta $60 al mes, pero una sesión ejecuta una solicitud a la vez, y muchos usuarios pulsando “Redactar” al mismo tiempo necesitan solicitudes en paralelo. Los planes de tarifa plana encajan con agentes que trabajan de forma continua, como un agente de programación. Las cuentas del punto de equilibrio muestran un agente de programación a tiempo completo a $65.40 al mes por token, por encima del precio del plan.

¿Cómo se convierte la estimación en un presupuesto?

  1. Ponga la cifra esperada en su plan y la cifra alta en su umbral de alertas.
  2. Registre los tokens por acción en producción y compárelos con el modelo cada semana.
  3. Fije límites estrictos en el código: max_tokens, límites de pasos y límites de reintentos.
  4. Repita la estimación cada vez que cambie el modelo, el prompt o la configuración de recuperación.

Puede rehacer las cuentas por token con sus propias cifras en la calculadora de costos de API de LLM, o comparar plan y pago por token en la página de precios.

Dónde encaja BroadNet Inference

BroadNet Inference publica los precios por token de cada modelo de chat y de transcripción que sirve en un único archivo de precios, así que la estimación anterior puede mantenerse en código. Las cuentas nuevas reciben $5 de crédito inicial, válido para Gemma 4 VL 26B y los dos modelos de transcripción, así que puede medir sus muestras con Gemma; DeepSeek, GLM y Qwen requieren una recarga. Si su función necesita un modelo frontera cerrado, BroadNet no es el proveedor adecuado para esa parte.

Preguntas frecuentes

¿Cómo calculo cuántos tokens usaré antes de tener usuarios?

Prepare entre 20 y 50 entradas realistas, páselas por el modelo que piensa usar y lea prompt_tokens, cached_tokens y completion_tokens en el bloque usage. Promédielos por llamada.

¿Cuántos tokens tiene una solicitud de chat típica?

Varía mucho. Un turno de chat corto puede ocupar unos cientos de tokens, mientras que una solicitud con documentos recuperados o un historial largo puede llegar a decenas de miles. Mida sus propios prompts.

¿Debo añadir un margen de seguridad a mi estimación de costos de LLM?

Sí. Calcule un escenario alto con dos a tres veces el volumen esperado y reserve presupuesto para reintentos y prompts más largos a medida que crezca la función. Después fije límites estrictos para que un error no pueda superarlo.

¿Cuándo conviene considerar un plan de tarifa plana?

Cuando un agente o un worker funciona la mayor parte del día con un mismo modelo. Para DeepSeek V4.1 Flash en BroadNet, una sesión Luna Llena cuesta $60 al mes sin medidor de tokens, con una solicitud a la vez.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity