---
title: "¿Qué es el tiempo hasta el primer token (TTFT) en un LLM?"
description: "El tiempo hasta el primer token (TTFT) es la espera entre enviar una solicitud a un LLM y recibir el primer token de salida. Sus partes: cola, prefill y red."
url: https://broadrouter.com/es/glossary/time-to-first-token/
lang: es
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/glossary/time-to-first-token/) (actualizado el 2026-11-16).

# Tiempo hasta el primer token (TTFT)

Actualizado 2026-11-16

El tiempo hasta el primer token (TTFT) es lo que pasa desde que se envía una solicitud a un modelo de lenguaje hasta que llega el primer token de salida. Incluye la red, la cola del servidor y el prefill, cuando el modelo lee todo el prompt, así que crece con el largo del prompt y la carga.

También llamado: tiempo hasta el primer token, tiempo al primer token, latencia del primer token, TTFT, time to first token, first-token latency, time to first content token, first token time

El TTFT es la pausa antes de que pase algo. En una ventana de chat es la pantalla en blanco; en un bot de voz, el silencio.

## Cómo funciona

La guía de benchmarking de NVIDIA divide el TTFT en tres partes: “request queuing time, prefill time, and network latency” (traducción: el tiempo de espera de la solicitud en cola, el tiempo de prefill y la latencia de red). Cada una tiene su propia causa:

| Parte | Qué la determina | Qué puede cambiar |
| --- | --- | --- |
| Red | Distancia, negociación TLS, proxies | Reutilice conexiones; llame desde una región cercana |
| Cola | Qué tan ocupado está el servidor | Horarios de menor demanda, un modelo o nivel menos cargado |
| Prefill | Largo del prompt, tamaño del modelo | Prompts más cortos, prefijos estables que se puedan cachear |

Con entradas largas, el prefill suele ser la parte más grande. El modelo pasa todo el prompt por cada capa para construir la [caché KV](https://broadrouter.com/es/glossary/kv-cache/) antes de poder producir el primer token. NVIDIA señala que, en un servidor ocupado, el prefill de una solicitud puede solaparse con la generación de otra, así que el TTFT también varía con el tráfico de los demás.

Al leer cifras importan dos definiciones. AIPerf de NVIDIA solo cuenta el primer token si trae contenido. Para el texto en streaming de la Responses API, la guía de OpenAI mide el TTFT “until you receive the first nonempty response.output\_text.delta” (traducción: hasta que recibe el primer response.output\_text.delta no vacío). Con [tokens de razonamiento](https://broadrouter.com/es/glossary/reasoning-tokens/), la primera palabra visible puede llegar mucho después del primer token generado, así que aclare a cuál se refiere.

## Por qué importa

El TTFT define qué tan rápido se siente un producto, más que la velocidad bruta. La guía de OpenAI dice que “a long prompt can delay the first token, especially when much of the input is new” (traducción: un prompt largo puede retrasar el primer token, sobre todo cuando gran parte de la entrada es nueva). Aquí es donde ayudan los [tokens de entrada en caché](https://broadrouter.com/es/glossary/cached-input-tokens/). La misma guía dice que el prompt caching “can reuse an eligible exact prefix match” (traducción: puede reutilizar una coincidencia exacta de prefijo que cumpla los requisitos) y sugiere comparar el TTFT con y sin aciertos de caché. Un prefijo en caché se salta parte del prefill, así que un prompt de sistema repetido cuesta menos y puede arrancar antes.

En los agentes, el TTFT se paga en cada paso. Veinte llamadas a herramientas con un TTFT de dos segundos suman cuarenta segundos de espera antes de contar cualquier salida.

El TTFT es una parte de la [latencia](https://broadrouter.com/es/glossary/latency/) total. El resto es el tiempo de generación, que depende de los [tokens por segundo](https://broadrouter.com/es/glossary/tokens-per-second/).

## En BroadNet Inference

La documentación de BroadNet describe el [streaming](https://broadrouter.com/es/glossary/streaming/) con Server-Sent Events, que termina con `data: [DONE]`; así es como se observa el primer token en el cliente. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, así que el tiempo hasta el primer texto visible incluye el razonamiento. BroadNet no publica una cifra de TTFT. Para un script de medición y reportes p50/p95, consulte [latencia de LLM: TTFT frente a tokens por segundo](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/).

## Preguntas frecuentes

### ¿Por qué el TTFT es lento con un prompt largo?

El modelo tiene que leer cada token del prompt y construir su caché KV antes de poder escribir nada. La guía de métricas de NVIDIA indica que los prompts más largos aumentan el TTFT justamente por eso.

### ¿El streaming reduce el tiempo hasta el primer token?

No. El streaming le permite ver el primer token en cuanto existe; sin él, espera la respuesta completa. El trabajo del servidor antes de ese token es el mismo en ambos casos.

### ¿Un primer fragmento vacío cuenta como primer token?

En la mayoría de los benchmarks, no. AIPerf de NVIDIA ignora las respuestas iniciales sin contenido, y OpenAI mide el TTFT hasta el primer delta de texto no vacío.

## Vea también

-   [Latencia (latency)](https://broadrouter.com/es/glossary/latency/) (término)
-   [Tokens por segundo (TPS)](https://broadrouter.com/es/glossary/tokens-per-second/) (término)
-   [Caché KV (KV cache)](https://broadrouter.com/es/glossary/kv-cache/) (término)
-   [Streaming (respuestas en tiempo real)](https://broadrouter.com/es/glossary/streaming/) (término)
-   [Tokens de entrada en caché (cached input tokens)](https://broadrouter.com/es/glossary/cached-input-tokens/) (término)
-   [Decodificación especulativa (speculative decoding)](https://broadrouter.com/es/glossary/speculative-decoding/) (término)
-   [Prefill y decode (fases de inferencia de un LLM)](https://broadrouter.com/es/glossary/prefill-and-decode/) (término)
-   [Streaming de chat completions y conexiones interrumpidas](https://broadrouter.com/es/guides/streaming-chat-completions/) (guía)
-   [¿Por qué un modelo de razonamiento devuelve una respuesta vacía?](https://broadrouter.com/es/guides/reasoning-tokens-empty-response/) (guía)
-   [Latencia de LLM: TTFT, tokens por segundo y latencia total](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/) (artículo)
-   [Streaming de LLM explicado: chunks SSE, deltas, usage y cancelación](https://broadrouter.com/es/blog/llm-streaming-sse-explained/) (artículo)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-time-to-first-token&utm_content=page-cta) ·

**Fuentes**

-   [NVIDIA NIM, métricas de benchmarking de LLM (tiempo hasta el primer token)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [OpenAI, guía de optimización de latencia](https://developers.openai.com/api/docs/guides/latency-optimization)
-   [Referencia de la API de BroadNet Inference, streaming y razonamiento (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-time-to-first-token&utm_content=sources)
