---
title: "LLM API'lerinde ilk token süresi (TTFT) nedir? | BroadRouter"
description: "İlk token süresi (TTFT), bir LLM isteğini gönderdikten sonra ilk çıktı token'ı gelene kadar geçen bekleyiştir. Neyden oluşur: kuyruk, ön doldurma (prefill) ve ağ."
url: https://broadrouter.com/tr/glossary/time-to-first-token/
lang: tr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/glossary/time-to-first-token/) (güncelleme: 2026-11-16).

# İlk token süresi (TTFT)

Güncellendi 2026-11-16

İlk token süresi (time to first token, TTFT), bir dil modeline istek gönderildiği andan ilk çıktı token'ının geldiği ana kadar geçen süredir. Ağ süresini, sunucudaki kuyruk beklemesini ve modelin tüm istemi okuduğu ön doldurma (prefill) adımını içerir; bu yüzden istem uzunluğu ve yükle birlikte artar.

Diğer adları: ilk token süresi, ilk token gecikmesi, TTFT nedir, time to first token, TTFT, first-token latency, time to first content token, first token time

TTFT, bir şey olmadan önceki duraksamadır. Sohbet penceresinde boş ekran, sesli bir botta ise ölü sessizliktir.

## Nasıl çalışır

NVIDIA’nın kıyaslama rehberi TTFT’yi üç parçaya ayırır: “request queuing time, prefill time, and network latency” (çeviri: isteğin kuyrukta bekleme süresi, ön doldurma süresi ve ağ gecikmesi). Her birinin kendi nedeni vardır:

| Parça | Neyin etkisinde | Neyi değiştirebilirsiniz |
| --- | --- | --- |
| Ağ | Mesafe, TLS kurulumu, proxy’ler | Bağlantıları yeniden kullanın; yakın bir bölgeden çağırın |
| Kuyruk | Sunucunun ne kadar yoğun olduğu | Yoğun olmayan saatler, daha az yüklü bir model veya katman |
| Ön doldurma | İstem uzunluğu, model boyutu | Daha kısa istemler, sabit ve önbelleğe alınabilir önekler |

Uzun girdilerde en büyük parça genellikle ön doldurmadır. Model, ilk token’ı üretebilmek için [KV önbelleğini](https://broadrouter.com/tr/glossary/kv-cache/) oluştururken tüm istemi her katmandan geçirir. NVIDIA, yoğun bir sunucuda bir isteğin ön doldurmasının başka bir isteğin üretimiyle çakışabileceğini not eder; bu yüzden TTFT başkalarının trafiğiyle de değişir.

Rakamları okurken iki tanım önemlidir. NVIDIA’nın AIPerf aracı ilk token’ı ancak içerik taşıyorsa sayar. Responses API’de metin akışı için OpenAI’nin rehberi TTFT’yi “until you receive the first nonempty response.output\_text.delta” (çeviri: boş olmayan ilk response.output\_text.delta alınana kadar) ölçer. [Akıl yürütme token’larında](https://broadrouter.com/tr/glossary/reasoning-tokens/) görünen ilk kelime, üretilen ilk token’dan çok daha sonra gelebilir; bu yüzden hangisini kastettiğinizi belirtin.

## Neden önemli

Bir ürünün ne kadar hızlı hissettirdiğini ham hızdan çok TTFT belirler. OpenAI’nin rehberi “a long prompt can delay the first token, especially when much of the input is new” (çeviri: uzun bir istem, özellikle girdinin büyük kısmı yeniyse, ilk token’ı geciktirebilir) der. [Önbellekli girdi token’ları](https://broadrouter.com/tr/glossary/cached-input-tokens/) tam burada işe yarar. Aynı rehber, istem önbelleğinin “can reuse an eligible exact prefix match” (çeviri: uygun, birebir eşleşen bir öneki yeniden kullanabilir) olduğunu söyler ve TTFT’yi önbellek isabetiyle ve isabetsiz karşılaştırmayı önerir. Önbellekteki bir önek ön doldurmanın bir kısmını atlar; böylece tekrarlanan bir sistem istemi daha ucuza gelir ve daha erken başlayabilir.

Ajanlarda TTFT her adımda ödenir. İki saniyelik TTFT’ye sahip yirmi araç çağrısı, herhangi bir çıktı sayılmadan önce kırk saniyelik bekleme ekler.

TTFT, uçtan uca [gecikmenin](https://broadrouter.com/tr/glossary/latency/) bir parçasıdır. Geri kalanı, [saniye başına token](https://broadrouter.com/tr/glossary/tokens-per-second/) değerinin belirlediği üretim süresidir.

## BroadNet Inference’ta

BroadNet’in belgeleri, `data: [DONE]` ile biten, Server-Sent Events üzerinden [akışı](https://broadrouter.com/tr/glossary/streaming/) anlatır; ilk token’ı istemcide bu sayede gözlemlersiniz. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür; bu yüzden ilk görünür metne kadar geçen süre düşünmeyi de içerir. BroadNet bir TTFT rakamı yayımlamaz. Bir zamanlama betiği ve p50/p95 raporlaması için [LLM gecikmesi: TTFT ve saniye başına token](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) yazısına bakın.

## Sık sorulan sorular

### Uzun bir istemde TTFT neden yavaş?

Model herhangi bir şey yazmadan önce istemin her token'ını okumalı ve KV önbelleğini oluşturmalıdır. NVIDIA'nın metrik rehberi, uzun istemlerin TTFT'yi tam da bu nedenle artırdığını söyler.

### Akış (streaming) ilk token süresini azaltır mı?

Hayır. Akış, ilk token oluşur oluşmaz onu görmenizi sağlar; akış olmadan tüm yanıtı beklersiniz. O token'dan önceki sunucu tarafı iş her iki durumda da aynıdır.

### Boş bir ilk parça, ilk token sayılır mı?

Çoğu kıyaslamada sayılmaz. NVIDIA'nın AIPerf aracı içeriksiz ilk yanıtları yok sayar; OpenAI de TTFT'yi boş olmayan ilk metin parçasına (delta) kadar ölçer.

## Ayrıca bakın

-   [Gecikme (latency)](https://broadrouter.com/tr/glossary/latency/) (terim)
-   [Saniyedeki token (tokens per second, TPS)](https://broadrouter.com/tr/glossary/tokens-per-second/) (terim)
-   [KV önbelleği (KV cache)](https://broadrouter.com/tr/glossary/kv-cache/) (terim)
-   [Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/) (terim)
-   [Önbellekli girdi token'ları (cached input tokens)](https://broadrouter.com/tr/glossary/cached-input-tokens/) (terim)
-   [Spekülatif çözümleme (speculative decoding)](https://broadrouter.com/tr/glossary/speculative-decoding/) (terim)
-   [Prefill ve decode (LLM çıkarım aşamaları)](https://broadrouter.com/tr/glossary/prefill-and-decode/) (terim)
-   [Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/) (rehber)
-   [Akıl yürüten model neden boş yanıt döndürür?](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/) (rehber)
-   [LLM gecikmesi: TTFT, saniye başına token ve uçtan uca süre](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) (yazı)
-   [LLM akışı (streaming): SSE parçaları, delta, usage ve iptal](https://broadrouter.com/tr/blog/llm-streaming-sse-explained/) (yazı)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-time-to-first-token&utm_content=page-cta) ·

**Kaynaklar**

-   [NVIDIA NIM, LLM kıyaslama metrikleri (ilk token süresi)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [OpenAI, gecikme optimizasyonu rehberi](https://developers.openai.com/api/docs/guides/latency-optimization)
-   [BroadNet Inference API referansı, akış ve akıl yürütme (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-time-to-first-token&utm_content=sources)
