BroadRouter

Akıl yürütme token'ları (reasoning tokens)

Güncellendi

Akıl yürütme token'ları, bir akıl yürütme modelinin görünür yanıtını yazmadan önce problemi çözmek için ürettiği token'lardır. Genellikle çıktı token'ı olarak faturalandırılır, çıktı sınırına ve bağlam penceresine sayılır; API tarafından gizlenebilir veya özetlenebilir.

Diğer adları: akıl yürütme token'ları, düşünme token'ları, reasoning tokens, thinking tokens, chain-of-thought tokens, akıl yürütme çabası, reasoning effort, extended thinking

Akıl yürütme modelleri yanıt vermeden önce düşünür. Bu düşünme de metindir; bu yüzden token, zaman ve bağlam penceresinde yer harcar.

Nasıl çalışır

Bir akıl yürütme modeli önce iç bir düşünce zinciri, ardından görünür yanıtı üretir. İkisi de aynı çıktı bütçesinden gelir. OpenAI’nin rehberi akıl yürütme token’larının “are billed as output tokens” (çeviri: çıktı token’ı olarak faturalandırıldığını) ve bağlam penceresinde yer kapladığını söyler; Anthropic de düşünme token’ları için aynısını söyler ve bunlara “a subset of your max_tokens” (çeviri: max_tokens bütçenizin bir alt kümesi) der.

Chat Completions biçiminde sayı, kullanım bilgisinde görünür:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

Burada 1.186 çıktı token’ının 1.024’ü düşünmeye, yalnızca 162’si yanıta gitti. OpenAI, bir yanıtın “before any visible output tokens are produced” (çeviri: herhangi bir görünür çıktı token’ı üretilmeden önce) sınıra ulaşabileceği konusunda uyarır; bu durumda girdi ve akıl yürütme için ödeme yapar ama yanıt alamazsınız. Modelleriyle denemeye başlarken akıl yürütme ve çıktı için en az 25.000 token ayırmayı önerir.

Birçok API, daha az düşünme token’ı karşılığında kaliteden ödün vermek için reasoning_effort (low, medium, high) gibi bir ayar sunar.

Neden önemli

  • Maliyet. Token başına ücretli bir anahtarda akıl yürütme, genellikle en yüksek ücret olan çıktı fiyatıyla faturalandırılır. Bkz. girdi ve çıktı token’ları.
  • Gecikme. Düşünme, ilk görünür token’dan önce zaman alır. Sabit bir saniye başına token hızında 2.000 akıl yürütme token’ı, 2.000 çıktı token’ının süresini ekler.
  • Güvenilirlik. Akıl yürütmeyen bir modelde işe yarayan küçük bir max_tokens, akıl yürüten bir modelde boş yanıt döndürebilir.

BroadNet Inference’ta

DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür. BroadNet’in belgeleri akıl yürütmenin max_tokens sınırına dahil olduğunu söyler. BroadNet’in belgeleri BroadNet Gemma 4 VL 26B için akıl yürütme listelemez.

Model bildirdiğinde usage.completion_tokens_details.reasoning_tokens düşünme payını gösterir. max_tokens değerini 1.000 veya daha yukarı ayarlayın ya da hiç ayarlamayın; basit adımlar için reasoning_effort="low" kullanın:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

Kullandıkça öde modelinde akıl yürütme çıktı fiyatıyla faturalandırılır; örneğin DeepSeek V4.1 Flash’ta 1M token başına $0.52. Bu model için sınırsız bir planda token sayacı yoktur; bu yüzden akıl yürütmenin ek maliyeti olmaz, yalnızca zaman alır. Çözümlerin tam listesi akıl yürütme modeli neden boş yanıt döndürür rehberinde.

Sık sorulan sorular

Akıl yürütme token'larını görebilir miyim?

API'ye bağlıdır. OpenAI, akıl yürütme token'larının API'si üzerinden görünmediğini ancak özetlenebileceğini söylüyor. Diğer sağlayıcılar akıl yürütmenin bir kısmını veya tamamını ayrı bir alanda döndürür. Her iki durumda da bunlar için ücret ödersiniz.

Akıl yürütme token'larını nasıl azaltırım?

Model destekliyorsa basit görevler için daha düşük bir akıl yürütme çabası ayarı kullanın, örneğin reasoning_effort değerini low yapın. Açık ve net istemler de yardımcı olur.

Bir akıl yürütme modelinden neden boş yanıt aldım?

Model büyük olasılıkla çıktı bütçesinin tamamını akıl yürütmeye harcadı. Bu durumda finish_reason değeri length olur. max_tokens değerini artırın veya akıl yürütme çabasını düşürün.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor