Akıl yürütme modelleri yanıt vermeden önce düşünür. Bu düşünme de metindir; bu yüzden token, zaman ve bağlam penceresinde yer harcar.
Nasıl çalışır
Bir akıl yürütme modeli önce iç bir düşünce zinciri, ardından görünür yanıtı üretir. İkisi de aynı çıktı bütçesinden gelir. OpenAI’nin rehberi akıl yürütme token’larının “are billed as output tokens” (çeviri: çıktı token’ı olarak faturalandırıldığını) ve bağlam penceresinde yer kapladığını söyler; Anthropic de düşünme token’ları için aynısını söyler ve bunlara “a subset of your max_tokens” (çeviri: max_tokens bütçenizin bir alt kümesi) der.
Chat Completions biçiminde sayı, kullanım bilgisinde görünür:
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
Burada 1.186 çıktı token’ının 1.024’ü düşünmeye, yalnızca 162’si yanıta gitti. OpenAI, bir yanıtın “before any visible output tokens are produced” (çeviri: herhangi bir görünür çıktı token’ı üretilmeden önce) sınıra ulaşabileceği konusunda uyarır; bu durumda girdi ve akıl yürütme için ödeme yapar ama yanıt alamazsınız. Modelleriyle denemeye başlarken akıl yürütme ve çıktı için en az 25.000 token ayırmayı önerir.
Birçok API, daha az düşünme token’ı karşılığında kaliteden ödün vermek için reasoning_effort (low, medium, high) gibi bir ayar sunar.
Neden önemli
- Maliyet. Token başına ücretli bir anahtarda akıl yürütme, genellikle en yüksek ücret olan çıktı fiyatıyla faturalandırılır. Bkz. girdi ve çıktı token’ları.
- Gecikme. Düşünme, ilk görünür token’dan önce zaman alır. Sabit bir saniye başına token hızında 2.000 akıl yürütme token’ı, 2.000 çıktı token’ının süresini ekler.
- Güvenilirlik. Akıl yürütmeyen bir modelde işe yarayan küçük bir
max_tokens, akıl yürüten bir modelde boş yanıt döndürebilir.
BroadNet Inference’ta
DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür. BroadNet’in belgeleri akıl yürütmenin max_tokens sınırına dahil olduğunu söyler. BroadNet’in belgeleri BroadNet Gemma 4 VL 26B için akıl yürütme listelemez.
Model bildirdiğinde usage.completion_tokens_details.reasoning_tokens düşünme payını gösterir. max_tokens değerini 1.000 veya daha yukarı ayarlayın ya da hiç ayarlamayın; basit adımlar için reasoning_effort="low" kullanın:
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
Kullandıkça öde modelinde akıl yürütme çıktı fiyatıyla faturalandırılır; örneğin DeepSeek V4.1 Flash’ta 1M token başına $0.52. Bu model için sınırsız bir planda token sayacı yoktur; bu yüzden akıl yürütmenin ek maliyeti olmaz, yalnızca zaman alır. Çözümlerin tam listesi akıl yürütme modeli neden boş yanıt döndürür rehberinde.