Her LLM isteğinin iki tarafı vardır: gönderdiğiniz ve geri gelen. API’ler ikisini de token cinsinden sayar ve çoğu farklı ücretlerle faturalandırır.
Nasıl çalışır
Girdi, istekteki her şeydir: sistem istemi, önceki her mesaj, araç tanımları, araç sonuçları, belgeler ve görseller. Çok turlu bir sohbet her turda tüm geçmişi yeniden gönderir; bu yüzden girdi konuşmayla birlikte büyür.
Çıktı, modelin ürettiği her şeydir: görünür yanıt, araç çağrıları ve akıl yürütme modellerinde gizli akıl yürütme token’ları.
Kullanım bloğu ikisini de bildirir:
"usage": {
"prompt_tokens": 18000,
"completion_tokens": 900,
"prompt_tokens_details": { "cached_tokens": 15000 },
"completion_tokens_details": { "reasoning_tokens": 600 }
}
Tek bir isteğin maliyeti şöyledir:
(new input × input price) + (cached input × cached price) + (output × output price); yani (yeni girdi × girdi fiyatı) + (önbellekli girdi × önbellekli fiyat) + (çıktı × çıktı fiyatı), her fiyat 1M token başınadır.
Neden önemli
İkisi arasındaki oran, hangi fiyatın önemli olduğunu belirler. Bir sohbet asistanı kısa bir soru için birkaç yüz token üretebilir. Bir kodlama ajanı ise her turda büyük bir depo bağlamını yeniden gönderir ve kısa bir yama yazar; bu yüzden girdi, çıktıyı 20’ye 1 veya daha fazla oranla geçebilir. Ajanlar için faturanın çoğunu girdi fiyatı ve önbellekli girdi fiyatı belirler.
Çıktıyı izlemek yine de önemlidir. Akıl yürütme modelleri düşünmeye yanıtlamaktan daha fazla token harcayabilir ve bunlar çıktı olarak faturalandırılır. Takip ettiğimiz modellerde tipik çıktı-girdi fiyat oranı LLM API fiyat endeksinde.
BroadNet Inference’ta
Yayımlanan fiyat dosyasına göre 1M token başına:
| Model | Girdi | Önbellekli girdi | Çıktı |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| BroadNet Gemma 4 VL 26B | $0.10 | — | $0.22 |
BroadNet’in örnek hesabında tam zamanlı bir kodlama ajanı ayda %80 önbellek isabetiyle 1.000 milyon girdi token’ı gönderiyor ve 50 milyon çıktı token’ı alıyor. Token başına DeepSeek V4.1 Flash ile bu $65.40 tutarındadır. Sabit fiyatlı bir plan sayacı ortadan kaldırır: Full Moon oturum başına aylık $60. Kendi rakamlarınızı fiyat hesaplayıcısında karşılaştırın veya sabit fiyat ile token başına ödeme yazısını okuyun.
Sık yapılan hatalar
- Yalnızca görünür yanıtı fiyatlandırıp akıl yürütme token’larını unutmak.
- Geçmişin ne kadar hızlı büyüdüğünü göz ardı etmek. Bir sohbetin 30. turu, 30 turluk girdi taşıyabilir.