Yayına almadan önce LLM API maliyetini tahmin etmek için tek bir API çağrısını değil, tek bir kullanıcı eylemini fiyatlandırın. Arkasındaki çağrıları sayın, 20 ila 50 gerçek örnekte yeni girdi, önbellekli girdi ve çıktı token’larını ölçün, aylık eylem sayısıyla çarpın, sonra akıl yürütmeyi ve yeniden denemeleri ekleyin. DeepSeek V4.1 Flash üzerindeki destek yanıtı örneğimiz ayda $42.67 ediyor.
Bu, tek bir özellik için yayın öncesi bir tahmindir; ücretli kullanıcılarınız olduğunda kâr marjlarını ve fiyat katmanlarını SaaS için kullanıcı başına LLM maliyeti yazısı ele alıyor.
LLM API maliyetinin formülü nedir?
monthly cost = actions per month × calls per action
× ( new input tokens × input price
+ cached input tokens × cached price
+ output tokens × output price ) / 1,000,000
Formüldeki terimler: aylık eylem, eylem başına çağrı, yeni girdi, önbellekli girdi ve çıktı token’ları ile her birinin fiyatı. Çıktı token’larına akıl yürütme dahildir. Önbellekli token’lar, sağlayıcının daha düşük fiyatla yeniden kullandığı girdidir. Gerisi ölçümdür. Ücretsiz LLM API maliyet hesaplayıcısı bu formülü herhangi bir modelin liste fiyatına uygular.
Maliyet modeli adım adım nasıl kurulur?
- İş birimine bir ad verin. “Destek yanıtı taslağı hazırla”, “bir görüşmeyi özetle”, “başarısız bir testi düzelt”. “Bir isteği” değil, bunu fiyatlandırın.
- Eylem başına çağrıları sayın. Getirmeye dayalı (retrieval) bir yanıt tek çağrı olabilir. Planlayan, düzenleyen ve kontrol eden bir ajan on çağrı olabilir. Yeniden deneme oranınızı ekleyin: yeniden denediğiniz bir zaman aşımı tekrar faturalandırılır.
- Çağrı başına token’ları gerçek örneklerde ölçün. Temiz demolar değil, 20 ila 50 gerçekçi girdi alın. Herhangi bir API’yi çağırmadan önce kaba bir ilk sayım için bunları token sayacına yapıştırın. Her yanıttan
usage.prompt_tokens,usage.prompt_tokens_details.cached_tokensveusage.completion_tokensdeğerlerini okuyun. Akıştastream_options: {"include_usage": true}ayarlayın; nerede göründüğünü akış rehberi gösteriyor. - Yeni ve önbellekli girdiyi ayırın. Sistem istemi, araç listesi ve paylaşılan belgeler başta gelir ve aynı kalırsa önbelleğe alınabilir. Kullanıcı metni alınamaz.
- Akıl yürütmeyi çıktıya dahil edin. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce düşünür. Bu akıl yürütme token’ları çıktı olarak faturalandırılır ve çoğu zaman görünür yanıttan büyüktür. Akıl yürütme neden gördüğünüzden pahalıya gelir.
- Hacmi tahmin edin. Aktif kullanıcı × kullanıcı başına günlük eylem × 30.
- Çarpın ve toplayın. Token toplamlarını milyona çevirin ve 1M başına fiyatı uygulayın.
- Üç senaryo fiyatlandırın. Düşük, beklenen ve yüksek. Yayın trafiği belirsizdir ve istemler zamanla büyür.
- Yalnızca parayı değil, sınırları da kontrol edin. Dakikadaki tepe istek sayısı ve uçuştaki istekler, anahtarınızın hız sınırlarına sığmalıdır.
- Faturalandırma modeline karar verin. Dalgalı, kullanıcı kaynaklı trafik için token başına; sürekli açık ajanlar için sabit fiyatlı plan.
Hesaplanmış bir tahmin neye benzer? Destek yanıtı taslakçısı
Bir yardım masası uygulaması “Yanıt taslağı hazırla” özelliği ekliyor. Aşağıdaki sayılar örnek amaçlı varsayımlardır. Her birini kendi ölçümlerinizle değiştirin.
| Girdi | Değer | Kaynağı |
|---|---|---|
| Özelliği kullanan destek temsilcileri (personel) | 500 | Ürün planı |
| Temsilci başına günlük taslak | 4 | Pilot kullanım |
| Aydaki gün | 30 | |
| Aylık eylem | 60.000 | 500 × 4 × 30 |
| Eylem başına çağrı | 1 | Getirilen makalelerle tek çağrı |
| Çağrı başına girdi token’ı | 5.000 | Sistem istemi, talep yazışması, üç yardım makalesi |
| Girdinin önbellekli payı | %50 | Sabit sistem istemi ve makale öneki |
| Çağrı başına çıktı token’ı | 500 | Yaklaşık 200 görünür, 300 akıl yürütme |
| Model | DeepSeek V4.1 Flash | 1M başına $0.175 / $0.0055 / $0.52 |
Şimdi toplamlar:
| Kalem | Aylık token | 1M başına fiyat |
|---|---|---|
| Yeni girdi | 150M | $0.175 |
| Önbellekli girdi | 150M | $0.0055 |
| Akıl yürütme dahil çıktı | 30M | $0.52 |
| Beklenen aylık maliyet | $42.67 |
Bu, 300M girdi ve 30M çıktı token’ı eder: 60.000 × 5.000 ve 60.000 × 500.
Düşük ve yüksek senaryolar ne kadar geniş olmalı?
| Senaryo | Aylık eylem | Girdi / çıktı token’ı | Aylık maliyet |
|---|---|---|---|
| Düşük: yavaş benimseme | 20.000 | 100M / 10M | $14.23 |
| Beklenen | 60.000 | 300M / 30M | $42.67 |
| Yüksek: 3 kat benimseme | 180.000 | 900M / 90M | 3 × $42.67 |
Üçü de aynı %50 önbellek payını koruyor. Önbellek payı düşerse fatura artar: bu modelde yeni girdi 1M başına $0.175, önbellekli girdi ise $0.0055 tutar. Önbellek payını yüksek tutmanın yolları.
Tahmini en çok ne değiştirir?
- Bağlam uzunluğu. Üç yerine on makale getiren bir arama, girdiyi ikiye katlayabilir. Her istem değişikliğinden sonra token’ları ölçün.
- Akıl yürütme. Basit taslaklarda
reasoning_effortdeğerinilowyapmak gizli çıktıyı küçültür. Akıl yürütme ve max_tokens. - Yeniden denemeler ve döngüler. %5’lik bir yeniden deneme oranı her kaleme %5 ekler. Adım sınırı olmayan bir ajan döngüsünün ise hiçbir tavanı yoktur. LLM API’leri için harcama kontrolü.
- Model seçimi. Gemma 4 VL 26B, 1M başına $0.10 girdi ve $0.22 çıktı tutar; ancak bağlamı 32.768 token’dır ve BroadNet bu model için akıl yürütme listelemez. Tasarruf için geçmeden önce kaliteyi test edin.
- Dil. Aynı içerik Arapça veya Hintçede İngilizceye göre çok daha fazla token gerektirebilir ve fark tokenizer’a bağlıdır. Dile göre gerçek maliyet veri setimiz, her model ve sağlayıcıda her dil için 1M karakter başına fiyatı gösteriyor.
- İstem büyümesi. Uç durumlar ele alındıkça istemler yayından sonra büyüme eğilimindedir. Ölçümü her sürümde yeniden yapın.
- Fiyat değişiklikleri. Liste fiyatları nadiren değişir ama artabilir. 11 sağlayıcının arşivlenmiş fiyat sayfalarında 2024 ile Kasım 2026 arasında 52 liste fiyatı artışı kaydettik; her biri bir modelin fiyatını kendi önceki fiyatıyla karşılaştırıyor (100 indirime karşı). Artışların medyanı karma fiyatta %40’tı. LLM API fiyat artışlarına göre nasıl bütçe yapılır.
Tahmin çok yüksek çıkarsa özelliği değiştirmeden önce LLM API maliyetlerini düşürmek için 10 adımlık kontrol listesini uygulayın.
Hacim hız sınırlarına sığıyor mu?
Ayda 60.000 eylem, günde yaklaşık 2.000 eder. Günlük taslakların onda biri en yoğun saate denk gelirse bu saatte 200, yani dakikada yaklaşık 3 eder. BroadNet kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 uçuştaki isteğe izin verir; yani bu iş tek anahtara sığar. Yüksek senaryoyu da kontrol edin ya da kendi tepe değerinizi hız sınırı hesaplayıcısında çalıştırın. Hız ile uçuştaki istekler arasındaki hesap için eşzamanlılık maddesine bakın. 429 alırsanız bekleyip yeniden deneyin.
Bu özellik sabit fiyatlı bir planda mı çalışmalı?
Muhtemelen hayır. Full Moon oturumu ayda $60 tutar, ancak bir oturum aynı anda tek istek çalıştırır; “Taslak” düğmesine aynı anda tıklayan çok sayıda kullanıcı ise paralel istek gerektirir. Sabit fiyatlı planlar, kodlama ajanı gibi sürekli çalışan ajanlara uyar. Başa baş hesabı, tam zamanlı bir kodlama ajanının token başına ayda $65.40 tuttuğunu, yani plan fiyatının üzerinde kaldığını gösteriyor.
Tahmin bir bütçeye nasıl dönüştürülür?
- Beklenen rakamı planınıza, yüksek rakamı uyarı eşiğinize yazın.
- Üretimde eylem başına token’ları loglayın ve her hafta modelle karşılaştırın.
- Kodda kesin sınırlar koyun:
max_tokens, adım sınırları ve yeniden deneme sınırları. - Modeli, istemi veya getirme ayarlarını her değiştirdiğinizde tahmini yeniden yapın.
Token başına hesabı kendi sayılarınızla LLM API maliyet hesaplayıcısında yeniden yapabilir ya da planı token başına ödemeyle fiyatlar sayfasında karşılaştırabilirsiniz.
BroadNet Inference nereye uyuyor?
BroadNet Inference, sunduğu tüm sohbet ve transkripsiyon modellerinin token başına fiyatlarını tek bir fiyat dosyasında yayımlıyor; böylece yukarıdaki tahmini kodda tutabilirsiniz. Yeni hesaplar $5 başlangıç kredisi alır; bu kredi Gemma 4 VL 26B ve iki transkripsiyon modelinde geçerlidir, yani örneklerinizi Gemma’da ölçebilirsiniz. DeepSeek, GLM ve Qwen için bakiye yüklemek gerekir. Özelliğiniz kapalı bir öncü (frontier) model gerektiriyorsa, o kısım için BroadNet doğru sağlayıcı değildir.
