BroadRouter

LLM API maliyetleri nasıl düşürülür: sıralı 10 adımlık kontrol listesi

BroadNet Inference ekibi · 8 dk okuma · Yayımlandı

LLM API maliyetlerini düşürmek için önce istek başına tokenları kaydedin, sonra şu sırayla ilerleyin: istem önekini sabit tutup önbelleğe alınmasını sağlayın, istemleri kısaltın, çıktıyı ve akıl yürütmeyi sınırlayın, testlerinizi geçen en küçük modeli kullanın, bekleyebilecek işleri toplu çalıştırın veya kaydırın, tekrarlanan yanıtları önbelleğe alın, yeniden denemeleri sınırlayın ve kullanım başa baş noktasını geçince sabit fiyatlı plana geçin.

“LLM faturanızı %70 düşürün” türü listelerin çoğu, iyi tavsiyeleri kimsenin ölçmediği sayılarla karıştırır. Bu kontrol listesi, önce ne yapılması gerektiğine göre sıralanmıştır ve her rakam bir fiyat dosyasından veya sağlayıcının kendi belgelerinden gelir. Bir adımın bu sitede daha ayrıntılı bir yazısı varsa oraya bağlantı verilir. Aşağıdaki BroadNet fiyatları, 2026-11-14 tarihinde eşitlenen fiyat dosyasından alınmıştır.

LLM API faturasını ne belirler?

Neredeyse her faturayı dört sayı belirler:

  1. Yeni girdi tokenları. İstemin, önbellekten okunan kısmı çıkarıldıktan sonra kalanı.
  2. Önbellekli girdi tokenları. Tekrarlanan önek; daha düşük bir ücretle faturalandırılır.
  3. Çıktı tokenları. Yanıt ve düşünen modellerde buna ek olarak akıl yürütme tokenları.
  4. İstek sayısı. Her yeniden deneme dahil, her çağrı ayrı faturalandırılır.

Pahalı birim çıktıdır. BroadNet’in sohbet modellerinde, 1M token başına:

Model Girdi Önbellekli girdi Çıktı
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 yayımlanmadı $0.22

Dolayısıyla kaldıraçlar şunlardır: daha az yeni token gönderin, önbellekten daha fazlasını okuyun, daha az üretin ve daha az çağrı yapın. Her birimin ayrıntısı için LLM API fiyatlandırması nasıl işler yazısına bakın.

Kontrol listesine genel bakış

Adım Neyi değiştirirsiniz Neyi düşürür Emek
1. Ölçün Yalnızca kayıt Henüz hiçbir şeyi; nereden kesileceğini gösterir Düşük
2. Öneki önbelleğe alın İstem sırası Girdi fiyatı Düşük
3. İstemi kısaltın İstem içeriği Girdi tokenları Orta
4. Çıktıyı ve akıl yürütmeyi sınırlayın İstek ayarları Çıktı tokenları Düşük
5. Modeli ihtiyaca göre seçin Model seçimi Tüm fiyatlar Orta
6. Toplu çalıştırın veya kaydırın Zamanlama Token başına fiyat (sunulduğu yerde) Orta
7. Yanıtları önbelleğe alın Uygulama kodu İsteklerin tamamı Orta
8. Yeniden denemeleri ve döngüleri sınırlayın Uygulama kodu Boşa giden istekler Düşük
9. Harcama sınırları koyun Hesap ve anahtarlar Kontrolden çıkan faturalar Düşük
10. Sabit fiyatın başa baş noktasını kontrol edin Faturalandırma modeli Yüksek hacimde toplam fatura Düşük

1. Bir şeyi kesmeden önce neden ölçmelisiniz?

Çünkü fatura nedeni gizler. Aynı görünen iki istek arasında token açısından on kat fark olabilir. Her chat completion yanıtı, prompt_tokens, completion_tokens ve sağlayıcı raporluyorsa önbellekli tokenları içeren bir usage bloğu döndürür. Bunları istem metni olmadan, özellik ve kullanıcı bazında kaydedin. Bir hafta sonra hangi özelliğin en çok harcadığını ve bunun girdiden mi, önbellek ıskalarından mı yoksa çıktıdan mı geldiğini bilirsiniz.

Kişisel verileri maskelenmiş kullanım kaydı yazısı bir kayıt şeması gösterir. Bir özelliği yayına almadan önce boyutlandırmak için LLM API maliyet hesaplayıcısını veya lansmandan önce maliyet tahmini yazısındaki yöntemi kullanın.

2. İstem önbellekleme maliyeti nasıl düşürür?

Sağlayıcılar, birebir tekrarlanan istem başlangıçlarını önbelleğe alır. Sonraki çağrı bu öneki önbellek fiyatıyla okur. OpenAI desteklenen modellerde önbelleklemeyi 1.024 tokendan itibaren varsayılan olarak açar ve önbellekli girdinin “discounted up to 95%” (BroadRouter çevirisi: “%95’e varan indirimli”) olduğunu belirtir (2026-11-15 tarihinde kontrol edildi). BroadNet’te DeepSeek V4.1 Flash, önbellekli girdiyi 1M token başına $0.0055 ile faturalandırır; yeni girdi ise $0.175.

Kural şu: sabit içerik önce, değişen içerik en sona. Önce sistem istemi, sonra araç şemaları, sonra ortak belgeler, sonra geçmiş, en son yeni soru. En üstteki bir zaman damgası veya sırası karışan bir araç listesi, kendisinden sonraki her şey için önbelleği bozar.

3. İstemde hangi kesintiler güvenlidir?

Modelin kullanmadığını kesin. Sık görülen kazanımlar: düzyazı olarak yazılmış uzun sistem istemleri, görevin gerektirdiğinden fazla few-shot örneği, adımın hiç çağırmadığı araçların şemaları, kompakt bir tablonun yeteceği yerde ayrıntılı JSON ve bir özetin yeteceği yerde sohbet geçmişinin tamamı. Getirme (retrieval) de zamanla şişer: soruyu iki parça yanıtlarken on parça göndermek hem maliyet hem kalite sorunudur.

Daha ucuz bir istem yanıtları sessizce bozmasın diye her kesintiyi sabit bir girdi setiyle test edin. İstem tokenlarını azaltma yazısında bunların her biri için ölçülmüş kesintiler var. Dil de önemlidir: çoğu tokenizer’da Arapça metin, kelime başına İngilizceden daha fazla token kullanır; Arapça ve İngilizcede kelime başına token yazısına bakın.

4. Çıktıyı ve akıl yürütmeyi nasıl sınırlarsınız?

Daha azını isteyin ve bir sınır koyun. Düzyazı yerine JSON alanları, “açıkla” yerine bir kelime sınırı isteyin ve sorunun yeniden yazılmamasını söyleyin. Ardından kontrolden çıkan bir yanıt dursun diye max_tokens ayarlayın.

Düşünen modeller dikkat ister. BroadNet’in belgelerine göre akıl yürütme max_tokens sınırına dahildir; bu yüzden düşük bir sınır boş bir yanıt döndürebilir. 1.000 token veya daha fazlasını bırakın ve basit adımlarda reasoning_effort değerini low yapın. Token başına faturalandırılan anahtarlarda akıl yürütme çıktı olarak faturalandırılır. Akıl yürütme tokenları: neden gördüğünüzden fazlasını ödersiniz ve boş yanıt çözümü iki tarafı da ele alır.

5. Kaliteden ödün vermeden daha ucuz bir modeli nasıl seçersiniz?

Token başına fiyatı değil, başarılı görev başına maliyeti karşılaştırın. Beklenen çıktılarıyla birlikte 50 ila 100 gerçek girdi hazırlayın, her adayı çalıştırın ve harcamayı başarılı sonuç sayısına bölün. Token başına daha ucuz olup üç seferden birinde başarısız olan bir model, yeniden denemeleri ve insan incelemesini hesaba kattığınızda daha pahalıya gelebilir.

Önce özellikleri kontrol edin. BroadNet’te araçlar ve yapılandırılmış çıktı yalnızca GLM 5.3 ve Qwen3.8 27B için belgelenmiştir. Gemma 4 VL 26B, BroadNet’in metin ve görsel işleyen daha küçük modelidir; basit görevler için fiyatına yukarıdaki tablodan bakın. Birçok uygulama kolay adımlar için küçük, zor adımlar için daha büyük bir model kullanır; modeli kendi kodunuzda siz seçersiniz. Geçiş yapmadan önce bir LLM nasıl değerlendirilir yazısı bir test planı sunar.

Mevcut modelinizin ucuzlamasını beklemeyin. Sağlayıcılar var olan bir modelin fiyatını nadiren düşürür; tasarruf genellikle yeni bir sürümle gelir. OpenAI, Anthropic ve Google API fiyat geçmişi ve en büyük LLM API fiyat indirimleri yazılarına bakın.

6. Bekleyebilecek işleri toplu çalıştırabilir veya kaydırabilir misiniz?

Sağlayıcı sunuyorsa evet, ve indirimler büyüktür. Tümü 2026-11-15 tarihinde kontrol edildi:

Sağlayıcı İndirim Şartı
OpenAI Batch API Senkron çağrılara göre %50 24 saat içinde tamamlanır; ayrı hız sınırları
Anthropic Message Batches API %50 Asenkron; çoğu toplu iş bir saatten kısa sürede biter
DeepSeek API, yoğun olmayan saatler Yoğun olmayan saatlerde ücretler yoğun saatlerin yarısı Yoğun saatler Pazartesi–Cuma, UTC 01:00–04:00 ve 06:00–10:00

BroadNet Inference’ın Batch API’si ve yoğun olmayan saatlere özel fiyatı yoktur. BroadNet’te gece çalışan işleri, anahtarınızın sınırları içinde normal uç nokta üzerinden, kaldığı yerden devam edebilen bir çalıştırıcıyla yürütün. Kodu Batch API olmadan LLM toplu işleme yazısında bulabilirsiniz. İş saatlerce sürüyorsa sabit bir oturum tokenlardan daha ucuza gelebilir (10. adım).

7. Yanıtların tamamını ne zaman önbelleğe almalısınız?

Aynı soru aynı girdilerle yeniden geldiğinde. SSS botları, tekrarlanan öğelerin sınıflandırılması ve bir çökme sonrasında işlem hattının yeniden çalıştırılması hep aynı işi tekrarlar. Model, istem ve ayarlara göre anahtarlanan birebir eşleşmeli bir önbellek, saklanan yanıtı döndürür ve çağrıyı atlar. Yanıtlar bayatlamasın diye bir son kullanma süresi belirleyin. Python’da LLM yanıtlarını önbelleğe alma küçük bir uygulama gösterir.

8. Yeniden denemeler ve döngüler nasıl para israf eder?

Yeniden denenen bir istek yeni bir çıkarımdır ve token başına faturalandırılan anahtarlarda yeniden ücretlendirilir. Yalnızca 429 ve 5xx hatalarında, rastgele gecikme (jitter) eklenmiş üstel geri çekilmeyle (exponential backoff) yeniden deneyin ve deneme sayısını sınırlayın. Bir 400 hatasını asla yeniden denemeyin: aynı hatalı istek aynı şekilde başarısız olur.

Ajanlar ikinci bir risk ekler: modeli durmadan çağıran bir döngü. Görev başına adım sayısını sınırlayın ve aynı araç çağrısı tekrarlandığında durun. 429 hatalarını yönetme ve kodlama ajanı maliyetlerini düşürmenin 10 yolu ikisini de ele alır.

9. Bir faturanın kontrolden çıkmasını nasıl önlersiniz?

Uyarılar size iş işten geçtikten sonra haber verir. Sınırlar ise durdurur. Ön ödemeli bakiye kullanın, uygulama başına bir anahtar açın ki birini iptal ettiğinizde diğerleri durmasın, sunucu anahtarlarında da IP izin listesi kullanın. Kodda iş başına bir bütçe belirleyin ve bütçe bitince durun. LLM API harcama kontrolü hesaptan isteğe kadar katmanları sıralar.

10. Sabit fiyatlı plan token başına fiyatlandırmayı ne zaman geçer?

Bir ajan günün büyük bölümünde çalıştığında. BroadNet, DeepSeek V4.1 Flash’ı token başına veya oturum başına satar: Full Moon aylık $60, Orbit haftalık $15, Meteor ise saatlik $1; token sayacı yoktur. Bir oturum aynı anda tek istek çalıştırır.

BroadNet’in token başına faturalandırma için hesapladığı örnek senaryolar:

İş yükü Token başına aylık Daha ucuz seçenek
Yan proje $14.23 kullandıkça öde
Günlük asistan $42.67 kullandıkça öde
Tam zamanlı kodlama ajanı $65.40 Full Moon
Sürekli çalışan ajan $196.20 Full Moon

%80 önbellek isabetinde ve çıktı tokenı başına 20 girdi tokenında başa baş noktası ayda yaklaşık 917 milyon girdi ve 46 milyon çıktı tokenıdır. Hafif kullanımda token başına ödeme daha ucuz kalır. Başa baş hesabının tamamı yazısına bakın veya kendi hacimlerinizi sabit fiyat ve token başına ödeme hesaplayıcısında deneyin.

Hangi adımları atlamalısınız?

Popüler tavsiyelerin bazıları kazandırdığından fazlasına mal olur:

  • İstemleri bozulana kadar sıkıştırmak. Yanıt kalitesi düşer ve kullanıcılar yeniden denerse girdideki tasarruf kaybolur.
  • Geçmişi her turda özetlemek. Her özet ek bir çağrıdır ve öneki değiştirir, bu yüzden önbellek ıskalar. Seyrek özetleyin, gerisini sona ekleyin.
  • Yalnızca token başına en düşük fiyatın peşine düşmek. Hız sınırları, eksik özellikler ve hata oranları da maliyet ekler.
  • Küçük bir iş yükü için kendi sunucunuzda barındırmak. GPU’lar meşgul olsun olmasın saat başına faturalandırılır. Kendi sunucunuzda barındırma ve API maliyeti başa baş noktasının nerede olduğunu gösterir.

BroadNet Inference nerede devreye giriyor

BroadRouter, BroadNet’in kendi web sitesidir; bu bölümü bunu göz önünde tutarak değerlendirin. BroadNet Inference, token başına fiyatlandırılan dört sohbet modeli, bunların üçünde önbellekli girdi ve düzenli ajan kullanımı için sabit fiyatlı bir DeepSeek V4.1 Flash planı sunan OpenAI uyumlu bir API’dir. Batch API’si ve yoğun olmayan saatlere özel fiyatı yoktur; bu nedenle bekleyebilecek büyük işlerde OpenAI’ın veya Anthropic’in toplu iş indirimleri ya da DeepSeek’in yoğun olmayan saatleri daha ucuza gelebilir. Yeni hesaplar $5 başlangıç kredisi alır; bu kredi Gemma 4 VL 26B’yi, iki Transcribe modelini ve Gemma saatlik anahtarlarını kapsar. DeepSeek, GLM ve Qwen için bakiye yüklemek gerekir. Self servis kullanımda SLA yoktur. Fiyatlara bakın veya planları karşılaştırın.

Sık sorulan sorular

LLM API maliyetini düşürmenin en hızlı yolu nedir?

İstem önbelleklemeyle başlayın. Sistem istemini, araç şemalarını ve ortak belgeleri en başa koyun ve çağrılar arasında bayt bayt aynı tutun. Önbellekli girdi, yeni girdinin küçük bir kesriyle faturalandırılır ve ne modeli ne de özelliği değiştirmeniz gerekir. Ardından çıktıyı sınırlayın, çünkü çıktı tokenları girdi tokenlarından pahalıdır.

Batch API fiyatı gerçekten yarıya indiriyor mu?

OpenAI ve Anthropic'te evet. OpenAI'ın Batch API'si 24 saatlik tamamlanma süresiyle %50 indirim sağlar, Anthropic'in Message Batches API'si de maliyeti yüzde 50 düşürür (ikisi de 2026-11-15 tarihinde kontrol edildi). BroadNet Inference'ın Batch API'si yoktur; bu yüzden işleri normal uç noktalar üzerinde, kaldığı yerden devam edebilen bir çalıştırıcıyla yürütün.

Akıl yürütme tokenları faturama yansıyor mu?

Evet, token başına faturalandırılan anahtarlarda. Akıl yürütme tamamlama tokenlarında raporlanır ve çıktı fiyatıyla faturalandırılır. Basit adımlarda reasoning_effort değerini low yapın, ama yanıt kesilmesin diye max_tokens değerini 1.000 veya üzerinde tutun.

Daha küçük bir model her zaman daha mı ucuz?

Token başına genellikle evet. Görev başına her zaman değil. İki kez yeniden denenmesi veya daha uzun bir istem gerektiren küçük bir model, ilk seferde doğru sonuç veren büyük bir modelden pahalıya gelebilir. Kendi test setinizde başarılı görev başına maliyeti karşılaştırın.

Sabit fiyatlı plan, token başına ödemeden ne zaman daha ucuz olur?

Kullanım yüksek ve düzenli olduğunda. BroadNet'te bir Full Moon oturumu, DeepSeek V4.1 Flash için aylık $60 tutarındadır. %80 önbellek isabetiyle başa baş noktası ayda yaklaşık 917 milyon girdi ve 46 milyon çıktı tokenıdır. Bunun altında token başına ödeme daha ucuzdur.

Yeniden denemeler para tutar mı?

Evet. Yeniden denenen bir istek yeni bir çıkarımdır ve token başına faturalandırılan anahtarlarda yeniden ücretlendirilir. Yalnızca 429 ve 5xx hatalarında, geri çekilmeyle (backoff) yeniden deneyin ve deneme sayısını sınırlayın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor