---
title: "Özel LLM uç noktası planlama: önce neyi tanımlamalı?"
description: "Özel bir LLM uç noktası istemeden önce tanımlanacaklar: iş yükü, saniyede token, eşzamanlılık, bağlam, bölge, lisans, bütçe; ardından uç noktanın testi."
url: https://broadrouter.com/tr/blog/private-endpoint-planning/
lang: tr
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/blog/private-endpoint-planning/) (güncelleme: 2026-11-15).

# Özel uç nokta, net tanımlanmış bir iş yüküyle başlar

BroadNet Inference ekibi · 7 dk okuma · Yayımlandı 2026-11-15

Özel bir uç nokta istemeden önce iş yükünü yazıya dökün: günlük ve en yoğun andaki istek sayısı, girdi ve çıktı token'ları, bunların gerektirdiği eşzamanlılık, ihtiyaç duyduğunuz bağlam, işleme bölgesi, model ve lisansı ve bir bütçe. Bölgeyi ve sınırları yazılı olarak kararlaştırın, ardından gerçek veri göndermeden önce verilen uç noktayı hızlı bir testten geçirin.

## Öne çıkanlar

-   Bir kapasite talebi, rakamları kadar iyidir: en yoğun andaki saniye başına istek, girdi ve çıktı token'ları ve kabul edebileceğiniz gecikme.
-   Eşzamanlılık Little yasasından çıkar: aynı anda işlenen istek = geliş hızı × istek başına süre. İstek başına süreyi önce bir denemede ölçün.
-   BroadNet özel uç noktaları herkese açık olarak; trafiğinize göre fiyatlandırılan, kendi anahtarınız, sınırlarınız ve bölgenizle gelen, özel bir model kimliğiyle erişilen ayrılmış GPU kapasitesi olarak tanımlıyor. Geri kalan her şey BroadNet ile kararlaştırılır.
-   BroadNet'in Koşulları, self-servis kullanımda erişilebilirlik taahhüdü olmadığını; özel uç noktaların ve ayrılmış kapasitenin ayrı bir yazılı sözleşmeye tabi olduğunu söylüyor.
-   Verilen uç noktayı üretimden önce test edin: model kimliği, akış, kararlaştırılan eşzamanlılık ve yanlış model kimliğinde dönen hata.

**Bu sayfada**

1.  Özel uç nokta ne zaman mantıklıdır?
2.  İş yükü hakkında neler tanımlanmalı?
3.  Hacim, saniye başına token’a ve eşzamanlılığa nasıl çevrilir?
4.  Bölge, veri yerelleştirme ve sınırlar ne olacak?
5.  Hangi model, hangi lisansla?
6.  Bütçe nasıl belirlenmeli?
7.  Talep nasıl gönderilir?
8.  Size verilen uç nokta nasıl doğrulanır?
9.  BroadNet Inference nereye oturuyor?

“Ayrılmış bir uç noktaya ihtiyacımız var” cümlesi bir şartname değil, bir konuşmanın başlangıcıdır. Sağlayıcı sizin rakamlarınız olmadan kapasiteyi boyutlandıramaz, konumlandıramaz ve fiyatlandıramaz; siz de onlar olmadan sağlayıcının yanıtını değerlendiremezsiniz. Bu yazı, fatura verisi çıkarma örneği üzerinden, istemeden önce neyi tanımlamanız gerektiğini listeliyor ve size verilen uç noktayı kontrol eden bir betikle bitiyor.

Yazı her sağlayıcı için geçerli. BroadNet’in teklifini anlattığı yerlerde, BroadNet’in herkese açık olarak söylediklerine bağlı kalıyor (15 Kasım 2026’da kontrol edildi). Bunun ötesindeki her şey BroadNet’e sorulacak bir soru.

## Özel uç nokta ne zaman mantıklıdır?

Genellikle dört nedenden biri için:

-   **Self-servis sınırlarının üstünde trafik.** BroadNet’in API başvurusu, kullandıkça öde anahtarı için dakikada 30 istek ve aynı anda 4 istek sınırı yayımlıyor. Bunun üstünde sürekli bir iş yükü, bir yeniden deneme sorusu değil, bir kapasite sorusudur. (Kısa ani yükselmeleri [429’ları ele alma](https://broadrouter.com/tr/blog/handle-llm-api-429-rate-limits/) yazısı anlatıyor.)
-   **Herkese açık listede olmayan bir model.** BroadNet’in kataloğu bazı modelleri “available on request” (talep üzerine sunulur) olarak işaretliyor; Qwen3-VL 30B-A3B, Qwen3-VL 8B ve BroadNet’in Cohere Transcribe Arabic için yaptığı ince ayar bunlar arasında. Farkı [bir model kataloğunu okuma](https://broadrouter.com/tr/blog/understand-model-status/) yazısı açıklıyor.
-   **Kontrol etmeniz gereken bir işleme konumu.** [Suudi Arabistan ve BAE PDPL kontrol listesindekiler](https://broadrouter.com/tr/blog/saudi-uae-pdpl-llm-api-checklist/) gibi veri yerelleştirme kuralları, yazılı olarak kararlaştırdığınız bir bölge gerektirebilir.
-   **Öngörülebilir gecikme.** Paylaşılan kapasite diğer kullanıcıların yüküyle değişir. Ayrılmış kapasite bu değişkeni ortadan kaldırır; ağ mesafesini veya kendi istem boyutlarınızı değil.

Bunların hiçbiri geçerli değilse self-servis bir anahtar daha basittir. Hacminiz çok yüksek ve sabitse kendiniz çalıştırmakla da karşılaştırın: yöntem [kendi sunucunda barındırma ile API maliyeti](https://broadrouter.com/tr/blog/self-hosting-llm-vs-api-cost/) yazısında.

## İş yükü hakkında neler tanımlanmalı?

Tek sayfalık bir özet yazın. Sağlayıcının ihtiyaç duyduğu rakamlar şunlar:

| Kalem | Ne yazılmalı | Örnek |
| --- | --- | --- |
| Görev | Modelin ne yaptığı, tek cümleyle | Fatura fotoğraflarını oku, JSON alanları döndür |
| Hacim | Günlük istek ve en yoğun saatin payı | Günde 40.000, %15’i en yoğun saatte |
| Token’lar | Ortalama ve 95. yüzdelik girdi ve çıktı token’ları | 1.800 girdi (tek sayfa görsel + istem), 350 çıktı |
| Bağlam | En büyük tek istek, istem artı yanıt | 4.000 token |
| Gecikme | Kabul edilebilir ilk token süresi ve tam yanıt süresi | Tam yanıt 10 saniye içinde |
| Akış | Gerekli mi değil mi | Gerekli değil (toplu iş tarzı) |
| Girdiler | Metin, görsel, ses; biçimler ve boyutlar | JPEG ve PNG, her biri tek sayfa |
| Diller | Hangileri ve her birinin payı | Arapça ve İngilizce, 60/40 |
| Büyüme | 6 ve 12 ay sonra beklenen hacim | 12 ayda iki katı |

Token sayılarını tahminle değil, gerçek örnekler üzerinde ölçün. Arapça, aynı metin için çoğu zaman İngilizceden daha fazla token gerektirir; [Arapça token sayacı](https://broadrouter.com/tools/arabic-token-counter/) ve [dile göre gerçek maliyet](https://broadrouter.com/data/real-cost-by-language/) farklı tokenizer’larda farkın ne kadar olduğunu gösteriyor. Görseller için [görsel token hesaplayıcısı](https://broadrouter.com/tools/image-token-calculator/) ilk tahmini veriyor.

## Hacim, saniye başına token’a ve eşzamanlılığa nasıl çevrilir?

En yoğun andaki saniye başına istek, en yoğun saatin hacminin 3.600’e bölünmesidir. Eşzamanlılık, yani aynı anda işlenen istek sayısı, [Little yasasından](https://en.wikipedia.org/wiki/Little%27s_law) çıkar: bir sistemdeki ortalama sayı, geliş hızı ile her birinin orada geçirdiği ortalama sürenin çarpımına eşittir. Bir API için bu, saniye başına istek × istek başına saniyedir.

```python
import math

def size(requests_per_day: int, peak_share_of_day_in_busiest_hour: float,
         in_tokens: int, out_tokens: int, out_tok_per_s_per_stream: float) -> dict:
    """Rough peak numbers to put in a capacity enquiry. Measure your own inputs; these are not provider specs."""
    peak_rps = requests_per_day * peak_share_of_day_in_busiest_hour / 3600
    seconds_per_request = out_tokens / out_tok_per_s_per_stream        # ignores queueing and prompt time
    concurrency = peak_rps * seconds_per_request                      # Little's law: L = λ × W
    return {
        "peak_requests_per_second": round(peak_rps, 2),
        "seconds_per_request": round(seconds_per_request, 1),
        "concurrent_requests_at_peak": math.ceil(concurrency),
        "peak_input_tokens_per_second": round(peak_rps * in_tokens),
        "peak_output_tokens_per_second": round(peak_rps * out_tokens),
        "monthly_tokens_millions": round(requests_per_day * 30 * (in_tokens + out_tokens) / 1e6, 1),
    }

# 40,000 invoice extractions a day, 15% of them in the busiest hour,
# 1,800 tokens in, 350 out, 60 tokens/s per stream measured on a trial.
print(size(40_000, 0.15, 1_800, 350, 60))
```

Betik en yoğun anda saniyede 1,67 istek, istek başına yaklaşık 5,8 saniye, 10 eşzamanlı istek, saniyede 3.000 girdi ve 583 çıktı token’ı ve ayda 2.580 milyon token yazdırdı. Saniyede 60 token, örnek için yapılmış bir varsayım; hız modele, istem uzunluğuna ve yüke göre değiştiği için kendi değerinizi kullanacağınız modelde ölçün. Neyin ölçüleceğini [gecikme, TTFT ve işlem hacmi](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) yazısı açıklıyor.

İki uyarı. Formül istem işleme süresini yok sayar; bu yüzden uzun istemler veya büyük görseller gerçek istekleri yavaşlatır ve eşzamanlılığı yukarı iter. Ayrıca ortalamalar ani yükselmeleri gizler: sağlayıcıya yalnızca ortalamayı değil, 95. yüzdelik istek boyutunuzu ve kısa bir ani yük profilini verin. Bu örneğin en yoğun anı (dakikada yaklaşık 100 istek ve aynı anda 10 istek), tek bir kullandıkça öde anahtarı için yayımlanan self-servis sınırlarının epey üstünde; kapasite görüşmesine değdiği an da tam olarak budur.

## Bölge, veri yerelleştirme ve sınırlar ne olacak?

Düzenlemeye tabi herhangi bir veri hareket etmeden önce bunları açıkça ve yazılı olarak kararlaştırın. BroadNet’in Koşulları (§7.3a) şöyle diyor: “Contact us to agree processing locations for your deployment before sending data with residency requirements,” (BroadRouter çevirisi: Yerelleştirme gereksinimleri olan verileri göndermeden önce dağıtımınızın işleme konumlarını kararlaştırmak için bizimle iletişime geçin) ve iş ortağında barındırılan ve yedek işlemenin başka işleyicileri içerdiğini, güncel alt işleyici listesinin talep üzerine müşterilere sunulduğunu ekliyor. Gizlilik bildirimi, BroadNet’in kendi modellerinin ve barındırdığı açık ağırlıklı modellerin Amerika Birleşik Devletleri’nde BroadNet’e ait veya kiralık donanımda çalıştığını, iş ortağı kapasitesinin yedek olduğunu söylüyor; genel bakış sayfası ise MENA’da veya Avrupa’da bölgesel işlemenin talep üzerine sunulduğunu belirtiyor.

Bu yüzden her sağlayıcıya sorulacak sorular şunlar:

1.  İstekleri hangi bölge işliyor, yedek kapasite hangi bölgede?
2.  Yük devretme veya taşma dahil, trafiğe hangi alt işleyiciler dokunabilir?
3.  Uç noktanın hız, eşzamanlılık ve token sınırları neler ve bunların üstünde ne olur?
4.  Hangi erişilebilirlik ve destek koşulları geçerli ve bunlar nerede yazılı? BroadNet’in Koşulları (§7.4) self-servis kullanımda erişilebilirlik taahhüdü olmadığını, özel uç noktaların ve ayrılmış kapasitenin ayrı yazılı sözleşmenize tabi olduğunu söylüyor. Diğer sağlayıcıların yazılı SLA’larının neyi kapsadığını görmek için [LLM API SLA karşılaştırması](https://broadrouter.com/tr/blog/llm-api-sla-uptime-compared/) yazısını okuyun.
5.  Ne saklanıyor? BroadNet’in çıkarım API’si için yayımlanan tutum şu: çıkarım içeriği saklanmaz; gerekli hesap, faturalandırma ve güvenlik meta verileri [gizlilik bildiriminde](https://www.broadnet.ai/inference-privacy) açıklandığı şekilde saklanır. Aynısının sizin uç noktanız için de geçerli olduğunu doğrulayın.

## Hangi model, hangi lisansla?

Modeli ve sürümünü tam olarak belirtin ve lisansının kullanımınıza ve API üzerinden sunuma izin verdiğini kontrol edin. BroadNet’in model sayfaları Gemma 4 26B, Qwen3-VL 30B-A3B ve Cohere Transcribe temel ağırlıkları için Apache-2.0 listeliyor; BroadNet’in Cohere Transcribe Arabic ince ayarı ise “under contract” (sözleşmeye tabi). Koşulları, modellerin kendi lisanslarına tabi olduğunu ve DeepSeek V4.1 Flash’ın lisansının iş ortağında barındırıldığında da geçerli olduğunu söylüyor.

Bağlam penceresini de kararlaştırın. Bağlam sınırları yalnızca temel modelin azami değerine değil, modele ve dağıtıma bağlıdır: BroadNet, herkese açık API’sinde Gemma 4 VL 26B için 32K token, talep üzerine sunulan Qwen3-VL 30B-A3B için 16K token listeliyor. [Bağlam penceresi hesaplayıcısını](https://broadrouter.com/tools/context-window-calculator/) ortalama isteğinizle değil, en büyük isteğinizle kullanın.

## Bütçe nasıl belirlenmeli?

BroadNet özel uç nokta fiyatı yayımlamıyor; genel bakış sayfası “Reserved GPU, priced to your traffic. Ask for a quote.” (BroadRouter çevirisi: Ayrılmış GPU, trafiğinize göre fiyatlandırılır. Teklif isteyin.) diyor. Bu yüzden önce kendi tavanınızı belirleyin. Aynı iş yükünü, boyutlandırma betiğindeki aylık token sayısıyla [LLM API maliyet hesaplayıcısında](https://broadrouter.com/tools/llm-api-cost-calculator/) self-servis olarak fiyatlandırın ve öngörülebilir kapasitenin, bir bölgenin veya herkese açık olmayan bir modelin bunun üstüne sizin için ne kadar değerli olduğuna karar verin. Self-servis rakamının altında bir teklif bonus sayılır; çok üstündeki bir teklifin ise gereksinim listenizden bir gerekçesi olmalı.

## Talep nasıl gönderilir?

BroadNet’in API başvurusu şöyle diyor: “Private endpoints, our Arabic fine-tunes and other models on request are reached with a private ID issued with the endpoint.” (BroadRouter çevirisi: Özel uç noktalara, Arapça ince ayarlarımıza ve talep üzerine sunulan diğer modellere, uç noktayla birlikte verilen özel bir kimlikle erişilir.) Genel bakış sayfası “your model, languages and traffic requirements” (BroadRouter çevirisi: modeliniz, dilleriniz ve trafik gereksinimleriniz) bilgilerini istiyor. Tek sayfalık özetinizi API anahtarı veya müşteri verisi olmadan [iletişim sayfası](https://broadrouter.com/tr/contact/#private) üzerinden gönderin. Boyutlandırma çıktısını, bölgeyi, modeli ve lisansı, gecikme hedefini, bütçe tavanınızı ve zaman çizelgenizi ekleyin.

## Size verilen uç nokta nasıl doğrulanır?

Üretim trafiğinden önce uç noktayı kararlaştırılanlara göre test edin. Bu betik yalnızca Python standart kütüphanesini kullanıyor. Özel model kimliğinin çalıştığını, akışın BroadNet belgelerinin tarif ettiği `data: [DONE]` işaretiyle bittiğini, kararlaştırılan eşzamanlılığın 429 almadan çalıştığını ve yanlış bir model kimliğinin reddedildiğini kontrol ediyor.

```python
import json, os, sys, time, urllib.error, urllib.request
from concurrent.futures import ThreadPoolExecutor

BASE = os.environ["ENDPOINT_BASE_URL"].rstrip("/")    # from your agreement, e.g. https://.../v1
KEY = os.environ["ENDPOINT_API_KEY"]
MODEL = os.environ["ENDPOINT_MODEL_ID"]                # the private ID issued with the endpoint
AGREED_CONCURRENCY = int(os.environ.get("AGREED_CONCURRENCY", "4"))

def post(payload: dict, stream=False):
    req = urllib.request.Request(f"{BASE}/chat/completions", data=json.dumps(payload).encode(),
        headers={"Authorization": f"Bearer {KEY}", "Content-Type": "application/json"})
    t0 = time.monotonic()
    try:
        with urllib.request.urlopen(req, timeout=120) as r:
            body = r.read().decode()
            return r.status, r.headers.get("X-Request-ID"), body, time.monotonic() - t0
    except urllib.error.HTTPError as e:
        return e.code, e.headers.get("X-Request-ID"), e.read().decode(), time.monotonic() - t0

def main() -> int:
    msg = [{"role": "user", "content": "Reply with the word OK."}]
    results = {}
    code, rid, body, secs = post({"model": MODEL, "messages": msg, "max_tokens": 1000})
    ok = code == 200 and "usage" in json.loads(body)
    results["model_id_accepted"] = (ok, f"HTTP {code}, request ID {rid}, {secs:.2f}s")
    code, _, body, _ = post({"model": MODEL, "messages": msg, "stream": True,
                             "stream_options": {"include_usage": True}})
    results["stream_ends_with_DONE"] = (code == 200 and body.rstrip().endswith("data: [DONE]"), f"HTTP {code}")
    with ThreadPoolExecutor(AGREED_CONCURRENCY) as pool:
        codes = list(pool.map(lambda _: post({"model": MODEL, "messages": msg, "max_tokens": 1000})[0],
                              range(AGREED_CONCURRENCY)))
    results["agreed_concurrency_no_429"] = (all(c == 200 for c in codes), f"codes {sorted(codes)}")
    code, _, _, _ = post({"model": MODEL + "-typo", "messages": msg})
    results["unknown_model_rejected"] = (code in (400, 403, 404), f"HTTP {code}")
    for name, (passed, note) in results.items():
        print(f"{'PASS' if passed else 'FAIL'}  {name}: {note}")
    return 0 if all(p for p, _ in results.values()) else 1

if __name__ == "__main__":
    sys.exit(main())
```

Betiği, aynı anda 8 isteğe izin veren yerel bir sahte sunucuya karşı çalıştırdık (gerçek bir uç nokta değil). `AGREED_CONCURRENCY=8` ile dört kontrolün tamamı geçti. 12 ile eşzamanlılık kontrolü sekiz 200 ve dört 429 ile başarısız oldu; bu, yayından sonra değil, önce görmek istediğiniz sonuçtur. `max_tokens=1000`, yanıt vermeden önce bütçenin bir kısmını harcayan akıl yürütme modellerine pay bırakır.

Hızlı testten sonra, gerçek boyutlu istemlerle ölçtüğünüz en yoğun yükte kısa bir yük testi çalıştırın ve uç noktanın ilk token süresini ve tam yanıt gecikmesini kaydedin. İstek kimliklerini saklayın; BroadNet’in belgeleri destek taleplerinde `X-Request-ID`, zaman damgası, rota ve durum bilgisini istiyor.

## BroadNet Inference nereye oturuyor?

BroadRouter, BroadNet’in kendi sitesidir. BroadNet Inference, herkese açık modellere token başına, ses dakikası başına, oturum planıyla ve saatlik anahtarla self-servis erişim satıyor; fiyatlar [fiyat sayfasında](https://broadrouter.com/tr/pricing/). Özel uç noktalar, bölgesel işleme, ince ayarlar ve “on request” (talep üzerine) olarak listelenen modeller self-servis değildir: BroadNet’in fiyat teklifi verip yazılı olarak kararlaştırdığı taleplerdir. Bu yazı, BroadNet’in sizin iş yükünüz için ne sunacağını söyleyemez. Bunu öğrenmenin yolu net bir özettir.

Bu konu için ücretsiz araçlar (İngilizce)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Ücretsiz araçlar (İngilizce)](https://broadrouter.com/tools/)

## Bu yazıdaki terimler

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/)

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

[Gecikme (latency)](https://broadrouter.com/tr/glossary/latency/)

Gecikme (latency), bir dil modeli API'sinde, isteğin gönderilmesinden son çıktı token'ının alınmasına kadar geçen süredir. İlk token süresi ile üretim süresinin toplamıdır ve genellikle ortalama yerine p50 ve p95 gibi yüzdeliklerle raporlanır.

[Araç çağırma (tool calling)](https://broadrouter.com/tr/glossary/tool-calling/)

Araç çağırma (tool calling), fonksiyon çağırma (function calling) olarak da bilinir; modelin, geliştiricinin tanımladığı bir fonksiyonu çalıştırmak için JSON argümanlı yapılandırılmış bir istek döndürdüğü bir LLM API özelliğidir. Fonksiyonu uygulama çalıştırır ve sonucu geri gönderir; model hiçbir zaman kodu kendisi çalıştırmaz.

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Girdi ve çıktı token'ları](https://broadrouter.com/tr/glossary/input-and-output-tokens/)

Girdi token'ları, bir dil modelinin istekte okuduğu token'lardır: sistem istemi, konuşma geçmişi, araç tanımları ve görseller dahil. Çıktı token'ları ise modelin yanıt olarak ürettikleridir, akıl yürütme dahil. LLM API'leri bunları genellikle ayrı fiyatlandırır ve çıktı genellikle daha pahalıdır.

[Hız sınırı (rate limit)](https://broadrouter.com/tr/glossary/rate-limit/)

Hız sınırı (rate limit), bir API'nin bir istemcinin belirli bir zaman aralığındaki kullanımına koyduğu üst sınırdır; örneğin dakika başına istek veya dakika başına token. Sınırı aşan istekler, kullanım tekrar sınırın altına inene kadar genellikle HTTP 429 Too Many Requests ile reddedilir.

[İlk token süresi (TTFT)](https://broadrouter.com/tr/glossary/time-to-first-token/)

İlk token süresi (time to first token, TTFT), bir dil modeline istek gönderildiği andan ilk çıktı token'ının geldiği ana kadar geçen süredir. Ağ süresini, sunucudaki kuyruk beklemesini ve modelin tüm istemi okuduğu ön doldurma (prefill) adımını içerir; bu yüzden istem uzunluğu ve yükle birlikte artar.

## Sık sorulan sorular

### Özel LLM uç noktası nedir?

Tüm self-servis kullanıcılarla paylaşılan değil, tek bir müşteriye ayrılmış kapasiteyle çalışan bir API uç noktası. BroadNet kendi sürümünü; seçtiğiniz model, kendi anahtarınız ve sınırlarınız ve ihtiyaç duyduğunuz bölgeyle gelen, özel bir model kimliğiyle erişilen ayrılmış bir GPU veya düğüm olarak tanımlıyor.

### İhtiyacım olan eşzamanlılığı nasıl tahmin ederim?

Little yasasını kullanın: eşzamanlı istek = en yoğun andaki saniye başına istek × istek başına saniye. Her biri yaklaşık 5,8 saniye süren saniyede 1,67 istek, aynı anda yaklaşık 10 istek demektir. İstek başına saniyeyi gerçek modelde, gerçek istemlerinizle ölçün.

### BroadNet özel uç noktasını self-servis satın alabilir miyim?

Hayır. BroadNet özel uç noktaları, bölgesel işlemeyi ve listelenmemiş modelleri talep olarak sunuyor: iş yükünü siz tanımlarsınız, BroadNet fiyat teklifi verir. Koşulları, özel uç noktaların ve ayrılmış kapasitenin ayrı bir yazılı sözleşmeye tabi olduğunu söylüyor.

### Özel uç nokta SLA ile mi geliyor?

Yalnızca yazılı sözleşmeniz öyle diyorsa. BroadNet'in Koşulları, self-servis kullanımda erişilebilirlik taahhüdü olmadığını ve hizmet seviyelerinin yalnızca ayrı bir yazılı sözleşmede yer aldığını belirtiyor. Bunlara güvenmeden önce koşulların tam metnini isteyin.

### Verilerim nerede işlenecek?

Veri göndermeden önce bunu kararlaştırın. BroadNet'in Koşulları, veri yerelleştirme gereksinimleri olan müşterilerden önce işleme konumlarını kararlaştırmalarını istiyor; iş ortağında barındırılan ve yedek işlemenin başka işleyicileri içerdiğini ve alt işleyici listesinin talep üzerine müşterilere sunulduğunu söylüyor.

## Okumaya devam edin

-   [LLM barındırmak mı, API mi: gerçek maliyet ve başa baş noktası](https://broadrouter.com/tr/blog/self-hosting-llm-vs-api-cost/)
-   [LLM gecikmesi: TTFT, saniye başına token ve uçtan uca süre](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/)
-   [Suudi ve BAE PDPL ile LLM API'leri: yurt dışı aktarım listesi](https://broadrouter.com/tr/blog/saudi-uae-pdpl-llm-api-checklist/)
-   [LLM API sağlayıcısı nasıl seçilir: 20 maddelik kontrol listesi](https://broadrouter.com/tr/blog/choose-llm-api-provider-checklist/)
-   [Bir özelliği yayına almadan önce LLM API maliyeti nasıl hesaplanır](https://broadrouter.com/tr/blog/estimate-llm-api-cost-before-launch/)
-   [LLM API 429 hatası nasıl çözülür: geri çekilme, jitter, sınırlayıcılar](https://broadrouter.com/tr/blog/handle-llm-api-429-rate-limits/)
-   [Canlı, talep üzerine, araştırma: model kataloğunu doğru okuyun](https://broadrouter.com/tr/blog/understand-model-status/)
-   [BroadNet'in GPU donanımı ve sunum yaklaşımı, BroadNet'in anlatımıyla](https://broadrouter.com/tr/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API yanıtlarını önbelleğe alıp maliyeti düşürün: Python örneği](https://broadrouter.com/tr/blog/cache-llm-responses-cut-cost/)
-   [Rehber: BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/)
-   [Rehber: API anahtarlarını IP izin listeleriyle sunucularınıza kilitleyin](https://broadrouter.com/tr/guides/api-keys-ip-allow-lists/)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-private-endpoint-planning&utm_content=page-cta) ·

**Kaynaklar**

-   [BroadNet Inference genel bakış: özel uç nokta "Reserved GPU, priced to your traffic" (BroadRouter çevirisi: ayrılmış GPU, trafiğinize göre fiyatlandırılır), talep üzerine bölgesel işleme (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/inference)
-   [BroadNet model kataloğu: talep üzerine sunulanlar, müşteriye göre boyutlandırılan çok GPU'lu özel uç noktalar (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/inference/models)
-   [BroadNet model sayfası, Qwen3-VL 30B-A3B Instruct: talep üzerine, müşteri başına verilen özel kimlik, 16K bağlam (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/inference/models/qwen3-vl-30b-a3b)
-   [BroadNet model sayfası, Gemma 4 VL 26B: kendi anahtarınız, sınırlarınız ve bölgenizle özel uç nokta (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [BroadNet Hizmet Koşulları, §7.3a barındırma ve işleme konumları ve §7.4 erişilebilirlik (son güncelleme 23 Eylül 2026; 2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/terms)
-   [BroadNet Inference API başvurusu: özel kimlikler, kullandıkça öde sınırları, akış, hatalar (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-private-endpoint-planning&utm_content=sources)
-   [BroadNet Inference gizlilik ve veri saklama bildirimi: işlemenin yapıldığı yer (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://www.broadnet.ai/inference-privacy)
-   [Little yasası, L = λW (Wikipedia; 2026-11-15 tarihinde kontrol edildi)](https://en.wikipedia.org/wiki/Little%27s_law)
