---
title: "BroadNet GPU donanımı ve model sunumu | BroadRouter"
description: "BroadNet, BroadNet Inference'ın donanımı hakkında ne diyor: B300'den müşteri cihazlarına üç GPU katmanı, GPU başına işlem hacmi ve testlerden çıkan dersler."
url: https://broadrouter.com/tr/blog/broadnet-gpu-fleet-and-serving/
lang: tr
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/blog/broadnet-gpu-fleet-and-serving/) (güncelleme: 2026-11-16).

# BroadNet'in GPU donanımı ve sunum yaklaşımı, BroadNet'in anlatımıyla

BroadNet Inference ekibi · 5 dk okuma · Yayımlandı 2026-11-15 · Güncellendi 2026-11-16

BroadNet, tek bir sunum yığınını üç donanım katmanında çalıştırdığını söylüyor: A100'den B300'e veri merkezi GPU'ları, sürekli açık genel API'yi taşıyan RTX ve DGX Spark kartlarından oluşan bir iş istasyonu katmanı ve müşteri sahalarındaki cihazlar. NVIDIA ve AMD'den 13 GPU ailesinde yaklaşık 270 model çalıştırdığını bildiriyor. Bazı API modelleri ise ABD'li çıkarım ortakları tarafından sunuluyor.

## Öne çıkanlar

-   Üç katman, tek yığın: veri merkezi (B300, B200, H200, H100, A100), iş istasyonu (RTX PRO 6000, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700) ve müşteri sahası.
-   BroadNet'e göre sürekli açık genel API'yi iş istasyonu katmanı taşıyor; veri merkezi GPU'ları amiral gemisi modellerin sunumunu, ince ayarı ve özel uç noktaları üstleniyor.
-   Ölçülen bulgusu: aynı modellerde NVIDIA CUDA, bellek bant genişliğini AMD ROCm'a göre yaklaşık iki kat daha fazla token'a dönüştürüyor.
-   Sunum, ağırlıklar kadar önemli: BroadNet'in bildirdiğine göre aynı Gemma 4 26B ağırlıkları barındırılan bir sağlayıcıda, BroadNet'in kendi sunumu dediği altyapıya göre 0,13 daha düşük puan aldı.
-   Her API modeli BroadNet'in kendisine ait olduğunu söylediği donanımda çalışmıyor: BroadNet'in koşullarına göre DeepSeek V4.1 Flash ortak tarafından barındırılıyor.

**Bu sayfada**

1.  BroadNet hangi donanımı çalıştırdığını söylüyor?
2.  Bu donanımda hangi API modelleri çalışıyor?
3.  Her GPU ne kadar hızlı?
4.  BroadNet donanımının ona ne öğrettiğini söylüyor?
5.  Gemma 4 modeli nasıl sunuluyor?
6.  Bu sizin için ne anlama geliyor?

BroadNet çıkarım donanımını alışılmadık bir ayrıntıyla anlatıyor. [Model kataloğu](https://www.broadnet.ai/inference/models) çalıştırdığını söylediği GPU’ları, kart başına ölçülen işlem hacmini ve aynı modelleri bu kartlarda çalıştırarak öğrendiklerini listeliyor. Bu sayfa BroadNet’in söylediklerini, önemli yerlerde kendi sözleriyle özetliyor. Donanımı biz incelemedik; ölçümler BroadNet’in kendisine ait ve Eylül 2026 tarihli.

## BroadNet hangi donanımı çalıştırdığını söylüyor?

BroadNet “one fleet, three tiers, one stack” (BroadRouter çevirisi: tek filo, üç katman, tek yığın) çalıştırdığını söylüyor: veri merkezi hızlandırıcılarından müşteri sahalarındaki cihazlara kadar aynı motorlar, nicemlemeler ve ağ geçidi.

| Katman | BroadNet’in listelediği GPU’lar | BroadNet’in kullanım amacı |
| --- | --- | --- |
| Veri merkezi | B300, B200, H200, H100, A100 80 GB | Amiral gemisi modellerin sunumu, nicemleme ve kalibrasyon, ince ayar, ayrılmış özel uç noktalar, veri yerleşimi gerektiren yerleştirmeler |
| İş istasyonu | RTX PRO 6000 Blackwell, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700 | Sürekli açık genel API, CUDA ve ROCm genelinde kıyaslama, model geliştirme |
| Müşteri sahası | DGX Spark GB10, kompakt AMD cihazları | Aynı yığın üzerinde şirket içi ve internetten yalıtılmış kurulumlar |

BroadNet toplamda yaklaşık 270 model çalıştırdığını, yaklaşık 200 kontrol noktası (checkpoint) yüklediğini, yaklaşık 40 model ailesi, 12 veya daha fazla nicemleme biçimi ve 13 GPU ailesi kullandığını bildiriyor. Ayrıca “a single H100 serves the entire current public catalogue with headroom” (BroadRouter çevirisi: tek bir H100, mevcut genel kataloğun tamamını pay bırakarak sunuyor) diyor.

## Bu donanımda hangi API modelleri çalışıyor?

Hepsi değil. BroadNet’in [gizlilik beyanı](https://www.broadnet.ai/inference-privacy), kendi modellerinin ve barındırdığı açık ağırlıklı modellerin ABD’de BroadNet’e ait veya kiralık donanımda çalıştığını, yedek olarak ortak kapasitesi bulunduğunu ve ortaklar tarafından sunulan modellerin ABD’li çıkarım ortaklarında sıfır veri saklama koşullarıyla çalıştığını söylüyor. [Hizmet Koşulları](https://www.broadnet.ai/terms), [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/) modelini ortak tarafından barındırılan model olarak adlandırıyor.

BroadNet’in kendi sayfalarının model bazında söyledikleri:

| API’deki model | BroadNet’in belirttiği donanım |
| --- | --- |
| [Gemma 4 VL 26B](https://broadrouter.com/tr/models/gemma-4-vl-26b/) | Sıcak yedekli NVIDIA Blackwell sınıfı GPU’lar |
| [Transcribe Arabic](https://broadrouter.com/tr/models/cohere-transcribe-arabic/) ve [Transcribe](https://broadrouter.com/tr/models/cohere-transcribe/) | ABD’de BroadNet tarafından işletilen NVIDIA GPU’ları |
| DeepSeek V4.1 Flash | Ortak tarafından barındırılıyor (Hizmet Koşulları §7.3) |
| GLM 5.3, Qwen3.8 27B | API trafiği için belirtilmemiş |

Verinizin nerede işlendiği sizin için önemliyse göndermeden önce BroadNet’e sorun. Çıkarım sayfası, MENA veya Avrupa’da bölgesel işlemenin talep üzerine mümkün olduğunu söylüyor.

## Her GPU ne kadar hızlı?

BroadNet tek bir model için, 32 eşzamanlı istekte Qwen3-VL 30B A3B Instruct ile GPU başına toplam çıktı işlem hacmini yayımlıyor:

| GPU | Katman | Bellek bant genişliği | Toplam token/sn |
| --- | --- | --- | --- |
| B300 | Veri merkezi | 8.000 GB/s | 14.500 |
| B200 | Veri merkezi | 8.000 GB/s | 14.000 |
| H200 | Veri merkezi | 4.800 GB/s | 8.400 |
| H100 | Veri merkezi | 3.350 GB/s | 5.800 |
| A100 80 GB | Veri merkezi | 2.039 GB/s | 3.500 |
| RTX PRO 6000 Blackwell | İş istasyonu | 1.792 GB/s | 3.100 |
| RTX 3090 | İş istasyonu | 936 GB/s | 1.630 |
| DGX Spark GB10 | İş istasyonu | 273 GB/s | 1.597 |
| Radeon AI PRO R9700 | İş istasyonu | 640 GB/s | 1.087 |

BroadNet, veri merkezi rakamlarının her kartta doğrudan yapılmış ölçümler değil, “planning numbers from our measured per-GPU curve” (BroadRouter çevirisi: ölçtüğümüz GPU başına eğriden çıkan planlama rakamları) olduğunu belirtiyor. Satırların çoğu, kod çözmede genellikle sınırlayıcı etken olan bellek bant genişliğiyle birlikte yükseliyor, ama hepsi değil: DGX Spark GB10 (273 GB/s) neredeyse RTX 3090 (936 GB/s) ile eşleşiyor, Radeon AI PRO R9700 (640 GB/s) ise ikisinin de gerisinde kalıyor.

## BroadNet donanımının ona ne öğrettiğini söylüyor?

Katalog, her biri “measured on our own hardware” (BroadRouter çevirisi: kendi donanımımızda ölçüldü) olarak işaretlenmiş sekiz bulgu listeliyor. API alıcıları için en önemlileri:

-   **CUDA ve ROCm.** Aynı modeller NVIDIA CUDA ve AMD ROCm’da çalıştırıldığında CUDA, bellek bant genişliğini yaklaşık iki kat daha fazla token’a dönüştürdü; BroadNet iş yüklerini buna göre yerleştiriyor.
-   **Yük altında spekülatif kod çözme.** EAGLE3, 32 eşzamanlı istekte işlem hacminin %69’una mal oldu; bu yüzden BroadNet çok token’lı tahmin (MTP) taslakçılarında kaldı. [Uno sunum çalışması](https://broadrouter.com/tr/blog/uno-in-vllm-serving-study/) aynı etkiyi başka bir yöntem için ölçüyor.
-   **Sunum, ağırlıklar kadar önemli.** Barındırılan bir sağlayıcının sunduğu aynı Gemma 4 26B ağırlıkları, BroadNet’in “our own serving” (BroadRouter çevirisi: kendi sunumumuz) dediği altyapıya göre ortalamada 0,13 daha düşük puan aldı. BroadNet’in kuralı: bir rakibi ve referans modelini karşılaştırmadan önce ikisini aynı sunum altyapısında tutun.
-   **Daha küçük aktif model kazanabilir.** 26B uzmanlar karışımı modeli, aktif parametrelerin yaklaşık sekizde biriyle yoğun Gemma 4 31B’yi 6 hat adımının 5’inde geçti.
-   **Tek bir hatta öncü modellerle denklik.** 240 iz üzerindeki kör bir değerlendirmede BroadNet’in sunduğu Gemma 4, ölçülen altı adımın beşinde Claude Sonnet ile eşleşti ve adım başına 1,2 ile 6,5 kat daha hızlı yanıt verdi.
-   **İstek başına hız.** BroadNet’in ölçümüne göre Qwen3-VL 30B A3B, BroadNet’in kendi sunumu olarak tanımladığı altyapıda istek başına saniyede 36,5 ile 110 token arasında çalıştı; BroadNet’in ölçtüğü dört OpenRouter sağlayıcısında ise 7 ile 19 arasında.
-   **Mimari, model seçiminden üstündür.** İki yerel görsel modelin anlaşamadığı zor bir sette, barındırılan bir hakem modele yükseltmek doğruluğu 12’de 1’den 12’de 11’e çıkardı.

Sonnet karşılaştırması en güçlü iddia ve kapsamı dar: BroadNet’in [Gemma 4 sayfasına](https://www.broadnet.ai/inference/models/gemma-4-vl-26b) göre tek bir şirketin sohbet botu hattı, 11 kiracıdan 240 üretim konuşması üzerinde üç hakem tarafından kör olarak değerlendirildi. Bu, Gemma 4’ün genel olarak Sonnet’e denk olduğu anlamına gelmiyor. BroadNet bu değerlendirmenin tam bir raporunu araştırma sayfasında yayımlamadı.

## Gemma 4 modeli nasıl sunuluyor?

Model sayfasına göre BroadNet’in Gemma 4 VL 26B modeli, sunum tercihlerinin en net örneği:

-   **Ağırlıklar:** Google’ın Gemma 4 26B A4B modeli, BroadNet tarafından 4 bit AWQ’ya nicemlenmiş. BroadNet NVFP4’ü test etti ve doğrudan karşılaştırmanın ardından bıraktı.
-   **Kod çözme:** iki taslak token’lı (k=2) çok token’lı tahmin spekülatif kod çözme ve fp8 bir [KV önbelleği](https://broadrouter.com/tr/glossary/kv-cache/).
-   **Şablon:** BroadNet’in kendi konuşma iş akışı için ayarladığı bir sohbet şablonu.
-   **Dayanıklılık:** otomatik yük devretmeli sıcak yedek.
-   **Sonuç:** tek akışta saniyede yaklaşık 136 token ve BroadNet’in dahili kalite test setinde 90,86.

Terimler için [nicemleme](https://broadrouter.com/tr/glossary/quantization/) ve [spekülatif kod çözme](https://broadrouter.com/tr/glossary/speculative-decoding/) maddelerine bakın.

## Bu sizin için ne anlama geliyor?

Kullandıkça öde kullanıcısı için BroadNet’in sunum tercihleri yayımlanan hızda (plan modelinde tipik saniyede yaklaşık 100 token) ve sınırlarda görünür: anahtar başına dakikada 30 istek ve aynı anda 4 istek. BroadNet’in koşullarına göre self-serviste erişilebilirlik taahhüdü yok; hizmet seviyeleri yalnızca yazılı bir sözleşmeyle geliyor. [Diğer sağlayıcıların SLA’ları nasıl karşılaştırılıyor](https://broadrouter.com/tr/blog/llm-api-sla-uptime-compared/).

Daha büyük ihtiyaçlar için BroadNet, ayrılmış GPU’larda sizin modeliniz, anahtarınız, sınırlarınız ve bölgenizle özel uç noktalar ve aynı yığın üzerinde şirket içi cihazlar sunuyor. Bunu kendi GPU’larınızı kiralamakla tartıyorsanız [kendi barındırma ve API maliyeti rehberimiz](https://broadrouter.com/tr/blog/self-hosting-llm-vs-api-cost/) hesabı adım adım yapıyor; [BroadNet’in elediği modeller](https://broadrouter.com/tr/blog/models-broadnet-ruled-out/) yazısı da neyi sunacağını nasıl seçtiğini gösteriyor.

Bu konu için ücretsiz araçlar (İngilizce)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Ücretsiz araçlar (İngilizce)](https://broadrouter.com/tools/)

## Bu yazıdaki terimler

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Kuantizasyon (quantization)](https://broadrouter.com/tr/glossary/quantization/)

Kuantizasyon (quantization), bir sinir ağının sayılarını, özellikle ağırlıklarını, 16 bit yerine 8 bit veya 4 bit gibi daha düşük hassasiyetli bir biçimde saklama işlemidir; böylece model daha az bellek kullanır ve çoğu zaman daha hızlı çalışır. İyi yöntemler doğruluk kaybını küçük tutar.

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Spekülatif çözümleme (speculative decoding)](https://broadrouter.com/tr/glossary/speculative-decoding/)

Spekülatif çözümleme (speculative decoding), küçük ve hızlı bir taslak modelin sonraki birkaç token'ı önerdiği, büyük hedef modelin bunları tek bir ileri geçişte doğrulayıp kabul edilenleri tuttuğu bir çıkarım tekniğidir. Çıktının dağılımını değiştirmeden üretimi hızlandırır.

[Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/)

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

[AWQ (activation-aware weight quantization)](https://broadrouter.com/tr/glossary/awq/)

AWQ (activation-aware weight quantization, aktivasyona duyarlı ağırlık kuantizasyonu), bir LLM'in ağırlıklarını düşük hassasiyete, genellikle 4 bit tamsayılara sıkıştıran eğitim sonrası bir yöntemdir. Küçük bir kalibrasyon setinin aktivasyon istatistikleriyle en önemli ağırlık kanallarını bulur ve daha az doğruluk kaybetmeleri için ölçekler. Geri yayılım gerektirmez.

[FP8](https://broadrouter.com/tr/glossary/fp8/)

FP8, derin öğrenmede kullanılan, iki kodlamayla tanımlanmış 8 bitlik bir kayan noktalı sayı biçimidir: 4 üs ve 3 mantis bitli E4M3 ile 5 üs ve 2 mantis bitli E5M2. 16 bitlik biçimlere göre belleği yarıya indirir ve yeni GPU'larda yerel olarak çalışır.

[Hız sınırı (rate limit)](https://broadrouter.com/tr/glossary/rate-limit/)

Hız sınırı (rate limit), bir API'nin bir istemcinin belirli bir zaman aralığındaki kullanımına koyduğu üst sınırdır; örneğin dakika başına istek veya dakika başına token. Sınırı aşan istekler, kullanım tekrar sınırın altına inene kadar genellikle HTTP 429 Too Many Requests ile reddedilir.

## Sık sorulan sorular

### BroadNet kendi GPU'larını mı çalıştırıyor?

BroadNet kendi NVIDIA ve AMD GPU filosunu işlettiğini söylüyor. Gizlilik beyanına göre kendi modelleri ve barındırdığı açık ağırlıklı modeller, ABD'de BroadNet'e ait veya kiralık donanımda çalışıyor; yedek olarak ortak kapasitesi var. DeepSeek V4.1 Flash gibi ortaklar tarafından sunulan modeller ABD'li çıkarım ortaklarında çalışıyor.

### Genel API'yi hangi GPU sunuyor?

BroadNet'in kataloğu "the always-on public API" (BroadRouter çevirisi: sürekli açık genel API) için iş istasyonu katmanını gösteriyor (RTX PRO 6000 Blackwell, RTX 5090, RTX 3090, DGX Spark GB10, Radeon AI PRO R9700). Gemma 4 sayfası ise sıcak yedekli NVIDIA Blackwell sınıfı GPU'ları belirtiyor.

### Yayımlanmış bir çalışma süresi (uptime) SLA'sı var mı?

Self-servis için yok. BroadNet'in Hizmet Koşulları'na göre self-serviste erişilebilirlik taahhüdü yok; hizmet seviyeleri yalnızca örneğin özel bir uç nokta için yapılan ayrı bir yazılı sözleşmede var.

### Ayrılmış bir GPU alabilir miyim?

Evet. BroadNet ayrılmış bir GPU veya düğüm üzerinde, seçtiğiniz model, kendi anahtarınız ve sınırlarınız ve ihtiyaç duyduğunuz bölgeyle özel uç noktalar sunuyor. Fiyat, talep üzerine trafiğinize göre belirleniyor.

### BroadNet modelleri kendi tesisimde çalıştırabilir mi?

BroadNet, müşteri sahası katmanının aynı yığını şirket içi (on-premise) ve internetten yalıtılmış (air-gapped) kurulumlar için DGX Spark GB10 ve kompakt AMD cihazlarında çalıştırdığını söylüyor.

## Okumaya devam edin

-   [BroadNet'in test edip elediği modeller ve nedenleri](https://broadrouter.com/tr/blog/models-broadnet-ruled-out/)
-   [vLLM'de Uno: BroadNet'in sunum çalışması neyi ölçtü](https://broadrouter.com/tr/blog/uno-in-vllm-serving-study/)
-   [Gemma 4 26B üzerinde Uno: BroadNet'in uzmanlar karışımı çalışması](https://broadrouter.com/tr/blog/uno-mixture-of-experts-gemma-4-study/)
-   [LLM barındırmak mı, API mi: gerçek maliyet ve başa baş noktası](https://broadrouter.com/tr/blog/self-hosting-llm-vs-api-cost/)
-   [LLM gecikmesi: TTFT, saniye başına token ve uçtan uca süre](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/)
-   [LLM API yanıtlarını önbelleğe alıp maliyeti düşürün: Python örneği](https://broadrouter.com/tr/blog/cache-llm-responses-cut-cost/)
-   [Belge yapay zekâsı iş akışınıza insan incelemesini ekleyin](https://broadrouter.com/tr/blog/document-review-queues/)
-   [Rehber: BroadNet Inference'ı hesap açmadan tarayıcıda deneyin](https://broadrouter.com/tr/guides/try-broadnet-inference-playground/)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-broadnet-gpu-fleet-and-serving&utm_content=page-cta) ·

**Kaynaklar**

-   [BroadNet model kataloğu: kapasite, GPU başına işlem hacmi ve donanım bulguları (Eylül 2026'da ölçüldü; 2026-11-15 tarihinde erişildi) (İngilizce)](https://www.broadnet.ai/inference/models)
-   [BroadNet Gemma 4 VL 26B model sayfası: sunum yapılandırması ve kör değerlendirme (2026-11-15 tarihinde erişildi) (İngilizce)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [BroadNet Inference gizlilik beyanı: işlemenin nerede yapıldığı (2026-11-15 tarihinde erişildi) (İngilizce)](https://www.broadnet.ai/inference-privacy)
-   [BroadNet Hizmet Koşulları, §7.3 ve §7.4: ortak barındırma ve erişilebilirlik (2026-11-15 tarihinde erişildi) (İngilizce)](https://www.broadnet.ai/terms)
-   [BroadNet Research: laboratuvarından açık bulgular (2026-11-15 tarihinde erişildi) (İngilizce)](https://www.broadnet.ai/research)
