---
title: "LiteLLM ile OpenAI uyumlu sağlayıcı ve api_base ayarı"
description: "BroadNet Inference'ı LiteLLM üzerinden openai/ model önekiyle ve api_base ile çağırın; Python SDK'da ya da proxy config.yaml dosyasında, uygun hız sınırlarıyla."
url: https://broadrouter.com/tr/guides/litellm-proxy-custom-provider/
lang: tr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/guides/litellm-proxy-custom-provider/) (güncelleme: 2026-11-16).

# LiteLLM'i BroadNet Inference'a yönlendirin (SDK ve proxy)

Güncellendi 2026-11-16

LiteLLM'de BroadNet model kimliğinin başına openai/ ekleyin (openai/broadnet/glm-5.3 gibi), api\_base değerini https://inference.broadnet.ai/v1, api\_key değerini de BroadNet anahtarınız yapın. Proxy'de aynı değerleri config.yaml içinde litellm\_params altına yazın ve modele kısa bir model\_name verin.

LiteLLM, birçok LLM sağlayıcısına hem Python SDK hem de proxy sunucusu olarak tek bir arayüz sunar. Belgelerine göre OpenAI uyumlu bir API’ye ulaşmak için iki şey yaparsınız: model adının başına `openai/` koyar ve `api_base` ayarlarsınız. BroadNet Inference bu rotayı kullanır.

## 1\. Python SDK

```bash
pip install litellm
export BROADNET_API_KEY='your-broadnet-key'
```

```python
import os
import litellm

response = litellm.completion(
    model="openai/broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this
    messages=[{"role": "user", "content": "Name three uses of a bloom filter."}],
)
print(response.choices[0].message.content)
```

`openai/` rotayı seçer; LiteLLM, BroadNet’e `broadnet/glm-5.3` değerini gönderir. Base URL’ye hiçbir şey eklemeyin; uç nokta yolunu LiteLLM’in OpenAI istemcisi ekler.

LiteLLM’in belgelerine göre `openai` rotası, her istekte bir API anahtarı gerektiren resmi OpenAI Python kütüphanesini kullanır. LiteLLM’in OpenAI için tanımlanmış bir `OPENAI_API_KEY` değerine hiç geri dönmemesi için `api_key` değerini yukarıdaki gibi açıkça verin. Yanıt OpenAI yapısında döner, bu yüzden kodunuzun geri kalanı değişmez.

## Proxy ne zaman kullanılmalı

Tek bir Python uygulamasının içinde SDK yeterlidir. Proxy, birkaç uygulamanın ya da dilin aynı modellere ihtiyaç duyduğu durumlarda işe yarar: hepsi kısa model adlarıyla OpenAI tarzı tek bir uç noktayı çağırır; proxy ise BroadNet anahtarını tutar, hız sınırlarını uygular ve kullanımı kaydeder. Böylece uygulamalarınızın BroadNet’e özel hiçbir ayara ihtiyacı kalmaz.

## 2\. Proxy sunucusu

Proxy eklentilerini kurun ve `config.yaml` dosyasını yazın:

```bash
pip install 'litellm[proxy]'
```

```yaml
model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_GLM
      rpm: 30
  - model_name: deepseek-flash
    litellm_params:
      model: openai/broadnet/deepseek-v4.1-flash
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_DEEPSEEK
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_QWEN
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
```

Proxy’yi başlatın ve herhangi bir OpenAI uç noktası gibi çağırın:

```bash
litellm --config config.yaml

# in a second terminal
curl http://localhost:4000/chat/completions \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "glm", "messages": [{"role": "user", "content": "Hello"}]}'
```

(Koddaki yorum, `curl` komutunun ikinci bir terminalde çalıştırılacağını belirtir.) `os.environ/BROADNET_API_KEY_GLM`, LiteLLM’e o anahtarı ortamdan okumasını söyler. Her giriş kendi BroadNet kullandıkça öde anahtarını kullanır; bu yüzden LiteLLM’in isteğe bağlı, dağıtım (deployment) başına hız sınırı olan `rpm: 30`, her anahtarın sınırıyla eşleşir. Birkaç giriş tek bir anahtarı paylaşıyorsa o tek sınırı da paylaşırlar; sayıyı aralarında bölün. `master_key`, proxy’nin her çağrıda bir anahtar istemesini sağlar; LiteLLM’in belgelerine göre `sk-` ile başlamalıdır. Proxy’yi başlatmadan önce `LITELLM_MASTER_KEY` değişkenini export edin.

## Hangi modeli seçmeli

| model\_name | BroadNet modeli | Kullanım |
| --- | --- | --- |
| `glm` | [GLM 5.3](https://broadrouter.com/tr/models/glm-5.3/) | Araçlar, yapılandırılmış çıktı, 1M bağlam |
| `deepseek-flash` | [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/) | Uzun bağlam; sınırsız plan modeli |
| `qwen` | [Qwen3.8 27B](https://broadrouter.com/tr/models/qwen3.8-27b/) | Görseller, araçlar, Arapça |
| (gerekirse ekleyin) | [Gemma 4 VL 26B](https://broadrouter.com/tr/models/gemma-4-vl-26b/) | Düşük token başına fiyat; $5 krediyle çalışır |

Fiyatlar [fiyatlandırma sayfasında](https://broadrouter.com/tr/pricing/). Başka bir ağ geçidinden geçiyorsanız [geçiş kontrol listesi](https://broadrouter.com/tr/blog/openai-compatible-api-migration-checklist/) neyi test etmeniz gerektiğini anlatır.

## Sorun giderme

-   **401.** BroadNet anahtarı yanlış, süresi dolmuş ya da kullandıkça öde kullanım hakkı tükenmiş. 401 proxy’nin kendisinden geliyorsa bunun yerine gönderdiğiniz LiteLLM anahtarını kontrol edin.
-   **Not Found.** `api_base` değerinin `/v1` dahil `https://inference.broadnet.ai/v1` olduğundan emin olun. Base URL doğruysa `openai/` sonrasındaki model kimliğinin BroadNet’tekiyle birebir aynı olduğunu kontrol edin.
-   **Yeni hesapta model reddedildi.** GLM 5.3, Qwen3.8 27B ve DeepSeek V4.1 Flash önce bakiye yüklemesi gerektirir; $5 kredi yalnızca `broadnet/gemma-4-26b-a4b` modelini ve iki Transcribe modelini kapsar.
-   **Boş içerik.** Akıl yürütme `max_tokens` sınırına dahildir. Değeri artırın ya da `reasoning_effort="low"` gönderin. [Yanıtlar neden boş geliyor](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/).
-   **429.** Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. LiteLLM’in `rpm` ayarı ilkine yardımcı olur; anahtar başına eşzamanlı çağıran sayısını 4 veya daha az tutun. [Hatalar ve yeniden denemeler](https://broadrouter.com/tr/guides/errors-and-retries/) rehberine bakın.
-   **Plan anahtarında paralel ajanlar.** Bir [plan oturumu](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) aynı anda tek istek çalıştırır. Proxy üzerinden tek oturumda birkaç ajan çalıştırmak onları sıraya sokar; her paralel ajan için bir oturum satın alın.

## Bu rehberdeki terimler

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Base URL (temel URL)](https://broadrouter.com/tr/glossary/base-url/)

Base URL (temel URL), https://api.example.com/v1 gibi, bir istemcinin /chat/completions gibi her uç nokta yolunun önüne eklediği sabit kök adrestir. OpenAI uyumlu SDK'larda base URL, API anahtarı ve model kimliğiyle birlikte değiştirildiğinde aynı kod farklı bir sağlayıcıya yönelir.

[Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/)

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

[Hız sınırı (rate limit)](https://broadrouter.com/tr/glossary/rate-limit/)

Hız sınırı (rate limit), bir API'nin bir istemcinin belirli bir zaman aralığındaki kullanımına koyduğu üst sınırdır; örneğin dakika başına istek veya dakika başına token. Sınırı aşan istekler, kullanım tekrar sınırın altına inene kadar genellikle HTTP 429 Too Many Requests ile reddedilir.

[API anahtarı (API key)](https://broadrouter.com/tr/glossary/api-key/)

API anahtarı, bir API'yi çağıran istemciyi tanımlayan ve yetkilendiren gizli bir dizedir. LLM API'leri genellikle anahtarı Authorization: Bearer başlığında bekler; anahtarı elinde tutan herkes, sahibi olan hesaba faturalandırılan istekler yapabilir.

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Yapılandırılmış çıktı (structured output)](https://broadrouter.com/tr/glossary/structured-output/)

Yapılandırılmış çıktı, modelin yanıtını geliştiricinin belirlediği bir biçimle, genellikle bir JSON Schema ile sınırlayan bir LLM API özelliğidir; böylece kod yanıtı güvenilir şekilde ayrıştırabilir. Geçerli JSON'u garanti eden ama belirli bir yapıyı garanti etmeyen JSON modundan daha katıdır.

## Sık sorulan sorular

### LiteLLM neden Not Found hatası döndürüyor?

LiteLLM'in belgeleri api\_base değerinin /v1 ile bittiğinden emin olmanızı söyler. https://inference.broadnet.ai/v1 kullanın ve /chat/completions eklemeyin.

### Model adı neden openai/broadnet/glm-5.3?

openai/ öneki LiteLLM'e OpenAI tarzı bir /chat/completions uç noktası çağırmasını söyler. LiteLLM rotayı seçmek için öneki kullanır ve geri kalanını, yani BroadNet model kimliği olan broadnet/glm-5.3'ü gönderir.

### BroadNet sınırsız plan anahtarını paylaşılan bir LiteLLM proxy'sinin arkasına koyabilir miyim?

Plan anahtarları paylaşılamaz ve yeniden satılamaz; bir oturum da aynı anda tek istek çalıştırır. Bunları kendi ajanlarınız için kullanın. Ekip proxy'si için kullandıkça öde anahtarları kullanın.

### LiteLLM'in BroadNet'i çağırmak için OPENAI\_API\_KEY'e ihtiyacı var mı?

openai rotası her istekte api\_key'den ya da OPENAI\_API\_KEY'den gelen bir anahtar ister. LiteLLM'in BroadNet'e gerçek bir OpenAI anahtarı göndermemesi için BroadNet anahtarınızı api\_key olarak, proxy'de ise os.environ/BROADNET\_API\_KEY olarak verin.

## İlgili rehberler

-   [OpenAI Python SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-python-sdk/)
-   [BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/)
-   [Akıl yürüten model neden boş yanıt döndürür?](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/)
-   [LangChain'i BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/langchain-openai-base-url/)
-   [BroadNet Inference ile çalışan tüm araçlar (İngilizce)](https://broadrouter.com/integrations/): SDK'lar, kodlama ajanları, sohbet arayüzleri ve otomasyon araçları, her biri için tam ayarlarıyla

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-litellm-proxy-custom-provider&utm_content=page-cta) ·

**Kaynaklar**

-   [LiteLLM belgeleri, OpenAI uyumlu uç noktalar (2026-11-14 tarihinde kontrol edildi)](https://docs.litellm.ai/docs/providers/openai_compatible)
-   [LiteLLM belgeleri, proxy config.yaml (2026-11-14 tarihinde kontrol edildi)](https://docs.litellm.ai/docs/proxy/configs)
-   [BroadNet Inference API referansı (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-litellm-proxy-custom-provider&utm_content=sources)
