Open WebUI, kendi sunucunuzda barındırdığınız bir sohbet arayüzüdür. OpenAI chat completions protokolünü uygulayan her sağlayıcıya bağlanır; BroadNet Inference de bunu uygular. Adımlar Open WebUI’ın OpenAI uyumlu sağlayıcılar rehberini izler.
Kurulum
-
Bir BroadNet anahtarı alın. Birkaç kişinin kullandığı bir sohbet arayüzü için kullandıkça öde anahtarı doğru seçimdir. API anahtarları ve IP izin listeleri rehberine bakın.
-
Bağlantılar sayfasını açın. Yönetici bölümünde Settings > Connections sayfasına gidin ve Manage OpenAI API Connections bölümünü bulun.
-
Add Connection’a tıklayın ve şunları doldurun:
Alan Değer URL https://inference.broadnet.ai/v1(sonda eğik çizgi olmadan)API Key BroadNet anahtarınız Model IDs aşağıdaki her kimliği + simgesiyle tek tek ekleyin -
Model kimliklerini elle ekleyin.
broadnet/glm-5.3yazın, + simgesine tıklayın ve istediğiniz diğer modeller için tekrarlayın. BroadNet’in belgeleriGET /v1/modelsuç noktasını izleme araçları için herkese açık katalog meta verisi olarak tanımlar; model seçiciyi doldurmak için buna güvenmeyin. -
Save’e tıklayın. Open WebUI’ın belgeleri, kaydetmenin bağlantıyı test etmediğini belirtir.
-
Bir sohbet başlatın ve modeli model seçiciden seçin.
Ortam değişkenleriyle
Open WebUI’ı Docker’da çalıştırıyorsanız bağlantıyı başlangıçta ayarlayabilirsiniz:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
BroadNet’i mevcut bir OpenAI bağlantısının yanına eklemek için noktalı virgülle ayrılan çoğul biçimleri kullanın: OPENAI_API_BASE_URLS ve OPENAI_API_KEYS. OPENAI_API_CONFIGS, model_ids gibi bağlantıya özel seçenekleri, bağlantının o listedeki sırasına (indeksine) göre ayarlar:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Open WebUI’ın ortam değişkeni referansı bunları ConfigVar ayarları olarak işaretler. İlk açılışta okunur ve veritabanına kaydedilirler. Sonrasında yönetim paneli geçerli olur. Bağlantıyı yönetici bölümündeki Settings > Connections sayfasında düzenleyin ya da ortamın her açılışta uygulanmasını istiyorsanız ENABLE_PERSISTENT_CONFIG=False ayarlayın.
Hangi modeli seçmeli
| Kullanım | Model | Bağlam |
|---|---|---|
| Genel sohbet, araçlar, JSON | broadnet/glm-5.3 |
1.048.576 |
| Görsel soruları, Arapça | broadnet/qwen3.8-27b |
262.144 |
| Uzun belgeler, görseller | broadnet/deepseek-v4.1-flash |
1.048.576 |
| Düşük maliyet, ücretsiz kredi | broadnet/gemma-4-26b-a4b |
32.768 |
BroadNet, Qwen3.8 27B’yi Körfez ve Mısır lehçeleri dahil Arapçada test etti; Arapça için LLM seçimi yazısına bakın. $5 başlangıç kredisiyle çalışan tek sohbet modeli Gemma 4 VL 26B’dir; kredi iki Transcribe modelini de kapsar. Her birinin fiyatı fiyatlandırma sayfasında.
Open WebUI temperature ve max_tokens gibi standart parametreleri iletir ve model ile sunucu tools desteklediğinde araç kullanımını destekler. BroadNet araçları GLM 5.3 ve Qwen3.8 27B için listeler.
Sorun giderme
- Verify Connection 400, 401 veya 403 ile başarısız. Open WebUI’ın doğrulama düğmesi
/modelsadresini çağırır. Belgelerine göre chat completions yine de çalışabilir. Kimlikleri izin listesine ekleyip bir sohbeti test edin. Sohbet de 401 döndürüyorsa anahtar yanlış, süresi dolmuş ya da kullandıkça öde kullanım hakkı tükenmiş demektir. - Model listede ama ilk mesaj başarısız. Kimliğin
broadnet/önekiyle birlikte BroadNet’tekiyle birebir aynı olduğunu kontrol edin. GLM 5.3, Qwen3.8 27B ve DeepSeek V4.1 Flash bakiye yüklemesi gerektirir. - Boş yanıtlar. Akıl yürütme modelleri (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) çıktı token’larını önce akıl yürütmeye harcar. Modelin Advanced Params bölümünde max_tokens ayarladıysanız değeri artırın ya da temizleyin. Yanıtlar neden boş geliyor.
- Birkaç kişi sohbet ederken 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. Open WebUI aynı anahtarla sohbet başlıkları gibi arka plan çağrıları da yapar. Hatalar ve yeniden denemeler rehberine bakın.
- Değiştirilen ortam değişkenleri işe yaramıyor. İlk açılış eski değerleri kaydetti. Bağlantıyı yönetim panelinde düzenleyin ya da yukarıdaki ortam değişkenleri bölümüne bakın.
- Plan anahtarı kullanmak. Bir sınırsız plan oturumu aynı anda tek istek çalıştırır ve anahtarlar paylaşılamaz. Tek kişinin kendi kurulumuna uygundur; diğer kullanıcıların istekleri sıraya girer.
