Open WebUI adalah antarmuka chat yang Anda host sendiri. Open WebUI bisa terhubung ke penyedia apa pun yang menerapkan protokol chat completions OpenAI, dan BroadNet Inference menerapkannya. Langkah-langkah di bawah mengikuti panduan Open WebUI untuk penyedia kompatibel OpenAI.
Penyiapan
-
Dapatkan kunci BroadNet. Untuk UI chat yang dipakai beberapa orang, kunci bayar sesuai pemakaian adalah pilihan yang tepat. Lihat kunci API dan IP allow-list.
-
Buka halaman koneksi. Buka Settings > Connections di bagian admin dan cari Manage OpenAI API Connections.
-
Klik Add Connection lalu isi:
Field Nilai URL https://inference.broadnet.ai/v1(tanpa garis miring di akhir)API Key kunci BroadNet Anda Model IDs tambahkan setiap ID di bawah satu per satu dengan ikon + -
Tambahkan ID model secara manual. Ketik
broadnet/glm-5.3, klik +, lalu ulangi untuk model lain yang Anda inginkan. Dokumentasi BroadNet menyebutGET /v1/modelssebagai metadata katalog publik untuk alat pemantau, jadi jangan mengandalkannya untuk mengisi pilihan model. -
Klik Save. Dokumentasi Open WebUI mencatat bahwa menyimpan tidak menguji koneksi.
-
Mulai chat dan pilih model dari pemilih model.
Dengan environment variable
Jika Anda menjalankan Open WebUI di Docker, koneksi bisa diatur saat startup:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
Untuk menambahkan BroadNet di samping koneksi OpenAI yang sudah ada, gunakan bentuk jamaknya yang dipisahkan titik koma: OPENAI_API_BASE_URLS dan OPENAI_API_KEYS. OPENAI_API_CONFIGS mengatur opsi per koneksi seperti model_ids, dengan kunci berupa indeks koneksi di daftar tersebut:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Referensi environment variable Open WebUI menandai variabel ini sebagai pengaturan ConfigVar. Nilainya dibaca saat peluncuran pertama dan disimpan di database. Setelah itu, panel admin yang berlaku. Edit koneksi di Settings > Connections di bagian admin, atau atur ENABLE_PERSISTENT_CONFIG=False jika Anda ingin environment diterapkan setiap kali start.
Model mana yang dipilih
| Kegunaan | Model | Konteks |
|---|---|---|
| Chat umum, tools, JSON | broadnet/glm-5.3 |
1.048.576 |
| Pertanyaan tentang gambar, bahasa Arab | broadnet/qwen3.8-27b |
262.144 |
| Dokumen panjang, gambar | broadnet/deepseek-v4.1-flash |
1.048.576 |
| Biaya rendah, kredit gratis | broadnet/gemma-4-26b-a4b |
32.768 |
BroadNet menguji Qwen3.8 27B dalam bahasa Arab, termasuk dialek Teluk dan Mesir; lihat memilih LLM untuk bahasa Arab. Gemma 4 VL 26B adalah satu-satunya model chat yang berfungsi dengan kredit awal $5; kredit ini juga mencakup dua model Transcribe. Harga masing-masing ada di halaman harga.
Open WebUI meneruskan parameter standar seperti temperature dan max_tokens, dan mendukung penggunaan tool jika model dan servernya mendukung tools. BroadNet mencantumkan tools untuk GLM 5.3 dan Qwen3.8 27B.
Pemecahan masalah
- Verify Connection gagal dengan 400, 401, atau 403. Tombol verifikasi Open WebUI memanggil
/models. Menurut dokumentasinya, chat completions tetap bisa berfungsi. Tambahkan ID ke allowlist dan uji sebuah chat. Jika chat juga mengembalikan 401, kuncinya salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis. - Model terdaftar tetapi pesan pertama gagal. Pastikan ID sama persis dengan milik BroadNet, termasuk prefiks
broadnet/. GLM 5.3, Qwen3.8 27B, dan DeepSeek V4.1 Flash memerlukan top up. - Balasan kosong. Model penalaran (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menghabiskan token output untuk bernalar lebih dulu. Jika Anda mengatur max_tokens di Advanced Params model, naikkan atau kosongkan. Kenapa jawaban kembali kosong.
- 429 saat beberapa orang chat. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Open WebUI juga melakukan panggilan latar belakang, misalnya untuk judul chat, dengan kunci yang sama. Lihat panduan error dan percobaan ulang.
- Environment variable yang diubah tidak berpengaruh. Peluncuran pertama sudah menyimpan nilai lama. Edit koneksi di panel admin, atau lihat bagian environment variable di atas.
- Memakai kunci paket. Satu sesi paket unlimited menjalankan satu permintaan dalam satu waktu, dan kunci tidak boleh dibagi. Kunci paket cocok untuk instance pribadi satu orang; permintaan pengguna tambahan akan mengantre.
