BroadRouter

Hubungkan SillyTavern ke BroadNet Inference (Custom OpenAI-compatible)

Diperbarui

Di panel API Connections SillyTavern, pilih Chat Completion, lalu Custom (OpenAI-compatible) sebagai Chat Completion Source. Isi Custom Endpoint dengan https://inference.broadnet.ai/v1, tempel kunci BroadNet Anda, ketik ID model seperti broadnet/qwen3.8-27b di Enter a Model ID, klik Connect, lalu Test Message. Atur Max Response Length ke 1.000 token atau lebih.

SillyTavern adalah front end chat open source yang populer untuk chat karakter dan roleplay. Sumber Custom (OpenAI-compatible)-nya menghubungkan tipe API Chat Completion ke server apa pun yang memakai skema OpenAI generik. BroadNet Inference melayani chat completions standar di https://inference.broadnet.ai/v1. BroadRouter adalah situs milik BroadNet sendiri; langkah-langkahnya mengikuti dokumentasi SillyTavern dan rilis 1.19.0.

Penyiapan

  1. Dapatkan kunci. Buat kunci bayar sesuai pemakaian di konsol BroadNet, beli kunci per jam, atau beli paket unlimited.

  2. Buka panel API Connections.

  3. Atur API ke Chat Completion.

  4. Atur Chat Completion Source ke Custom (OpenAI-compatible).

  5. Isi form kustomnya:

    Field Nilai
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key kunci BroadNet Anda
    Enter a Model ID broadnet/qwen3.8-27b
  6. Klik Connect.

  7. Uji. Klik Test Message. SillyTavern mengirim prompt sederhana ke model; jika ada balasan, koneksinya berfungsi.

Jangan tambahkan /chat/completions ke URL. Form SillyTavern menyebutkan bahwa akhiran itu ditambahkan otomatis.

Ketik ID model alih-alih memilihnya dari Available Models. Daftar itu berasal dari /v1/models, yang menurut dokumentasi BroadNet adalah metadata katalog untuk alat monitoring. Saat kami periksa pada 15 November 2026, daftarnya hanya berisi dua model transkripsi, yang tidak bisa dipakai chat.

Model mana yang dipilih

Model ID Konteks Catatan
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1.048.576 Chat panjang; model di paket unlimited
Qwen3.8 27B broadnet/qwen3.8-27b 262.144 Gambar; diuji BroadNet dalam bahasa Arab
GLM 5.3 broadnet/glm-5.3 1.048.576 Teks saja; tools
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32.768 Jalan dengan kredit gratis $5 dan kunci per jam

Paket unlimited cocok untuk sesi panjang karena Anda tidak membayar per token: satu jam Meteor seharga $1, satu minggu Orbit $15, dan satu bulan Full Moon $60. Setiap sesi paket menjalankan satu permintaan dalam satu waktu.

Pengaturan yang layak diubah

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B bernalar sebelum menjawab, dan penalaran ikut dihitung dalam batas ini. Atur ke 1.000 atau lebih, kalau tidak Anda bisa mendapat balasan kosong.
  • Context Size (tokens). Sesuaikan dengan model di tabel. SillyTavern tidak bisa membacanya dari BroadNet.
  • Prompt Post-Processing. Jika model menolak prompt karena ada beberapa pesan system atau urutan role, coba Merge consecutive roles dulu, lalu Semi-strict. Dokumentasi SillyTavern mencatat bahwa opsi ini membuang tool call kecuali Anda memilih varian “with tools”.
  • Bypass status check. Jika SillyTavern memperingatkan bahwa API tidak berfungsi tetapi Test Message berhasil, centang opsi ini.

Pemecahan masalah

  • 401. Kuncinya salah, kedaluwarsa, atau kuotanya habis. Tempel lagi lalu klik Connect.
  • 404 atau “model not found”. URL harus diakhiri /v1, dan ID harus menyertakan prefiks broadnet/. Model berbayar memerlukan top up; kredit $5 hanya mencakup broadnet/gemma-4-26b-a4b.
  • Balasan kosong. Naikkan panjang respons. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 yang berjalan bersamaan, sedangkan kunci per jam dan sesi paket menjalankan satu stream. Lihat error dan retry.

Pertanyaan umum

Kenapa daftar Available Models salah atau kosong untuk BroadNet?

SillyTavern mengisinya dari /v1/models. Saat kami periksa pada 15 November 2026, /v1/models publik BroadNet hanya mencantumkan dua model transkripsinya. Ketik ID model chat di Enter a Model ID sebagai gantinya.

Model BroadNet mana yang terbaik untuk chat roleplay panjang?

DeepSeek V4.1 Flash punya konteks 1.048.576 token dan merupakan model di paket unlimited BroadNet yang bertarif tetap. Qwen3.8 27B adalah model yang diuji BroadNet dalam bahasa Arab, termasuk dialek Teluk dan Mesir.

Kenapa balasan di SillyTavern kosong?

Model chat BroadNet selain Gemma 4 VL 26B bernalar sebelum menjawab, dan penalaran ikut dihitung dalam max_tokens. Max Response Length di SillyTavern menentukan batas itu, jadi naikkan ke 1.000 token atau lebih.

Apakah ada aturan konten?

Ada. Kebijakan Penggunaan yang Dapat Diterima BroadNet berlaku untuk semua yang dikirim lewat API, dan larangannya atas konten seksual yang melibatkan anak di bawah umur secara eksplisit juga mencakup konten fiksi dan sintetis.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity