BroadRouter

Menambahkan BroadNet Inference ke goose sebagai custom provider

Diperbarui

Di goose, tambahkan custom provider bertipe OpenAI Compatible dengan API URL https://inference.broadnet.ai/v1/chat/completions, kunci BroadNet Anda, dan model yang tersedia seperti broadnet/glm-5.3. Gunakan tombol Add Custom Provider di goose Desktop, perintah goose configure di terminal, atau file JSON di ~/.config/goose/custom_providers/. goose bergantung pada tool calling, jadi mulailah dengan GLM 5.3 atau Qwen3.8 27B.

goose adalah agen AI open source dengan aplikasi desktop dan CLI. Layanan yang tidak bawaan ditambahkan sebagai custom provider, dan goose mendukung provider yang kompatibel dengan OpenAI. BroadNet Inference menyajikan chat completions standar, jadi bisa dipakai dengan cara ini. BroadRouter adalah situs milik BroadNet sendiri; langkah-langkahnya mengikuti dokumentasi provider goose per goose 1.59.

Dokumentasi goose memperingatkan bahwa goose “extensively uses tool calling” (terjemahan: banyak sekali memakai tool calling), dan model tanpa kemampuan itu hanya bisa chat dengan semua extension dimatikan. BroadNet mencantumkan tool calling untuk GLM 5.3 dan Qwen3.8 27B, jadi pakai salah satunya untuk pekerjaan agen.

Opsi 1: goose Desktop

  1. Buka sidebar dan klik Settings, lalu tab Models.

  2. Klik Configure providers, lalu Add Custom Provider di bagian bawah.

  3. Isi detailnya:

    Field Nilai
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key kunci BroadNet Anda
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support aktif
  4. Klik Create Provider, lalu pilih provider itu dan sebuah model.

Opsi 2: goose CLI

Jalankan goose configure, pilih Custom Providers, lalu Add A Custom Provider, dan jawab pertanyaannya dengan nilai yang sama: tipe API OpenAI Compatible, API URL di atas, autentikasi Yes dengan API key statis, daftar model yang dipisahkan koma, dan streaming aktif.

Opsi 3: file JSON

Buat ~/.config/goose/custom_providers/broadnet.json (di Windows, %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Lalu mulai sesi dengan provider itu:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

File ini boleh dimasukkan ke repositori untuk tim Anda, karena kuncinya tetap berada di environment.

Uji

Mulailah dengan pertanyaan biasa, misalnya “apa yang bisa kamu lakukan?”. Jika ada jawaban, koneksinya berfungsi. Lalu minta sesuatu yang membutuhkan salah satu extension yang Anda aktifkan. Jika goose memanggil tool tersebut, tool calling juga berfungsi. Jika goose hanya membalas dengan teks dan tidak pernah memanggil tool, ganti ke broadnet/glm-5.3.

Harga di goose

goose bisa memperkirakan biaya jika setiap model di file JSON punya input_token_cost dan output_token_cost dalam USD per token. Ambil angkanya dari halaman harga BroadNet dan bagi harga per juta token dengan 1.000.000. Tanpa kedua field itu, goose memakai harga dari katalognya sendiri, yang bisa jadi tidak sama dengan harga BroadNet.

Pemecahan masalah

  • 401. Kuncinya salah, kedaluwarsa, atau jatahnya habis, atau BROADNET_API_KEY belum diatur di shell yang menjalankan goose.
  • 404. Periksa API URL; seharusnya https://inference.broadnet.ai/v1/chat/completions. Pastikan ID model sama persis dengan ID BroadNet. Model berbayar memerlukan top up; kredit $5 hanya mencakup broadnet/gemma-4-26b-a4b, yang konteksnya 32.768 token terlalu kecil untuk pekerjaan agen.
  • Jawaban kosong. Pada DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B, penalaran ikut dihitung dalam batas output. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan. Dua sesi goose yang berbagi satu sesi paket akan mengantre, karena satu sesi paket menjalankan satu permintaan dalam satu waktu. Lihat panduan error dan percobaan ulang.

Pertanyaan umum

API URL goose harus diakhiri /v1 atau /v1/chat/completions?

Contoh custom provider dari goose sendiri memakai URL chat completions lengkap, jadi gunakan https://inference.broadnet.ai/v1/chat/completions. Cara ini juga membuat goose tetap memakai chat completions, format yang disajikan BroadNet.

Model BroadNet mana yang paling cocok untuk goose?

GLM 5.3 (broadnet/glm-5.3). Dokumentasi goose menyebut goose banyak memakai tool calling, dan BroadNet mencantumkan tools hanya untuk GLM 5.3 dan Qwen3.8 27B.

Bisakah goose dipakai dengan paket unlimited BroadNet?

Paket hanya mencakup DeepSeek V4.1 Flash, dan dokumentasi BroadNet tidak mencantumkan tool calling untuk model itu. Menurut goose, model tanpa tool calling hanya bisa chat dengan semua extension dimatikan, jadi uji dulu sebelum membeli satu bulan.

Di mana goose menyimpan API key?

Di keychain sistem, atau di secrets.yaml jika keyring dimatikan. Jika memakai file JSON, goose membaca variabel yang namanya tertulis di api_key_env.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity