BroadRouter

Tambah BroadNet Inference ke goose sebagai penyedia tersuai

Dikemas kini

Dalam goose, tambah penyedia tersuai dengan jenis OpenAI Compatible, API URL https://inference.broadnet.ai/v1/chat/completions, kunci BroadNet anda dan model tersedia seperti broadnet/glm-5.3. Gunakan butang Add Custom Provider dalam goose Desktop, goose configure dalam terminal, atau fail JSON dalam ~/.config/goose/custom_providers/. goose bergantung pada tool calling, jadi mulakan dengan GLM 5.3 atau Qwen3.8 27B.

goose ialah ejen AI sumber terbuka dengan aplikasi desktop dan CLI. Perkhidmatan yang tidak terbina dalam ditambah sebagai penyedia tersuai (custom provider), dan goose menyokong penyedia yang serasi OpenAI. BroadNet Inference menyediakan chat completions standard, jadi ia berfungsi dengan cara ini. BroadRouter ialah laman web BroadNet sendiri; langkah di bawah mengikut dokumentasi penyedia goose setakat goose 1.59.

Dokumentasi goose memberi amaran bahawa ia “extensively uses tool calling” (Terjemahan: banyak menggunakan tool calling), dan model tanpanya hanya boleh berbual apabila setiap sambungan dimatikan. BroadNet menyenaraikan tool calling untuk GLM 5.3 dan Qwen3.8 27B, jadi gunakan salah satu daripadanya untuk kerja ejen.

Pilihan 1: goose Desktop

  1. Buka bar sisi dan klik Settings, kemudian tab Models.

  2. Klik Configure providers, kemudian Add Custom Provider di bahagian bawah.

  3. Isikan butiran:

    Medan Nilai
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key kunci BroadNet anda
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support hidup
  4. Klik Create Provider, kemudian pilih penyedia itu dan sebuah model.

Pilihan 2: goose CLI

Jalankan goose configure, pilih Custom Providers, kemudian Add A Custom Provider, dan jawab gesaan dengan nilai yang sama: jenis API OpenAI Compatible, API URL di atas, pengesahan Yes dengan kunci API statik, senarai model yang dipisahkan dengan koma, dan strim dihidupkan.

Pilihan 3: fail JSON

Cipta ~/.config/goose/custom_providers/broadnet.json (pada Windows, %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Kemudian mulakan sesi dengannya:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

Fail ini boleh dimasukkan ke dalam repositori untuk pasukan anda, kerana kunci kekal dalam persekitaran.

Uji

Mulakan dengan soalan mudah, seperti “what can you do?” (apa yang boleh anda lakukan?). Jika ada jawapan, sambungan berfungsi. Kemudian minta sesuatu yang memerlukan salah satu sambungan yang anda hidupkan. Jika goose memanggil alatan itu, tool calling juga berfungsi. Jika ia hanya membalas dengan teks dan tidak pernah memanggil alatan, tukar kepada broadnet/glm-5.3.

Harga dalam goose

goose boleh menganggar kos jika setiap model dalam fail JSON mempunyai input_token_cost dan output_token_cost dalam USD setiap token. Ambil angka daripada halaman harga BroadNet dan bahagikan harga setiap sejuta dengan 1,000,000. Tanpa kedua-dua medan, goose kembali kepada harga katalognya sendiri, yang mungkin tidak sepadan dengan harga BroadNet.

Penyelesaian masalah

  • 401. Kunci salah, tamat tempoh atau kehabisan elaun, atau BROADNET_API_KEY tidak ditetapkan dalam shell yang memulakan goose.
  • 404. Semak API URL. Ia sepatutnya https://inference.broadnet.ai/v1/chat/completions. Pastikan ID model sepadan tepat dengan ID BroadNet. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi broadnet/gemma-4-26b-a4b dan dua model Transcribe, dan konteks 32,768 token Gemma kecil untuk kerja ejen.
  • Jawapan kosong. Penaakulan dikira dalam had output pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B. Mengapa jawapan kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Lihat ralat dan cuba semula.
  • Permintaan menunggu atau gagal dengan dua sesi goose pada satu kunci pelan. Satu sesi pelan menjalankan satu permintaan pada satu masa, jadi berikan setiap sesi goose sesi pelannya sendiri.

Soalan lazim

Patutkah API URL goose berakhir dengan /v1 atau /v1/chat/completions?

Contoh penyedia tersuai goose sendiri menggunakan URL chat completions penuh, jadi gunakan https://inference.broadnet.ai/v1/chat/completions. Ini juga memastikan goose kekal pada chat completions, iaitu apa yang disediakan oleh BroadNet.

Model BroadNet manakah yang paling sesuai dengan goose?

GLM 5.3 (broadnet/glm-5.3). Dokumentasi goose menyatakan ia banyak menggunakan tool calling, dan BroadNet menyenaraikan tools untuk GLM 5.3 dan Qwen3.8 27B sahaja.

Bolehkah saya menggunakan goose dengan pelan tanpa had BroadNet?

Pelan hanya meliputi DeepSeek V4.1 Flash, dan dokumentasi BroadNet tidak menyenaraikan tool calling untuknya. Menurut goose, model tanpa tool calling hanya boleh berbual apabila sambungan dimatikan, jadi ujinya dahulu sebelum anda membeli sebulan.

Di manakah goose menyimpan kunci API?

Dalam rantai kunci sistem, atau dalam secrets.yaml jika keyring dimatikan. Dengan fail JSON, goose membaca pemboleh ubah yang dinamakan dalam api_key_env.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity