BroadRouter

Idagdag ang BroadNet Inference sa goose bilang custom provider

Na-update

Sa goose, magdagdag ng custom provider na OpenAI Compatible ang type, https://inference.broadnet.ai/v1/chat/completions ang API URL, kasama ang BroadNet key mo at mga available na model gaya ng broadnet/glm-5.3. Gamitin ang Add Custom Provider button ng goose Desktop, ang goose configure sa terminal, o isang JSON file sa ~/.config/goose/custom_providers/. Umaasa ang goose sa tool calling, kaya magsimula sa GLM 5.3 o Qwen3.8 27B.

Open-source na AI agent ang goose na may desktop app at CLI. Idinadagdag bilang custom provider ang mga serbisyong hindi built-in, at sinusuportahan ng goose ang mga OpenAI-compatible na provider. Karaniwang chat completions ang sine-serve ng BroadNet Inference, kaya gumagana ito sa ganitong paraan. Ang BroadRouter ay sariling site ng BroadNet; sinusundan ng mga hakbang ang provider docs ng goose simula sa goose 1.59.

Babala ng docs ng goose na “extensively uses tool calling” ito (Salin: malawakan nitong ginagamit ang tool calling), at ang mga model na wala nito ay pang-chat lang kapag naka-disable ang lahat ng extension. Sa GLM 5.3 at Qwen3.8 27B nakalista ng BroadNet ang tool calling, kaya isa sa dalawang iyon ang gamitin para sa agent work.

Option 1: goose Desktop

  1. Buksan ang sidebar at i-click ang Settings, saka ang Models tab.

  2. I-click ang Configure providers, saka ang Add Custom Provider sa ibaba.

  3. Punan ang mga detalye:

    Field Value
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key ang BroadNet key mo
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support naka-on
  4. I-click ang Create Provider, saka piliin ito at ang isang model.

Option 2: goose CLI

Patakbuhin ang goose configure, piliin ang Custom Providers, saka ang Add A Custom Provider, at sagutin ang mga prompt gamit ang parehong mga value: API type na OpenAI Compatible, ang API URL sa itaas, authentication na Yes na may static API key, ang listahan ng model na pinaghihiwalay ng comma, at naka-on ang streaming.

Option 3: isang JSON file

Gawin ang ~/.config/goose/custom_providers/broadnet.json (sa Windows, %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Saka magsimula ng session gamit ito:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

Puwedeng ilagay ang file sa isang repository para sa team mo, dahil nananatili sa environment ang key.

Subukan ito

Magsimula sa simpleng tanong, gaya ng “what can you do?”. Kapag may sagot, gumagana ang koneksyon. Saka humiling ng bagay na nangangailangan ng isa sa mga naka-enable mong extension. Kapag tinawag ng goose ang tool, gumagana rin ang tool calling. Kung text lang ang isinasagot nito at hindi kailanman tumatawag ng tool, lumipat sa broadnet/glm-5.3.

Mga presyo sa goose

Kayang tantiyahin ng goose ang gastos kung may input_token_cost at output_token_cost sa USD kada token ang bawat model sa JSON file. Kunin ang mga numero sa pricing page ng BroadNet at hatiin sa 1,000,000 ang presyo kada milyon. Kapag kulang ang alinman sa dalawang field, babalik ang goose sa sarili nitong catalogue pricing, na posibleng hindi tugma sa mga presyo ng BroadNet.

Troubleshooting

  • 401. Mali, expired o ubos na ang allowance ng key, o hindi naka-set ang BROADNET_API_KEY sa shell na nagpapatakbo ng goose.
  • 404. Tingnan ang API URL. Dapat ito ay https://inference.broadnet.ai/v1/chat/completions. Tiyaking eksaktong tugma ang model ID sa ID ng BroadNet. Kailangan ng top-up para sa mga bayad na model; ang broadnet/gemma-4-26b-a4b at ang dalawang Transcribe model lang ang sakop ng $5 na credit, at maliit para sa agent work ang 32,768-token na context ng Gemma.
  • Walang lamang sagot. Kasama ang reasoning sa output limit ng DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay. Tingnan ang errors and retries.
  • Naghihintay o pumapalya ang mga request kapag dalawang goose session ang nasa iisang plan key. Isang request lang sa isang pagkakataon ang pinapatakbo ng isang plan session, kaya bigyan ng sariling session ang bawat goose session.

Mga tanong

Dapat bang magtapos sa /v1 o sa /v1/chat/completions ang API URL sa goose?

Buong chat completions URL ang gamit sa sariling custom provider example ng goose, kaya gamitin ang https://inference.broadnet.ai/v1/chat/completions. Sa ganito, nananatili rin ang goose sa chat completions, na siyang sine-serve ng BroadNet.

Aling BroadNet model ang pinakababagay sa goose?

Ang GLM 5.3 (broadnet/glm-5.3). Sabi ng docs ng goose, malawakan nitong ginagamit ang tool calling, at sa GLM 5.3 at Qwen3.8 27B lang nakalista ng BroadNet ang tools.

Puwede ko bang gamitin ang goose sa unlimited na plan ng BroadNet?

DeepSeek V4.1 Flash lang ang sakop ng mga plan, at hindi nakalista ang tool calling para dito sa docs ng BroadNet. Sabi ng goose, ang mga model na walang tool calling ay pang-chat lang kapag naka-disable ang mga extension, kaya subukan muna bago bumili ng isang buwan.

Saan itinatago ng goose ang API key?

Sa system keychain, o sa secrets.yaml kung naka-off ang keyring. Kapag JSON file ang gamit, ang variable na nakapangalan sa api_key_env ang binabasa ng goose.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity