BroadRouter

Jan at BroadNet Inference bilang custom OpenAI-compatible provider

Na-update

Sa Jan, buksan ang Settings, Model Providers at i-click ang Add Provider. Piliin ang OpenAI-compatible, pangalanan itong BroadNet, i-set ang Base URL sa https://inference.broadnet.ai/v1 at i-paste ang BroadNet key mo. Saka mano-manong idagdag ang mga chat model gamit ang + button, halimbawa ang broadnet/glm-5.3, at i-on ang Tools o vision para sa bawat model sa ilalim ng capabilities nito.

Open-source na desktop chat app ang Jan na nagpapatakbo ng mga local model at kumokonekta sa mga cloud API. Puwedeng idagdag bilang custom provider ang kahit anong serbisyong gumagamit ng OpenAI format. Karaniwang chat completions ang sine-serve ng BroadNet Inference sa https://inference.broadnet.ai/v1. Ang BroadRouter ay sariling site ng BroadNet; sinusundan ng mga hakbang ang Custom Endpoints page ng Jan simula sa Jan 0.8.8.

Setup

  1. Kumuha ng key. Gumawa ng pay-as-you-go key sa BroadNet console, o bumili ng hourly key o plan.

  2. Buksan ang dialog. Pumunta sa Settings > Model Providers at i-click ang Add Provider button sa tabi ng listahan.

  3. Piliin ang API format. Piliin ang OpenAI-compatible, ang default.

  4. Punan ang mga detalye:

    Field Value
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key ang BroadNet key mo
  5. I-click ang Create.

  6. Mano-manong idagdag ang mga model. Sa Models section ng provider, i-click ang + at ilagay nang eksakto ang bawat chat model ID, halimbawa broadnet/glm-5.3.

  7. I-set ang capabilities. I-click ang lapis sa tabi ng bawat model at i-on ang mga sinusuportahan nito (tingnan ang table sa ibaba). Hindi ito kayang i-detect ng Jan para sa mga custom provider.

  8. Subukan ito. Magsimula ng bagong chat, piliin ang BroadNet model sa model selector at magpadala ng maikling mensahe.

Kinukuha ng Jan ang https://inference.broadnet.ai/v1/models kapag nag-save ka. Inilalarawan ng docs ng BroadNet ang endpoint na iyon bilang catalogue metadata para sa mga monitor, at nang suriin namin ito noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista. Hindi kayang mag-chat ng mga iyon; alisin kung lumabas.

Model IDs at capabilities

Model ID Tools Images Context
GLM 5.3 broadnet/glm-5.3 On Off 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b On On 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash Off (hindi nakalista ng BroadNet) On 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b Off On 32,768

Ang broadnet/gemma-4-26b-a4b lang ang chat model na tumatakbo sa $5 na panimulang credit, at ito ang model sa likod ng hourly key ng BroadNet ($0.50 para sa isang oras, isang stream). Kailangan ng top-up ang iba, o, para sa DeepSeek V4.1 Flash, isang unlimited na plan.

Mga setting na sulit baguhin

  • Output limit. Nagre-reason muna bago sumagot ang tatlo sa mga model, at kasama ang reasoning sa max_tokens. Kung magse-set ka ng output limit para sa isang BroadNet model, panatilihin ito sa 1,000 token o higit pa.
  • Samplers. Para sa mga custom provider, ipinapakita ng Jan ang buong set ng sampling parameters, at babala ng docs nito na posibleng tahimik na balewalain ng mga custom endpoint ang mga sampler na hindi nila sinusuportahan. Kung parang walang epekto ang isang setting gaya ng min-P, iyon ang dahilan.
  • Fallback keys. Kayang maghawak ng Jan ng ilang key kada provider at nagre-retry ito gamit ang susunod na key kapag 401, 403 o 429. Ipinagbabawal ng Acceptable Use Policy ng BroadNet ang pag-iwas sa rate o concurrency limits, kaya gamitin ang mga dagdag na key para sa failover, hindi para paramihin ang mga limit mo.

Troubleshooting

  • 404 sa bawat request. Kulang ng /v1 ang Base URL. Ito ang pinakakaraniwang pagkakamali ayon sa docs ng Jan.
  • 401 o 403. Mali, expired o ubos na ang allowance ng key. Hindi patunay na gumagana ang key ang pumasang resulta ng Test keys, dahil sumagot ang /v1/models ng BroadNet kahit walang key nang suriin namin.
  • Model not found. Tingnan ang ID, kasama ang broadnet/ prefix. Kailangan ng top-up para sa mga bayad na model.
  • Walang lamang sagot. Naubos ng reasoning ang output budget. Taasan ang output limit. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay; isang stream lang ang pinapatakbo ng hourly key. Tingnan ang errors and retries.

Mga tanong

Bakit mga transcription model lang ang lumalabas sa Jan pagkatapos kong idagdag ang BroadNet?

Kinukuha ng Jan ang https://inference.broadnet.ai/v1/models kapag nag-save ka. Nang suriin namin noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista sa pampublikong /v1/models ng BroadNet, at hindi gumagana ang mga iyon sa chat. Alisin ang mga iyon at mano-manong idagdag ang chat model IDs.

OK ang sabi ng Test keys button ng Jan. Valid ba ang key ko?

Hindi tiyak. Tine-test ng Jan ang mga key sa pagtawag sa /models, at sumagot ang /v1/models ng BroadNet kahit walang key nang suriin namin. Magpadala ng chat message para makumpirma ang key.

Puwede ko bang gamitin ang hourly key ng BroadNet sa Jan?

Oo. Pinapatakbo ng hourly key ang BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, nang isang stream sa isang pagkakataon, na bagay sa iisang chat window.

Natutukoy ba ng Jan kung sumusuporta ang isang BroadNet model sa images o tools?

Hindi. Sabi ng docs ng Jan, hindi dine-detect ang capabilities ng mga custom provider. I-on ang image input para sa DeepSeek V4.1 Flash, Qwen3.8 27B at Gemma 4 VL 26B, at ang Tools para sa GLM 5.3 at Qwen3.8 27B.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity