BroadRouter
Magsimula

Kilo Code at BroadNet Inference (OpenAI Compatible na provider)

Na-update

Sa Kilo Code, buksan ang Settings, pumunta sa Providers at i-click ang Custom provider. Piliin ang OpenAI Compatible bilang Provider API, i-set ang Base URL sa https://inference.broadnet.ai/v1, i-paste ang BroadNet key mo, at mano-manong idagdag ang model ID gaya ng broadnet/glm-5.3. Sa kilo.json, gamitin ang npm @ai-sdk/openai-compatible na may options.baseURL at i-set ang limit.context at limit.output.

Open-source na coding agent ang Kilo Code para sa VS Code at sa terminal. Puwedeng idagdag bilang custom provider ang kahit anong provider na may OpenAI Chat Completions API. Ganoong format ang sine-serve ng BroadNet Inference sa https://inference.broadnet.ai/v1. Ang BroadRouter ay sariling site ng BroadNet; sinusundan ng gabay na ito ang provider docs ng Kilo ayon sa nilalaman nito noong Nobyembre 15, 2026.

Setup sa VS Code

  1. Kumuha ng key. Gumawa ng pay-as-you-go key sa BroadNet console, o gumamit ng key ng unlimited na plan.

  2. Buksan ang Settings (gear icon) at pumunta sa Providers tab.

  3. Mag-scroll sa ibaba at i-click ang Custom provider.

  4. Punan ang dialog:

    Field Value
    Provider ID broadnet
    Display name BroadNet Inference
    Provider API OpenAI Compatible
    Base URL https://inference.broadnet.ai/v1
    API key ang BroadNet key mo
    Models mano-manong idagdag ang broadnet/glm-5.3 (tingnan sa ibaba)
  5. I-click ang Submit. Lalabas ang model sa model picker.

  6. Subukan ito. Magsimula ng task gaya ng “explain this file”. Kapag sumagot ito, gumagana ang koneksyon.

Sinusubukan ng Kilo na punuin ang listahan ng model mula sa /v1/models ng endpoint. Inilalarawan ng docs ng BroadNet ang endpoint na iyon bilang catalogue metadata para sa mga monitor, at nang suriin namin ito noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista. Ikaw mismo ang mag-type ng chat model IDs, at huwag piliin ang mga transcription model.

Setup sa kilo.json (CLI, o para sa limits at tool flags)

Hindi nagse-set ng token limits o tool calling ang dialog ng Kilo. Itinuturo ng docs nito ang config file para doon: ~/.config/kilo/kilo.json, o ./kilo.json sa isang project.

{
  "$schema": "https://app.kilo.ai/config.json",
  "model": "broadnet/glm-5.3",
  "provider": {
    "broadnet": {
      "npm": "@ai-sdk/openai-compatible",
      "env": ["BROADNET_API_KEY"],
      "options": {
        "baseURL": "https://inference.broadnet.ai/v1"
      },
      "models": {
        "glm-5.3": {
          "id": "broadnet/glm-5.3",
          "name": "GLM 5.3",
          "tool_call": true,
          "reasoning": true,
          "limit": { "context": 1048576, "output": 16000 }
        },
        "qwen3.8-27b": {
          "id": "broadnet/qwen3.8-27b",
          "name": "Qwen3.8 27B",
          "tool_call": true,
          "reasoning": true,
          "modalities": { "input": ["text", "image"], "output": ["text"] },
          "limit": { "context": 262144, "output": 16000 }
        },
        "deepseek-v4.1-flash": {
          "id": "broadnet/deepseek-v4.1-flash",
          "name": "DeepSeek V4.1 Flash",
          "reasoning": true,
          "limit": { "context": 1048576, "output": 16000 }
        }
      }
    }
  }
}
export BROADNET_API_KEY='your-broadnet-key'
  • Ang top-level na model value, broadnet/glm-5.3, ay ang pangalan ng provider kasama ang map key (glm-5.3), hindi ang BroadNet ID. Ang id field ang model ID na ipinapadala ng Kilo sa BroadNet. Sabi ng docs ng Kilo, ang map key ang default ng id, kaya i-set ito tuwing hindi ang buong BroadNet ID ang key, gaya ng maiikling key dito.
  • Laging i-set ang limit.context at limit.output. Para sa custom model na walang katugma sa catalogue, sabi ng docs ng Kilo, nagiging 0 ang dalawa, na nagdi-disable sa automatic context management. Mungkahi namin ang output value na 16,000; nag-iiwan ito ng puwang para sa reasoning.
  • Sadyang hindi inilagay ang tool_call sa DeepSeek V4.1 Flash: hindi nakalista ang tool calling para dito sa docs ng BroadNet. Idagdag ito kapag nasubok mo na.

Aling model ang pipiliin

Task Model Notes
Agent coding na may tools GLM 5.3 May nakalistang tools at structured output; 1M na context
Screenshots, Arabic Qwen3.8 27B Tools at images; 262K na context
Mahahabang session, flat na presyo DeepSeek V4.1 Flash Mga unlimited na plan; hindi nakalista ng BroadNet ang tools

Subukan ang unlimited na plan sa isang oras ng Meteor ($1) bago ang isang buwan ng Full Moon ($60).

Troubleshooting

  • “Invalid API Key” o 401. I-paste ulit ang key. Tiyaking may natitira pang allowance ang key, at naka-set ang BROADNET_API_KEY sa process na nagpapatakbo ng Kilo.
  • “Model Not Found”. Tiyaking eksaktong tugma ang ID sa ID ng BroadNet, kasama ang broadnet/ prefix. Kailangan ng top-up para sa mga bayad na model; ang broadnet/gemma-4-26b-a4b at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
  • Walang lamang sagot o “response may be incomplete”. Nagbababala ang Kilo kapag naubos ng isang reasoning model ang buong output sa reasoning. Taasan ang limit.output. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay. Tingnan ang errors and retries.
  • Naghihintay o pumapalya ang mga parallel na subagent sa isang plan key. Isang request lang sa isang pagkakataon ang pinapatakbo ng isang plan session, kaya bigyan ng sariling session ang bawat parallel na subagent.
  • Mga connection error. Dapat nagtatapos sa /v1 ang Base URL. Kung may IP allow-list ang key mo, idagdag ang address ng machine mo.

Mga tanong

Bakit hindi lumalabas sa Kilo Code ang mga chat model ng BroadNet pagkatapos kong ilagay ang Base URL?

Kinukuha ng Kilo ang mga model mula sa /v1/models na listahan ng endpoint. Nang suriin namin noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista sa pampublikong /v1/models ng BroadNet, kaya mano-manong idagdag ang chat model IDs.

Ano ang dapat na limit.context para sa mga BroadNet model?

1048576 para sa GLM 5.3 at DeepSeek V4.1 Flash, 262144 para sa Qwen3.8 27B at 32768 para sa BroadNet Gemma 4 VL 26B. Sabi ng docs ng Kilo, nagiging 0 ang nawawalang limit para sa mga custom model, na nag-o-off sa automatic context management.

Puwede ko bang gamitin ang Kilo Code sa unlimited na plan ng BroadNet?

Oo. Sakop ng mga plan ang DeepSeek V4.1 Flash, ID broadnet/deepseek-v4.1-flash. Gamitin ang plan key bilang API key. Hindi nakalista ang tool calling para sa model na iyon sa docs ng BroadNet, kaya subukan muna ang isang agent task.

OpenAI Compatible o OpenAI Responses ba ang pipiliin ko bilang Provider API?

OpenAI Compatible. Nagse-serve ang BroadNet ng chat completions sa /v1/chat/completions at hindi nito nakalista ang Responses API.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity