BroadRouter
Bắt đầu

Dùng Zed với BroadNet Inference làm provider tương thích OpenAI

Cập nhật

Trong settings.json của Zed, thêm một provider dưới language_models.openai_compatible, ví dụ broadnet, với api_url là https://inference.broadnet.ai/v1 và available_models liệt kê các ID của BroadNet như broadnet/glm-5.3, đặt max_tokens bằng kích thước context. Zed đọc key từ BROADNET_API_KEY, hoặc bạn có thể lưu key trong Agent Settings.

Zed là trình soạn thảo code mã nguồn mở có sẵn agent. Nó kết nối với mọi server có API tương thích OpenAI qua loại provider openai_compatible. BroadNet Inference phục vụ chat completions chuẩn tại https://inference.broadnet.ai/v1, nên dùng được ngay. BroadRouter là trang web của chính BroadNet; các bước dưới đây làm theo tài liệu truy cập API của Zed tính đến Zed 1.28.

Thiết lập

  1. Lấy key. Tạo key trả theo mức dùng trong console BroadNet, hoặc dùng key của gói không giới hạn.
  2. Thêm provider. Mở Agent Settings bằng lệnh agent: open settings rồi bấm Add Provider trong mục LLM Providers, hoặc sửa trực tiếp settings.json:
{
  "language_models": {
    "openai_compatible": {
      "broadnet": {
        "api_url": "https://inference.broadnet.ai/v1",
        "available_models": [
          {
            "name": "broadnet/glm-5.3",
            "display_name": "GLM 5.3 (BroadNet)",
            "max_tokens": 1048576,
            "max_output_tokens": 16000,
            "capabilities": {
              "tools": true,
              "images": false,
              "parallel_tool_calls": false,
              "prompt_cache_key": false,
              "chat_completions": true,
              "interleaved_reasoning": false,
              "max_tokens_parameter": true
            }
          },
          {
            "name": "broadnet/qwen3.8-27b",
            "display_name": "Qwen3.8 27B (BroadNet)",
            "max_tokens": 262144,
            "max_output_tokens": 16000,
            "capabilities": {
              "tools": true,
              "images": true,
              "parallel_tool_calls": false,
              "prompt_cache_key": false,
              "chat_completions": true,
              "interleaved_reasoning": false,
              "max_tokens_parameter": true
            }
          }
        ]
      }
    }
  }
}
  1. Đưa key cho Zed. Export key trước khi khởi động Zed, hoặc dán key vào provider trong Agent Settings. Zed lưu key được dán vào keychain của hệ thống, không lưu trong settings.json.
export BROADNET_API_KEY='your-broadnet-key'
  1. Kiểm tra. Mở Agent Panel, chọn GLM 5.3 (BroadNet) trong bộ chọn model và hỏi một câu nhỏ về file đang mở. Có câu trả lời nghĩa là kết nối đã chạy.

Ý nghĩa các thiết lập

  • name là model ID mà Zed gửi đi. Dùng chính xác ID của BroadNet, kèm tiền tố broadnet/.
  • max_tokens trong schema của Zed là context window, không phải giới hạn output. Dùng 1.048.576 cho GLM 5.3 và DeepSeek V4.1 Flash, và 262.144 cho Qwen3.8 27B.
  • max_output_tokens giới hạn độ dài câu trả lời. Con số 16.000 ở trên là gợi ý của chúng tôi, không phải giới hạn của BroadNet. Phần suy luận cũng được tính vào đây, nên đừng đặt quá thấp.
  • max_tokens_parameter: true khiến Zed gửi giới hạn output dưới tên max_tokens thay vì max_completion_tokens. Tài liệu tham chiếu API của BroadNet mô tả trường max_tokens.
  • images mặc định là false với model tương thích OpenAI. Chỉ bật cho model nhận ảnh: Qwen3.8 27B, DeepSeek V4.1 Flash và BroadNet Gemma 4 VL 26B.
  • reasoning_effort là tùy chọn. Tài liệu BroadNet gợi ý low nếu bạn muốn phần suy nghĩ ngắn hơn.

Nên chọn model nào

Mục đích Model Lý do
Agent sửa code với tool broadnet/glm-5.3 BroadNet liệt kê tool và structured output; context 1M
Ảnh chụp màn hình và văn bản tiếng Ả Rập broadnet/qwen3.8-27b Tool cộng đầu vào ảnh; context 262K
Chat dài trên gói giá cố định broadnet/deepseek-v4.1-flash Model của gói không giới hạn; nhận đầu vào ảnh; BroadNet không liệt kê tool

Zed mặc định tools: true cho model tương thích OpenAI. Tài liệu BroadNet không liệt kê tool calling cho DeepSeek V4.1 Flash, nên hãy thử một tác vụ agent thật trước khi dựa vào nó. Một giờ Meteor ($1) là cách rẻ để thử trước khi mua một tháng Full Moon ($60).

Khắc phục sự cố

  • 401. Key sai, hết hạn hoặc hết hạn mức. Nếu bạn đặt BROADNET_API_KEY, biến này được ưu tiên hơn keychain; hãy unset nó và khởi động lại Zed để dùng key đã lưu.
  • 404 ở mọi request. Kiểm tra api_url có kết thúc bằng /v1 không. Sau đó kiểm tra name có khớp chính xác với ID của BroadNet không. Model trả phí cần nạp tiền; tín dụng $5 chỉ dùng được cho broadnet/gemma-4-26b-a4b và hai model Transcribe.
  • Câu trả lời rỗng. Model đã dùng hết ngân sách output cho phần suy luận. Tăng max_output_tokens hoặc đặt reasoning_effort là low. Vì sao câu trả lời trả về rỗng.
  • 429. Key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang chạy cùng lúc. Một phiên của gói chạy mỗi lần một request. Xem lỗi và retry.
  • Dự án từ xa. Zed khởi tạo provider trong ứng dụng cục bộ, nên khi làm việc qua SSH, key được lấy từ keychain hoặc môi trường cục bộ, không phải từ máy từ xa.

Câu hỏi thường gặp

Zed đọc key của provider tùy chỉnh từ biến môi trường nào?

Zed tạo tên biến từ ID của provider viết hoa kiểu snake case, thêm _API_KEY. Provider tên broadnet sẽ đọc BROADNET_API_KEY. Nếu biến này không rỗng, nó được ưu tiên hơn key đã lưu trong keychain.

Model của BroadNet có chạy trong Agent Panel của Zed không?

Có. Quyền truy cập API của Zed áp dụng cho Zed Agent, Inline Assistant, commit message và tóm tắt thread. Zed mặc định model tương thích OpenAI hỗ trợ tool, nên hãy chọn GLM 5.3 hoặc Qwen3.8 27B, hai model BroadNet liệt kê là có tool.

Thiết lập này có thay đổi edit prediction của Zed không?

Không. Tài liệu Zed nói edit prediction có phần thiết lập provider riêng dưới edit_predictions. Provider trong hướng dẫn này dành cho agent và các tính năng AI khác của Zed.

Vì sao Zed báo model chỉ chạy được với Responses API?

Với BroadNet thì lẽ ra không. Hãy để capabilities.chat_completions ở giá trị mặc định true. BroadNet phục vụ /v1/chat/completions và không liệt kê Responses API.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity