BroadRouter
Bắt đầu

Dùng Jan với BroadNet Inference làm provider tương thích OpenAI

Cập nhật

Trong Jan, mở Settings, Model Providers và bấm Add Provider. Chọn OpenAI-compatible, đặt tên BroadNet, đặt Base URL là https://inference.broadnet.ai/v1 và dán key BroadNet. Sau đó tự thêm các model chat bằng nút +, ví dụ broadnet/glm-5.3, và bật Tools hoặc vision cho từng model trong phần capabilities của nó.

Jan là ứng dụng chat desktop mã nguồn mở, chạy được model cục bộ và kết nối với API đám mây. Bất kỳ dịch vụ nào dùng định dạng OpenAI đều có thể được thêm làm custom provider. BroadNet Inference phục vụ chat completions chuẩn tại https://inference.broadnet.ai/v1. BroadRouter là trang web của chính BroadNet; các bước dưới đây làm theo trang Custom Endpoints của Jan tính đến Jan 0.8.8.

Thiết lập

  1. Lấy key. Tạo một key trả theo mức dùng trong console BroadNet, hoặc mua một key theo giờ hay một gói.

  2. Mở hộp thoại. Vào Settings > Model Providers và bấm nút Add Provider cạnh danh sách.

  3. Chọn định dạng API. Chọn OpenAI-compatible, lựa chọn mặc định.

  4. Điền thông tin:

    Trường Giá trị
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key key BroadNet của bạn
  5. Bấm Create.

  6. Tự thêm model. Trong phần Models của provider, bấm + và nhập chính xác từng model ID chat, ví dụ broadnet/glm-5.3.

  7. Đặt khả năng. Bấm biểu tượng bút chì cạnh mỗi model và bật những gì model đó hỗ trợ (bảng bên dưới). Jan không tự nhận biết được điều này với custom provider.

  8. Chạy thử. Mở một cuộc chat mới, chọn model BroadNet trong bộ chọn model và gửi một tin nhắn ngắn.

Jan tải https://inference.broadnet.ai/v1/models khi bạn lưu. Tài liệu BroadNet mô tả endpoint này là metadata danh mục dành cho công cụ giám sát, và khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, nó chỉ liệt kê hai model chép lời. Các model đó không chat được; hãy xóa chúng nếu chúng xuất hiện.

Model ID và khả năng

Model ID Tool Hình ảnh Context
GLM 5.3 broadnet/glm-5.3 Bật Tắt 1.048.576
Qwen3.8 27B broadnet/qwen3.8-27b Bật Bật 262.144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash Tắt (BroadNet không ghi) Bật 1.048.576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b Tắt Bật 32.768

broadnet/gemma-4-26b-a4b là model chat duy nhất chạy được bằng $5 tín dụng ban đầu, và cũng là model đứng sau key theo giờ của BroadNet ($0.50 cho một giờ, một luồng). Các model còn lại cần nạp tiền, hoặc với DeepSeek V4.1 Flash thì cần một gói không giới hạn.

Những cài đặt nên đổi

  • Giới hạn đầu ra. Ba trong số các model này suy luận trước khi trả lời, và phần suy luận được tính vào max_tokens. Nếu bạn đặt giới hạn đầu ra cho model BroadNet, hãy để từ 1.000 token trở lên.
  • Sampler. Với custom provider, Jan hiển thị đầy đủ các tham số sampling, và tài liệu của Jan cảnh báo rằng custom endpoint có thể âm thầm bỏ qua những sampler không hỗ trợ. Nếu một cài đặt như min-P có vẻ không có tác dụng, đó là lý do.
  • Key dự phòng. Jan có thể giữ nhiều key cho một provider và thử lại bằng key kế tiếp khi gặp 401, 403 hoặc 429. Chính sách sử dụng được chấp nhận của BroadNet cấm lách giới hạn tần suất hay giới hạn đồng thời, nên hãy dùng key phụ để chuyển đổi dự phòng, không phải để nhân giới hạn của bạn lên.

Xử lý sự cố

  • 404 ở mọi request. Base URL thiếu /v1. Tài liệu Jan gọi đây là lỗi thường gặp nhất.
  • 401 hoặc 403. Key sai, hết hạn hoặc hết hạn mức. Kết quả Test keys thành công không chứng minh key dùng được, vì khi chúng tôi kiểm tra, /v1/models của BroadNet trả lời cả khi không có key.
  • Model not found. Kiểm tra ID, kể cả tiền tố broadnet/. Các model trả phí cần nạp tiền.
  • Câu trả lời rỗng. Suy luận đã dùng hết ngân sách đầu ra. Hãy tăng giới hạn đầu ra. Vì sao câu trả lời trả về rỗng.
  • 429. Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc; một key theo giờ chạy một luồng. Xem lỗi và thử lại.

Câu hỏi thường gặp

Vì sao Jan chỉ hiện các model chép lời sau khi thêm BroadNet?

Jan tải https://inference.broadnet.ai/v1/models khi bạn lưu. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, /v1/models công khai của BroadNet chỉ liệt kê hai model chép lời, vốn không dùng để chat được. Hãy xóa chúng và tự thêm ID của các model chat.

Nút Test keys của Jan báo OK. Vậy key của tôi hợp lệ chưa?

Chưa chắc. Jan kiểm tra key bằng cách gọi /models, và khi chúng tôi kiểm tra, /v1/models của BroadNet trả lời cả khi không có key. Hãy gửi một tin nhắn chat để xác nhận key.

Có dùng key theo giờ của BroadNet trong Jan được không?

Được. Key theo giờ chạy BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, mỗi lúc một luồng, rất hợp với một cửa sổ chat.

Jan có tự nhận biết model BroadNet hỗ trợ hình ảnh hay tool không?

Không. Tài liệu Jan nói custom provider không được nhận biết khả năng. Hãy bật nhận hình ảnh cho DeepSeek V4.1 Flash, Qwen3.8 27B và Gemma 4 VL 26B, và bật Tools cho GLM 5.3 và Qwen3.8 27B.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity