BroadRouter

Kết nối Flowise với BroadNet Inference (OpenAI Custom Model)

Cập nhật

Trong chatflow Flowise, thêm node chat model OpenAI Custom Model. Gắn một OpenAI API credential chứa key BroadNet, gõ một model ID BroadNet như broadnet/glm-5.3 vào Model Name, rồi trong Additional Parameters đặt Base Path là https://inference.broadnet.ai/v1. Node này dùng chat completions. Với agent gọi tool, hãy chọn GLM 5.3 hoặc Qwen3.8 27B.

Flowise là công cụ low-code mã nguồn mở để xây ứng dụng LLM và agent. Node chat model OpenAI Custom Model của nó được làm cho API tương thích OpenAI: bạn gõ tên model và đặt base path. BroadNet Inference phục vụ chat completions tại https://inference.broadnet.ai/v1, nên đây là node cần dùng. BroadRouter là trang web của chính BroadNet; các bước dưới đây dựa trên mã nguồn của node trong Flowise 3.1.4, vì tài liệu Flowise không có trang nào cho node này.

Thiết lập

  1. Tạo credential. Trong Flowise, mở Credentials, thêm một credential OpenAI API, đặt tên “BroadNet” và dán key BroadNet vào OpenAI Api Key.

  2. Thêm node. Trong một chatflow, thêm Chat Models → OpenAI Custom Model.

  3. Điền các trường của node:

    Trường Giá trị
    Connect Credential credential BroadNet
    Model Name broadnet/glm-5.3
    Temperature mặc định 0.9; giảm xuống khi trích xuất
    Streaming (Additional Parameters) bật (mặc định)
    Max Tokens (Additional Parameters) 4000
    Base Path (Additional Parameters) https://inference.broadnet.ai/v1
  4. Nối node vào một node chain hoặc agent, lưu lại và gửi một tin nhắn thử trong khung chat. Có câu trả lời nghĩa là key, URL và tên model đều đúng.

Các trường có tác dụng gì

  • Model Name được gửi làm model ID. Hãy gõ ID của BroadNet kèm tiền tố broadnet/. Node này không tải danh sách model, nên /v1/models của BroadNet, vốn chỉ liệt kê các model chép lời khi chúng tôi kiểm tra ngày 16 tháng 11 năm 2026, không gây cản trở.
  • Base Path trở thành base URL của client. Flowise tự nối thêm /chat/completions.
  • Max Tokens được gửi dưới dạng max_tokens. DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào giới hạn này, nên đừng đặt thấp.
  • Base Options nhận các header dạng JSON để thêm vào mọi request. BroadNet không cần header nào.

Vì sao không dùng node ChatOpenAI tiêu chuẩn?

Node ChatOpenAI cũng có trường Base Path, nhưng trong Flowise 3.1.4, Model Name của nó là một danh sách thả xuống do phương thức listModels điền, với mặc định là gpt-4o-mini. Node OpenAI Custom Model thì có Model Name nhập tự do, và mã nguồn mô tả nó dành cho “OpenAI Chat compatible API” (Bản dịch: API tương thích OpenAI Chat), đúng thứ BroadNet cung cấp.

Chọn model nào

Flow Model
Agent dùng tool, parser đầu ra có cấu trúc broadnet/glm-5.3
Agent đọc hình ảnh hoặc văn bản tiếng Ả Rập broadnet/qwen3.8-27b
Chain hội thoại và truy xuất, tài liệu dài broadnet/deepseek-v4.1-flash
Thử Flowise bằng tín dụng ban đầu broadnet/gemma-4-26b-a4b (context 32.768 token)

Tài liệu BroadNet chỉ ghi hỗ trợ tool và đầu ra có cấu trúc cho GLM 5.3 và Qwen3.8 27B. Giá của mọi model.

Chúng tôi đã kiểm thử thế nào

Chúng tôi không chạy server Flowise. Ngày 2026-11-15, chúng tôi đọc mã nguồn node OpenAI Custom Model tại tag flowise@3.1.4, rồi dựng đúng đối tượng ChatOpenAI mà node này dựng, bằng @langchain/openai 1.2.5, phiên bản Flowise 3.1.4 cố định. Chúng tôi gửi một tin nhắn streaming và một lệnh gọi tool tới một mock server cục bộ mô phỏng định dạng chat completions của BroadNet. Cả hai request đều tới /v1/chat/completions với model ID broadnet/glm-5.3 giữ nguyên, Bearer key, max_tokens: 4000, temperature: 0.9 và stream: true, và lệnh gọi tool trả về đã được parse. Chúng tôi không có key BroadNet nên chưa kiểm thử đầu ra thật của model. Tên các trường lấy từ mã nguồn; hãy đối chiếu với phiên bản Flowise bạn dùng.

Xử lý sự cố

  • 401. Credential chứa sai key, hoặc key đã hết hạn hay hết hạn mức.
  • 404. Base Path phải kết thúc bằng /v1. Model Name phải khớp chính xác ID của BroadNet. Các model trả phí cần nạp tiền; $5 tín dụng ban đầu chỉ dùng được cho broadnet/gemma-4-26b-a4b và hai model Transcribe.
  • Câu trả lời rỗng. Hãy tăng Max Tokens. Vì sao câu trả lời trả về rỗng.
  • Agent trả lời mà không dùng tool. Chuyển sang broadnet/glm-5.3 hoặc broadnet/qwen3.8-27b.
  • 429 khi tải cao. Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc. Xem lỗi và thử lại.

Câu hỏi thường gặp

Nên dùng node nào của Flowise cho BroadNet?

OpenAI Custom Model (chatOpenAICustom). Mã nguồn mô tả nó là một model tùy chỉnh dùng API tương thích OpenAI chat. Model Name là trường nhập tự do nên bạn gõ được ID BroadNet, còn Base Path dùng để đổi URL.

Trường Base Path trong Flowise nằm ở đâu?

Đó là một trường tùy chọn của node OpenAI Custom Model, hiện trong Additional Parameters. Đặt nó là https://inference.broadnet.ai/v1, có /v1 và không thêm đường dẫn nào phía sau.

Node OpenAI Custom Model dùng credential nào?

Một OpenAI API credential (openAIApi). Hãy tạo một credential với key BroadNet làm API key. Flowise gửi key đó dưới dạng Bearer token tới Base Path.

Vì sao temperature mặc định trông khá cao?

Node này mặc định temperature 0.9. Hãy giảm xuống cho các flow trích xuất hoặc phân loại.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity