Kết nối SillyTavern với BroadNet Inference (Custom tương thích OpenAI)
Cập nhật
Trong bảng API Connections của SillyTavern, chọn Chat Completion, rồi chọn Custom (OpenAI-compatible) cho Chat Completion Source. Đặt Custom Endpoint là https://inference.broadnet.ai/v1, dán key BroadNet, gõ một model ID như broadnet/qwen3.8-27b vào Enter a Model ID, bấm Connect rồi Test Message. Đặt Max Response Length từ 1.000 token trở lên.
SillyTavern là một giao diện chat mã nguồn mở, được dùng nhiều cho chat với nhân vật và roleplay. Nguồn Custom (OpenAI-compatible) của nó kết nối kiểu API Chat Completion với bất kỳ server nào dùng schema OpenAI chung. BroadNet Inference phục vụ chat completions chuẩn tại https://inference.broadnet.ai/v1. BroadRouter là website của chính BroadNet; các bước dưới đây làm theo tài liệu SillyTavern và bản phát hành 1.19.0.
Thiết lập
Lấy key. Tạo một key trả theo mức dùng trong console BroadNet, mua một key theo giờ, hoặc mua một gói không giới hạn.
Mở bảng API Connections.
Đặt API là Chat Completion.
Đặt Chat Completion Source là Custom (OpenAI-compatible).
Điền form Custom:
Trường
Giá trị
Custom Endpoint (Base URL)
https://inference.broadnet.ai/v1
Custom API Key
key BroadNet của bạn
Enter a Model ID
broadnet/qwen3.8-27b
Bấm Connect.
Chạy thử. Bấm Test Message. SillyTavern gửi một prompt đơn giản tới model; nếu có câu trả lời, kết nối đã hoạt động.
Đừng thêm /chat/completions vào URL. Form của SillyTavern ghi rằng hậu tố này được thêm tự động.
Hãy gõ model ID thay vì chọn trong Available Models. Danh sách đó lấy từ /v1/models, mà tài liệu BroadNet mô tả là metadata danh mục dành cho công cụ giám sát. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, nó chỉ liệt kê hai model chuyển giọng nói thành văn bản, vốn không chat được.
Chọn model nào
Model
ID
Context
Ghi chú
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
1.048.576
Chat dài; model của các gói không giới hạn
Qwen3.8 27B
broadnet/qwen3.8-27b
262.144
Hình ảnh; BroadNet đã thử nghiệm bằng tiếng Ả Rập
GLM 5.3
broadnet/glm-5.3
1.048.576
Chỉ văn bản; có tool
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
32.768
Chạy được bằng tín dụng miễn phí $5 và key theo giờ
Gói không giới hạn hợp với các phiên dài vì bạn không trả tiền theo token: một giờ Meteor giá $1, một tuần Orbit giá $15 và một tháng Full Moon giá $60. Mỗi phiên của gói chạy một request tại một thời điểm.
Những cài đặt nên chỉnh
Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào giới hạn này. Hãy đặt từ 1.000 trở lên, nếu không bạn có thể nhận câu trả lời trống.
Context Size (tokens). Đặt theo model trong bảng. SillyTavern không đọc được giá trị này từ BroadNet.
Prompt Post-Processing. Nếu model từ chối prompt vì có nhiều system message hoặc vì thứ tự role, hãy thử Merge consecutive roles trước, rồi đến Semi-strict. Tài liệu SillyTavern lưu ý các tùy chọn này loại bỏ lời gọi tool, trừ khi bạn chọn biến thể “with tools”.
Bypass status check. Nếu SillyTavern cảnh báo API không hoạt động nhưng Test Message vẫn thành công, hãy đánh dấu mục này.
Xử lý sự cố
401. Key sai, đã hết hạn hoặc đã hết hạn mức. Dán lại key và bấm Connect.
404 hoặc “model not found”. URL phải kết thúc bằng /v1, và ID phải có tiền tố broadnet/. Các model trả phí cần nạp tiền; tín dụng $5 chỉ dùng được cho broadnet/gemma-4-26b-a4b và hai model Transcribe.
429. Key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc, còn key theo giờ và phiên của gói chạy một stream. Xem lỗi và thử lại.
Câu hỏi thường gặp
Vì sao danh sách Available Models sai hoặc trống với BroadNet?
SillyTavern lấy danh sách này từ /v1/models. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, /v1/models công khai của BroadNet chỉ liệt kê hai model chuyển giọng nói thành văn bản. Hãy gõ model ID chat vào Enter a Model ID.
Model BroadNet nào tốt nhất cho các cuộc roleplay dài?
DeepSeek V4.1 Flash có context 1.048.576 token và là model của các gói không giới hạn giá cố định của BroadNet. Qwen3.8 27B là model BroadNet đã thử nghiệm bằng tiếng Ả Rập, kể cả phương ngữ vùng Vịnh và Ai Cập.
Vì sao SillyTavern trả về câu trả lời trống?
Các model chat của BroadNet, trừ Gemma 4 VL 26B, suy luận trước khi trả lời, và phần suy luận được tính vào max_tokens. Max Response Length của SillyTavern đặt giới hạn đó, nên hãy tăng lên từ 1.000 token trở lên.
Có quy định về nội dung không?
Có. Chính sách sử dụng được chấp nhận (AUP) của BroadNet áp dụng cho mọi thứ gửi qua API, và lệnh cấm nội dung tình dục liên quan đến trẻ vị thành niên trong chính sách này ghi rõ là bao gồm cả nội dung hư cấu và nội dung tổng hợp.