---
title: "SillyTavern 自定义 OpenAI 兼容端点配置教程 | BroadRouter"
description: "用 Custom (OpenAI-compatible) 这个 Chat Completion 来源把 SillyTavern（酒馆）接入 BroadNet Inference，包括正确的模型 ID、提示词后处理和 token 上限。"
url: https://broadrouter.com/zh/guides/sillytavern-custom-openai-endpoint/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/)（2026-11-16 更新）。

# 把 SillyTavern 接入 BroadNet Inference（自定义 OpenAI 兼容端点）

更新于 2026-11-16

在 SillyTavern 的 API Connections 面板中选择 Chat Completion，再把 Chat Completion Source 设为 Custom (OpenAI-compatible)。Custom Endpoint 填 https://inference.broadnet.ai/v1，粘贴 BroadNet 密钥，在 Enter a Model ID 中输入模型 ID（如 broadnet/qwen3.8-27b），点击 Connect，再点 Test Message。Max Response Length 设为 1,000 token 以上。

SillyTavern（中文用户常称“酒馆”）是一个开源的聊天前端，在角色聊天和角色扮演中很受欢迎。它的 **Custom (OpenAI-compatible)** 来源可以把 Chat Completion API 类型连接到任何采用通用 OpenAI 格式的服务器。BroadNet Inference 在 `https://inference.broadnet.ai/v1` 上提供标准的对话补全。BroadRouter 是 BroadNet 自己的网站；以下步骤依据 [SillyTavern 的文档](https://docs.sillytavern.app/usage/api-connections/openai/)及其 1.19.0 版本。

## 配置步骤

1.  **获取密钥。** 在 BroadNet 控制台创建按量付费密钥，购买按小时计费的密钥，或者购买[不限量套餐](https://broadrouter.com/zh/guides/unlimited-llm-api-sessions/)。
    
2.  打开 **API Connections** 面板。
    
3.  把 **API** 设为 **Chat Completion**。
    
4.  把 **Chat Completion Source** 设为 **Custom (OpenAI-compatible)**。
    
5.  填写自定义表单：
    
    | 字段 | 值 |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | 你的 BroadNet 密钥 |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  点击 **Connect**。
    
7.  **测试。** 点击 **Test Message**。SillyTavern 会向模型发送一个简单的提示词；收到回复就说明连接正常。
    

不要在 URL 后面加 `/chat/completions`。SillyTavern 的表单说明这个后缀会自动加上。

请手动输入模型 ID，而不是从 **Available Models** 中选择。这个列表来自 `/v1/models`，BroadNet 的文档把它描述为供监控使用的目录元数据。我们在 2026 年 11 月 15 日查看时，它只列出了两个语音转写模型，而这两个模型不能用来聊天。

## 选哪个模型

| 模型 | ID | 上下文 | 说明 |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1,048,576 | 长篇聊天；不限量套餐所用的模型 |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262,144 | 支持图片；BroadNet 用阿拉伯语测试过 |
| GLM 5.3 | `broadnet/glm-5.3` | 1,048,576 | 仅文本；支持工具 |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32,768 | 可用 $5 免费额度和按小时密钥运行 |

不限量套餐适合长时间的会话，因为不按 token 付费：一小时 Meteor $1，一周 Orbit $15，一个月 Full Moon $60。每个套餐会话同一时间只处理一个请求。

## 值得修改的设置

-   **Max Response Length (tokens)。** DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 会先思考再回答，思考内容计入这个上限。请设为 1,000 或更多，否则可能收到空白回复。
-   **Context Size (tokens)。** 按上表设为对应模型的上下文大小。SillyTavern 无法从 BroadNet 读取这个值。
-   **Prompt Post-Processing。** 如果模型因为有多条 system 消息或角色顺序问题而拒绝提示词，先试 **Merge consecutive roles**，再试 **Semi-strict**。SillyTavern 的文档指出，除非选择带 “with tools” 的变体，这些选项会丢弃工具调用。
-   **Bypass status check。** 如果 SillyTavern 提示 API 不可用，但 Test Message 能成功，就勾选这一项。

## 故障排查

-   **401。** 密钥错误、已过期或额度已用完。重新粘贴密钥并点击 Connect。
-   **404 或 “model not found”。** URL 必须以 `/v1` 结尾，ID 必须包含 `broadnet/` 前缀。付费模型需要先充值；$5 额度只能用于 `broadnet/gemma-4-26b-a4b` 和两个 Transcribe 模型。
-   **回复空白。** 调高回复长度。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **429。** 按量付费密钥每分钟允许 30 个请求，同时最多 4 个在处理中；按小时密钥和套餐会话一次只跑一个流。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[大模型包月套餐（flat-rate LLM plan）](https://broadrouter.com/zh/glossary/flat-rate-llm-plan/)

大模型包月套餐（固定价格套餐）是按一个周期（如一个月）收取固定费用、提供大模型 API 使用权的计价方式，不按 token 计费。这类套餐通常会限制别的东西，如并发、速度、模型或使用时间窗口，所以限制条件和价格同样重要。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[Base URL（base\_url）](https://broadrouter.com/zh/glossary/base-url/)

base URL 是 API 固定的根地址，例如 https://api.example.com/v1，客户端会把它加在每个端点路径（例如 /chat/completions）前面。在 OpenAI 兼容 SDK 中，修改 base URL，再配合 API 密钥和模型 ID，就能让同一份代码改用另一家服务商。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[工具调用（tool calling / function calling）](https://broadrouter.com/zh/glossary/tool-calling/)

工具调用（也叫函数调用，function calling）是大模型 API 的一项功能：模型返回一个结构化请求，要求执行开发者定义的某个函数，并附上 JSON 参数。应用执行该函数并把结果发回；模型自己从不执行代码。

[上下文窗口（context window）](https://broadrouter.com/zh/glossary/context-window/)

上下文窗口是语言模型在单次请求中能处理的最大 token 数。它涵盖提示词、对话历史、工具定义、图片以及生成的输出（包括思考 token）。放不下的内容必须删减、摘要，或拆分到多个请求中。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

## 常见问题

### 为什么接 BroadNet 时 Available Models 列表不对或是空的？

SillyTavern 从 /v1/models 获取这个列表。我们在 2026 年 11 月 15 日查看时，BroadNet 公开的 /v1/models 只列出了两个语音转写模型。请改为在 Enter a Model ID 中手动输入对话模型 ID。

### 长篇角色扮演聊天用哪个 BroadNet 模型最好？

DeepSeek V4.1 Flash 有 1,048,576 token 的上下文，也是 BroadNet 固定价格不限量套餐所用的模型。Qwen3.8 27B 是 BroadNet 用阿拉伯语测试过的模型，包括海湾方言和埃及方言。

### SillyTavern 里为什么回复是空白的？

除 Gemma 4 VL 26B 外，BroadNet 的对话模型都会先思考再回答，而思考内容计入 max\_tokens。SillyTavern 的 Max Response Length 设置的就是这个上限，请调到 1,000 token 以上。

### 有内容方面的规定吗？

有。BroadNet 的可接受使用政策适用于通过 API 发送的所有内容，并且在禁止涉及未成年人的色情内容这一条中，明确包括虚构和合成内容。

## 相关指南

-   [在 Jan 中把 BroadNet Inference 添加为 OpenAI 兼容的自定义供应商](https://broadrouter.com/zh/guides/jan-custom-endpoint/)
-   [把 Open WebUI 接入 BroadNet Inference](https://broadrouter.com/zh/guides/open-webui-openai-api/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [所有可与 BroadNet Inference 配合使用的工具（英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**来源**

-   [SillyTavern 文档：Chat Completions API 连接，自定义 OpenAI 兼容端点（核对于 2026-11-15）](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [SillyTavern 源码：release 分支 public/index.html 中的自定义端点表单（核对于 2026-11-15）](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [GitHub 上的 SillyTavern 1.19.0 版本，发布于 2026-09-14，为最新版本（核对于 2026-11-16）](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [BroadNet 可接受使用政策（核对于 2026-11-15）（英文）](https://www.broadnet.ai/aup)
-   [BroadNet Inference API 参考文档（核对于 2026-11-15）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
