BroadRouter
开始使用

在 Jan 中把 BroadNet Inference 添加为 OpenAI 兼容的自定义供应商

更新于

在 Jan 中打开 Settings > Model Providers,点击 Add Provider。选择 OpenAI-compatible,命名为 BroadNet,把 Base URL 设为 https://inference.broadnet.ai/v1,粘贴你的 BroadNet 密钥。然后用 + 按钮手动添加聊天模型,例如 broadnet/glm-5.3,并在每个模型的能力设置中开启 Tools 或视觉。

Jan 是一个开源的桌面聊天应用,可以运行本地模型,也能连接云端 API。任何支持 OpenAI 格式的服务都可以作为自定义供应商添加。BroadNet Inference 在 https://inference.broadnet.ai/v1 上提供标准的 chat completions。BroadRouter 是 BroadNet 自己的网站;下面的步骤依据 Jan 0.8.8 时的 Jan Custom Endpoints 页面。

配置步骤

  1. 获取密钥。 在 BroadNet 控制台创建一个按量付费密钥,或者购买按小时密钥或套餐。

  2. 打开对话框。 进入 Settings > Model Providers,点击列表旁边的 Add Provider 按钮。

  3. 选择 API 格式。 选择默认的 OpenAI-compatible。

  4. 填写信息:

    字段 值
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key 你的 BroadNet 密钥
  5. 点击 Create。

  6. 手动添加模型。 在该供应商的 Models 区域点击 +,逐个准确填写聊天模型 ID,例如 broadnet/glm-5.3。

  7. 设置能力。 点击每个模型旁边的铅笔图标,开启它支持的能力(见下表)。对于自定义供应商,Jan 无法自动识别这些能力。

  8. 测试。 新建一个对话,在模型选择器中选中 BroadNet 模型,发一条简短的消息。

Jan 在保存时会请求 https://inference.broadnet.ai/v1/models。BroadNet 的文档把这个端点描述为供监控使用的目录元数据,我们在 2026 年 11 月 15 日检查时,它只列出了两个语音转写模型。这两个模型不能聊天;如果出现了,请删除。

模型 ID 和能力

模型 ID Tools 图片 上下文
GLM 5.3 broadnet/glm-5.3 开 关 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b 开 开 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 关(BroadNet 未列出) 开 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 关 开 32,768

broadnet/gemma-4-26b-a4b 是唯一能用 $5 初始额度运行的聊天模型,也是 BroadNet 按小时密钥背后的模型($0.50 一小时,一个流)。其他模型需要先充值;DeepSeek V4.1 Flash 也可以用不限量套餐。

值得修改的设置

  • 输出上限。 其中三个模型会先思考再回答,思考内容计入 max_tokens。如果你为 BroadNet 模型设置了输出上限,请保持在 1,000 token 或以上。
  • 采样参数。 对自定义供应商,Jan 会显示全部采样参数,它的文档也提醒,自定义端点可能会悄悄忽略不支持的采样参数。如果 min-P 之类的设置看起来不起作用,原因就在这里。
  • 备用密钥。 Jan 可以为每个供应商保存多个密钥,遇到 401、403 或 429 时会用下一个密钥重试。BroadNet 的可接受使用政策禁止规避速率或并发限制,所以额外的密钥只能用于故障切换,不能用来叠加限额。

故障排查

  • 每个请求都返回 404。 Base URL 缺少 /v1。Jan 的文档说这是最常见的错误。
  • 401 或 403。 密钥不对、已过期或额度已用完。Test keys 通过并不代表密钥可用,因为我们检查时 BroadNet 的 /v1/models 不带密钥也会响应。
  • 找不到模型。 检查 ID,包括 broadnet/ 前缀。付费模型需要先充值。
  • 回答为空。 思考用完了输出预算。调高输出上限。为什么回答会是空的。
  • 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个进行中的请求;按小时密钥同一时间只跑一个流。参见错误码与重试。

常见问题

为什么添加 BroadNet 后 Jan 只显示语音转写模型?

Jan 在保存时会请求 https://inference.broadnet.ai/v1/models。我们在 2026 年 11 月 15 日检查时,BroadNet 公开的 /v1/models 只列出了两个语音转写模型,它们不能用于聊天。把它们删掉,手动添加聊天模型 ID。

Jan 的 Test keys 按钮显示 OK,是不是说明密钥有效?

不一定。Jan 通过调用 /models 来测试密钥,而我们检查时 BroadNet 的 /v1/models 不带密钥也会响应。发一条聊天消息才能确认密钥可用。

Jan 里能用 BroadNet 的按小时密钥吗?

能。按小时密钥运行的是 BroadNet Gemma 4 VL 26B,ID 为 broadnet/gemma-4-26b-a4b,同一时间一个流,适合单个聊天窗口。

Jan 能识别 BroadNet 模型是否支持图片或工具吗?

不能。Jan 的文档说自定义供应商不会自动识别能力。请为 DeepSeek V4.1 Flash、Qwen3.8 27B 和 Gemma 4 VL 26B 开启图片输入,为 GLM 5.3 和 Qwen3.8 27B 开启 Tools。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity