---
title: "Dify 配置 OpenAI-API-compatible 模型供应商（base URL） | BroadRouter"
description: "通过 OpenAI-API-compatible 模型供应商插件把 Dify 接到 BroadNet Inference：每个字段的准确取值、上下文大小和函数调用设置。"
url: https://broadrouter.com/zh/guides/dify-openai-api-compatible/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。 [阅读英文原文](https://broadrouter.com/guides/dify-openai-api-compatible/) (2026-11-16 更新).

# 用 OpenAI-API-compatible 插件把 BroadNet Inference 接入 Dify

更新于 2026-11-16

在 Dify 的 Integrations > Model Provider 中安装 OpenAI-API-compatible 插件，然后点击 Add Model。类型选 LLM，填入 BroadNet 模型 ID（例如 broadnet/glm-5.3）、你的 BroadNet 密钥和 API Base URL https://inference.broadnet.ai/v1。Completion mode 设为 Chat，填写真实的上下文大小和给思考留足余量的输出上限，只有 GLM 5.3 或 Qwen3.8 27B 才选 Tool Call。

Dify 是一个用于构建大模型应用和工作流的开源平台。Dify 没有单独列出的供应商，可以通过 Dify 团队（langgenius）发布的 **OpenAI-API-compatible** 模型供应商插件添加。BroadNet Inference 在 `https://inference.broadnet.ai/v1` 上提供标准的 chat completions，正好适用。BroadRouter 是 BroadNet 自己的网站；下文的字段名来自该插件的 0.0.83 版。

## 配置步骤

1.  **获取密钥。** 在 BroadNet 控制台创建一个按量付费密钥。
    
2.  **安装插件。** 在 Dify 中进入 **Integrations** > **Model Provider**，在可安装的供应商中找到 **OpenAI-API-compatible**（或者在 [Marketplace](https://marketplace.dify.ai/plugin/langgenius/openai_api_compatible) 中打开它），然后安装。你需要是工作空间的所有者或管理员。
    
3.  **添加模型。** 在供应商卡片上点击 **Add Model**，填写：
    
    | 字段 | 值 |
    | --- | --- |
    | Model Type | LLM |
    | Model Name | `broadnet/glm-5.3` |
    | Model display name | GLM 5.3 (BroadNet) |
    | API Key | 你的 BroadNet 密钥 |
    | API Base URL | `https://inference.broadnet.ai/v1` |
    | Completion mode | Chat |
    | Model context size | `1048576` |
    | Upper bound for max tokens | `16000` |
    | Function Call Type | Tool Call |
    | Vision Support | Not Support |
    | Structured Output | Support |
    | API Type | Chat Completions API (/chat/completions) |
    | Token parameter name | Use max\_tokens |
    
4.  **保存。** Dify 会先校验凭证，再添加模型。
    
5.  **测试。** 创建一个 Chatbot 应用，在模型选择器中选中 **GLM 5.3 (BroadNet)**，在预览面板里发一条消息。
    

想用几个 BroadNet 模型，就重复几次 **Add Model**。模型名必须与 BroadNet 的 ID 完全一致，包括 `broadnet/` 前缀。

## 各模型的取值

| Model Name | 上下文大小 | Function Call Type | Vision Support |
| --- | --- | --- | --- |
| `broadnet/glm-5.3` | 1048576 | Tool Call | Not Support |
| `broadnet/qwen3.8-27b` | 262144 | Tool Call | Support |
| `broadnet/deepseek-v4.1-flash` | 1048576 | Not Support（未测试） | Support |
| `broadnet/gemma-4-26b-a4b` | 32768 | Not Support | Support |

为什么这样选：

-   **上下文大小**在插件中默认是 4,096。如果不改，Dify 会把记忆和检索到的上下文裁剪到远低于模型实际能接收的长度。
-   **Upper bound for max tokens** 默认也是 4,096。其中三个模型会先思考再回答，思考内容计入这个上限，所以要给它们留出空间。16,000 是我们的建议，不是 BroadNet 的限制。
-   **Token parameter name** 设为 `max_tokens`，与 BroadNet API 参考文档中的字段一致。插件的默认做法是根据模型名猜测。
-   **API Type** 保持 Chat Completions。BroadNet 没有列出 Responses API。

## 语音转写

这个插件也能添加语音转文字模型。BroadNet 在 `/v1/audio/transcriptions` 上提供 `broadnet/cohere-transcribe-arabic`（阿拉伯语）和 `broadnet/cohere-transcribe`（14 种语言）。插件的 README 说，对语音转文字它会自己加上版本路径，所以示例中用的是不带 `/v1` 的主机地址（这里是 `https://inference.broadnet.ai`）。我们没有在 Dify 中测试过这条路径，请先用一个短 WAV 文件验证。参见[阿拉伯语语音转文字指南](https://broadrouter.com/zh/guides/arabic-speech-to-text-api/)。

## 故障排查

-   **凭证校验失败。** 检查密钥、API Base URL（LLM 的地址以 `/v1` 结尾）和模型名。付费模型需要先充值；$5 额度只覆盖 `broadnet/gemma-4-26b-a4b` 和两个 Transcribe 模型。
-   **工作流中回复为空。** LLM 节点的 max tokens 对思考模型来说太低了。调高它。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **Agent 节点从不调用工具。** 使用 GLM 5.3 或 Qwen3.8 27B，并把 Function Call Type 设为 Tool Call。
-   **负载高时出现 429。** 按量付费密钥每分钟允许 30 个请求，同时最多 4 个进行中的请求。并行分支和迭代节点可能超出这个限制；请降低它们的并行度。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[Base URL（base\_url）](https://broadrouter.com/zh/glossary/base-url/)

base URL 是 API 固定的根地址，例如 https://api.example.com/v1，客户端会把它加在每个端点路径（例如 /chat/completions）前面。在 OpenAI 兼容 SDK 中，修改 base URL，再配合 API 密钥和模型 ID，就能让同一份代码改用另一家服务商。

[Chat Completions API（对话补全接口）](https://broadrouter.com/zh/glossary/chat-completions-api/)

Chat Completions API 是 OpenAI 的 HTTP 端点 POST /v1/chat/completions，它接收模型名称和一组带角色标记的消息，返回模型的下一条消息。它的请求与响应结构已成为 OpenAI 兼容服务商和各类 SDK 通用的格式。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[结构化输出（structured output）](https://broadrouter.com/zh/glossary/structured-output/)

结构化输出是大模型 API 的一项功能，它把模型的回复约束为开发者指定的格式（通常是 JSON Schema），让代码能可靠地解析。它比 JSON mode 更严格：JSON mode 只保证输出是合法 JSON，不保证特定结构。

[WAV](https://broadrouter.com/zh/glossary/wav/)

WAV（Waveform Audio File Format，又称 WAVE）是建立在微软与 IBM 的 RIFF 格式之上的音频容器。它通常存放未压缩的线性 PCM 样本，因此大小可以预测：每秒字节数 = 采样率 × 每样本字节数 × 声道数。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[上下文窗口（context window）](https://broadrouter.com/zh/glossary/context-window/)

上下文窗口是语言模型在单次请求中能处理的最大 token 数。它涵盖提示词、对话历史、工具定义、图片以及生成的输出（包括思考 token）。放不下的内容必须删减、摘要，或拆分到多个请求中。

## 常见问题

### BroadNet 在 Dify Cloud 和自部署的 Dify 上都能用吗？

都能用。BroadNet Inference 是公开的 HTTPS 端点，Dify Cloud 可以访问到。Dify 的文档说只有工作空间的所有者和管理员能管理模型供应商，添加的密钥在整个工作空间内生效。

### API Base URL 要带 /v1 吗？

对 LLM 模型来说要带。插件自己的示例中，聊天模型的 base URL 以 /v1 结尾；它的 README 提醒，对其他某些模型类型，插件会自己加上版本路径。

### Function Call Type 该选哪个？

GLM 5.3 和 Qwen3.8 27B 选 Tool Call，BroadNet 为它们列出了工具支持。DeepSeek V4.1 Flash 选 Not Support，除非你自己测试过它的工具调用。

### Dify 的 AI 积分能用在 BroadNet 模型上吗？

不能。Dify 的文档说 AI 积分不适用于你用自己账户运行的供应商。费用由 BroadNet 从你填入的密钥上扣除。

## 相关指南

-   [在 n8n 中使用 BroadNet Inference（OpenAI 凭据与 Base URL）](https://broadrouter.com/zh/guides/n8n-openai-compatible/)
-   [把 Open WebUI 接入 BroadNet Inference](https://broadrouter.com/zh/guides/open-webui-openai-api/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [所有可与 BroadNet Inference 配合使用的工具 （英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。 新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-dify-openai-api-compatible&utm_content=page-cta) ·

**来源**

-   [Dify 文档：模型供应商（核对于 2026-11-15）](https://docs.dify.ai/en/cloud/use-dify/workspace/model-providers)
-   [Dify Marketplace：langgenius 发布的 OpenAI-API-compatible 插件，0.0.83 版（核对于 2026-11-15）](https://marketplace.dify.ai/plugin/langgenius/openai_api_compatible)
-   [插件源码：openai\_api\_compatible 供应商字段（核对于 2026-11-15）](https://github.com/langgenius/dify-official-plugins/tree/main/models/openai_api_compatible)
-   [BroadNet Inference API 参考文档（核对于 2026-11-15） （英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-dify-openai-api-compatible&utm_content=sources)
