---
title: "CrewAI 配置自定义 OpenAI 兼容 base_url | BroadRouter"
description: "用 LLM(custom_openai=True, base_url=...) 把 CrewAI 智能体指向 BroadNet Inference，再按工具调用、长上下文和固定价格套餐选择模型。"
url: https://broadrouter.com/zh/guides/crewai-custom-openai-endpoint/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/guides/crewai-custom-openai-endpoint/)（2026-11-16 更新）。

# 在 CrewAI 中把 BroadNet Inference 用作自定义 OpenAI 端点

更新于 2026-11-16

用 crewai 的 LLM 类创建模型：model 设为 BroadNet 模型 ID（例如 broadnet/glm-5.3），custom\_openai=True，base\_url 设为 https://inference.broadnet.ai/v1，api\_key 填你的 BroadNet 密钥，再把这个 LLM 交给每个 Agent。CrewAI 使用原生 OpenAI 客户端和 chat completions，无需安装 LiteLLM。

CrewAI 是一个用于构建多智能体团队的 Python 框架。它的文档给出了一种**自定义 OpenAI 兼容端点**的写法：一个带 `custom_openai=True` 和 `base_url` 的 `LLM`。BroadNet Inference 在 `https://inference.broadnet.ai/v1` 上提供标准的 chat completions，所以可以直接接入。BroadRouter 是 BroadNet 自己的网站；本文依据 CrewAI 1.15.41 版本的文档和源码。

## 安装

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## 连接

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

如果 `llm.call` 打印出了回答，说明密钥、URL 和模型 ID 都没问题。

## CrewAI 如何路由请求

CrewAI 的源码规定了一个顺序：`custom_openai=True` 优先，强制使用原生 OpenAI 提供商，覆盖模型名暗示的任何提供商。除非通过 `base_url`、`api_base`、`OPENAI_BASE_URL` 或 `OPENAI_API_BASE` 设置了自定义端点，否则它还会报错。模型字符串按原样发送，所以 `broadnet/glm-5.3` 会原封不动地到达 BroadNet。

如果不加 `custom_openai`，`broadnet/glm-5.3` 这样的名字会被解读为提供商 `broadnet`，而 CrewAI 不认识它，于是会退回到 LiteLLM。文档中的另一种写法是 `model="openai/broadnet/glm-5.3"` 加上 `base_url`：CrewAI 去掉 `openai/` 前缀，把剩下的部分发出去。

从 CrewAI 的代码和文档中还能看出两点：

-   **token 上限字段。** 传入 `max_tokens` 时，原生客户端在 chat completions 请求中发送 `max_tokens`，也就是 BroadNet API 参考文档中描述的字段。如果传入 `max_completion_tokens`，发送的就是它。
-   **保持使用 chat completions。** CrewAI 的文档展示了用 `api="responses"` 切换到 Responses API。不要设置它；BroadNet 没有列出这个 API。

## 哪个智能体用哪个模型

| 智能体 | 模型 | 原因 |
| --- | --- | --- |
| 带工具的智能体 | `broadnet/glm-5.3` | BroadNet 列出了工具和结构化输出；1M 上下文 |
| 图片或阿拉伯语输入，带工具 | `broadnet/qwen3.8-27b` | 工具加图片；262K 上下文 |
| 长文本阅读任务，固定价格套餐 | `broadnet/deepseek-v4.1-flash` | 不限量套餐；BroadNet 未列出工具支持 |

一个 crew 可以混用这些模型：给每个 `Agent` 配置各自的 `LLM`。

## 故障排查

-   **401。** 密钥错误、已过期或额度用完。如果没传 `api_key`，CrewAI 会读取 `OPENAI_API_KEY`，里面可能是 OpenAI 的密钥。
-   **“custom\_openai=True requires base\_url”。** 传入 `base_url`，或者设置 `OPENAI_BASE_URL`。
-   **找不到模型。** 检查 ID 是否与 BroadNet 的完全一致。付费模型需要先充值；$5 额度只覆盖 `broadnet/gemma-4-26b-a4b` 和两个 Transcribe 模型。
-   **`EmptyLLMResponseError`。** CrewAI 遇到空回答会重试一次，然后抛出这个错误。调高 `max_tokens`。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **多个智能体时出现 429。** 按量付费密钥每分钟允许 30 个请求，同时最多 4 个进行中的请求；一个套餐会话同一时间只处理一个请求。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[AI 智能体（AI agent）](https://broadrouter.com/zh/glossary/agent/)

AI 智能体是由语言模型自主决定步骤、朝目标推进的系统：它决定调用哪些工具、读取结果，然后重复，直到给出最终回答或触及上限。在固定位置调用模型的固定脚本，通常称为工作流（workflow）。

[Chat Completions API（对话补全接口）](https://broadrouter.com/zh/glossary/chat-completions-api/)

Chat Completions API 是 OpenAI 的 HTTP 端点 POST /v1/chat/completions，它接收模型名称和一组带角色标记的消息，返回模型的下一条消息。它的请求与响应结构已成为 OpenAI 兼容服务商和各类 SDK 通用的格式。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[大模型包月套餐（flat-rate LLM plan）](https://broadrouter.com/zh/glossary/flat-rate-llm-plan/)

大模型包月套餐（固定价格套餐）是按一个周期（如一个月）收取固定费用、提供大模型 API 使用权的计价方式，不按 token 计费。这类套餐通常会限制别的东西，如并发、速度、模型或使用时间窗口，所以限制条件和价格同样重要。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[多智能体系统（multi-agent system）](https://broadrouter.com/zh/glossary/multi-agent-system/)

多智能体系统是一种大模型应用：多个智能体各自拥有提示词、工具和上下文，分别处理同一任务的不同部分。常见设计是编排者-工作者模式：主智能体负责规划，并行启动多个工作智能体，再汇总它们的结果。

[结构化输出（structured output）](https://broadrouter.com/zh/glossary/structured-output/)

结构化输出是大模型 API 的一项功能，它把模型的回复约束为开发者指定的格式（通常是 JSON Schema），让代码能可靠地解析。它比 JSON mode 更严格：JSON mode 只保证输出是合法 JSON，不保证特定结构。

[上下文窗口（context window）](https://broadrouter.com/zh/glossary/context-window/)

上下文窗口是语言模型在单次请求中能处理的最大 token 数。它涵盖提示词、对话历史、工具定义、图片以及生成的输出（包括思考 token）。放不下的内容必须删减、摘要，或拆分到多个请求中。

## 常见问题

### CrewAI 里的 custom\_openai=True 有什么作用？

CrewAI 的源码表明，它会强制使用原生 OpenAI 提供商，不管模型名看起来像什么；并且要求设置 base\_url、api\_base、OPENAI\_BASE\_URL 或 OPENAI\_API\_BASE 之一。模型字符串按原样发送，所以 broadnet/glm-5.3 会原封不动地到达 BroadNet。

### 可以改写成 model="openai/broadnet/glm-5.3" 吗？

可以。设置了自定义 base\_url 时，CrewAI 会把带 openai/ 前缀的模型交给原生 OpenAI 客户端并去掉前缀，BroadNet 收到的是 broadnet/glm-5.3。custom\_openai=True 的写法更清楚。

### 我的 crew 为什么报 EmptyLLMResponseError？

模型返回空回答（既没有内容也没有工具调用）时，CrewAI 会重试一次；如果重试仍为空，就抛出这个错误。在 BroadNet 的思考模型上，这通常意味着思考用完了输出额度。请调高 max\_tokens。

### CrewAI 智能体该用哪个 BroadNet 模型？

带工具的智能体用 GLM 5.3，因为 BroadNet 为它列出了工具和结构化输出。Qwen3.8 27B 也支持工具，并且能接收图片。

## 相关指南

-   [在 BroadNet Inference 上使用 Pydantic AI（OpenAICompatibleProvider）](https://broadrouter.com/zh/guides/pydantic-ai-openai-compatible/)
-   [用 OpenAI Python SDK 调用 BroadNet Inference](https://broadrouter.com/zh/guides/openai-python-sdk/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [所有可与 BroadNet Inference 配合使用的工具（英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**来源**

-   [CrewAI 文档：LLM（OpenAI、自定义 OpenAI 兼容端点）（核对于 2026-11-15）](https://docs.crewai.com/en/concepts/llms)
-   [CrewAI 源码：custom\_openai 的 LLM 路由（llm.py）（核对于 2026-11-15）](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI：crewai 1.15.41，Python 3.10 至 3.13（核对于 2026-11-15）](https://pypi.org/project/crewai/)
-   [BroadNet Inference API 参考文档（核对于 2026-11-15）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-crewai-custom-openai-endpoint&utm_content=sources)
