---
title: "LangChain ChatOpenAI 设置自定义 base_url | BroadRouter"
description: "用 base_url 和 api_key 把 LangChain 的 ChatOpenAI 接到 BroadNet Inference，并了解 LangChain 会保留和丢弃思考模型的哪些字段。"
url: https://broadrouter.com/zh/guides/langchain-openai-base-url/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/guides/langchain-openai-base-url/)（2026-11-16 更新）。

# 在 LangChain 中调用 BroadNet Inference

更新于 2026-11-16

安装 langchain-openai，创建 ChatOpenAI 时把 base\_url 设为 https://inference.broadnet.ai/v1，api\_key 填你的 BroadNet 密钥，模型填 BroadNet 模型 ID，例如 broadnet/glm-5.3。之后 invoke、流式输出和工具调用链都走 chat completions。避开只有 Responses API 才有的功能，并给 max\_tokens 留出思考的空间。

LangChain 的 `ChatOpenAI` 可以通过 `base_url` 接入任何端点。BroadNet Inference 使用标准的 chat completions 格式，所以可以直接接上。如果你想直接调用 API，请看 [Python SDK 指南](https://broadrouter.com/zh/guides/openai-python-sdk/)。

## 安装

当前的 `langchain-openai`（1.x）需要 Python 3.11 或更高版本。

```bash
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
```

## 连接

```python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
```

代码里的英文注释意思是：思考内容也计入这个上限。

`openai_api_base` 是 `base_url` 的别名。两者都没传时，LangChain 会读取 `OPENAI_API_BASE`，然后底层的 `openai` 客户端再读取 `OPENAI_BASE_URL`。

## 需要注意的地方

-   **思考文本不会保留。** LangChain 的文档说，`ChatOpenAI` 遵循 OpenAI 官方规范，不会保留 `reasoning_content` 这类非标准字段。你拿到的是最终回答，这通常正是链需要的。
-   **给思考留出空间。** GLM 5.3、DeepSeek V4.1 Flash 和 Qwen3.8 27B 会先思考。`max_tokens` 太小可能返回空回答。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **流式输出时的用量。** 如果你用 `OPENAI_BASE_URL` 配置端点，LangChain 默认会关闭 `stream_usage`。想在流式输出时拿到 token 用量，请传 `stream_usage=True`。BroadNet 的文档说，请求了用量时，它会在最后一个数据块里返回。
-   **只用 chat completions。** BroadNet 提供的是 `/v1/chat/completions`，不提供 Responses API。LangChain 的文档说，当你使用 OpenAI 内置工具（网页搜索、文件搜索、代码解释器等）、会话状态或 `reasoning` 参数时，`ChatOpenAI` 会切换到 Responses API。不要用这些功能，也不要设置 `use_responses_api=True`。
-   **token 上限的参数名。** LangChain 的文档说，`max_tokens` 在内部会被转换成 `max_completion_tokens`。BroadNet 的文档写的是 `max_tokens`。如果上限看起来没有生效，请检查应用实际发出的请求。

## 不同的链用哪个模型

| 链 | 模型 |
| --- | --- |
| 工具调用和结构化输出 | `broadnet/glm-5.3` |
| 长文档和智能体，不限量套餐 | `broadnet/deepseek-v4.1-flash` |
| 阿拉伯语文本或图片 | `broadnet/qwen3.8-27b` |

[查看所有模型的价格](https://broadrouter.com/zh/pricing/)。

## 故障排查

-   **401。** 密钥错误、已过期，或者按量付费额度已用完。如果你没有传 `api_key`，LangChain 会使用 `OPENAI_API_KEY`，而这个变量里可能是 OpenAI 的密钥。
-   **404 或 “not found”。** 检查 `base_url` 是否以 `/v1` 结尾，以及有没有什么设置把调用转到了 Responses API（见上文）。然后检查模型 ID 是否与 BroadNet 的完全一致，包括 `broadnet/` 前缀。付费模型需要先充值；$5 初始额度可用于 `broadnet/gemma-4-26b-a4b` 和两个 Transcribe 模型。
-   **`content` 为空。** 思考用完了额度。提高 `max_tokens`。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **始终不发生工具调用。** 请使用 `broadnet/glm-5.3` 或 `broadnet/qwen3.8-27b`。BroadNet 的文档只为这两个模型列出了工具功能。
-   **批量或并行链返回 429。** 按量付费密钥每分钟允许 30 个请求，同时最多 4 个进行中的请求。调用 `batch()` 时，在 runnable 配置里设置 `max_concurrency`。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[Chat Completions API（对话补全接口）](https://broadrouter.com/zh/glossary/chat-completions-api/)

Chat Completions API 是 OpenAI 的 HTTP 端点 POST /v1/chat/completions，它接收模型名称和一组带角色标记的消息，返回模型的下一条消息。它的请求与响应结构已成为 OpenAI 兼容服务商和各类 SDK 通用的格式。

[Token（词元）](https://broadrouter.com/zh/glossary/token/)

token（词元）是大语言模型读写文本的基本单位：由模型的分词器切分出的一个词、词的一部分、一个标点或一段字节序列。大模型 API 按 token 计数、设定限制，通常也按 token 计费。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[大模型包月套餐（flat-rate LLM plan）](https://broadrouter.com/zh/glossary/flat-rate-llm-plan/)

大模型包月套餐（固定价格套餐）是按一个周期（如一个月）收取固定费用、提供大模型 API 使用权的计价方式，不按 token 计费。这类套餐通常会限制别的东西，如并发、速度、模型或使用时间窗口，所以限制条件和价格同样重要。

[结构化输出（structured output）](https://broadrouter.com/zh/glossary/structured-output/)

结构化输出是大模型 API 的一项功能，它把模型的回复约束为开发者指定的格式（通常是 JSON Schema），让代码能可靠地解析。它比 JSON mode 更严格：JSON mode 只保证输出是合法 JSON，不保证特定结构。

[上下文窗口（context window）](https://broadrouter.com/zh/glossary/context-window/)

上下文窗口是语言模型在单次请求中能处理的最大 token 数。它涵盖提示词、对话历史、工具定义、图片以及生成的输出（包括思考 token）。放不下的内容必须删减、摘要，或拆分到多个请求中。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

## 常见问题

### ChatOpenAI 里该用 base\_url 还是 openai\_api\_base？

都可以。openai\_api\_base 是 base\_url 的别名。两者都没传时，LangChain 会先读 OPENAI\_API\_BASE，然后 openai 客户端再读 OPENAI\_BASE\_URL。

### 只用环境变量能设置 BroadNet 端点吗？

可以。把 OPENAI\_BASE\_URL 设为 https://inference.broadnet.ai/v1，把 OPENAI\_API\_KEY 设为你的 BroadNet 密钥，然后创建 ChatOpenAI 时只传模型 ID。如果流式输出时也想拿到 token 用量，请传 stream\_usage=True。

### 为什么 LangChain 会丢掉 BroadNet 返回的 reasoning\_content？

LangChain 的文档说，ChatOpenAI 遵循 OpenAI 官方规范，不会提取 reasoning\_content 这类非标准字段。最终回答仍然在 content 里。

### 用 ChatOpenAI 调用 BroadNet 支持工具调用吗？

支持，通过 bind\_tools 使用，前提是 BroadNet 为该模型列出了工具功能。工具调用和 with\_structured\_output 请用 broadnet/glm-5.3 或 broadnet/qwen3.8-27b。

## 相关指南

-   [用 OpenAI Python SDK 调用 BroadNet Inference](https://broadrouter.com/zh/guides/openai-python-sdk/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [在 BroadNet Inference 上运行 OpenAI Agents SDK](https://broadrouter.com/zh/guides/openai-agents-sdk-custom-provider/)
-   [所有可与 BroadNet Inference 配合使用的工具（英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-langchain-openai-base-url&utm_content=page-cta) ·

**来源**

-   [LangChain 文档：ChatOpenAI 集成（核对于 2026-11-14）](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI 上的 langchain-openai 包（1.8，Python 3.11+，核对于 2026-11-14）](https://pypi.org/project/langchain-openai/)
-   [langchain-openai 源代码：ChatOpenAI 的 base URL 解析（核对于 2026-11-16）](https://github.com/langchain-ai/langchain/blob/master/libs/partners/openai/langchain_openai/chat_models/base.py)
-   [BroadNet Inference API 参考文档（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-langchain-openai-base-url&utm_content=sources)
