---
title: "smolagents OpenAIModel 配置自定义 api_base | BroadRouter"
description: "用 OpenAIModel 和 api_base 把 Hugging Face smolagents 接入 BroadNet Inference：CodeAgent 可用任意模型，ToolCallingAgent 用 GLM 5.3 和 Qwen3.8 27B。"
url: https://broadrouter.com/zh/guides/smolagents-openai-compatible/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/guides/smolagents-openai-compatible/)（2026-11-16 更新）。

# 用 OpenAIModel 在 BroadNet Inference 上运行 smolagents

更新于 2026-11-16

创建 smolagents 的 OpenAIModel：model\_id 设为 BroadNet ID（如 broadnet/glm-5.3），api\_base 设为 https://inference.broadnet.ai/v1，api\_key 填 BroadNet 密钥，再传给 CodeAgent 或 ToolCallingAgent。CodeAgent 让模型写 Python 而不是原生工具调用，所以能在 DeepSeek V4.1 Flash 上运行。ToolCallingAgent 需要 GLM 5.3 或 Qwen3.8 27B。

smolagents 是 Hugging Face 推出的轻量 Python 智能体库。它的 `OpenAIModel` 类 “connects to an OpenAI-compatible API server”（译文：连接到 OpenAI 兼容的 API 服务器），用 `api_base` 指定 URL。BroadNet Inference 在 `https://inference.broadnet.ai/v1` 上提供对话补全，所以可以直接使用。BroadRouter 是 BroadNet 自己的网站；本文依据 smolagents 1.26.0 的文档。

## 安装

```bash
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
```

## CodeAgent

```python
import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
```

`CodeAgent` 让模型在 `<code>` 标签之间写 Python 代码，并在本地运行。请求是普通的对话补全，带有 `</code>` 之类的停止序列，没有 `tools` 字段。也就是说，它不依赖原生工具调用，因此可以在 `broadnet/deepseek-v4.1-flash` 上运行，这正是 BroadNet [不限量套餐](https://broadrouter.com/zh/guides/unlimited-llm-api-sessions/)所用的模型。不同模型写出的代码质量仍有差别，请用你自己的任务测试。

CodeAgent 会运行模型写出的代码。在给它接触文件、网络或凭据的工具之前，请先阅读 smolagents 关于安全执行代码的指南。

## ToolCallingAgent

```python
from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
```

`ToolCallingAgent` 会把你的工具连同它自带的 `final_answer` 工具一起作为函数 schema 发送，并设置 `tool_choice: "required"`。请使用 `broadnet/glm-5.3` 或 `broadnet/qwen3.8-27b`；BroadNet 的文档只为这两个模型列出了工具支持。

## 选哪个模型

| 智能体 | 模型 |
| --- | --- |
| `CodeAgent`，在固定价格套餐上长时间运行 | `broadnet/deepseek-v4.1-flash` |
| `ToolCallingAgent` | `broadnet/glm-5.3` |
| 任一智能体，需要图片输入 | `broadnet/qwen3.8-27b` |

一个套餐会话同一时间只处理一个请求，而智能体是一步接一步地发送请求，所以一个会话正好对应一个智能体。[各模型价格](https://broadrouter.com/zh/pricing/)。

## 我们是怎么测试的

2026-11-15，我们在一个干净的虚拟环境中安装了 smolagents 1.26.0，针对一个模拟 BroadNet chat completions 格式的本地 mock 服务器运行了两种智能体。使用 DeepSeek ID 的 `CodeAgent` 收到了一段代码回复，运行后返回了 42。它的请求带有 `max_tokens: 4000` 和停止序列，没有工具。对于 `ToolCallingAgent`，我们检查了请求格式：模型 ID 原样发送，带有两个工具 schema 和 `tool_choice: "required"`。smolagents 会把工具结果作为 user 消息发回。我们的 mock 没有遵循这种格式，所以没有把这个智能体运行到得出最终答案。我们没有 BroadNet 密钥，因此没有测试真实的模型输出。

## 故障排查

-   **401。** 密钥错误、已过期或额度已用完。
-   **404。** `api_base` 必须以 `/v1` 结尾。检查模型 ID。付费模型需要先充值；$5 额度只能用于 `broadnet/gemma-4-26b-a4b` 和两个 Transcribe 模型。
-   **“Make sure to provide correct code blobs”。** 模型的回复里没有代码块。调高 `max_tokens`（思考内容计入其中），或者换一个模型。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **ToolCallingAgent 一直不结束。** 换成 `broadnet/glm-5.3` 或 `broadnet/qwen3.8-27b`。
-   **429。** 按量付费密钥每分钟允许 30 个请求。smolagents 可以用 `requests_per_minute` 自行限速。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[AI 智能体（AI agent）](https://broadrouter.com/zh/glossary/agent/)

AI 智能体是由语言模型自主决定步骤、朝目标推进的系统：它决定调用哪些工具、读取结果，然后重复，直到给出最终回答或触及上限。在固定位置调用模型的固定脚本，通常称为工作流（workflow）。

[大模型包月套餐（flat-rate LLM plan）](https://broadrouter.com/zh/glossary/flat-rate-llm-plan/)

大模型包月套餐（固定价格套餐）是按一个周期（如一个月）收取固定费用、提供大模型 API 使用权的计价方式，不按 token 计费。这类套餐通常会限制别的东西，如并发、速度、模型或使用时间窗口，所以限制条件和价格同样重要。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

[Chat Completions API（对话补全接口）](https://broadrouter.com/zh/glossary/chat-completions-api/)

Chat Completions API 是 OpenAI 的 HTTP 端点 POST /v1/chat/completions，它接收模型名称和一组带角色标记的消息，返回模型的下一条消息。它的请求与响应结构已成为 OpenAI 兼容服务商和各类 SDK 通用的格式。

[OpenAI 兼容 API（OpenAI-compatible API）](https://broadrouter.com/zh/glossary/openai-compatible-api/)

OpenAI 兼容 API 是一种 HTTP API，它接受与 OpenAI API 相同的请求和响应格式，例如 POST /v1/chat/completions，因此 OpenAI 的 SDK 和工具只需修改 base URL、API 密钥和模型名称就能使用它。

## 常见问题

### 该用 OpenAIModel 还是 OpenAIServerModel？

smolagents 1.26 的文档用 OpenAIModel 连接任何 OpenAI 兼容服务器。包里仍然导出 OpenAIServerModel，但文档介绍的是 OpenAIModel。

### smolagents 能在 BroadNet 不限量套餐上运行吗？

套餐覆盖 DeepSeek V4.1 Flash。BroadNet 没有为它列出工具调用，但 CodeAgent 不需要原生工具调用，它是让模型写 Python 代码。在我们的 mock 测试中，使用 DeepSeek ID 的 CodeAgent 发送的是普通对话请求，不带 tools 字段。

### 为什么 ToolCallingAgent 需要 GLM 5.3 或 Qwen3.8 27B？

它把工具作为 OpenAI 函数 schema 发送，并把 tool\_choice 设为 required。BroadNet 的文档只为 GLM 5.3 和 Qwen3.8 27B 列出了工具支持。

### 怎么传入 max\_tokens 或 temperature？

作为关键字参数传给 OpenAIModel。smolagents 的文档说，额外的参数会转发给每一次补全调用。在我们的测试中，每个请求都带上了 max\_tokens=4000。

## 相关指南

-   [用 OpenAI Python SDK 调用 BroadNet Inference](https://broadrouter.com/zh/guides/openai-python-sdk/)
-   [面向智能体的不限量 LLM API 套餐如何运作](https://broadrouter.com/zh/guides/unlimited-llm-api-sessions/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference 错误码，以及什么时候该重试](https://broadrouter.com/zh/guides/errors-and-retries/)
-   [所有可与 BroadNet Inference 配合使用的工具（英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-smolagents-openai-compatible&utm_content=page-cta) ·

**来源**

-   [smolagents 文档 v1.26.0：Models 参考（OpenAIModel）（核对于 2026-11-15）](https://huggingface.co/docs/smolagents/reference/models)
-   [PyPI 上的 smolagents 1.26.0（核对于 2026-11-15）](https://pypi.org/project/smolagents/)
-   [BroadNet Inference API 参考文档（核对于 2026-11-15）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-smolagents-openai-compatible&utm_content=sources)
