---
title: "smolagents OpenAIModel với api_base tùy chỉnh | BroadRouter"
description: "Kết nối smolagents của Hugging Face với BroadNet Inference qua OpenAIModel và api_base: CodeAgent trên mọi model, ToolCallingAgent trên GLM 5.3 và Qwen3.8 27B."
url: https://broadrouter.com/vi/guides/smolagents-openai-compatible/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/smolagents-openai-compatible/) (cập nhật ngày 2026-11-16).

# Chạy smolagents trên BroadNet Inference với OpenAIModel

Cập nhật 2026-11-16

Hãy tạo OpenAIModel của smolagents với model\_id là một ID BroadNet như broadnet/glm-5.3, api\_base là https://inference.broadnet.ai/v1 và api\_key là key BroadNet, rồi truyền nó cho CodeAgent hoặc ToolCallingAgent. CodeAgent viết code Python thay vì gọi tool native, nên chạy được trên DeepSeek V4.1 Flash. ToolCallingAgent cần GLM 5.3 hoặc Qwen3.8 27B.

smolagents là thư viện Python nhỏ gọn của Hugging Face để xây dựng agent. Lớp `OpenAIModel` của nó “connects to an OpenAI-compatible API server” (Bản dịch: kết nối tới một server API tương thích OpenAI), với `api_base` để chỉ định URL. BroadNet Inference phục vụ chat completions tại `https://inference.broadnet.ai/v1`, nên dùng được ngay. BroadRouter là website của chính BroadNet; bài này làm theo tài liệu smolagents 1.26.0.

## Cài đặt

```bash
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
```

## CodeAgent

```python
import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
```

`CodeAgent` yêu cầu model viết code Python giữa các thẻ `<code>` rồi chạy code đó trên máy. Request là một chat completion thường với các stop sequence như `</code>`, và không có trường `tools`. Nghĩa là nó không phụ thuộc vào gọi tool native, nên chạy được trên `broadnet/deepseek-v4.1-flash`, model của các [gói không giới hạn](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/) của BroadNet. Chất lượng code vẫn khác nhau tùy model, nên hãy thử với chính các task của bạn.

CodeAgent chạy code do model viết. Hãy đọc hướng dẫn của smolagents về chạy code an toàn trước khi cho nó các tool đụng tới file, mạng hoặc thông tin đăng nhập.

## ToolCallingAgent

```python
from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
```

`ToolCallingAgent` gửi các tool của bạn, cùng tool `final_answer` của chính nó, dưới dạng function schema với `tool_choice: "required"`. Hãy dùng `broadnet/glm-5.3` hoặc `broadnet/qwen3.8-27b`; tài liệu BroadNet chỉ liệt kê tool cho hai model này.

## Chọn model nào

| Agent | Model |
| --- | --- |
| `CodeAgent`, chạy dài trên gói giá cố định | `broadnet/deepseek-v4.1-flash` |
| `ToolCallingAgent` | `broadnet/glm-5.3` |
| Agent nào cũng được, cần đầu vào hình ảnh | `broadnet/qwen3.8-27b` |

Một phiên của gói chạy một request tại một thời điểm, và agent gửi các bước lần lượt từng cái một, nên một phiên vừa cho một agent. [Giá của mọi model](https://broadrouter.com/vi/pricing/).

## Chúng tôi đã kiểm thử thế nào

Ngày 2026-11-15, chúng tôi cài smolagents 1.26.0 trong một môi trường ảo sạch và chạy cả hai agent với một mock server cục bộ nói cùng cấu trúc chat completions của BroadNet. `CodeAgent` dùng ID DeepSeek nhận một câu trả lời chứa code, chạy nó và trả về 42. Các request của nó có `max_tokens: 4000`, stop sequence và không có tool. Với `ToolCallingAgent`, chúng tôi kiểm tra cấu trúc request: model ID được gửi nguyên văn, kèm cả hai tool schema và `tool_choice: "required"`. smolagents gửi kết quả tool trở lại dưới dạng user message. Mock server của chúng tôi không theo định dạng đó, nên chúng tôi chưa chạy agent này tới câu trả lời cuối cùng. Chúng tôi không có key BroadNet, nên chưa kiểm thử đầu ra thật của model.

## Xử lý sự cố

-   **401.** Key sai, đã hết hạn hoặc đã hết hạn mức.
-   **404.** `api_base` phải kết thúc bằng `/v1`. Kiểm tra model ID. Các model trả phí cần nạp tiền; tín dụng $5 chỉ dùng được cho `broadnet/gemma-4-26b-a4b` và hai model Transcribe.
-   **“Make sure to provide correct code blobs”.** Câu trả lời của model không có khối code. Hãy tăng `max_tokens`, vì suy luận được tính vào đó, hoặc thử model khác. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **ToolCallingAgent không bao giờ kết thúc.** Hãy chuyển sang `broadnet/glm-5.3` hoặc `broadnet/qwen3.8-27b`.
-   **429.** Key trả theo mức dùng cho phép 30 request mỗi phút. smolagents có thể tự giới hạn tốc độ bằng `requests_per_minute`. Xem [lỗi và thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).

## Thuật ngữ trong hướng dẫn này

[API tương thích OpenAI (OpenAI-compatible API)](https://broadrouter.com/vi/glossary/openai-compatible-api/)

API tương thích OpenAI là một HTTP API nhận cùng định dạng request và phản hồi như OpenAI API, ví dụ POST /v1/chat/completions, nên SDK và công cụ của OpenAI dùng được nó chỉ bằng cách đổi base URL, API key và tên model.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[Stop sequences (chuỗi dừng)](https://broadrouter.com/vi/glossary/stop-sequences/)

Stop sequences (chuỗi dừng) là các chuỗi bạn gửi kèm request để model dừng sinh ngay khi tạo ra một trong số đó. OpenAI gọi trường này là stop và nhận tối đa 4 chuỗi; Anthropic gọi là stop\_sequences. Phần văn bản khớp thường bị loại khỏi đầu ra trả về.

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Gói LLM giá cố định (flat-rate LLM plan)](https://broadrouter.com/vi/glossary/flat-rate-llm-plan/)

Gói LLM giá cố định tính một mức giá cố định cho mỗi kỳ, ví dụ một tháng, để dùng API mô hình ngôn ngữ thay vì tính theo token. Gói này thường giới hạn thứ khác, như số request đồng thời, tốc độ, model hay khung giờ sử dụng, nên giới hạn quan trọng không kém giá.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

## Câu hỏi thường gặp

### Dùng OpenAIModel hay OpenAIServerModel?

smolagents 1.26 mô tả OpenAIModel cho mọi server tương thích OpenAI. Package vẫn còn export OpenAIServerModel, nhưng tài liệu mô tả OpenAIModel.

### smolagents có chạy được trên gói không giới hạn của BroadNet không?

Các gói dùng DeepSeek V4.1 Flash. BroadNet không liệt kê gọi tool cho model này, nhưng CodeAgent không cần gọi tool native; nó yêu cầu model viết code Python. Trong thử nghiệm với mock server, một CodeAgent dùng ID DeepSeek đã gửi các request chat thường, không có trường tools.

### Vì sao ToolCallingAgent cần GLM 5.3 hoặc Qwen3.8 27B?

Nó gửi tool dưới dạng function schema của OpenAI với tool\_choice là required. Tài liệu BroadNet chỉ liệt kê tool cho GLM 5.3 và Qwen3.8 27B.

### Truyền max\_tokens hoặc temperature thế nào?

Truyền dưới dạng keyword argument cho OpenAIModel. Tài liệu smolagents nói các tham số thêm được chuyển tiếp tới mọi lần gọi completion. Trong thử nghiệm của chúng tôi, max\_tokens=4000 được gửi kèm mỗi request.

## Hướng dẫn liên quan

-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)
-   [Gói LLM API không giới hạn cho agent hoạt động thế nào?](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)
-   [Mọi công cụ dùng được với BroadNet Inference (tiếng Anh)](https://broadrouter.com/integrations/): SDK, agent lập trình, giao diện chat và công cụ tự động hóa, kèm cấu hình chính xác cho từng công cụ

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-smolagents-openai-compatible&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu smolagents v1.26.0, tham chiếu Models (OpenAIModel) (kiểm tra ngày 2026-11-15)](https://huggingface.co/docs/smolagents/reference/models)
-   [PyPI, smolagents 1.26.0 (kiểm tra ngày 2026-11-15)](https://pypi.org/project/smolagents/)
-   [Tài liệu tham chiếu API BroadNet Inference (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-smolagents-openai-compatible&utm_content=sources)
