---
title: "Cấu hình CrewAI với base_url tương thích OpenAI tùy chỉnh"
description: "Trỏ agent CrewAI tới BroadNet Inference bằng LLM(custom_openai=True, base_url=...), rồi chọn model cho tool, context dài và gói giá cố định."
url: https://broadrouter.com/vi/guides/crewai-custom-openai-endpoint/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (cập nhật ngày 2026-11-16).

# Dùng CrewAI với BroadNet Inference làm endpoint OpenAI tùy chỉnh

Cập nhật 2026-11-16

Tạo model bằng lớp LLM của crewai, truyền model là ID BroadNet như broadnet/glm-5.3, custom\_openai=True, base\_url là https://inference.broadnet.ai/v1 và api\_key là key BroadNet. Sau đó gán LLM đó cho từng Agent. CrewAI dùng client OpenAI gốc và chat completions, nên không cần cài LiteLLM.

CrewAI là framework Python để xây dựng các nhóm agent. Tài liệu CrewAI có mẫu **endpoint tương thích OpenAI tùy chỉnh**: một `LLM` với `custom_openai=True` và `base_url`. BroadNet Inference phục vụ chat completions chuẩn tại `https://inference.broadnet.ai/v1`, nên cắm vào đó được ngay. BroadRouter là website của chính BroadNet; bài này làm theo tài liệu và mã nguồn CrewAI ở phiên bản 1.15.41.

## Cài đặt

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## Kết nối

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

Nếu `llm.call` in ra câu trả lời, nghĩa là key, URL và model ID đều đúng.

## CrewAI định tuyến request như thế nào

Mã nguồn CrewAI đặt ra một thứ tự: `custom_openai=True` được xét đầu tiên và buộc dùng provider OpenAI gốc, bất kể tên model gợi ý gì. Nó cũng báo lỗi nếu không có endpoint tùy chỉnh được đặt qua `base_url`, `api_base`, `OPENAI_BASE_URL` hoặc `OPENAI_API_BASE`. Chuỗi model được gửi nguyên văn, nên `broadnet/glm-5.3` tới BroadNet mà không bị đổi.

Nếu không có `custom_openai`, một tên như `broadnet/glm-5.3` sẽ được hiểu là provider `broadnet`, thứ CrewAI không biết, và sẽ chuyển sang LiteLLM. Cách thay thế được ghi trong tài liệu là `model="openai/broadnet/glm-5.3"` kèm `base_url`: CrewAI bỏ tiền tố `openai/` và gửi phần còn lại.

Thêm hai điều từ mã nguồn và tài liệu CrewAI:

-   **Trường giới hạn token.** Khi bạn truyền `max_tokens`, client gốc gửi `max_tokens` trong chat completions, đúng trường mà tài liệu tham chiếu API của BroadNet mô tả. Nếu bạn truyền `max_completion_tokens`, trường đó sẽ được gửi thay thế.
-   **Giữ nguyên chat completions.** Tài liệu CrewAI có `api="responses"` để chuyển sang Responses API. Đừng đặt nó; BroadNet không liệt kê API đó.

## Agent nào dùng model nào

| Agent | Model | Lý do |
| --- | --- | --- |
| Agent dùng tool | `broadnet/glm-5.3` | BroadNet ghi hỗ trợ tool và đầu ra có cấu trúc; context 1M |
| Đầu vào hình ảnh hoặc tiếng Ả Rập, có tool | `broadnet/qwen3.8-27b` | Tool cộng hình ảnh; context 262K |
| Việc đọc dài, gói giá cố định | `broadnet/deepseek-v4.1-flash` | Gói không giới hạn; BroadNet không ghi hỗ trợ tool |

Một crew có thể kết hợp nhiều model: cho mỗi `Agent` một `LLM` riêng.

## Xử lý sự cố

-   **401.** Key bị sai, hết hạn hoặc hết hạn mức. Nếu bạn bỏ `api_key`, CrewAI đã đọc `OPENAI_API_KEY`, biến này có thể đang chứa key OpenAI.
-   **“custom\_openai=True requires base\_url”.** Truyền `base_url`, hoặc đặt `OPENAI_BASE_URL`.
-   **Không tìm thấy model.** Kiểm tra ID khớp chính xác với ID của BroadNet. Các model trả phí cần nạp tiền; tín dụng $5 chỉ dùng được cho `broadnet/gemma-4-26b-a4b` và hai model Transcribe.
-   **`EmptyLLMResponseError`.** CrewAI thử lại một lần khi câu trả lời rỗng, rồi báo lỗi này. Hãy tăng `max_tokens`. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **429 khi có nhiều agent.** Key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý, còn một phiên của gói chạy một request tại một thời điểm. Xem [lỗi và thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).

## Thuật ngữ trong hướng dẫn này

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[API tương thích OpenAI (OpenAI-compatible API)](https://broadrouter.com/vi/glossary/openai-compatible-api/)

API tương thích OpenAI là một HTTP API nhận cùng định dạng request và phản hồi như OpenAI API, ví dụ POST /v1/chat/completions, nên SDK và công cụ của OpenAI dùng được nó chỉ bằng cách đổi base URL, API key và tên model.

[Concurrency (request đồng thời)](https://broadrouter.com/vi/glossary/concurrency/)

Concurrency (request đồng thời) là số request mà một client đang xử lý cùng lúc. Các API LLM thường giới hạn nó theo key hoặc theo gói, tách biệt với số request mỗi phút, vì mỗi request đang mở chiếm dụng năng lực GPU cho tới khi response kết thúc.

[Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/)

Đầu ra có cấu trúc (structured output) là tính năng của API LLM buộc câu trả lời của model theo định dạng do lập trình viên chỉ định, thường là JSON Schema, để code parse được tin cậy. Nó chặt hơn JSON mode, vốn chỉ đảm bảo JSON hợp lệ chứ không đảm bảo một cấu trúc cụ thể.

[Gói LLM giá cố định (flat-rate LLM plan)](https://broadrouter.com/vi/glossary/flat-rate-llm-plan/)

Gói LLM giá cố định tính một mức giá cố định cho mỗi kỳ, ví dụ một tháng, để dùng API mô hình ngôn ngữ thay vì tính theo token. Gói này thường giới hạn thứ khác, như số request đồng thời, tốc độ, model hay khung giờ sử dụng, nên giới hạn quan trọng không kém giá.

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

## Câu hỏi thường gặp

### custom\_openai=True trong CrewAI có tác dụng gì?

Mã nguồn CrewAI cho biết nó buộc dùng provider OpenAI gốc bất kể tên model trông thế nào, và nó yêu cầu base\_url, api\_base, OPENAI\_BASE\_URL hoặc OPENAI\_API\_BASE. Chuỗi model được gửi nguyên văn, nên broadnet/glm-5.3 tới BroadNet mà không bị đổi.

### Có thể viết model="openai/broadnet/glm-5.3" thay thế không?

Có. Khi có base\_url tùy chỉnh, CrewAI chuyển tiền tố openai/ tới client OpenAI gốc và bỏ tiền tố đi, nên BroadNet nhận broadnet/glm-5.3. Dùng custom\_openai=True thì rõ ràng hơn.

### Vì sao crew của tôi lỗi EmptyLLMResponseError?

Khi câu trả lời rỗng, tức không có nội dung và không có lời gọi tool, CrewAI thử lại một lần, và báo lỗi này nếu lần thử lại cũng rỗng. Với các model suy luận của BroadNet, điều đó thường nghĩa là phần suy luận đã dùng hết ngân sách đầu ra. Hãy tăng max\_tokens.

### Agent CrewAI nên dùng model BroadNet nào?

GLM 5.3 cho agent dùng tool, vì BroadNet ghi hỗ trợ tool và đầu ra có cấu trúc cho model này. Qwen3.8 27B cũng có tool và nhận hình ảnh.

## Hướng dẫn liên quan

-   [Dùng Pydantic AI với BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/vi/guides/pydantic-ai-openai-compatible/)
-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)
-   [Mọi công cụ dùng được với BroadNet Inference (tiếng Anh)](https://broadrouter.com/integrations/): SDK, agent lập trình, giao diện chat và công cụ tự động hóa, kèm cấu hình chính xác cho từng công cụ

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu CrewAI, LLM (OpenAI, endpoint tương thích OpenAI tùy chỉnh) (kiểm tra ngày 2026-11-15)](https://docs.crewai.com/en/concepts/llms)
-   [Mã nguồn CrewAI, định tuyến LLM cho custom\_openai (llm.py) (kiểm tra ngày 2026-11-15)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python 3.10 đến 3.13 (kiểm tra ngày 2026-11-15)](https://pypi.org/project/crewai/)
-   [Tài liệu tham chiếu API BroadNet Inference (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-crewai-custom-openai-endpoint&utm_content=sources)
