---
title: "Vercel AI SDK createOpenAICompatible với base URL riêng"
description: "Gọi BroadNet Inference từ Vercel AI SDK bằng createOpenAICompatible trong @ai-sdk/openai-compatible: generateText, streamText, tool và reasoning effort."
url: https://broadrouter.com/vi/guides/vercel-ai-sdk-openai-compatible/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (cập nhật ngày 2026-11-16).

# Dùng Vercel AI SDK với BroadNet Inference

Cập nhật 2026-11-16

Cài ai và @ai-sdk/openai-compatible, rồi gọi createOpenAICompatible với name là broadnet, baseURL là https://inference.broadnet.ai/v1 và apiKey là key BroadNet. Truyền model ID như broadnet/glm-5.3 cho provider, rồi dùng generateText hoặc streamText như thường. Giữ key ở server và cho model suy luận maxOutputTokens rộng rãi.

[AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) của Vercel là bộ công cụ TypeScript để xây ứng dụng LLM. Gói `@ai-sdk/openai-compatible` của nó tạo provider cho bất kỳ API nào theo định dạng chat completions của OpenAI. BroadNet Inference theo định dạng này, nên bạn chỉ cần đổi base URL, key và model ID. Nếu muốn dùng client OpenAI thuần, hãy xem [hướng dẫn Node SDK](https://broadrouter.com/vi/guides/openai-node-sdk/).

## Thiết lập

1.  **Cài các gói.** Tại thời điểm viết bài, npm cung cấp `ai` 7.x và `@ai-sdk/openai-compatible` 3.x.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Tạo provider.**
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
    Như chú thích trong code, `includeUsage: true` thêm dữ liệu usage vào phản hồi streaming.
    
3.  **Sinh văn bản.**
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **Stream kết quả.** Đổi `generateText` thành `streamText` và đọc `textStream`. [Hướng dẫn streaming](https://broadrouter.com/vi/guides/streaming-chat-completions/) giải thích định dạng dữ liệu bên dưới.
    

`name` bạn truyền vào trở thành key cho provider options và provider metadata, nên hãy đặt ngắn và cố định. `provider('id')` và `provider.chatModel('id')` đều tạo một model chat; không cần thiết lập riêng cho từng model. Hãy giữ key ở server. Đừng import file này vào code chạy trên trình duyệt, nếu không key sẽ được gửi tới mọi người truy cập.

Tài liệu provider liệt kê các khả năng được hỗ trợ: sinh văn bản, streaming, gọi tool, đầu ra có cấu trúc, nội dung suy luận và đầu vào hình ảnh, kèm lưu ý rằng một số phụ thuộc vào nhà cung cấp. Trên BroadNet, đầu vào hình ảnh chạy với DeepSeek V4.1 Flash, Qwen3.8 27B và Gemma 4 VL 26B. GLM 5.3 chỉ nhận văn bản.

## Các tùy chọn nên đặt

-   **reasoningEffort.** Truyền qua `providerOptions`, với key là tên provider. Tài liệu AI SDK nói giá trị chính xác tùy nhà cung cấp; tài liệu BroadNet có ví dụ `low`.

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** AI SDK chỉ gửi JSON schema khi giá trị này là `true` trên provider. BroadNet ghi hỗ trợ đầu ra có cấu trúc cho GLM 5.3 và Qwen3.8 27B. Nếu bật, hãy dùng hai model này cho đầu ra theo schema.
-   **maxRetries.** `generateText` mặc định thử lại hai lần. Hãy đặt cho phù hợp với giới hạn tần suất của bạn.
-   **Đầu ra suy luận.** AI SDK đọc nội dung suy luận khi nhà cung cấp trả về. Trường kết quả cấp cao nhất `reasoningText` hiện bị đánh dấu deprecated, thay bằng `finalStep.reasoningText`. Đừng xây logic phụ thuộc vào việc có nội dung suy luận.

## Chọn model nào

| Nhu cầu | Model | Context |
| --- | --- | --- |
| Gọi tool, đầu ra có cấu trúc | [`broadnet/glm-5.3`](https://broadrouter.com/vi/models/glm-5.3/) | 1.048.576 |
| Hình ảnh kèm tool, tiếng Ả Rập | [`broadnet/qwen3.8-27b`](https://broadrouter.com/vi/models/qwen3.8-27b/) | 262.144 |
| Context dài, gói giá cố định | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) | 1.048.576 |
| Lệnh gọi văn bản và hình ảnh giá rẻ | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/vi/models/gemma-4-vl-26b/) | 32.768 |

Giá mỗi token của từng model có trên [trang giá](https://broadrouter.com/vi/pricing/).

## Xử lý sự cố

-   **401.** `BROADNET_API_KEY` không có trong môi trường chạy (hãy kiểm tra phần biến môi trường của nhà cung cấp hosting), sai, đã hết hạn hoặc đã hết hạn mức trả theo mức dùng.
-   **providerOptions bị bỏ qua.** Key phải khớp với `name` của provider ở dạng camelCase. Với `name: 'broadnet'`, hãy dùng `providerOptions.broadnet`.
-   **Lỗi model.** ID phải khớp chính xác với ID của BroadNet, kể cả tiền tố `broadnet/`. GLM 5.3, Qwen3.8 27B và DeepSeek V4.1 Flash cần nạp tiền; $5 tín dụng ban đầu dùng được cho Gemma 4 VL 26B và hai model Transcribe.
-   **Văn bản rỗng, finishReason là “length”.** Suy luận đã dùng hết ngân sách. Hãy tăng `maxOutputTokens` hoặc giảm `reasoningEffort`. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **429 khi tải cao.** Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc. Serverless function mở rộng rất nhanh, nên hãy giới hạn số request đồng thời trong ứng dụng. Xem [lỗi và thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).
-   **Chạy agent song song trên key của gói.** Một [phiên gói không giới hạn](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/) chạy một request tại một thời điểm. Chạy `Promise.all` qua nhiều agent cần mỗi agent một phiên, nếu không các request sẽ xếp hàng.

## Thuật ngữ trong hướng dẫn này

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Concurrency (request đồng thời)](https://broadrouter.com/vi/glossary/concurrency/)

Concurrency (request đồng thời) là số request mà một client đang xử lý cùng lúc. Các API LLM thường giới hạn nó theo key hoặc theo gói, tách biệt với số request mỗi phút, vì mỗi request đang mở chiếm dụng năng lực GPU cho tới khi response kết thúc.

[Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/)

Đầu ra có cấu trúc (structured output) là tính năng của API LLM buộc câu trả lời của model theo định dạng do lập trình viên chỉ định, thường là JSON Schema, để code parse được tin cậy. Nó chặt hơn JSON mode, vốn chỉ đảm bảo JSON hợp lệ chứ không đảm bảo một cấu trúc cụ thể.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

[Base URL](https://broadrouter.com/vi/glossary/base-url/)

Base URL là địa chỉ gốc cố định của một API, như https://api.example.com/v1, mà client đặt trước mọi đường dẫn endpoint, như /chat/completions. Trong SDK tương thích OpenAI, đổi base URL cùng với API key và model ID sẽ trỏ cùng một đoạn code sang nhà cung cấp khác.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

## Câu hỏi thường gặp

### Nên dùng @ai-sdk/openai hay @ai-sdk/openai-compatible?

Dùng @ai-sdk/openai-compatible cho các API bên thứ ba tương thích OpenAI. Gói này gọi endpoint chat completions, đúng thứ BroadNet Inference phục vụ.

### Vì sao văn bản sinh ra bị rỗng?

Trên BroadNet, suy luận được tính vào max\_tokens. Nếu maxOutputTokens nhỏ, model có thể dùng hết trước khi câu trả lời bắt đầu. Hãy tăng nó hoặc đặt reasoningEffort là low.

### Làm sao lấy usage token khi streaming?

Đặt includeUsage là true khi tạo provider. Tài liệu AI SDK cho biết tùy chọn này thêm dữ liệu usage vào phản hồi streaming. Mặc định là false.

### Có cần thiết lập riêng cho từng model BroadNet không?

Không. Một provider createOpenAICompatible dùng được cho mọi model. Gọi broadnet('model-id') hoặc broadnet.chatModel('model-id') với bất kỳ model ID chat nào của BroadNet.

## Hướng dẫn liên quan

-   [Dùng OpenAI Node.js SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-node-sdk/)
-   [Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Thêm BroadNet Inference vào opencode làm custom provider](https://broadrouter.com/vi/guides/opencode-custom-provider/)
-   [Mọi công cụ dùng được với BroadNet Inference (tiếng Anh)](https://broadrouter.com/integrations/): SDK, agent lập trình, giao diện chat và công cụ tự động hóa, kèm cấu hình chính xác cho từng công cụ

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu AI SDK, provider OpenAI Compatible (kiểm tra ngày 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [Tài liệu AI SDK, tham chiếu generateText (kiểm tra ngày 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, gói @ai-sdk/openai-compatible (3.x, kiểm tra ngày 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [Tài liệu tham chiếu API BroadNet Inference (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
