Mastra là framework TypeScript cho agent và workflow AI. Ngoài các provider tích hợp sẵn, model của một agent có thể là bất kỳ endpoint tương thích OpenAI nào, khai báo dưới dạng đối tượng có id và url. BroadNet Inference phục vụ chat completions chuẩn tại https://inference.broadnet.ai/v1, nên kết nối theo cách này được, chỉ có một điểm cần lưu ý ở model ID. BroadRouter là trang web của chính BroadNet; hướng dẫn này dựa trên tài liệu models của Mastra và @mastra/core 1.83.0.
Cài đặt
npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'
Kết nối một agent
import { Agent } from "@mastra/core/agent";
const broadnet = (model: string) => ({
id: `broadnet/${model}`, // Mastra strips the first segment
url: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
export const assistant = new Agent({
id: "assistant",
name: "Assistant",
instructions: "You are a concise assistant.",
model: broadnet("broadnet/glm-5.3"), // sends broadnet/glm-5.3
});
const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);
Vì sao tiền tố phải lặp đôi
Theo tài liệu Mastra, một id viết dạng provider/model chỉ gửi tên model trần tới phía remote, còn dạng gateway/provider/model giữ provider trong tên. ID của BroadNet có chứa dấu gạch chéo, nên cần dạng dài hơn. Trong thử nghiệm của chúng tôi:
id trong Mastra |
Model ID mà BroadNet nhận được |
|---|---|
broadnet/glm-5.3 |
glm-5.3 (sai) |
broadnet/broadnet/glm-5.3 |
broadnet/glm-5.3 (đúng) |
Hàm helper ở trên tự thêm đoạn tiền tố này cho bạn.
Tool
import { createTool } from "@mastra/core/tools";
import { z } from "zod";
const weather = createTool({
id: "get_weather",
description: "Get the weather for a city",
inputSchema: z.object({ city: z.string() }),
execute: async (input) => ({ city: input.city, tempC: 21 }),
});
const agent = new Agent({
id: "weather",
name: "Weather",
instructions: "Use the weather tool to answer.",
tools: { weather },
model: broadnet("broadnet/glm-5.3"),
});
Hãy dùng broadnet/glm-5.3 hoặc broadnet/qwen3.8-27b cho agent có tool. Tài liệu BroadNet chỉ ghi hỗ trợ tool và đầu ra có cấu trúc cho hai model này.
Streaming
const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);
Những cài đặt quan trọng
urllà base URL, kết thúc bằng/v1. Mastra tự thêm/chat/completions.- Đừng thêm
api: "responses". Theo tài liệu Mastra, tùy chọn này chuyển sang/v1/responses. BroadNet không liệt kê Responses API. - Giới hạn đầu ra. DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào giới hạn đầu ra. Nếu bạn giới hạn số token đầu ra, hãy để từ 2.000 trở lên.
Chọn model nào
| Agent | Model |
|---|---|
| Tool, đầu ra có cấu trúc, workflow | broadnet/glm-5.3 |
| Tool kèm đầu vào hình ảnh hoặc văn bản tiếng Ả Rập | broadnet/qwen3.8-27b |
| Các bước chỉ có văn bản trên gói giá cố định | broadnet/deepseek-v4.1-flash |
Giá của mọi model. Nếu dùng Vercel AI SDK mà không có Mastra, xem hướng dẫn AI SDK.
Chúng tôi đã kiểm thử thế nào
Ngày 2026-11-15, chúng tôi cài @mastra/core 1.83.0 với Node 24 và chạy generate, stream cùng một agent có tool với một mock server cục bộ mô phỏng định dạng chat completions của BroadNet và trả về lệnh gọi tool. Chúng tôi đọc các request được ghi lại. Mọi lệnh gọi đều tới /v1/chat/completions với Bearer key lấy từ apiKey. Đó cũng là cách chúng tôi phát hiện quy tắc tiền tố trong bảng ở trên. Chúng tôi không có key BroadNet nên chưa kiểm thử đầu ra thật của model.
Xử lý sự cố
- 404 hoặc không tìm thấy model. Nhiều khả năng model ID đã mất tiền tố. Hãy viết
idlàbroadnet/broadnet/glm-5.3. Sau đó kiểm traurlcó kết thúc bằng/v1không. Các model trả phí cần nạp tiền; với $5 tín dụng ban đầu chỉ dùng đượcbroadnet/gemma-4-26b-a4bvà hai model Transcribe. - 401.
BROADNET_API_KEYchưa được đặt trong tiến trình, hoặc key sai hay đã hết hạn mức. - Câu trả lời rỗng. Phần suy luận đã dùng hết ngân sách đầu ra. Vì sao câu trả lời trả về rỗng.
- 429 trong workflow có các bước song song. Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc; một phiên của gói chạy từng request một. Xem lỗi và thử lại.
