Danh mục của nhà cung cấp thường trộn ba loại mục trên cùng một trang: model bạn gọi được ngay, model bạn có thể yêu cầu, và model nhà cung cấp chỉ mới test. Trong bảng, chúng trông giống nhau. Khi bạn viết code dựa vào chúng, chúng rất khác nhau. Bài này chỉ cách phân biệt, lấy danh mục của BroadNet làm ví dụ cụ thể. BroadRouter là website của chính BroadNet, nên chúng tôi đã kiểm tra mọi trang BroadNet được dẫn ở đây vào ngày 15/11/2026 và trích nguyên văn thay vì diễn giải ở những chỗ quan trọng.
Ba loại mục trong danh mục là gì?
| Trạng thái | Ý nghĩa | Bạn cần gì | Cách gọi |
|---|---|---|---|
| Live | Có trên bảng giá công khai với giá công bố | Một tài khoản và một key đủ điều kiện | Model ID công khai trên base URL công khai |
| Theo yêu cầu | Nhà cung cấp triển khai được, nhưng không tự phục vụ | Một yêu cầu và một thỏa thuận | Thường là model ID hoặc endpoint riêng |
| Nghiên cứu | Đã test, benchmark, lượng tử hóa hoặc bị loại | Không gì cả; không bán | Không gọi được |
Cái bẫy nằm ở dòng thứ ba. Một nhà cung cấp công bố nghiên cứu một cách trung thực sẽ liệt kê nhiều model hơn hẳn số họ bán. Đó là thông tin hữu ích về cách họ chọn model. Nó không phải tuyên bố về khả năng cung cấp.
Danh mục của BroadNet thể hiện điều này thế nào?
Danh mục model của BroadNet có cả ba trên một trang, theo thứ tự:
- “Live on the Inference API”. Ô này ghi: “These models are on the rate card today.” (bản dịch: Các model này đang có trên bảng giá hôm nay.)
- “Available on request”. Ba mục: một bản fine-tune của BroadNet cho Cohere Transcribe Arabic, Qwen3-VL 30B-A3B Instruct và Qwen3-VL 8B Instruct. Trang model của chúng ghi “private id issued per customer” (bản dịch: ID riêng cấp cho từng khách hàng).
- “The catalogue”. Mọi model BroadNet nói đã chạy trong lab (khoảng 270, đo vào tháng 9/2026), gắn nhãn PROD (đã phục vụ traffic thật), SERVED, BENCH, QUANT, FT hoặc RULED OUT. Danh mục được chia nhóm thành model ngôn ngữ, chuyển giọng nói thành văn bản, chuyển văn bản thành giọng nói, OCR, embedding, tạo ảnh và video, và nhiều nhóm khác.
- “Remote and API models benchmarked”. Theo lời BroadNet: “About 90 models we never ran on our hardware but pushed through our safety, routing and Arabic harnesses.” (bản dịch: Khoảng 90 model chúng tôi chưa từng chạy trên phần cứng của mình nhưng đã đưa qua các bộ kiểm thử an toàn, định tuyến và tiếng Ả Rập.) Danh sách nêu tên model của Anthropic, OpenAI, Google, Meta và các hãng khác.
Chỉ nhóm đầu tiên gọi được bằng key tự phục vụ. Nhóm thứ ba và thứ tư có các model chuyển văn bản thành giọng nói, tạo ảnh và embedding, không model nào trong số đó có trên API công khai của BroadNet. Thấy FLUX hay một model Claude trong bảng nghĩa là BroadNet đã đo nó, không phải bạn gửi request tới nó được. Lý do BroadNet đưa ra cho các model bị loại được tóm tắt trong các model BroadNet đã loại, còn phần phần cứng có trong phần cứng GPU và cách serving của BroadNet.
Nguồn nào là bảng giá?
Nguồn dạng máy đọc. BroadNet công bố pricing.json, được tài liệu API mô tả là “the same file our pricing and plans pages are built from” (bản dịch: chính file dùng để dựng trang bảng giá và trang gói của chúng tôi). Với mỗi model, nó cho biết:
id: chuỗi chính xác để gửi trongmodel;status:livehoặcon_request;paid_only: true khi model chỉ mở sau một lần nạp tiền đủ điều kiện;- giá,
context_length,modalitiescho model chat, vàlanguagescho model chép lời.
Ngày 15/11/2026, nguồn này liệt kê sáu model live: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Gemma 4 VL 26B, BroadNet Transcribe Arabic và BroadNet Transcribe. Bảng model trong tài liệu API liệt kê đúng sáu ID đó.
Cùng ngày, ô “Live on the Inference API” trên trang danh mục chỉ hiển thị bốn trong số đó: thiếu GLM 5.3 và Qwen3.8 27B, và vẫn như vậy khi chúng tôi kiểm tra lại ngày 16 tháng 11 năm 2026. (Qwen3.8 27B xuất hiện ở phía dưới với nhãn SERVED trong bảng lab.) Chúng tôi không biết trang nào đang chậm cập nhật, và không thể xác nhận bằng một request trả phí. Chuyện này bình thường trên website của bất kỳ nhà cung cấp nào, và đó là lý do bạn nên đọc nguồn giá và tài liệu API để biết gửi gì, rồi test.
Có tin được GET /v1/models không?
Hãy kiểm tra ý nghĩa của nó ở từng nhà cung cấp. OpenAI Python SDK mô tả models.list() là liệt kê “the currently available models” (bản dịch: các model hiện có), và nhiều công cụ gọi nó để điền danh sách chọn model. Các API tương thích OpenAI khác triển khai nó theo cách khác.
Tài liệu API của BroadNet ghi: “Use the model IDs in this reference for direct API requests. GET /v1/models supplies public catalogue metadata for external monitors.” (bản dịch: Hãy dùng model ID trong tài liệu này khi gọi API trực tiếp. GET /v1/models cung cấp metadata danh mục công khai cho các công cụ giám sát bên ngoài.) Khi chúng tôi gọi nó ngày 15/11/2026, không dùng key, nó chỉ trả về broadnet/cohere-transcribe-arabic và broadnet/cohere-transcribe, mỗi mục có các trường như input_modalities, capacity và cờ is_ready đặt là false. Không có model chat live nào trong bốn model. Vì vậy, một công cụ chỉ dựng danh sách model từ /v1/models sẽ không hiện model chat nào của BroadNet; hãy gõ model ID bằng tay, như bài base URL của API tương thích OpenAI mô tả cho các client khác.
Kiểm tra trạng thái bằng code thế nào?
Script này đọc nguồn giá công khai của BroadNet và /v1/models, cả hai đều không cần key, rồi in trạng thái và quyền truy cập của từng model. Chạy nó trong CI là an toàn, để phát hiện khi một model được thêm, chuyển sang theo yêu cầu hoặc bị ngừng.
import json, urllib.request
FEED = "https://inference.broadnet.ai/pricing.json"
MODELS = "https://inference.broadnet.ai/v1/models"
def get(url):
req = urllib.request.Request(url, headers={"User-Agent": "catalogue-check/1.0"})
with urllib.request.urlopen(req, timeout=30) as r:
return json.load(r)
feed = get(FEED)
assert feed["schema_version"] == 1, "unknown feed schema: re-read the docs before trusting it"
print(f"prices updated {feed['updated']}")
for m in feed["models"]:
status = m.get("status", "live") # docs: live or on_request
access = "top-up required" if m.get("paid_only") else "open from sign-up"
inputs = ", ".join(m.get("modalities", [])) or f"audio, {m.get('language_count', len(m.get('languages', [])))} language(s)"
print(f"{status:10} {m['id']:36} {m['kind']:5} {inputs:22} {access}")
listed = {m["id"] for m in get(MODELS)["data"]}
callable_ = {m["id"] for m in feed["models"] if m.get("status", "live") == "live"}
print("live in the feed but not in /v1/models:", sorted(callable_ - listed))
print("in /v1/models but not live in the feed:", sorted(listed - callable_))
Chạy thật ngày 15/11/2026, nó in ra:
prices updated 2026-11-14
live broadnet/deepseek-v4.1-flash chat text, image top-up required
live broadnet/glm-5.3 chat text top-up required
live broadnet/qwen3.8-27b chat text, image top-up required
live broadnet/gemma-4-26b-a4b chat text, image open from sign-up
live broadnet/cohere-transcribe-arabic stt audio, 1 language(s) open from sign-up
live broadnet/cohere-transcribe stt audio, 14 language(s) open from sign-up
live in the feed but not in /v1/models: ['broadnet/deepseek-v4.1-flash', 'broadnet/gemma-4-26b-a4b', 'broadnet/glm-5.3', 'broadnet/qwen3.8-27b']
in /v1/models but not live in the feed: []
“Open from sign-up” là nhãn do script của chúng tôi đặt cho một dòng không có paid_only, không phải một trường trong nguồn giá; trên BroadNet, điều đó nghĩa là tín dụng ban đầu $5 dùng được cho model đó. Việc kiểm tra schema_version làm theo tài liệu, trong đó nói phiên bản chỉ đổi khi một trường hiện có đổi ý nghĩa, còn trường mới có thể xuất hiện bất cứ lúc nào.
Bước kiểm tra cuối cùng là một request. Một lệnh gọi theo hướng dẫn nhanh cURL với model ID và một prompt ngắn sẽ trả về 200 nếu model đang live với key của bạn, và trả về lỗi kèm mã dạng máy đọc nếu không.
“Theo yêu cầu” trông thế nào trong thực tế?
Các trang model theo yêu cầu của BroadNet cho thấy điều gì thay đổi. Ví dụ, trang Qwen3-VL 30B-A3B có nút “Ask for access” thay cho giá, ghi model ID là “private id issued per customer” và cho biết context 16K token. Bản fine-tune của BroadNet cho Cohere Transcribe Arabic cũng vậy. Tài liệu API của BroadNet giải thích cơ chế: endpoint riêng, các bản fine-tune tiếng Ả Rập của họ và các model theo yêu cầu khác “are reached with a private ID issued with the endpoint.” (bản dịch: được truy cập bằng một ID riêng cấp kèm endpoint.)
Ba hệ quả cho code và kế hoạch của bạn:
- Không có ID công khai để hard-code. Bạn chưa viết được request cho tới khi nhà cung cấp cấp ID, nên hãy để model ID trong cấu hình, không để trong code.
- Giới hạn khác. Một bản triển khai theo yêu cầu có thể có cửa sổ context, giới hạn tốc độ và vùng khác với mọi thứ trên bảng giá công khai. Hãy yêu cầu chúng bằng văn bản.
- Điều khoản khác. Điều khoản của BroadNet nói endpoint riêng và dung lượng đặt trước tuân theo một thỏa thuận bằng văn bản riêng. Giá, tính khả dụng và nơi xử lý đến từ thỏa thuận đó, không phải từ các trang công khai.
Năm bước kiểm tra trước khi xây dựng trên một model
Hãy làm điều này cho mọi model bạn định phụ thuộc vào, ở bất kỳ nhà cung cấp nào:
- Tìm nó trên bảng giá hoặc nguồn giá, không chỉ trong một bài blog, một trang model hay một bảng benchmark.
- Sao chép đúng ID từ tài liệu API. Tên dễ bị lệch: hậu tố phiên bản, biến thể “Flash” và “Pro”, và tiền tố nhà cung cấp như
broadnet/đều quan trọng. - Kiểm tra quyền truy cập. Key hoặc gói của bạn có bao gồm model đó không? Trên BroadNet, model
paid_onlycần nạp tiền, và các gói phiên DeepSeek chỉ áp dụng cho DeepSeek V4.1 Flash. - Kiểm tra tính năng bạn cần trên đúng model đó, như hình ảnh, tool hay structured output, trong tài liệu. Tính năng của model này không nói gì về model kế tiếp.
- Gửi một request với prompt sát thực tế, và giữ lại request ID trong phản hồi. Lặp lại trong CI nếu model đó quan trọng.
Những gì không bao giờ nên suy ra từ danh mục?
- Rằng model đã benchmark là đang bán. Một dòng trong bảng nghiên cứu là một phép đo.
- Rằng theo yêu cầu nghĩa là sắp có. Nó nghĩa là một cuộc trao đổi. BroadNet giới thiệu model theo yêu cầu, endpoint riêng và xử lý theo vùng dưới dạng yêu cầu gửi qua trang liên hệ; xem lập kế hoạch endpoint riêng.
- Rằng một tính năng áp dụng cho mọi model. Tài liệu BroadNet nói vision “offered only where the model row explicitly says images or vision” (bản dịch: chỉ được cung cấp khi dòng của model ghi rõ hình ảnh hoặc vision), và chỉ ghi tool calling cho GLM 5.3 và Qwen3.8 27B. Văn bản, giọng nói hay vision ánh xạ tác vụ tới các model nhận từng loại input.
- Rằng danh sách hôm nay là vĩnh viễn. Điều khoản của BroadNet (§7.4) nói họ có thể thay đổi, tạm ngừng hoặc ngừng hẳn một model hay tính năng và, khi có thể, thông báo trước hợp lý trên trang danh mục. Dịch vụ tự phục vụ không có cam kết về tính khả dụng; mức dịch vụ chỉ có trong một thỏa thuận bằng văn bản riêng.
- Rằng một tên model nghĩa là cùng một model ở mọi nơi. Danh sách model từ xa của BroadNet có “GLM 5.3 Flash”, không phải
broadnet/glm-5.3trên bảng giá của họ. Luôn sao chép đúng ID.
Các bước kiểm tra này áp dụng cho mọi nhà cung cấp. Checklist chọn nhà cung cấp của chúng tôi có phần còn lại của các câu hỏi cần đặt ra.
BroadNet Inference phù hợp ở đâu
Các model live và giá của BroadNet Inference có trên trang model và bảng giá của chúng tôi, dựng từ cùng file pricing.json. Các model BroadNet cung cấp theo yêu cầu được liệt kê riêng ở mục theo yêu cầu. Danh mục nghiên cứu trên broadnet.ai đáng đọc để hiểu cách BroadNet chọn model và các lý do họ công bố khi loại một số model, nhưng hãy coi mỗi dòng trong đó là bằng chứng, không phải lời chào bán.
