BroadRouter
Bắt đầu

Live, theo yêu cầu, nghiên cứu: đọc danh mục model cho đúng

Đội ngũ BroadNet Inference · 7 phút đọc · Đăng ngày · Cập nhật

Model gọi được có API ID chính xác, giá công bố và trạng thái live trên bảng giá hoặc nguồn giá của nhà cung cấp. Model theo yêu cầu cần liên hệ và thường dùng model ID riêng. Mục nghiên cứu ghi lại những gì nhà cung cấp đã test và không gọi được. Hãy đọc nguồn giá và tài liệu API, rồi xác nhận bằng một request.

Danh mục của nhà cung cấp thường trộn ba loại mục trên cùng một trang: model bạn gọi được ngay, model bạn có thể yêu cầu, và model nhà cung cấp chỉ mới test. Trong bảng, chúng trông giống nhau. Khi bạn viết code dựa vào chúng, chúng rất khác nhau. Bài này chỉ cách phân biệt, lấy danh mục của BroadNet làm ví dụ cụ thể. BroadRouter là website của chính BroadNet, nên chúng tôi đã kiểm tra mọi trang BroadNet được dẫn ở đây vào ngày 15/11/2026 và trích nguyên văn thay vì diễn giải ở những chỗ quan trọng.

Ba loại mục trong danh mục là gì?

Trạng thái Ý nghĩa Bạn cần gì Cách gọi
Live Có trên bảng giá công khai với giá công bố Một tài khoản và một key đủ điều kiện Model ID công khai trên base URL công khai
Theo yêu cầu Nhà cung cấp triển khai được, nhưng không tự phục vụ Một yêu cầu và một thỏa thuận Thường là model ID hoặc endpoint riêng
Nghiên cứu Đã test, benchmark, lượng tử hóa hoặc bị loại Không gì cả; không bán Không gọi được

Cái bẫy nằm ở dòng thứ ba. Một nhà cung cấp công bố nghiên cứu một cách trung thực sẽ liệt kê nhiều model hơn hẳn số họ bán. Đó là thông tin hữu ích về cách họ chọn model. Nó không phải tuyên bố về khả năng cung cấp.

Danh mục của BroadNet thể hiện điều này thế nào?

Danh mục model của BroadNet có cả ba trên một trang, theo thứ tự:

  1. “Live on the Inference API”. Ô này ghi: “These models are on the rate card today.” (bản dịch: Các model này đang có trên bảng giá hôm nay.)
  2. “Available on request”. Ba mục: một bản fine-tune của BroadNet cho Cohere Transcribe Arabic, Qwen3-VL 30B-A3B Instruct và Qwen3-VL 8B Instruct. Trang model của chúng ghi “private id issued per customer” (bản dịch: ID riêng cấp cho từng khách hàng).
  3. “The catalogue”. Mọi model BroadNet nói đã chạy trong lab (khoảng 270, đo vào tháng 9/2026), gắn nhãn PROD (đã phục vụ traffic thật), SERVED, BENCH, QUANT, FT hoặc RULED OUT. Danh mục được chia nhóm thành model ngôn ngữ, chuyển giọng nói thành văn bản, chuyển văn bản thành giọng nói, OCR, embedding, tạo ảnh và video, và nhiều nhóm khác.
  4. “Remote and API models benchmarked”. Theo lời BroadNet: “About 90 models we never ran on our hardware but pushed through our safety, routing and Arabic harnesses.” (bản dịch: Khoảng 90 model chúng tôi chưa từng chạy trên phần cứng của mình nhưng đã đưa qua các bộ kiểm thử an toàn, định tuyến và tiếng Ả Rập.) Danh sách nêu tên model của Anthropic, OpenAI, Google, Meta và các hãng khác.

Chỉ nhóm đầu tiên gọi được bằng key tự phục vụ. Nhóm thứ ba và thứ tư có các model chuyển văn bản thành giọng nói, tạo ảnh và embedding, không model nào trong số đó có trên API công khai của BroadNet. Thấy FLUX hay một model Claude trong bảng nghĩa là BroadNet đã đo nó, không phải bạn gửi request tới nó được. Lý do BroadNet đưa ra cho các model bị loại được tóm tắt trong các model BroadNet đã loại, còn phần phần cứng có trong phần cứng GPU và cách serving của BroadNet.

Nguồn nào là bảng giá?

Nguồn dạng máy đọc. BroadNet công bố pricing.json, được tài liệu API mô tả là “the same file our pricing and plans pages are built from” (bản dịch: chính file dùng để dựng trang bảng giá và trang gói của chúng tôi). Với mỗi model, nó cho biết:

  • id: chuỗi chính xác để gửi trong model;
  • status: live hoặc on_request;
  • paid_only: true khi model chỉ mở sau một lần nạp tiền đủ điều kiện;
  • giá, context_length, modalities cho model chat, và languages cho model chép lời.

Ngày 15/11/2026, nguồn này liệt kê sáu model live: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Gemma 4 VL 26B, BroadNet Transcribe Arabic và BroadNet Transcribe. Bảng model trong tài liệu API liệt kê đúng sáu ID đó.

Cùng ngày, ô “Live on the Inference API” trên trang danh mục chỉ hiển thị bốn trong số đó: thiếu GLM 5.3 và Qwen3.8 27B, và vẫn như vậy khi chúng tôi kiểm tra lại ngày 16 tháng 11 năm 2026. (Qwen3.8 27B xuất hiện ở phía dưới với nhãn SERVED trong bảng lab.) Chúng tôi không biết trang nào đang chậm cập nhật, và không thể xác nhận bằng một request trả phí. Chuyện này bình thường trên website của bất kỳ nhà cung cấp nào, và đó là lý do bạn nên đọc nguồn giá và tài liệu API để biết gửi gì, rồi test.

Có tin được GET /v1/models không?

Hãy kiểm tra ý nghĩa của nó ở từng nhà cung cấp. OpenAI Python SDK mô tả models.list() là liệt kê “the currently available models” (bản dịch: các model hiện có), và nhiều công cụ gọi nó để điền danh sách chọn model. Các API tương thích OpenAI khác triển khai nó theo cách khác.

Tài liệu API của BroadNet ghi: “Use the model IDs in this reference for direct API requests. GET /v1/models supplies public catalogue metadata for external monitors.” (bản dịch: Hãy dùng model ID trong tài liệu này khi gọi API trực tiếp. GET /v1/models cung cấp metadata danh mục công khai cho các công cụ giám sát bên ngoài.) Khi chúng tôi gọi nó ngày 15/11/2026, không dùng key, nó chỉ trả về broadnet/cohere-transcribe-arabic và broadnet/cohere-transcribe, mỗi mục có các trường như input_modalities, capacity và cờ is_ready đặt là false. Không có model chat live nào trong bốn model. Vì vậy, một công cụ chỉ dựng danh sách model từ /v1/models sẽ không hiện model chat nào của BroadNet; hãy gõ model ID bằng tay, như bài base URL của API tương thích OpenAI mô tả cho các client khác.

Kiểm tra trạng thái bằng code thế nào?

Script này đọc nguồn giá công khai của BroadNet và /v1/models, cả hai đều không cần key, rồi in trạng thái và quyền truy cập của từng model. Chạy nó trong CI là an toàn, để phát hiện khi một model được thêm, chuyển sang theo yêu cầu hoặc bị ngừng.

import json, urllib.request

FEED = "https://inference.broadnet.ai/pricing.json"
MODELS = "https://inference.broadnet.ai/v1/models"

def get(url):
    req = urllib.request.Request(url, headers={"User-Agent": "catalogue-check/1.0"})
    with urllib.request.urlopen(req, timeout=30) as r:
        return json.load(r)

feed = get(FEED)
assert feed["schema_version"] == 1, "unknown feed schema: re-read the docs before trusting it"
print(f"prices updated {feed['updated']}")
for m in feed["models"]:
    status = m.get("status", "live")                       # docs: live or on_request
    access = "top-up required" if m.get("paid_only") else "open from sign-up"
    inputs = ", ".join(m.get("modalities", [])) or f"audio, {m.get('language_count', len(m.get('languages', [])))} language(s)"
    print(f"{status:10} {m['id']:36} {m['kind']:5} {inputs:22} {access}")

listed = {m["id"] for m in get(MODELS)["data"]}
callable_ = {m["id"] for m in feed["models"] if m.get("status", "live") == "live"}
print("live in the feed but not in /v1/models:", sorted(callable_ - listed))
print("in /v1/models but not live in the feed:", sorted(listed - callable_))

Chạy thật ngày 15/11/2026, nó in ra:

prices updated 2026-11-14
live       broadnet/deepseek-v4.1-flash         chat  text, image            top-up required
live       broadnet/glm-5.3                     chat  text                   top-up required
live       broadnet/qwen3.8-27b                 chat  text, image            top-up required
live       broadnet/gemma-4-26b-a4b             chat  text, image            open from sign-up
live       broadnet/cohere-transcribe-arabic    stt   audio, 1 language(s)   open from sign-up
live       broadnet/cohere-transcribe           stt   audio, 14 language(s)  open from sign-up
live in the feed but not in /v1/models: ['broadnet/deepseek-v4.1-flash', 'broadnet/gemma-4-26b-a4b', 'broadnet/glm-5.3', 'broadnet/qwen3.8-27b']
in /v1/models but not live in the feed: []

“Open from sign-up” là nhãn do script của chúng tôi đặt cho một dòng không có paid_only, không phải một trường trong nguồn giá; trên BroadNet, điều đó nghĩa là tín dụng ban đầu $5 dùng được cho model đó. Việc kiểm tra schema_version làm theo tài liệu, trong đó nói phiên bản chỉ đổi khi một trường hiện có đổi ý nghĩa, còn trường mới có thể xuất hiện bất cứ lúc nào.

Bước kiểm tra cuối cùng là một request. Một lệnh gọi theo hướng dẫn nhanh cURL với model ID và một prompt ngắn sẽ trả về 200 nếu model đang live với key của bạn, và trả về lỗi kèm mã dạng máy đọc nếu không.

“Theo yêu cầu” trông thế nào trong thực tế?

Các trang model theo yêu cầu của BroadNet cho thấy điều gì thay đổi. Ví dụ, trang Qwen3-VL 30B-A3B có nút “Ask for access” thay cho giá, ghi model ID là “private id issued per customer” và cho biết context 16K token. Bản fine-tune của BroadNet cho Cohere Transcribe Arabic cũng vậy. Tài liệu API của BroadNet giải thích cơ chế: endpoint riêng, các bản fine-tune tiếng Ả Rập của họ và các model theo yêu cầu khác “are reached with a private ID issued with the endpoint.” (bản dịch: được truy cập bằng một ID riêng cấp kèm endpoint.)

Ba hệ quả cho code và kế hoạch của bạn:

  • Không có ID công khai để hard-code. Bạn chưa viết được request cho tới khi nhà cung cấp cấp ID, nên hãy để model ID trong cấu hình, không để trong code.
  • Giới hạn khác. Một bản triển khai theo yêu cầu có thể có cửa sổ context, giới hạn tốc độ và vùng khác với mọi thứ trên bảng giá công khai. Hãy yêu cầu chúng bằng văn bản.
  • Điều khoản khác. Điều khoản của BroadNet nói endpoint riêng và dung lượng đặt trước tuân theo một thỏa thuận bằng văn bản riêng. Giá, tính khả dụng và nơi xử lý đến từ thỏa thuận đó, không phải từ các trang công khai.

Năm bước kiểm tra trước khi xây dựng trên một model

Hãy làm điều này cho mọi model bạn định phụ thuộc vào, ở bất kỳ nhà cung cấp nào:

  1. Tìm nó trên bảng giá hoặc nguồn giá, không chỉ trong một bài blog, một trang model hay một bảng benchmark.
  2. Sao chép đúng ID từ tài liệu API. Tên dễ bị lệch: hậu tố phiên bản, biến thể “Flash” và “Pro”, và tiền tố nhà cung cấp như broadnet/ đều quan trọng.
  3. Kiểm tra quyền truy cập. Key hoặc gói của bạn có bao gồm model đó không? Trên BroadNet, model paid_only cần nạp tiền, và các gói phiên DeepSeek chỉ áp dụng cho DeepSeek V4.1 Flash.
  4. Kiểm tra tính năng bạn cần trên đúng model đó, như hình ảnh, tool hay structured output, trong tài liệu. Tính năng của model này không nói gì về model kế tiếp.
  5. Gửi một request với prompt sát thực tế, và giữ lại request ID trong phản hồi. Lặp lại trong CI nếu model đó quan trọng.

Những gì không bao giờ nên suy ra từ danh mục?

  • Rằng model đã benchmark là đang bán. Một dòng trong bảng nghiên cứu là một phép đo.
  • Rằng theo yêu cầu nghĩa là sắp có. Nó nghĩa là một cuộc trao đổi. BroadNet giới thiệu model theo yêu cầu, endpoint riêng và xử lý theo vùng dưới dạng yêu cầu gửi qua trang liên hệ; xem lập kế hoạch endpoint riêng.
  • Rằng một tính năng áp dụng cho mọi model. Tài liệu BroadNet nói vision “offered only where the model row explicitly says images or vision” (bản dịch: chỉ được cung cấp khi dòng của model ghi rõ hình ảnh hoặc vision), và chỉ ghi tool calling cho GLM 5.3 và Qwen3.8 27B. Văn bản, giọng nói hay vision ánh xạ tác vụ tới các model nhận từng loại input.
  • Rằng danh sách hôm nay là vĩnh viễn. Điều khoản của BroadNet (§7.4) nói họ có thể thay đổi, tạm ngừng hoặc ngừng hẳn một model hay tính năng và, khi có thể, thông báo trước hợp lý trên trang danh mục. Dịch vụ tự phục vụ không có cam kết về tính khả dụng; mức dịch vụ chỉ có trong một thỏa thuận bằng văn bản riêng.
  • Rằng một tên model nghĩa là cùng một model ở mọi nơi. Danh sách model từ xa của BroadNet có “GLM 5.3 Flash”, không phải broadnet/glm-5.3 trên bảng giá của họ. Luôn sao chép đúng ID.

Các bước kiểm tra này áp dụng cho mọi nhà cung cấp. Checklist chọn nhà cung cấp của chúng tôi có phần còn lại của các câu hỏi cần đặt ra.

BroadNet Inference phù hợp ở đâu

Các model live và giá của BroadNet Inference có trên trang model và bảng giá của chúng tôi, dựng từ cùng file pricing.json. Các model BroadNet cung cấp theo yêu cầu được liệt kê riêng ở mục theo yêu cầu. Danh mục nghiên cứu trên broadnet.ai đáng đọc để hiểu cách BroadNet chọn model và các lý do họ công bố khi loại một số model, nhưng hãy coi mỗi dòng trong đó là bằng chứng, không phải lời chào bán.

Câu hỏi thường gặp

Làm sao biết tôi có gọi được một model qua API không?

Model đó phải có API ID chính xác, giá công bố và trạng thái live trên bảng giá hoặc nguồn giá dạng máy đọc của nhà cung cấp, và key của bạn phải đủ điều kiện dùng nó. Sau đó gửi một request nhỏ. Phản hồi 200 với đúng model ID đó là bằng chứng.

“Có sẵn theo yêu cầu” (available on request) nghĩa là gì?

Nhà cung cấp có thể triển khai model cho bạn, nhưng không qua key tự phục vụ. Bạn gửi yêu cầu, thống nhất điều khoản và thường nhận được một model ID hoặc endpoint riêng. Ở BroadNet, model theo yêu cầu được truy cập bằng một ID riêng cấp kèm endpoint.

Vì sao tôi không gọi được model nằm trong bảng nghiên cứu hay benchmark?

Vì bảng đó ghi lại những gì nhà cung cấp đã test, không phải những gì họ bán. Danh mục của BroadNet liệt kê các model chuyển văn bản thành giọng nói, tạo ảnh và embedding mà họ đã benchmark, cùng khoảng 90 model từ xa họ nói chưa từng chạy trên phần cứng của mình. Không model nào có API ID hay giá công khai.

GET /v1/models có liệt kê mọi model tôi dùng được không?

Không phải lúc nào cũng vậy. Trong API của OpenAI, nó liệt kê các model hiện có, nhưng nhà cung cấp khác triển khai khác. Ngày 15/11/2026, endpoint của BroadNet chỉ trả về hai model chép lời, và tài liệu của họ nói endpoint này cung cấp metadata danh mục cho các công cụ giám sát; hãy dùng ID trong tài liệu API.

Model BroadNet nào cần nạp tiền?

Trong pricing.json ngày 15/11/2026, DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B có paid_only, nên chỉ mở sau một lần nạp tiền đủ điều kiện. Gemma 4 VL 26B và cả hai model chép lời mở ngay từ khi đăng ký, dùng tín dụng ban đầu.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity