Katalog penyedia mencampur tiga jenis entri dalam satu halaman: model yang bisa Anda panggil sekarang, model yang bisa Anda minta, dan model yang hanya diuji oleh penyedia. Di tabel, ketiganya terlihat mirip. Saat Anda menulis kode untuknya, ketiganya sangat berbeda. Tulisan ini menunjukkan cara membedakannya, dengan katalog BroadNet sebagai contoh. BroadRouter adalah situs milik BroadNet sendiri, jadi kami mengecek setiap halaman BroadNet yang dikutip di sini pada 15 November 2026 dan mengutipnya langsung, bukan memparafrasekan, di bagian yang penting.
Apa saja tiga jenis entri katalog?
| Status | Artinya | Yang Anda butuhkan | Cara memanggilnya |
|---|---|---|---|
| Live | Ada di rate card publik dengan harga yang dipublikasikan | Akun dan kunci yang memenuhi syarat | ID model publik di base URL publik |
| On request | Penyedia bisa men-deploy-nya, tetapi tidak self-serve | Pengajuan dan kesepakatan | Biasanya ID model atau endpoint privat |
| Riset | Diuji, di-benchmark, dikuantisasi, atau dicoret | Tidak ada; tidak dijual | Tidak bisa |
Jebakannya ada di baris ketiga. Penyedia yang memublikasikan risetnya secara jujur akan mencantumkan jauh lebih banyak model daripada yang dijualnya. Itu informasi berguna tentang cara penyedia memilih model. Tetapi itu bukan klaim ketersediaan.
Bagaimana katalog BroadNet menampilkannya?
Katalog model BroadNet memuat ketiganya dalam satu halaman, dengan urutan ini:
- “Live on the Inference API” (Terjemahan BroadRouter: Live di Inference API). Kotaknya bertuliskan: “These models are on the rate card today.” (Terjemahan BroadRouter: Model-model ini ada di rate card hari ini.)
- “Available on request” (Terjemahan BroadRouter: Tersedia atas permintaan). Tiga entri: fine-tune BroadNet dari Cohere Transcribe Arabic, Qwen3-VL 30B-A3B Instruct, dan Qwen3-VL 8B Instruct. Halaman modelnya bertuliskan “private id issued per customer” (Terjemahan BroadRouter: ID privat diberikan per pelanggan).
- “The catalogue” (Terjemahan BroadRouter: Katalog). Setiap model yang menurut BroadNet pernah dijalankan di lab-nya (sekitar 270, diukur pada September 2026), dengan tag PROD (pernah melayani trafik live), SERVED, BENCH, QUANT, FT, atau RULED OUT. Dikelompokkan menjadi model bahasa, speech-to-text, text-to-speech, OCR, embedding, pembuatan gambar dan video, dan lainnya.
- “Remote and API models benchmarked” (Terjemahan BroadRouter: Model remote dan API yang di-benchmark). Dalam kata-kata BroadNet: “About 90 models we never ran on our hardware but pushed through our safety, routing and Arabic harnesses.” (Terjemahan BroadRouter: Sekitar 90 model yang tidak pernah kami jalankan di hardware kami, tetapi kami uji lewat harness keamanan, routing, dan bahasa Arab kami.) Daftar ini menyebut model dari Anthropic, OpenAI, Google, Meta, dan lainnya.
Hanya kelompok pertama yang bisa dipanggil dengan kunci self-serve. Kelompok ketiga dan keempat mencakup model text-to-speech, pembuatan gambar, dan embedding, yang tidak satu pun ditawarkan API publik BroadNet. Melihat FLUX atau model Claude di tabel memberi tahu Anda bahwa BroadNet mengukurnya, bukan bahwa Anda bisa mengirim permintaan ke sana. Alasan BroadNet untuk model yang ditolak dirangkum di model yang dicoret BroadNet, dan sisi hardware-nya di hardware GPU dan serving BroadNet.
Sumber mana yang merupakan rate card?
Yang dapat dibaca mesin. BroadNet memublikasikan pricing.json, yang oleh referensi API-nya disebut “the same file our pricing and plans pages are built from” (Terjemahan BroadRouter: file yang sama yang menjadi dasar halaman harga dan paket kami). Untuk setiap model, file ini memberikan:
id: string persis yang dikirim sebagaimodel;status:liveatauon_request;paid_only: true jika model baru terbuka setelah top up yang memenuhi syarat;- harga,
context_length,modalitiesuntuk model chat, danlanguagesuntuk transkripsi.
Pada 15 November 2026 feed tersebut mencantumkan enam model live: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Gemma 4 VL 26B, BroadNet Transcribe Arabic, dan BroadNet Transcribe. Tabel model di referensi API mencantumkan enam ID yang sama.
Kotak “Live on the Inference API” di halaman katalog, pada hari yang sama, hanya menampilkan empat di antaranya: GLM 5.3 dan Qwen3.8 27B tidak ada, dan masih tidak ada saat kami cek ulang pada 16 November 2026. (Qwen3.8 27B muncul lebih ke bawah sebagai SERVED di tabel lab.) Kami tidak tahu halaman mana yang tertinggal, dan kami tidak bisa mengonfirmasi dengan permintaan berbayar. Hal seperti ini wajar di situs penyedia mana pun, dan itulah alasan Anda sebaiknya membaca feed dan referensi API untuk menentukan apa yang dikirim, lalu menguji.
Bisakah GET /v1/models dipercaya?
Cek artinya untuk masing-masing penyedia. OpenAI Python SDK mendokumentasikan models.list() sebagai daftar “the currently available models” (Terjemahan BroadRouter: model yang saat ini tersedia), dan banyak tool memanggilnya untuk mengisi pemilih model. API lain yang kompatibel dengan OpenAI mengimplementasikannya secara berbeda.
Referensi API BroadNet menyebut: “Use the model IDs in this reference for direct API requests. GET /v1/models supplies public catalogue metadata for external monitors.” (Terjemahan BroadRouter: Gunakan ID model di referensi ini untuk permintaan API langsung. GET /v1/models menyediakan metadata katalog publik untuk monitor eksternal.) Saat kami memanggilnya pada 15 November 2026, tanpa kunci, endpoint itu hanya mengembalikan broadnet/cohere-transcribe-arabic dan broadnet/cohere-transcribe, masing-masing dengan field seperti input_modalities, capacity, dan flag is_ready bernilai false. Tidak satu pun dari empat model chat live tercantum. Jadi tool yang menyusun daftar modelnya hanya dari /v1/models tidak akan menampilkan model chat apa pun untuk BroadNet; ketik ID model secara manual, seperti yang dijelaskan tulisan base URL API kompatibel OpenAI untuk klien lain.
Bagaimana mengecek status lewat kode?
Script ini membaca feed publik BroadNet dan /v1/models, keduanya tanpa kunci, lalu mencetak status dan akses setiap model. Aman dijalankan di CI untuk menangkap model yang ditambahkan, dipindah ke on request, atau dipensiunkan.
import json, urllib.request
FEED = "https://inference.broadnet.ai/pricing.json"
MODELS = "https://inference.broadnet.ai/v1/models"
def get(url):
req = urllib.request.Request(url, headers={"User-Agent": "catalogue-check/1.0"})
with urllib.request.urlopen(req, timeout=30) as r:
return json.load(r)
feed = get(FEED)
assert feed["schema_version"] == 1, "unknown feed schema: re-read the docs before trusting it"
print(f"prices updated {feed['updated']}")
for m in feed["models"]:
status = m.get("status", "live") # docs: live or on_request
access = "top-up required" if m.get("paid_only") else "open from sign-up"
inputs = ", ".join(m.get("modalities", [])) or f"audio, {m.get('language_count', len(m.get('languages', [])))} language(s)"
print(f"{status:10} {m['id']:36} {m['kind']:5} {inputs:22} {access}")
listed = {m["id"] for m in get(MODELS)["data"]}
callable_ = {m["id"] for m in feed["models"] if m.get("status", "live") == "live"}
print("live in the feed but not in /v1/models:", sorted(callable_ - listed))
print("in /v1/models but not live in the feed:", sorted(listed - callable_))
Dijalankan secara live pada 15 November 2026, hasilnya:
prices updated 2026-11-14
live broadnet/deepseek-v4.1-flash chat text, image top-up required
live broadnet/glm-5.3 chat text top-up required
live broadnet/qwen3.8-27b chat text, image top-up required
live broadnet/gemma-4-26b-a4b chat text, image open from sign-up
live broadnet/cohere-transcribe-arabic stt audio, 1 language(s) open from sign-up
live broadnet/cohere-transcribe stt audio, 14 language(s) open from sign-up
live in the feed but not in /v1/models: ['broadnet/deepseek-v4.1-flash', 'broadnet/gemma-4-26b-a4b', 'broadnet/glm-5.3', 'broadnet/qwen3.8-27b']
in /v1/models but not live in the feed: []
“Open from sign-up” adalah label dari skrip kami untuk baris tanpa paid_only, bukan field di feed; di BroadNet artinya kredit awal $5 bisa dipakai untuk model itu. Pengecekan schema_version mengikuti dokumentasi, yang menyebut versi hanya berubah jika arti field yang sudah ada berubah, dan field baru bisa muncul kapan saja.
Pengecekan terakhir adalah sebuah permintaan. Panggilan quickstart cURL dengan ID model dan prompt pendek mengembalikan 200 jika model itu live untuk kunci Anda, dan error dengan kode yang dapat dibaca mesin jika tidak.
Seperti apa “on request” dalam praktiknya?
Halaman model on request BroadNet menunjukkan apa yang berubah. Halaman Qwen3-VL 30B-A3B, misalnya, punya tombol “Ask for access” (minta akses) alih-alih harga, mencantumkan ID model sebagai “private id issued per customer”, dan memberi konteks 16K token. Fine-tune BroadNet dari Cohere Transcribe Arabic bekerja dengan cara yang sama. Referensi API BroadNet menjelaskan mekanismenya: endpoint privat, fine-tune bahasa Arab-nya, dan model on request lainnya “are reached with a private ID issued with the endpoint.” (Terjemahan BroadRouter: diakses dengan ID privat yang diberikan bersama endpoint.)
Tiga konsekuensi untuk kode dan rencana Anda:
- Tidak ada ID publik untuk di-hard-code. Anda tidak bisa menulis permintaannya sebelum penyedia memberikan ID, jadi simpan ID model di konfigurasi, bukan di kode.
- Limit yang berbeda. Deployment on request bisa punya context window, rate limit, dan region yang berbeda dari apa pun di rate card publik. Minta semuanya secara tertulis.
- Ketentuan yang berbeda. Ketentuan BroadNet menyebut endpoint privat dan kapasitas khusus mengikuti perjanjian tertulis terpisah. Harga, ketersediaan, dan lokasi pemrosesan berasal dari perjanjian itu, bukan dari halaman publik.
Cek lima langkah sebelum membangun di atas sebuah model
Lakukan ini untuk setiap model yang akan Anda andalkan, di penyedia mana pun:
- Temukan di rate card atau feed, bukan hanya di blog, halaman model, atau tabel benchmark.
- Salin ID persisnya dari referensi API. Nama sering bergeser: sufiks versi, varian “Flash” dan “Pro”, dan prefiks penyedia seperti
broadnet/semuanya penting. - Cek akses. Apakah kunci atau paket Anda mencakupnya? Di BroadNet, model
paid_onlybutuh top up, dan paket sesi DeepSeek hanya mencakup DeepSeek V4.1 Flash. - Cek kemampuan yang Anda butuhkan pada model itu di dokumentasi, seperti gambar, tool, atau output terstruktur. Kemampuan di satu model tidak berarti apa-apa untuk model berikutnya.
- Kirim satu permintaan dengan prompt yang realistis, dan simpan ID permintaan dari responsnya. Ulangi di CI jika model itu krusial.
Apa yang tidak boleh Anda simpulkan dari katalog?
- Bahwa model yang di-benchmark itu dijual. Satu baris di tabel riset adalah hasil pengukuran.
- Bahwa on request berarti segera. Artinya percakapan. BroadNet menyajikan model on request, endpoint privat, dan pemrosesan regional sebagai pengajuan lewat halaman kontaknya; lihat merencanakan endpoint privat.
- Bahwa sebuah kemampuan berlaku untuk semua model. Dokumentasi BroadNet menyebut vision “offered only where the model row explicitly says images or vision” (Terjemahan BroadRouter: hanya ditawarkan jika baris model secara eksplisit menyebut gambar atau vision), dan mendokumentasikan tool calling hanya untuk GLM 5.3 dan Qwen3.8 27B. Teks, suara, atau vision memetakan tugas ke model yang menerima setiap jenis input.
- Bahwa daftar hari ini permanen. Ketentuan BroadNet (§7.4) menyebut BroadNet dapat mengubah, menangguhkan, atau mempensiunkan model atau fitur dan, jika memungkinkan, memberi pemberitahuan yang wajar di halaman katalog. Self-serve tidak punya komitmen ketersediaan; tingkat layanan hanya ada dalam perjanjian tertulis terpisah.
- Bahwa nama model berarti model yang sama di mana-mana. Daftar remote BroadNet mencakup “GLM 5.3 Flash”, yang bukan
broadnet/glm-5.3di rate card-nya. Selalu salin ID persisnya.
Pengecekan yang sama berlaku untuk penyedia mana pun. Checklist penyedia kami berisi pertanyaan lain yang perlu diajukan.
Posisi BroadNet Inference
Model live dan harga BroadNet Inference ada di halaman model dan harga kami, yang dibangun dari pricing.json yang sama. Model yang ditawarkan BroadNet atas permintaan dicantumkan terpisah di bagian on request. Katalog riset di broadnet.ai layak dibaca untuk memahami cara BroadNet memilih model, dan alasan yang dipublikasikannya untuk menolak sebagian, tetapi perlakukan setiap barisnya sebagai bukti, bukan penawaran.
