---
title: "Model yang dicoret BroadNet: LLM, speech, OCR, embedding"
description: "BroadNet menerbitkan model yang ditolaknya beserta alasan: model chat yang gagal uji keamanan kredensial, serta model speech, OCR, dan embedding yang kalah."
url: https://broadrouter.com/id/blog/models-broadnet-ruled-out/
lang: id
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/blog/models-broadnet-ruled-out/) (diperbarui 2026-11-16).

# Model yang dievaluasi lalu dicoret BroadNet, dan alasannya

Oleh tim BroadNet Inference · 4 menit baca · Dipublikasikan 2026-11-15 · Diperbarui 2026-11-16

Katalog model BroadNet menandai sekitar 30 model dan metode sebagai dicoret setelah diuji di lab-nya. Alasannya sebagian besar terbagi dalam lima kelompok: kalah dari model yang lebih kuat untuk pekerjaan yang sama, gagal uji keamanan kredensial, lisensi yang melarang penyajian lewat API, format kuantisasi yang kalah dalam perbandingan langsung, dan regresi bahasa Arab. Semua hasil adalah pengukuran BroadNet sendiri pada September 2026.

## Poin penting

-   Katalog BroadNet melabeli setiap model PROD, SERVED, BENCH, QUANT, FT, atau RULED OUT, dan memberi alasan untuk setiap penolakan.
-   Rangkaian uji keamanan kredensial BroadNet menahan tiga model chat dari peran keamanan: Qwen3.5 35B A3B, serta GLM 4.7 Flash dan Nemotron 3 Nano 30B A3B, yang tetap berlabel SERVED, bukan RULED OUT.
-   Speculative decoding EAGLE3 dicoret setelah menghabiskan 69% throughput pada 32 permintaan bersamaan.
-   LlamaParse dicoret sebagai solusi parsing dokumen yang selama ini dipakai: tabelnya hilang, dan menurut BroadNet self-hosting 98% lebih murah per 1.000 halaman.
-   Kemenangan di leaderboard publik tidak bertahan pada trafik bahasa Arab nyata BroadNet untuk beberapa model embedding.

**Di halaman ini**

1.  Model chat mana yang dicoret BroadNet?
2.  Model speech mana yang dicoret?
3.  Model dokumen, embedding, dan gambar mana yang kalah?
4.  Apa yang bisa dipelajari dari penolakan ini?

[Katalog model](https://www.broadnet.ai/inference/models) BroadNet mencantumkan setiap model yang menurut BroadNet pernah dijalankan, di-benchmark, dikuantisasi, atau di-fine-tune di hardware miliknya, dan menandai model yang ditolak beserta alasannya. Sekitar 30 model dan metode berlabel RULED OUT (dicoret). Angka-angka di bawah diukur di lab BroadNet pada September 2026; ini hasil BroadNet, bukan hasil kami.

Katalog memakai enam label: PROD (pernah melayani trafik live), SERVED (menurut katalog, “ran on our fleet” (pernah berjalan di armada kami)), BENCH (di-benchmark), QUANT (kuantisasinya dibuat BroadNet), FT (di-fine-tune BroadNet), dan RULED OUT.

## Model chat mana yang dicoret BroadNet?

| Model | Apa yang dilakukan BroadNet | Mengapa dicoret |
| --- | --- | --- |
| Qwen3.5 35B A3B (AWQ 4-bit) | Disajikan sebagai tier kecepatan, sekitar 164 token/detik | Gagal rangkaian uji keamanan kredensial BroadNet untuk peran keamanan |
| GLM 4.7 Flash (AWQ) | Disajikan secara eksperimental | Berlabel SERVED, bukan RULED OUT: BroadNet menyebut model ini dicoret untuk peran keamanan oleh rangkaian uji keamanan kredensial dan ditahan di bawah produksi |
| Nemotron 3 Nano 30B A3B (NVFP4) | Disajikan dengan parser penalaran khusus | Berlabel SERVED, bukan RULED OUT: BroadNet menyebut model ini dicoret untuk peran keamanan oleh rangkaian uji keamanan kredensial dan ditahan di bawah produksi |
| Qwen3.6 35B A3B | Disajikan di RTX 5090 dan GB10 | Kalah dari Gemma 4 26B untuk posisi chatbot |
| Gemma 4 E4B (AWQ INT4) | Disajikan di GB10 sebagai co-tenant, sekitar 94 token/detik | Kalah dari Gemma 4 26B untuk posisi chatbot |
| Gemma 4 26B A4B NVFP4 (tiga penerbit) | Kuantisasi dievaluasi | Dipensiunkan dan diganti AWQ setelah perbandingan langsung di GPU sm\_120 dan sm\_121 |
| Speculative decoding EAGLE3 | Diuji untuk penyajian saat jenuh | Menghabiskan 69% throughput pada 32 permintaan bersamaan; drafter multi-token-prediction tetap dipakai |

Polanya penting bagi siapa pun yang memilih model terbuka. Tiga penolakan berkaitan dengan keamanan, bukan kualitas: model yang cukup cepat tetapi mengulang kredensial. Itulah mode kegagalan yang paling sering ditemukan [studi Safety Map](https://broadrouter.com/id/blog/llm-safety-map-39-models/) BroadNet pada model mixture-of-experts dengan parameter aktif kecil. Model yang memenangkan posisi chatbot, Gemma 4 26B A4B, adalah model yang dijual BroadNet sebagai [Gemma 4 VL 26B](https://broadrouter.com/id/models/gemma-4-vl-26b/).

## Model speech mana yang dicoret?

| Model | Mengapa dicoret |
| --- | --- |
| Gemma 4 E2B, Gemma 4 12B (sebagai transkriber) | Varian audio E4B yang dipertahankan |
| Omnilingual ASR 300M, 1B, 3B, dan varian CTC (Meta) | Varian 7B yang mendapat posisinya |
| Voxtral Mini 3B / 4B Realtime (Mistral) | Dicoret untuk bahasa Arab |
| ArTSTv3 (garis MBZUAI) | Dicoret untuk posisi bahasa Arab; Cohere Transcribe Arabic dipertahankan |
| FireRedVAD, DeepFilterNet, BNR (front-end) | Deteksi aktivitas suara Silero dipakai setelah perbandingan langsung |

BroadNet melaporkan bahwa model yang dipertahankannya, Cohere Transcribe Arabic 07-2026, mencetak word error rate 21,1 pada ucapan dialek MASC, dibandingkan 22,3 untuk ElevenLabs Scribe v2 dan 31,5 untuk Whisper large-v3, dalam ujinya sendiri. BroadNet menyajikan model itu sebagai [BroadNet Transcribe Arabic](https://broadrouter.com/id/models/cohere-transcribe-arabic/). Katalog juga menyebut Whisper large-v3 di-benchmark sebagai cadangan.

## Model dokumen, embedding, dan gambar mana yang kalah?

**OCR dan parsing dokumen**

-   **LlamaParse**, API yang selama ini dipakai, mencetak 16,6 pada subset OmniDocBench milik BroadNet. BroadNet mencoretnya karena “it loses tables, and self-hosting is 98% cheaper per 1,000 pages” (Terjemahan BroadRouter: tabelnya hilang, dan self-hosting 98% lebih murah per 1.000 halaman).
-   **olmOCR-2, HunyuanOCR, GOT-OCR 2.0, dan Nanonets OCR2** dievaluasi lalu dicoret; Nanonets karena syarat lisensi. dots.mocr dipertahankan sebagai pilihan produksi karena bisa mem-parsing sekaligus mendeskripsikan gambar, meskipun PaddleOCR-VL 1.6 mencetak skor lebih tinggi (94,74 berbanding 86,81).

**Embedding**

-   **gemini-embedding-2** dicoret untuk bahasa Arab setelah mengalami regresi dibandingkan gemini-embedding-001 (0,767 berbanding 0,824 pada benchmark retrieval BroadNet).
-   **nomic-embed-text v1.5**, solusi sebelumnya, mencetak 0,468 secara keseluruhan dan 0,130 untuk bahasa Arab, lalu dipensiunkan.
-   **Octen 8B, Harrier 0.6B, dan Nemotron Embed 1B** disajikan lalu dicoret pada trafik bahasa Arab nyata, “where our podium held despite their public-board wins” (Terjemahan BroadRouter: di mana podium kami bertahan meski mereka menang di leaderboard publik).

BroadNet menambahkan satu temuan yang lebih berpengaruh daripada pilihan model: instruksi kueri yang spesifik untuk beban kerja menggeser kualitas retrieval (nDCG) sebesar 0,048, lebih besar daripada beralih dari model embedding 4B ke 8B.

**Pembuatan gambar dan keamanan**

-   **Cosmos3 Super 64B dan HunyuanImage 3.0 80B** dicoret karena kecocokan hardware dan syarat lisensi.
-   **openai/privacy-filter 1.5B** menangkap 100% kredensial tetapi 0% angka gaji dalam korpus kebocoran BroadNet, sehingga dicoret sebagai firewall.

## Apa yang bisa dipelajari dari penolakan ini?

Empat pelajaran berlaku di luar stack BroadNet sendiri:

1.  **Uji pekerjaannya, bukan leaderboard-nya.** Beberapa model embedding yang menang di leaderboard publik kalah pada trafik bahasa Arab nyata.
2.  **Keamanan adalah gerbang tersendiri.** Model yang cepat dan mampu tetap bisa gagal dalam uji kredensial. Jalankan uji semacam itu sebelum sebuah model melihat rahasia; [metode evaluasi](https://broadrouter.com/id/blog/llm-sensitive-data-safety-evaluation-method/) BroadNet bisa menjadi titik awal.
3.  **Lisensi menentukan apa yang bisa disajikan.** Model nonkomersial seperti Voxtral 4B TTS dan Higgs Audio v3 muncul di katalog hanya sebagai batas atas kualitas.
4.  **Pilihan penyajian juga diukur.** Format kuantisasi dan metode drafting dicoret berdasarkan angka perbandingan langsung, bukan secara default. Lihat [hardware GPU dan pendekatan penyajian BroadNet](https://broadrouter.com/id/blog/broadnet-gpu-fleet-and-serving/).

Setiap angka di sini berasal dari lab dan trafik satu perusahaan. Gunakan sebagai daftar pendek hal yang perlu diuji, lalu [evaluasi dengan data Anda sendiri](https://broadrouter.com/id/blog/evaluate-llm-before-switching/) sebelum beralih. Baris yang dicoret atau hanya di-benchmark juga bukan model yang bisa Anda panggil; [membaca katalog model](https://broadrouter.com/id/blog/understand-model-status/) menjelaskan cara membedakan entri live, atas permintaan, dan riset.

Alat gratis untuk topik ini (bahasa Inggris)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[Alat gratis (bahasa Inggris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Embeddings (vektor embedding)](https://broadrouter.com/id/glossary/embeddings/)

Embeddings adalah daftar angka floating-point (vektor) yang dihasilkan model untuk merepresentasikan sepotong teks, gambar, atau input lain. Input dengan makna serupa mendapat vektor yang berdekatan, sehingga jarak antarvektor bisa dipakai untuk mengurutkan hasil pencarian, mengelompokkan dokumen, atau menemukan item terkait.

[AWQ (activation-aware weight quantization)](https://broadrouter.com/id/glossary/awq/)

AWQ (activation-aware weight quantization) adalah metode pasca-pelatihan yang mengompresi bobot LLM ke presisi rendah, biasanya integer 4-bit. AWQ memakai statistik aktivasi dari set kalibrasi kecil untuk menemukan kanal bobot yang paling penting dan menskalakannya agar akurasinya tidak banyak hilang. Metode ini tidak membutuhkan backpropagation.

[Kuantisasi (quantization)](https://broadrouter.com/id/glossary/quantization/)

Kuantisasi adalah proses menyimpan angka-angka jaringan saraf, terutama bobotnya, dalam format berpresisi lebih rendah seperti 8-bit atau 4-bit alih-alih 16-bit, sehingga model memakai lebih sedikit memori dan sering berjalan lebih cepat. Metode yang baik menjaga penurunan akurasi tetap kecil.

[Speculative decoding](https://broadrouter.com/id/glossary/speculative-decoding/)

Speculative decoding adalah teknik inferensi di mana model draft yang kecil dan cepat mengusulkan beberapa token berikutnya, lalu model target yang besar memverifikasinya dalam satu forward pass dan menyimpan token yang diterima. Teknik ini mempercepat generasi tanpa mengubah distribusi output.

[Token](https://broadrouter.com/id/glossary/token/)

Token adalah satuan teks yang dibaca dan ditulis model bahasa: sebuah kata, bagian kata, tanda baca, atau urutan byte yang dihasilkan tokenizer model. API LLM menghitung, membatasi, dan biasanya menagih pemakaian dalam token.

[Word error rate (WER)](https://broadrouter.com/id/glossary/word-error-rate/)

Word error rate (WER) adalah ukuran akurasi standar untuk pengenalan ucapan: jumlah substitusi, penghapusan, dan penyisipan kata yang dibutuhkan untuk mengubah transkrip menjadi referensi yang benar, dibagi jumlah kata dalam referensi. Makin rendah makin baik.

[INT4](https://broadrouter.com/id/glossary/int4/)

INT4 adalah format bilangan integer 4-bit yang dapat merepresentasikan 16 level. Dalam inferensi LLM, istilah ini biasanya berarti kuantisasi 4-bit khusus bobot (W4A16): bobot disimpan sebagai INT4 dengan faktor skala dan diperluas ke 16-bit saat komputasi, sehingga memakai sekitar seperempat memori bobot 16-bit.

[Konkurensi (concurrency)](https://broadrouter.com/id/glossary/concurrency/)

Konkurensi (concurrency) adalah jumlah permintaan yang sedang berjalan dari sebuah client pada saat yang sama. API LLM sering membatasinya per kunci atau per paket, terpisah dari batas permintaan per menit, karena setiap permintaan yang terbuka menahan kapasitas GPU sampai responsnya selesai.

## Pertanyaan umum

### Mengapa BroadNet menerbitkan model yang ditolaknya?

Katalognya menyebut bahwa BroadNet menerbitkan "what we rule out as carefully as what we ship" (Terjemahan BroadRouter: apa yang kami coret, secermat apa yang kami rilis), agar pembeli bisa melihat alasan di balik setiap rekomendasi. Penolakan beserta alasannya adalah bukti yang bisa Anda uji pada beban kerja Anda sendiri.

### Apakah "dicoret" berarti modelnya buruk?

Tidak. Sebagian besar penolakan berlaku untuk satu posisi di pipeline BroadNet sendiri, pada setup dan trafik yang dilaporkan BroadNet. Qwen3.6 35B A3B dan Gemma 4 E4B kalah dari Gemma 4 26B untuk posisi chatbot; keduanya mungkin tetap cocok untuk pekerjaan Anda.

### Apa itu rangkaian uji keamanan kredensial?

Uji BroadNet untuk melihat apakah sebuah model mengulang kredensial yang dilihatnya, berdasarkan metode evaluasi data sensitif yang diterbitkannya. Model yang gagal ditahan di bawah level produksi untuk peran keamanan.

### Mengapa lisensi bisa membuat model dicoret?

Beberapa model kuat, seperti Voxtral 4B TTS dan Higgs Audio v3, berlisensi nonkomersial, sehingga BroadNet hanya mem-benchmark-nya sebagai batas atas kualitas dan tidak bisa menyajikannya lewat API berbayar.

### Apakah model yang dicoret tersedia di BroadNet Inference?

Tidak. API ini menjual enam model, dan tiga model lagi tersedia atas permintaan. Model yang ditandai dicoret tidak ditawarkan.

## Baca juga

-   [Hardware GPU dan pendekatan serving BroadNet, menurut BroadNet](https://broadrouter.com/id/blog/broadnet-gpu-fleet-and-serving/)
-   [Cara mengevaluasi LLM sebelum berpindah penyedia](https://broadrouter.com/id/blog/evaluate-llm-before-switching/)
-   [Safety Map: bagaimana 39 LLM menangani data sensitif](https://broadrouter.com/id/blog/llm-safety-map-39-models/)
-   [API speech-to-text bahasa Arab: cara memilihnya di 2026](https://broadrouter.com/id/blog/arabic-speech-to-text-api-buyers-guide/)
-   [Live, on request, riset: cara membaca katalog model dengan benar](https://broadrouter.com/id/blog/understand-model-status/)
-   [Alternatif Artificial Analysis: tempat membandingkan LLM di 2026](https://broadrouter.com/id/blog/artificial-analysis-alternatives/)
-   [Perbandingan SLA API LLM: janji Azure, Bedrock, Google, dan OpenAI](https://broadrouter.com/id/blog/llm-api-sla-uptime-compared/)
-   [Panduan: Coba BroadNet Inference di browser, tanpa akun](https://broadrouter.com/id/guides/try-broadnet-inference-playground/)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-models-broadnet-ruled-out&utm_content=page-cta) ·

**Sumber**

-   [Katalog model BroadNet: setiap model yang dijalankan, di-benchmark, dikuantisasi, atau di-fine-tune, termasuk yang dicoret (diukur September 2026; diakses 2026-11-15) (bahasa Inggris)](https://www.broadnet.ai/inference/models)
-   [BroadNet Research: temuan tentang speculative decoding dan penyajian model (diakses 2026-11-15) (bahasa Inggris)](https://www.broadnet.ai/research)
-   [Halaman model BroadNet Gemma 4 VL 26B (diakses 2026-11-15) (bahasa Inggris)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Halaman model BroadNet Transcribe Arabic (diakses 2026-11-15) (bahasa Inggris)](https://www.broadnet.ai/inference/models/cohere-transcribe-arabic)
