Setiap tim yang membangun produk di atas LLM membuat pilihan ini, sering tanpa sadar: model tertutup yang hanya bisa diakses lewat API satu vendor, atau model open-weight yang bobotnya bisa diunduh dan dijalankan siapa saja. Pilihan ini memengaruhi tagihan Anda, jalur data Anda, seberapa stabil produk Anda, dan seberapa sulit untuk pindah.
Apa sebenarnya arti open-weight?
Model open-weight memublikasikan parameter hasil pelatihannya. Anda, atau provider mana pun, bisa menjalankannya. Cakupannya lebih sempit daripada open source: data latih dan pipeline pelatihan lengkapnya biasanya tidak dirilis.
Lisensinya beragam. Sebagian longgar: Whisper dari OpenAI, misalnya, merilis kode dan bobotnya dengan lisensi MIT. Sebagian lain membatasi penggunaan komersial, jumlah pengguna, atau bidang penggunaan. Baca lisensi setiap model sebelum membangun di atasnya.
Bobot model tertutup tetap berada di vendor. Anda menyewa aksesnya lewat API-nya, atau lewat cloud yang dilisensikan vendor tersebut.
Perbandingan model open-weight vs tertutup
| Faktor | Open-weight | Tertutup |
|---|---|---|
| Kualitas teratas | Tertinggal beberapa bulan dari garis depan | Biasanya memimpin di tugas tersulit |
| Harga per token | Sering lebih rendah; host bersaing di model yang sama | Ditentukan satu vendor |
| Tempat berjalan | Server Anda, GPU sewaan, atau host mana pun | API vendor atau cloud berlisensi |
| Opsi privasi | Self-host, atau pilih host dengan zero data retention | Syarat dan tier dari vendor |
| Stabilitas versi | Kunci bobot yang persis sama selama yang Anda mau | Vendor memensiunkan versi sesuai jadwalnya |
| Kustomisasi | Fine-tune atau kuantisasi sendiri | Hanya yang ditawarkan vendor |
| Lock-in | Rendah: beberapa host men-serve bobot yang sama | Tinggi: satu vendor per model |
| Operasional | Tanggung jawab Anda jika self-host | Tanggung jawab vendor |
Seberapa besar selisih kualitasnya?
Lebih kecil dari dulu, tetapi nyata. AI Index 2025 dari Stanford melaporkan bahwa keunggulan model tertutup teratas atas model open-weight teratas di leaderboard Chatbot Arena turun dari 8,04% pada awal Januari 2024 menjadi 1,70% pada Februari 2025. Epoch AI memperkirakan pada 29 Mei 2026 bahwa “the most capable open-weight models have lagged frontier closed models by an average of four months” (Terjemahan BroadRouter: model open-weight paling mumpuni tertinggal dari model tertutup garis depan rata-rata empat bulan), diukur dengan Epoch Capabilities Index miliknya.
Dalam praktik:
- Klasifikasi, ekstraksi, ringkasan, terjemahan, chat rutin: model open-weight biasanya sudah cukup bagus, dan lebih murah.
- Coding agent dan dokumen panjang: ada opsi open-weight yang kuat; uji di repo Anda. Lihat model open terbaik untuk coding agent.
- Penalaran tersulit dan kapabilitas terbaru: model tertutup sering sampai lebih dulu.
Leaderboard adalah rata-rata. 50 kasus uji nyata Anda adalah benchmark yang sebenarnya penting.
Apa tiga cara menjalankan model open-weight?
| Opsi | Paling cocok jika | Yang perlu diwaspadai |
|---|---|---|
| Self-host di GPU sendiri | Data tidak boleh keluar dari jaringan Anda; GPU terus sibuk | Hardware, driver, scaling, keamanan, upgrade |
| Menyewa GPU khusus | Beban stabil, bobot kustom | Anda membayar jam-jam menganggur |
| API open-weight hosted | Trafik naik-turun atau terus bertumbuh; mulai cepat | Anda memercayai retensi data dan uptime host |
Self-hosting tampak gratis per token, tetapi biaya GPU sama saja entah melayani satu permintaan per jam atau seribu. Self-hosting baru balik modal pada utilisasi yang tinggi dan stabil. Di bawah itu, API per token atau paket tarif tetap biasanya lebih murah.
Berapa biaya model open-weight per bulan?
Harga per token untuk model open-weight hosted mudah dihitung. Untuk 100 juta token input dan 10 juta token output per bulan di DeepSeek V4.1 Flash lewat BroadNet:
100 x $0.175 + 10 x $0.52 per bulan, sebelum diskon cache.
Lakukan perhitungan yang sama dengan harga per juta token yang dipublikasikan vendor tertutup Anda dan jumlah token Anda yang sebenarnya, atau mulai dari perbandingan biaya API model open-weight vs tertutup kami, yang menghitung satu workload di GPT, Claude, Gemini, Grok, dan lima model open. Input cache sangat mengubah hasilnya: token cache di model ini berharga $0.0055 per juta. Kalkulator biaya API LLM menghitungnya untuk setiap model BroadNet, dan tabel harga API LLM mencantumkan tarif host lain untuk bobot open yang sama.
Mengapa lock-in lebih penting daripada kelihatannya?
Saat vendor tertutup menaikkan harga, mengubah syarat data, atau memensiunkan model yang prompt Anda sudah disesuaikan untuknya, pilihan Anda hanya menerima atau menulis ulang. Dengan model open-weight, Anda bisa memindahkan bobot yang sama ke host lain, atau ke infrastruktur internal, dan mempertahankan perilaku yang sama.
Agar opsi itu tetap nyata:
- Panggil model lewat SDK yang kompatibel dengan OpenAI, dengan base URL dan ID model di konfigurasi.
- Simpan test set regresi dan jalankan setiap kali berganti provider.
- Opsional, pasang router seperti LiteLLM di depan, sehingga beralih cukup dengan mengubah konfigurasi.
Bagaimana bisnis menggabungkan model open dan tertutup?
Sebagian besar bisnis akhirnya memakai keduanya:
- Rutekan tugas bervolume tinggi yang terdefinisi jelas (ekstraksi, triase, ringkasan, langkah rutin agent) ke model open-weight.
- Rutekan tugas sulit yang jarang ke model tertutup garis depan.
- Uji ulang setiap kuartal. Melihat selisih yang diukur Epoch, tugas-tugas akan berpindah dari daftar kedua ke daftar pertama seiring waktu.
Posisi BroadNet Inference
BroadNet Inference adalah API open-weight hosted: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, dan build BroadNet untuk Gemma 4 dari Google, ditambah dua model speech-to-text, semuanya lewat endpoint yang kompatibel dengan OpenAI. Pernyataan privasinya menyebutkan BroadNet tidak menyimpan prompt atau output dan tidak memakai data inferensi untuk melatih, fine-tune, atau mengevaluasi model. DeepSeek V4.1 Flash juga tersedia dalam paket tarif tetap mulai dari $1 per jam hingga $60 per bulan per sesi.
BroadNet tidak men-serve model tertutup. Jika suatu tugas membutuhkan GPT, Claude, atau Gemini, pakai vendor tersebut untuk rute itu dan biarkan sisanya di bobot open. Untuk menimbang BroadNet terhadap provider lain, pakai checklist provider 20 poin.
