Claude Code mengirim setiap permintaan dalam format Anthropic Messages API, ke /v1/messages di alamat mana pun yang ditunjuk ANTHROPIC_BASE_URL. Sebagian besar penyedia model terbuka, termasuk BroadNet Inference, justru memakai format OpenAI. Jadi Anda butuh proxy yang menerjemahkan antara keduanya, atau penyedia yang memublikasikan endpoint format Anthropic sendiri. Artikel ini membahas keduanya, plus batas-batas yang menentukan apakah ini layak dilakukan.
Kenapa Claude Code tidak bisa memanggil API kompatibel OpenAI secara langsung?
Panduan kompatibilitas gateway Claude Code mencantumkan format yang harus disediakan gateway. Untuk base URL biasa, formatnya Anthropic Messages: /v1/messages, dengan /v1/messages/count_tokens sebagai opsi, serta header anthropic-beta dan anthropic-version yang diteruskan. API kompatibel OpenAI menyajikan /v1/chat/completions dengan bentuk request dan respons yang berbeda. Arahkan Claude Code langsung ke sana dan permintaannya gagal.
Satu hal lagi sebelum mulai. Dokumentasi Claude Code sendiri menyebut Anthropic “doesn’t support routing Claude Code to non-Claude models through any gateway.” (Terjemahan BroadRouter: tidak mendukung perutean Claude Code ke model non-Claude lewat gateway apa pun.) Banyak orang tetap melakukannya, tetapi tidak ada orang di Anthropic yang akan men-debug-nya untuk Anda.
Apa tiga pilihan Anda?
| Jalur | Cara kerja | Paling cocok untuk | Kompromi |
|---|---|---|---|
| Proxy penerjemah (LiteLLM) | Claude Code bicara format Anthropic ke proxy lokal; proxy memanggil penyedia kompatibel OpenAI | Memakai penyedia kompatibel OpenAI tertentu, seperti BroadNet | Satu proses lagi yang harus dijalankan dan diperbarui; celah penerjemahan |
| Endpoint native format Anthropic | Penyedia menerima /v1/messages sendiri |
Model DeepSeek atau GLM dari pembuatnya | Masing-masing memetakan atau mengabaikan sebagian field |
| Agen lain | Pakai agen yang menerima base URL kompatibel OpenAI | Siapa pun yang tidak harus memakai Claude Code | Anda kehilangan antarmuka dan fitur Claude Code |
Bagaimana menjalankan Claude Code lewat LiteLLM?
Tutorial LiteLLM untuk model non-Anthropic berjalan begini: instal proxy, definisikan model di config.yaml, jalankan, lalu set dua variabel di Claude Code. LiteLLM menerjemahkan antarformat, jadi Claude Code tetap mengirim permintaan Anthropic.
Definisikan model BroadNet dengan cara yang sama seperti di panduan LiteLLM, dengan awalan openai/ dan api_base:
model_list:
- model_name: glm
litellm_params:
model: openai/broadnet/glm-5.3
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
- model_name: qwen
litellm_params:
model: openai/broadnet/qwen3.8-27b
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
Jalankan proxy:
uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml # listens on http://0.0.0.0:4000
Lalu arahkan Claude Code ke sana. ANTHROPIC_AUTH_TOKEN dikirim sebagai header Authorization: Bearer, yang memang dibaca LiteLLM:
export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm # subagents
claude
Jalankan /status di Claude Code. Baris Anthropic base URL seharusnya menampilkan alamat proxy.
Variabel model itu penting. Halaman Claude Code di LiteLLM memperingatkan bahwa memilih nama Claude bawaan yang tidak didefinisikan di konfigurasi Anda akan gagal dengan “Invalid model name passed in” (Terjemahan BroadRouter: nama model yang dikirim tidak valid). Referensi environment variable Claude Code menyebut ANTHROPIC_DEFAULT_HAIKU_MODEL juga dipakai untuk fungsi latar belakang, jadi petakan juga, atau permintaan latar belakang akan meminta nama Haiku yang tidak dikenal proxy. CLAUDE_CODE_SUBAGENT_MODEL mengatur model default untuk subagent, tetapi model yang diberikan Claude saat memunculkan subagent, sering kali alias seperti sonnet atau haiku, lebih diutamakan. Dengan memetakan alias sonnet dan opus juga, permintaan itu tetap mengarah ke model yang dikenal proxy. Simpan kunci BroadNet Anda di environment proxy, jangan pernah di .claude/settings.json yang di-commit ke repositori proyek.
Endpoint DeepSeek dan GLM mana yang berjalan tanpa proxy?
Dua pembuat model memublikasikan base URL format Anthropic:
| Penyedia | Base URL | Penanganan model (dari dokumentasinya, dicek 2026-11-15) |
|---|---|---|
| DeepSeek | https://api.deepseek.com/anthropic |
Nama claude-sonnet* dan claude-haiku* dipetakan ke deepseek-flash; claude-opus* ke deepseek-v4-pro; nama yang tidak diawali claude mengembalikan 400 |
| Z.ai (GLM Coding Plan) | https://api.z.ai/api/anthropic |
Kunci di ANTHROPIC_AUTH_TOKEN; contoh setup manual memetakan Opus dan Sonnet ke glm-5.3[1m] dan Haiku ke glm-5.3-flash[1m] |
Catatan rilis DeepSeek tanggal 10 September 2026 menyebut deepseek-flash menyajikan DeepSeek-V4.1-Flash. Halaman Anthropic API-nya juga mencantumkan apa yang diabaikan: antara lain cache_control, budget_tokens, disable_parallel_tool_use, dan header anthropic-version. Pada deepseek-flash, gambar di pesan assistant mengembalikan 400, dan deepseek-v4-pro mengganti gambar dengan “[Unsupported Image]”.
Jika Anda hanya ingin DeepSeek atau GLM di Claude Code, endpoint native ini adalah jalan terpendek. Harga dan batas paket keduanya dibandingkan di halaman alternatif API Claude.
Apa yang rusak atau berubah pada model non-Claude?
Penerjemahan menjaga permintaan tetap mengalir, tetapi beberapa fitur Claude Code bergantung pada hal yang mungkin tidak diteruskan oleh proxy atau model lain. Dokumentasi Claude Code menyebut hal-hal ini:
- Prompt caching. Claude Code menandai blok
systemdan pesan dengancache_control. Jika gateway atau upstream membuangnya, tidak ada error, tetapi setiap giliran ditagih sebagai input tanpa cache. Pada upstream kompatibel OpenAI, caching mengikuti aturan penyedia itu sendiri. BroadNet menagih input cache dengan harga lebih rendah saat blok usage-nya melaporkan cache hit; periksacached_tokensdi log Anda. - Penghitungan token. Tanpa
/v1/messages/count_tokens, Claude Code kembali ke estimasi berbasis karakter, jadi/contexthanya perkiraan. - Context window. Claude Code menerapkan jendela default-nya sendiri untuk nama model yang tidak dikenalinya. Set
CLAUDE_CODE_AUTO_COMPACT_WINDOW(100.000 hingga 1.000.000 token) agar sesuai dengan model. Untuk Qwen3.8 27B, dengan konteks 262.144 token, set jauh di bawah angka itu. - Field tak dikenal.
400yang menyebutExtra inputs are not permittedatau sebuah nilaianthropic-betaberarti ada sesuatu di upstream yang menolak field pra-rilis. Dokumentasinya menyarankanCLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1. - Thinking.
MAX_THINKING_TOKENSdan adaptive thinking adalah fitur Claude. Di BroadNet, DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B bernalar sebelum menjawab, dan token penalaran itu dihitung kemax_tokens. Jika jawaban kosong, naikkan batas output atau kirimreasoning_effortlow. Lihat kenapa model penalaran mengembalikan jawaban kosong. - Gambar. GLM 5.3 hanya teks di BroadNet. Pakai Qwen3.8 27B jika Anda menempelkan screenshot.
Uji tugas nyata dari ujung ke ujung, dengan edit file, perintah shell, dan sesi panjang, sebelum mengandalkannya.
Model BroadNet mana yang sebaiknya di balik Claude Code?
Claude Code membaca file, mengeditnya, dan menjalankan perintah lewat tool call. Referensi API BroadNet mendokumentasikan tools, output terstruktur, dan penalaran untuk dua model:
| Model | Input / output per 1 juta token | Konteks | Gambar | Tools terdokumentasi |
|---|---|---|---|---|
| GLM 5.3 | $0.78 / $3.46 | 1.048.576 | Tidak | Ya |
| Qwen3.8 27B | $0.175 / $2.17 | 262.144 | Ya | Ya |
| DeepSeek V4.1 Flash | $0.175 / $0.52 | 1.048.576 | Ya | Tidak terdokumentasi |
GLM 5.3 adalah model utama yang wajar untuk repositori besar. Qwen3.8 27B lebih murah per token input dan cocok untuk gambar serta panggilan latar belakang yang lebih ringan. Keduanya perlu top up; tidak tercakup kredit awal $5. Perbandingan GLM 5.3 vs Qwen3.8 27B menampilkan keduanya berdampingan.
Bisakah paket harga tetap BroadNet dipakai dengan Claude Code?
Bukan pemakaian yang terdokumentasi, dan lebih baik Anda tahu itu sebelum membeli. Paket Full Moon, Orbit, dan Meteor hanya mencakup DeepSeek V4.1 Flash, dan BroadNet tidak mendokumentasikan tool calling untuknya. Setiap sesi paket juga menjalankan satu permintaan dalam satu waktu. Claude Code bisa menjalankan subagent dan tugas latar belakang di samping loop utama, dan permintaan-permintaan itu akan mengantre di satu sesi.
Jika yang Anda inginkan harga tetap, pakai agen yang didokumentasikan BroadNet bersama paketnya, seperti Aider. Untuk Claude Code, pakai GLM 5.3 atau Qwen3.8 27B dengan bayar sesuai pemakaian, yang mengizinkan 30 permintaan per menit dan 4 permintaan berjalan per kunci. Lakukan backoff saat 429 seperti di error dan retry.
Kapan agen lain menjadi pilihan yang lebih baik?
Jika Anda tidak membutuhkan Claude Code itu sendiri, lewati proxy-nya. opencode, Cline, Roo Code, Continue, dan Aider semuanya langsung menerima base URL kompatibel OpenAI, kunci, dan ID model. Nama field untuk masing-masing ada di memakai model terbuka di agen coding, dengan panduan setup untuk opencode dan Cline. Makin sedikit komponen yang bergerak, makin sedikit bug penerjemahan. Untuk membandingkan model untuk pekerjaan ini, lihat model terbuka terbaik untuk agen coding.
Tetaplah di model Claude jika pekerjaan Anda bergantung pada fitur khusus Claude seperti extended thinking, prompt caching Anthropic, atau beta Claude Code terbaru. Dalam kasus itu, pangkas biaya di dalam Claude Code alih-alih mengganti modelnya.
Posisi BroadNet Inference
BroadNet Inference adalah API kompatibel OpenAI, jadi hanya bisa dipakai Claude Code lewat proxy seperti LiteLLM. Di balik proxy, GLM 5.3 dan Qwen3.8 27B adalah dua model dengan tool calling yang terdokumentasi, ditagih per token tanpa konten yang disimpan setelah permintaan. Jika Anda ingin endpoint native format Anthropic, DeepSeek dan Z.ai lebih sederhana. Jika Anda ingin paket harga tetap BroadNet, pasangkan dengan agen yang bicara format OpenAI.
