BroadRouter
Mulakan

Claude Code dengan model terbuka: proksi, endpoint asli dan had

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan

Claude Code menghantar permintaan Anthropic Messages API ke ANTHROPIC_BASE_URL. Untuk menggunakan penyedia serasi OpenAI, jalankan proksi penterjemah seperti LiteLLM dan halakan Claude Code kepadanya, atau pilih penyedia yang mempunyai endpoint format Anthropic sendiri, seperti DeepSeek atau Z.ai. Anthropic tidak menyokong model bukan Claude dalam Claude Code, jadi uji alat, caching dan had konteks sendiri.

Claude Code menghantar setiap permintaan dalam format Anthropic Messages API, ke /v1/messages pada apa sahaja yang ditunjuk oleh ANTHROPIC_BASE_URL. Kebanyakan penyedia model terbuka, termasuk BroadNet Inference, menggunakan format OpenAI. Jadi anda memerlukan sama ada proksi yang menterjemah antara kedua-duanya, atau penyedia yang menerbitkan endpoint format Anthropic sendiri. Catatan ini merangkumi kedua-duanya, serta had yang menentukan sama ada ia berbaloi dilakukan.

Mengapakah Claude Code tidak boleh memanggil API serasi OpenAI secara terus?

Panduan keserasian gateway Claude Code menyenaraikan format yang mesti didedahkan oleh gateway. Untuk base URL biasa, itu ialah Anthropic Messages: /v1/messages, dengan /v1/messages/count_tokens sebagai pilihan, dan pengepala anthropic-beta serta anthropic-version dimajukan. API serasi OpenAI menyediakan /v1/chat/completions dengan bentuk permintaan dan respons yang berbeza. Halakan Claude Code terus kepadanya dan permintaan akan gagal.

Satu lagi perkara yang perlu diketahui sebelum bermula. Dokumentasi Claude Code sendiri menyatakan Anthropic “doesn’t support routing Claude Code to non-Claude models through any gateway” (Terjemahan: tidak menyokong penghalaan Claude Code ke model bukan Claude melalui mana-mana gateway). Ramai orang tetap melakukannya, tetapi tiada sesiapa di Anthropic akan menyahpepijatnya untuk anda.

Apakah tiga pilihan anda?

Laluan Cara ia berfungsi Paling sesuai untuk Kompromi
Proksi penterjemah (LiteLLM) Claude Code berkomunikasi dalam format Anthropic dengan proksi tempatan; proksi memanggil penyedia serasi OpenAI Menggunakan penyedia serasi OpenAI tertentu, seperti BroadNet Satu lagi proses untuk dijalankan dan dikemas kini; jurang terjemahan
Endpoint format Anthropic asli Penyedia sendiri menerima /v1/messages Model DeepSeek atau GLM daripada pembuatnya Setiap satu memetakan atau mengabaikan sesetengah medan
Ejen lain Gunakan ejen yang menerima base URL serasi OpenAI Sesiapa yang tidak semestinya memerlukan Claude Code Anda kehilangan antara muka dan ciri Claude Code

Bagaimanakah anda menjalankan Claude Code melalui LiteLLM?

Tutorial LiteLLM untuk model bukan Anthropic berfungsi seperti ini: pasang proksi, takrifkan model dalam config.yaml, mulakannya, kemudian tetapkan dua pembolehubah dalam Claude Code. LiteLLM menterjemah antara format, jadi Claude Code terus menghantar permintaan Anthropic.

Takrifkan model BroadNet dengan cara yang sama seperti dalam panduan LiteLLM, dengan awalan openai/ dan api_base:

model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

Mulakan proksi:

uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml   # listens on http://0.0.0.0:4000

Kemudian halakan Claude Code kepadanya. ANTHROPIC_AUTH_TOKEN dihantar sebagai pengepala Authorization: Bearer, iaitu yang dibaca oleh LiteLLM:

export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm                  # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen   # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm   # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm     # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm       # subagents
claude

Jalankan /status dalam Claude Code. Baris Anthropic base URL sepatutnya menunjukkan alamat proksi.

Pembolehubah model itu penting. Halaman Claude Code LiteLLM memberi amaran bahawa memilih nama Claude terbina dalam yang tidak ditakrifkan dalam konfigurasi anda akan gagal dengan “Invalid model name passed in” (Terjemahan: nama model yang dihantar tidak sah). Rujukan pembolehubah persekitaran Claude Code menyatakan ANTHROPIC_DEFAULT_HAIKU_MODEL juga digunakan untuk fungsi latar belakang, jadi petakan juga, jika tidak permintaan latar belakang akan meminta nama Haiku yang tidak dikenali proksi. CLAUDE_CODE_SUBAGENT_MODEL menetapkan model lalai untuk subagen, tetapi model yang dihantar oleh Claude apabila ia mencipta subagen, selalunya alias seperti sonnet atau haiku, diutamakan. Memetakan alias sonnet dan opus juga bermakna permintaan itu masih menuju ke model yang dikenali proksi. Simpan kunci BroadNet anda dalam persekitaran proksi, jangan sekali-kali dalam .claude/settings.json projek yang di-commit.

Endpoint DeepSeek dan GLM manakah yang berfungsi tanpa proksi?

Dua pembuat model menerbitkan base URL format Anthropic:

Penyedia Base URL Pengendalian model (daripada dokumentasi mereka, disemak 2026-11-15)
DeepSeek https://api.deepseek.com/anthropic Nama claude-sonnet* dan claude-haiku* dipetakan ke deepseek-flash; claude-opus* dipetakan ke deepseek-v4-pro; nama yang tidak bermula dengan claude mengembalikan 400
Z.ai (GLM Coding Plan) https://api.z.ai/api/anthropic Kunci dalam ANTHROPIC_AUTH_TOKEN; contoh manual memetakan Opus dan Sonnet ke glm-5.3[1m] dan Haiku ke glm-5.3-flash[1m]

Nota keluaran DeepSeek bertarikh 10 September 2026 menyatakan deepseek-flash menyediakan DeepSeek-V4.1-Flash. Halaman Anthropic API-nya juga menyenaraikan apa yang diabaikan: cache_control, budget_tokens, disable_parallel_tool_use dan pengepala anthropic-version, antara lain. Pada deepseek-flash, imej dalam mesej assistant mengembalikan 400, dan deepseek-v4-pro menggantikan imej dengan “[Unsupported Image]”.

Jika anda hanya mahukan DeepSeek atau GLM dalam Claude Code, endpoint asli ini ialah laluan paling pendek. Harga dan had pelan kedua-duanya dibandingkan dalam halaman alternatif API Claude.

Apakah yang rosak atau berubah pada model bukan Claude?

Terjemahan memastikan permintaan terus mengalir, tetapi beberapa ciri Claude Code bergantung pada perkara yang mungkin tidak dihantar oleh proksi atau model lain. Dokumentasi Claude Code menamakan perkara berikut:

  • Prompt caching. Claude Code menandakan blok system dan mesej dengan cache_control. Jika gateway atau huluan menggugurkannya, tiada ralat, tetapi setiap giliran dibilkan sebagai input tanpa cache. Pada huluan serasi OpenAI, caching mengikut peraturan penyedia itu sendiri. BroadNet mengebil input cache pada harga lebih rendah apabila blok usage-nya melaporkan cache hit; semak cached_tokens dalam log anda.
  • Pengiraan token. Tanpa /v1/messages/count_tokens, Claude Code kembali kepada anggaran berasaskan aksara, jadi /context hanyalah anggaran.
  • Tetingkap konteks. Claude Code menggunakan tetingkap lalainya sendiri untuk nama model yang tidak dikenalinya. Tetapkan CLAUDE_CODE_AUTO_COMPACT_WINDOW (100,000 hingga 1,000,000 token) supaya sepadan dengan model. Untuk Qwen3.8 27B, dengan konteks 262,144 token, tetapkannya jauh di bawah nilai itu.
  • Medan tidak dikenali. 400 yang menyebut Extra inputs are not permitted (Terjemahan: input tambahan tidak dibenarkan) atau nilai anthropic-beta bermakna sesuatu di huluan menolak medan pra-keluaran. Dokumentasi mencadangkan CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1.
  • Pemikiran (thinking). MAX_THINKING_TOKENS dan pemikiran adaptif ialah ciri Claude. Di BroadNet, DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan token penaakulan itu dikira dalam max_tokens. Jika jawapan kosong, naikkan had output atau hantar reasoning_effort low. Lihat mengapa model penaakulan mengembalikan jawapan kosong.
  • Imej. GLM 5.3 hanya teks di BroadNet. Gunakan Qwen3.8 27B jika anda menampal tangkapan skrin.

Uji tugas sebenar dari hujung ke hujung, dengan suntingan fail, arahan shell dan sesi panjang, sebelum anda bergantung padanya.

Model BroadNet manakah yang patut berada di belakang Claude Code?

Claude Code membaca fail, menyuntingnya dan menjalankan arahan melalui panggilan alat. Rujukan API BroadNet mendokumenkan alat, output berstruktur dan penaakulan untuk dua model:

Model Input / output setiap 1M token Konteks Imej Alat didokumenkan
GLM 5.3 $0.78 / $3.46 1,048,576 Tidak Ya
Qwen3.8 27B $0.175 / $2.17 262,144 Ya Ya
DeepSeek V4.1 Flash $0.175 / $0.52 1,048,576 Ya Tidak didokumenkan

GLM 5.3 ialah model utama yang wajar untuk repositori besar. Qwen3.8 27B lebih murah setiap token input dan sesuai untuk imej serta panggilan latar belakang yang lebih ringan. Kedua-duanya memerlukan tambah nilai; ia tidak diliputi oleh kredit permulaan $5. Perbandingan GLM 5.3 vs Qwen3.8 27B menunjukkannya bersebelahan.

Bolehkah anda menggunakan pelan kadar tetap BroadNet dengan Claude Code?

Bukan sebagai padanan yang didokumenkan, dan lebih baik anda tahu sebelum membeli. Pelan Full Moon, Orbit dan Meteor hanya meliputi DeepSeek V4.1 Flash, dan BroadNet tidak mendokumenkan panggilan alat untuknya. Setiap sesi pelan juga menjalankan satu permintaan pada satu masa. Claude Code boleh menjalankan subagen dan tugas latar belakang bersama gelung utama, dan permintaan itu akan beratur pada satu sesi.

Jika harga tetap yang anda mahukan, gunakan ejen yang didokumenkan oleh BroadNet bersama pelan, seperti Aider. Untuk Claude Code, gunakan GLM 5.3 atau Qwen3.8 27B bayar ikut guna, yang membenarkan 30 permintaan seminit dan 4 serentak bagi setiap kunci. Tunggu dan cuba semula apabila mendapat 429 seperti dalam ralat dan cubaan semula.

Bilakah ejen lain menjadi pilihan yang lebih baik?

Jika anda tidak memerlukan Claude Code itu sendiri, langkau proksi. opencode, Cline, Roo Code, Continue dan Aider semuanya menerima base URL serasi OpenAI, kunci dan ID model secara terus. Nama medan bagi setiap satu ada dalam guna model terbuka dalam ejen pengekodan, dengan panduan persediaan untuk opencode dan Cline. Lebih sedikit bahagian bergerak bermakna lebih sedikit pepijat terjemahan. Untuk membandingkan model bagi kerja ini, lihat model terbuka terbaik untuk ejen pengekodan.

Kekal dengan model Claude jika kerja anda bergantung pada ciri khusus Claude seperti extended thinking, prompt caching Anthropic atau beta Claude Code terkini. Dalam kes itu, kurangkan kos dalam Claude Code dan bukannya menukar model.

Kedudukan BroadNet Inference

BroadNet Inference ialah API serasi OpenAI, jadi ia hanya sampai ke Claude Code melalui proksi seperti LiteLLM. Di belakang proksi, GLM 5.3 dan Qwen3.8 27B ialah dua model dengan panggilan alat yang didokumenkan, dibilkan setiap token tanpa kandungan disimpan selepas permintaan. Jika anda mahukan endpoint format Anthropic asli, DeepSeek dan Z.ai lebih ringkas. Jika anda mahukan pelan kadar tetap BroadNet, gandingkan dengan ejen yang menggunakan format OpenAI.

Soalan lazim

Bolehkah Claude Code menggunakan DeepSeek?

Ya, dalam dua cara. DeepSeek menerbitkan base URL format Anthropic, https://api.deepseek.com/anthropic, yang memetakan nama claude-sonnet dan claude-haiku kepada deepseek-flash dan nama claude-opus kepada deepseek-v4-pro. Atau anda meletakkan proksi penterjemah seperti LiteLLM di hadapan mana-mana hos serasi OpenAI bagi model DeepSeek.

Adakah Claude Code berfungsi dengan API serasi OpenAI?

Tidak secara terus. Claude Code menghantar permintaan Anthropic Messages API ke /v1/messages. Proksi seperti LiteLLM menerima permintaan itu dan memajukannya ke endpoint /chat/completions gaya OpenAI, kemudian menterjemah balasannya semula.

Adakah penggunaan Claude Code dengan model lain disokong oleh Anthropic?

Tidak. Dokumentasi gateway Claude Code menyatakan Anthropic tidak menyokong penghalaan Claude Code ke model bukan Claude melalui mana-mana gateway. Ia berfungsi secara praktikal bagi ramai orang, tetapi pepijat pada laluan itu perlu anda nyahpepijat sendiri.

Model BroadNet manakah yang patut saya gunakan di belakang Claude Code?

GLM 5.3 atau Qwen3.8 27B. BroadNet mendokumenkan panggilan alat untuk kedua-duanya sahaja, dan Claude Code menyunting fail serta menjalankan arahan melalui alat. GLM 5.3 mempunyai konteks 1,048,576 token; Qwen3.8 27B mempunyai 262,144 dan menerima imej.

Bolehkah saya menjalankan Claude Code pada pelan tanpa had BroadNet?

Bukan sebagai padanan yang didokumenkan. Pelan kadar tetap hanya meliputi DeepSeek V4.1 Flash, dan BroadNet tidak mendokumenkan panggilan alat untuk model itu. Sesi pelan juga menjalankan satu permintaan pada satu masa, sedangkan Claude Code boleh menjalankan subagen secara selari.

Mengapakah Claude Code memaparkan Invalid model name melalui LiteLLM?

Claude Code meminta nama model yang tidak ditakrifkan dalam config.yaml anda, selalunya alias Claude terbina dalam atau model Haiku latar belakang. Tetapkan ANTHROPIC_MODEL dan ANTHROPIC_DEFAULT_HAIKU_MODEL kepada nama daripada model_list anda.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity