BroadRouter
शुरू करें

ओपन मॉडल के साथ Claude Code: प्रॉक्सी, नेटिव एंडपॉइंट और सीमाएँ

BroadNet Inference टीम · 6 मिनट में पढ़ें · प्रकाशित

Claude Code, Anthropic Messages API के अनुरोध ANTHROPIC_BASE_URL पर भेजता है। OpenAI-कम्पैटिबल प्रोवाइडर के लिए LiteLLM जैसा अनुवाद करने वाला प्रॉक्सी चलाकर Claude Code को उस पर पॉइंट करें, या DeepSeek या Z.ai जैसा प्रोवाइडर चुनें जिसका अपना Anthropic-फ़ॉर्मैट एंडपॉइंट है। Anthropic, Claude Code में ग़ैर-Claude मॉडल को सपोर्ट नहीं करता, इसलिए टूल, कैशिंग और कॉन्टेक्स्ट सीमाएँ ख़ुद टेस्ट करें।

Claude Code हर अनुरोध Anthropic Messages API फ़ॉर्मैट में भेजता है, /v1/messages पर, जहाँ भी ANTHROPIC_BASE_URL पॉइंट करता हो। ज़्यादातर ओपन मॉडल प्रोवाइडर, BroadNet Inference समेत, इसके बजाय OpenAI फ़ॉर्मैट बोलते हैं। इसलिए आपको या तो दोनों के बीच अनुवाद करने वाला प्रॉक्सी चाहिए, या ऐसा प्रोवाइडर जो अपना Anthropic-फ़ॉर्मैट एंडपॉइंट प्रकाशित करता हो। यह पोस्ट दोनों को कवर करती है, साथ में वे सीमाएँ जो तय करती हैं कि यह करना फ़ायदेमंद है या नहीं।

Claude Code सीधे OpenAI-कम्पैटिबल API को कॉल क्यों नहीं कर सकता?

Claude Code की गेटवे कम्पैटिबिलिटी गाइड उन फ़ॉर्मैट की सूची देती है जो गेटवे को देने होंगे। सादे base URL के लिए वह है Anthropic Messages: /v1/messages, वैकल्पिक /v1/messages/count_tokens के साथ, और anthropic-beta और anthropic-version हेडर आगे भेजे जाएँ। OpenAI-कम्पैटिबल API अलग अनुरोध और रिस्पॉन्स ढाँचे के साथ /v1/chat/completions देता है। Claude Code को सीधे उस पर पॉइंट करें तो अनुरोध फ़ेल होते हैं।

शुरू करने से पहले एक और बात जान लें। Claude Code के अपने डॉक्स कहते हैं कि Anthropic “doesn’t support routing Claude Code to non-Claude models through any gateway.” (अनुवाद: किसी भी गेटवे के ज़रिए Claude Code को ग़ैर-Claude मॉडल पर रूट करना सपोर्ट नहीं करता।) फिर भी कई लोग ऐसा करते हैं, लेकिन Anthropic में कोई इसे आपके लिए डीबग नहीं करेगा।

आपके तीन विकल्प क्या हैं?

रास्ता कैसे काम करता है किसके लिए सबसे अच्छा नुक़सान
अनुवाद करने वाला प्रॉक्सी (LiteLLM) Claude Code लोकल प्रॉक्सी से Anthropic फ़ॉर्मैट में बात करता है; प्रॉक्सी OpenAI-कम्पैटिबल प्रोवाइडर को कॉल करता है किसी ख़ास OpenAI-कम्पैटिबल प्रोवाइडर, जैसे BroadNet, का इस्तेमाल चलाने और अपडेट करने के लिए एक और प्रोसेस; अनुवाद में कमियाँ
नेटिव Anthropic-फ़ॉर्मैट एंडपॉइंट प्रोवाइडर ख़ुद /v1/messages स्वीकार करता है उनके बनाने वालों से DeepSeek या GLM मॉडल हर एक कुछ फ़ील्ड मैप करता है या अनदेखा करता है
कोई दूसरा एजेंट ऐसा एजेंट इस्तेमाल करें जो OpenAI-कम्पैटिबल base URL लेता है जिसे ख़ास तौर पर Claude Code की ज़रूरत नहीं आप Claude Code का इंटरफ़ेस और फ़ीचर छोड़ देते हैं

LiteLLM के ज़रिए Claude Code कैसे चलाएँ?

ग़ैर-Anthropic मॉडल के लिए LiteLLM का ट्यूटोरियल ऐसे काम करता है: प्रॉक्सी इंस्टॉल करें, config.yaml में मॉडल परिभाषित करें, उसे शुरू करें, फिर Claude Code में दो वेरिएबल सेट करें। LiteLLM फ़ॉर्मैट के बीच अनुवाद करता है, इसलिए Claude Code, Anthropic अनुरोध ही भेजता रहता है।

BroadNet मॉडल को उसी तरह परिभाषित करें जैसे LiteLLM गाइड में है, openai/ प्रीफ़िक्स और api_base के साथ:

model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

प्रॉक्सी शुरू करें:

uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml   # listens on http://0.0.0.0:4000

फिर Claude Code को उस पर पॉइंट करें। ANTHROPIC_AUTH_TOKEN एक Authorization: Bearer हेडर के रूप में जाता है, जिसे LiteLLM पढ़ता है:

export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm                  # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen   # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm   # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm     # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm       # subagents
claude

Claude Code में /status चलाएँ। Anthropic base URL वाली लाइन में प्रॉक्सी का पता दिखना चाहिए।

मॉडल वेरिएबल मायने रखते हैं। LiteLLM का Claude Code पेज चेतावनी देता है कि ऐसा बिल्ट-इन Claude नाम चुनना जो आपकी कॉन्फ़िग में परिभाषित नहीं है, “Invalid model name passed in” के साथ फ़ेल होता है। Claude Code का env-vars रेफ़रंस कहता है कि ANTHROPIC_DEFAULT_HAIKU_MODEL बैकग्राउंड काम के लिए भी इस्तेमाल होता है, इसलिए उसे भी मैप करें, वरना बैकग्राउंड अनुरोध ऐसा Haiku नाम माँगेंगे जिसे प्रॉक्सी नहीं जानता। CLAUDE_CODE_SUBAGENT_MODEL सबएजेंट का डिफ़ॉल्ट मॉडल सेट करता है, लेकिन सबएजेंट बनाते समय Claude जो मॉडल देता है, अक्सर sonnet या haiku जैसा कोई उपनाम, वह प्राथमिकता लेता है। sonnet और opus उपनाम भी मैप करने का मतलब है कि वे अनुरोध भी ऐसे मॉडल पर पहुँचेंगे जिसे प्रॉक्सी जानता है। अपनी BroadNet key प्रॉक्सी के एनवायरनमेंट में रखें, किसी प्रोजेक्ट की कमिट की गई .claude/settings.json में कभी नहीं।

कौन-से DeepSeek और GLM एंडपॉइंट बिना प्रॉक्सी के चलते हैं?

दो मॉडल बनाने वाले Anthropic-फ़ॉर्मैट base URL प्रकाशित करते हैं:

प्रोवाइडर Base URL मॉडल हैंडलिंग (उनके डॉक्स से, 2026-11-15 को देखा गया)
DeepSeek https://api.deepseek.com/anthropic claude-sonnet* और claude-haiku* नाम deepseek-flash पर मैप होते हैं; claude-opus* deepseek-v4-pro पर; जो नाम claude से शुरू नहीं होते, वे 400 लौटाते हैं
Z.ai (GLM Coding Plan) https://api.z.ai/api/anthropic key ANTHROPIC_AUTH_TOKEN में; मैनुअल उदाहरण Opus और Sonnet को glm-5.3[1m] पर और Haiku को glm-5.3-flash[1m] पर मैप करता है

DeepSeek का 10 सितंबर 2026 का रिलीज़ नोट कहता है कि deepseek-flash, DeepSeek-V4.1-Flash चलाता है। उसका Anthropic API पेज यह भी बताता है कि वह क्या अनदेखा करता है: दूसरी चीज़ों के साथ cache_control, budget_tokens, disable_parallel_tool_use और anthropic-version हेडर। deepseek-flash पर असिस्टेंट मैसेज में इमेज 400 लौटाती हैं, और deepseek-v4-pro इमेज की जगह “[Unsupported Image]” रख देता है।

अगर आपको Claude Code में सिर्फ़ DeepSeek या GLM चाहिए, तो ये नेटिव एंडपॉइंट सबसे छोटा रास्ता हैं। दोनों की कीमतों और प्लान सीमाओं की तुलना Claude API के विकल्प वाले पेज में है।

ग़ैर-Claude मॉडल पर क्या टूटता या बदलता है?

अनुवाद से अनुरोध चलते रहते हैं, लेकिन Claude Code के कई फ़ीचर ऐसी चीज़ों पर निर्भर हैं जिन्हें प्रॉक्सी या दूसरा मॉडल शायद आगे न भेजे। Claude Code के डॉक्स इनके नाम बताते हैं:

  • प्रॉम्प्ट कैशिंग। Claude Code system और मैसेज ब्लॉक पर cache_control लगाता है। अगर गेटवे या अपस्ट्रीम इसे हटा दे, तो कोई एरर नहीं आता, लेकिन हर टर्न का बिल बिना कैश वाले इनपुट के रूप में बनता है। OpenAI-कम्पैटिबल अपस्ट्रीम पर कैशिंग उसके बजाय उस प्रोवाइडर के अपने नियमों पर चलती है। जब BroadNet का usage ब्लॉक कैश हिट बताता है, तो वह कैश्ड इनपुट का बिल कम कीमत पर बनाता है; अपने लॉग में cached_tokens जाँचें।
  • टोकन गिनती। /v1/messages/count_tokens के बिना Claude Code अक्षरों पर आधारित अनुमान पर लौट आता है, इसलिए /context अनुमानित है।
  • कॉन्टेक्स्ट विंडो। Claude Code अनजान मॉडल नामों पर अपनी डिफ़ॉल्ट विंडो लगाता है। मॉडल के हिसाब से CLAUDE_CODE_AUTO_COMPACT_WINDOW (100,000 से 1,000,000 टोकन) सेट करें। 262,144 टोकन कॉन्टेक्स्ट वाले Qwen3.8 27B के लिए इसे उससे काफ़ी नीचे रखें।
  • अनजान फ़ील्ड। Extra inputs are not permitted या किसी anthropic-beta वैल्यू का नाम लेता 400 का मतलब है कि अपस्ट्रीम में किसी ने प्री-रिलीज़ फ़ील्ड अस्वीकार किया। डॉक्स CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1 सुझाते हैं।
  • थिंकिंग। MAX_THINKING_TOKENS और एडैप्टिव थिंकिंग Claude के फ़ीचर हैं। BroadNet पर DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और वे रीज़निंग टोकन max_tokens में गिने जाते हैं। अगर जवाब ख़ाली आएँ, तो आउटपुट सीमा बढ़ाएँ या reasoning_effort low भेजें। देखें रीज़निंग मॉडल ख़ाली जवाब क्यों देते हैं।
  • इमेज। BroadNet पर GLM 5.3 सिर्फ़ टेक्स्ट वाला है। स्क्रीनशॉट पेस्ट करते हैं तो Qwen3.8 27B इस्तेमाल करें।

भरोसा करने से पहले एक असली टास्क शुरू से आख़िर तक टेस्ट करें, फ़ाइल एडिट, शेल कमांड और एक लंबे सेशन के साथ।

Claude Code के पीछे BroadNet का कौन-सा मॉडल रखें?

Claude Code टूल कॉल के ज़रिए फ़ाइलें पढ़ता है, एडिट करता है और कमांड चलाता है। BroadNet का API रेफ़रंस दो मॉडल के लिए टूल, स्ट्रक्चर्ड आउटपुट और रीज़निंग डॉक्यूमेंट करता है:

मॉडल इनपुट / आउटपुट प्रति 1M टोकन कॉन्टेक्स्ट इमेज टूल डॉक्यूमेंटेड
GLM 5.3 $0.78 / $3.46 1,048,576 नहीं हाँ
Qwen3.8 27B $0.175 / $2.17 262,144 हाँ हाँ
DeepSeek V4.1 Flash $0.175 / $0.52 1,048,576 हाँ डॉक्यूमेंटेड नहीं

बड़ी रिपॉज़िटरी के लिए GLM 5.3 स्वाभाविक मुख्य मॉडल है। Qwen3.8 27B प्रति इनपुट टोकन सस्ता है और इमेज और हल्की बैकग्राउंड कॉल के लिए चलता है। दोनों के लिए टॉप-अप चाहिए; वे $5 के शुरुआती क्रेडिट में शामिल नहीं हैं। GLM 5.3 बनाम Qwen3.8 27B तुलना में दोनों साथ-साथ हैं।

क्या आप Claude Code के साथ BroadNet का फ़्लैट-रेट प्लान इस्तेमाल कर सकते हैं?

डॉक्यूमेंटेड रूप से नहीं, और ख़रीदने से पहले यह जानना बेहतर है। Full Moon, Orbit और Meteor प्लान सिर्फ़ DeepSeek V4.1 Flash को कवर करते हैं, और BroadNet उसके लिए टूल कॉलिंग डॉक्यूमेंट नहीं करता। हर प्लान सेशन एक समय में एक अनुरोध भी चलाता है। Claude Code मुख्य लूप के साथ सबएजेंट और बैकग्राउंड टास्क चला सकता है, और वे अनुरोध एक सेशन पर क़तार में लगेंगे।

अगर आपको फ़्लैट कीमत ही चाहिए, तो ऐसा एजेंट इस्तेमाल करें जिसे BroadNet प्लान के साथ डॉक्यूमेंट करता है, जैसे Aider। Claude Code के लिए उपयोग के अनुसार भुगतान वाले GLM 5.3 या Qwen3.8 27B इस्तेमाल करें, जो हर key पर प्रति मिनट 30 अनुरोध और 4 चालू अनुरोध की अनुमति देते हैं। 429 पर एरर और रीट्राई के मुताबिक़ रुककर दोबारा कोशिश करें।

दूसरा एजेंट कब बेहतर विकल्प है?

अगर आपको ख़ुद Claude Code की ज़रूरत नहीं है, तो प्रॉक्सी छोड़ दें। opencode, Cline, Roo Code, Continue और Aider सभी सीधे OpenAI-कम्पैटिबल base URL, एक key और एक मॉडल ID लेते हैं। हर एक के फ़ील्ड के नाम कोडिंग एजेंट में ओपन मॉडल में हैं, साथ में opencode और Cline की सेटअप गाइड। कम पुर्ज़ों का मतलब है अनुवाद के कम बग। इस काम के लिए मॉडल की तुलना के लिए देखें कोडिंग एजेंट के लिए सबसे अच्छा ओपन मॉडल।

अगर आपका काम एक्सटेंडेड थिंकिंग, Anthropic प्रॉम्प्ट कैशिंग या Claude Code के नए बीटा जैसे Claude-विशेष फ़ीचर पर निर्भर है, तो Claude मॉडल पर ही रहें। ऐसे में मॉडल बदलने के बजाय Claude Code के अंदर ही लागत घटाएँ।

BroadNet Inference कहाँ फ़िट होता है

BroadNet Inference एक OpenAI-कम्पैटिबल API है, इसलिए यह Claude Code तक सिर्फ़ LiteLLM जैसे प्रॉक्सी के ज़रिए पहुँचता है। प्रॉक्सी के पीछे GLM 5.3 और Qwen3.8 27B डॉक्यूमेंटेड टूल कॉलिंग वाले दो मॉडल हैं, जिनका बिल प्रति टोकन बनता है और अनुरोध के बाद कोई कंटेंट नहीं रखा जाता। अगर आपको नेटिव Anthropic-फ़ॉर्मैट एंडपॉइंट चाहिए, तो DeepSeek और Z.ai ज़्यादा आसान हैं। अगर आपको BroadNet का फ़्लैट प्लान चाहिए, तो उसे ऐसे एजेंट के साथ जोड़ें जो OpenAI फ़ॉर्मैट बोलता है।

अक्सर पूछे जाने वाले सवाल

क्या Claude Code में DeepSeek इस्तेमाल कर सकते हैं?

हाँ, दो तरीक़ों से। DeepSeek एक Anthropic-फ़ॉर्मैट base URL, https://api.deepseek.com/anthropic, प्रकाशित करता है, जो claude-sonnet और claude-haiku नामों को deepseek-flash पर और claude-opus नामों को deepseek-v4-pro पर मैप करता है। या आप DeepSeek मॉडल के किसी भी OpenAI-कम्पैटिबल होस्ट के आगे LiteLLM जैसा अनुवाद करने वाला प्रॉक्सी लगाते हैं।

क्या Claude Code, OpenAI-कम्पैटिबल API के साथ चलता है?

सीधे नहीं। Claude Code, Anthropic Messages API के अनुरोध /v1/messages पर भेजता है। LiteLLM जैसा प्रॉक्सी उन अनुरोधों को लेकर OpenAI-स्टाइल /chat/completions एंडपॉइंट पर भेजता है, फिर जवाब का उल्टा अनुवाद करता है।

क्या Anthropic दूसरे मॉडल के साथ Claude Code के इस्तेमाल को सपोर्ट करता है?

नहीं। Claude Code के गेटवे डॉक्स कहते हैं कि Anthropic किसी भी गेटवे के ज़रिए Claude Code को ग़ैर-Claude मॉडल पर रूट करना सपोर्ट नहीं करता। व्यवहार में यह कई लोगों के लिए चलता है, लेकिन उस रास्ते के बग आपको ख़ुद डीबग करने होंगे।

Claude Code के पीछे BroadNet का कौन-सा मॉडल लगाऊँ?

GLM 5.3 या Qwen3.8 27B। BroadNet सिर्फ़ इन दोनों के लिए टूल कॉलिंग डॉक्यूमेंट करता है, और Claude Code फ़ाइलें टूल के ज़रिए ही एडिट करता है और कमांड चलाता है। GLM 5.3 का कॉन्टेक्स्ट 1,048,576 टोकन है; Qwen3.8 27B का 262,144 है और वह इमेज लेता है।

क्या मैं Claude Code को BroadNet के अनलिमिटेड प्लान पर चला सकता हूँ?

डॉक्यूमेंटेड रूप से नहीं। फ़्लैट प्लान सिर्फ़ DeepSeek V4.1 Flash को कवर करते हैं, और BroadNet उस मॉडल के लिए टूल कॉलिंग डॉक्यूमेंट नहीं करता। प्लान सेशन एक समय में एक अनुरोध भी चलाता है, जबकि Claude Code सबएजेंट समानांतर चला सकता है।

LiteLLM के ज़रिए Claude Code "Invalid model name" क्यों कहता है?

Claude Code ने ऐसा मॉडल नाम माँगा जो आपकी config.yaml में परिभाषित नहीं है, अक्सर कोई बिल्ट-इन Claude उपनाम या बैकग्राउंड वाला Haiku मॉडल। ANTHROPIC_MODEL और ANTHROPIC_DEFAULT_HAIKU_MODEL को अपनी model_list के नामों पर सेट करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें

स्रोत