Claude Code हर अनुरोध Anthropic Messages API फ़ॉर्मैट में भेजता है, /v1/messages पर, जहाँ भी ANTHROPIC_BASE_URL पॉइंट करता हो। ज़्यादातर ओपन मॉडल प्रोवाइडर, BroadNet Inference समेत, इसके बजाय OpenAI फ़ॉर्मैट बोलते हैं। इसलिए आपको या तो दोनों के बीच अनुवाद करने वाला प्रॉक्सी चाहिए, या ऐसा प्रोवाइडर जो अपना Anthropic-फ़ॉर्मैट एंडपॉइंट प्रकाशित करता हो। यह पोस्ट दोनों को कवर करती है, साथ में वे सीमाएँ जो तय करती हैं कि यह करना फ़ायदेमंद है या नहीं।
Claude Code सीधे OpenAI-कम्पैटिबल API को कॉल क्यों नहीं कर सकता?
Claude Code की गेटवे कम्पैटिबिलिटी गाइड उन फ़ॉर्मैट की सूची देती है जो गेटवे को देने होंगे। सादे base URL के लिए वह है Anthropic Messages: /v1/messages, वैकल्पिक /v1/messages/count_tokens के साथ, और anthropic-beta और anthropic-version हेडर आगे भेजे जाएँ। OpenAI-कम्पैटिबल API अलग अनुरोध और रिस्पॉन्स ढाँचे के साथ /v1/chat/completions देता है। Claude Code को सीधे उस पर पॉइंट करें तो अनुरोध फ़ेल होते हैं।
शुरू करने से पहले एक और बात जान लें। Claude Code के अपने डॉक्स कहते हैं कि Anthropic “doesn’t support routing Claude Code to non-Claude models through any gateway.” (अनुवाद: किसी भी गेटवे के ज़रिए Claude Code को ग़ैर-Claude मॉडल पर रूट करना सपोर्ट नहीं करता।) फिर भी कई लोग ऐसा करते हैं, लेकिन Anthropic में कोई इसे आपके लिए डीबग नहीं करेगा।
आपके तीन विकल्प क्या हैं?
| रास्ता | कैसे काम करता है | किसके लिए सबसे अच्छा | नुक़सान |
|---|---|---|---|
| अनुवाद करने वाला प्रॉक्सी (LiteLLM) | Claude Code लोकल प्रॉक्सी से Anthropic फ़ॉर्मैट में बात करता है; प्रॉक्सी OpenAI-कम्पैटिबल प्रोवाइडर को कॉल करता है | किसी ख़ास OpenAI-कम्पैटिबल प्रोवाइडर, जैसे BroadNet, का इस्तेमाल | चलाने और अपडेट करने के लिए एक और प्रोसेस; अनुवाद में कमियाँ |
| नेटिव Anthropic-फ़ॉर्मैट एंडपॉइंट | प्रोवाइडर ख़ुद /v1/messages स्वीकार करता है |
उनके बनाने वालों से DeepSeek या GLM मॉडल | हर एक कुछ फ़ील्ड मैप करता है या अनदेखा करता है |
| कोई दूसरा एजेंट | ऐसा एजेंट इस्तेमाल करें जो OpenAI-कम्पैटिबल base URL लेता है | जिसे ख़ास तौर पर Claude Code की ज़रूरत नहीं | आप Claude Code का इंटरफ़ेस और फ़ीचर छोड़ देते हैं |
LiteLLM के ज़रिए Claude Code कैसे चलाएँ?
ग़ैर-Anthropic मॉडल के लिए LiteLLM का ट्यूटोरियल ऐसे काम करता है: प्रॉक्सी इंस्टॉल करें, config.yaml में मॉडल परिभाषित करें, उसे शुरू करें, फिर Claude Code में दो वेरिएबल सेट करें। LiteLLM फ़ॉर्मैट के बीच अनुवाद करता है, इसलिए Claude Code, Anthropic अनुरोध ही भेजता रहता है।
BroadNet मॉडल को उसी तरह परिभाषित करें जैसे LiteLLM गाइड में है, openai/ प्रीफ़िक्स और api_base के साथ:
model_list:
- model_name: glm
litellm_params:
model: openai/broadnet/glm-5.3
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
- model_name: qwen
litellm_params:
model: openai/broadnet/qwen3.8-27b
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
प्रॉक्सी शुरू करें:
uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml # listens on http://0.0.0.0:4000
फिर Claude Code को उस पर पॉइंट करें। ANTHROPIC_AUTH_TOKEN एक Authorization: Bearer हेडर के रूप में जाता है, जिसे LiteLLM पढ़ता है:
export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm # subagents
claude
Claude Code में /status चलाएँ। Anthropic base URL वाली लाइन में प्रॉक्सी का पता दिखना चाहिए।
मॉडल वेरिएबल मायने रखते हैं। LiteLLM का Claude Code पेज चेतावनी देता है कि ऐसा बिल्ट-इन Claude नाम चुनना जो आपकी कॉन्फ़िग में परिभाषित नहीं है, “Invalid model name passed in” के साथ फ़ेल होता है। Claude Code का env-vars रेफ़रंस कहता है कि ANTHROPIC_DEFAULT_HAIKU_MODEL बैकग्राउंड काम के लिए भी इस्तेमाल होता है, इसलिए उसे भी मैप करें, वरना बैकग्राउंड अनुरोध ऐसा Haiku नाम माँगेंगे जिसे प्रॉक्सी नहीं जानता। CLAUDE_CODE_SUBAGENT_MODEL सबएजेंट का डिफ़ॉल्ट मॉडल सेट करता है, लेकिन सबएजेंट बनाते समय Claude जो मॉडल देता है, अक्सर sonnet या haiku जैसा कोई उपनाम, वह प्राथमिकता लेता है। sonnet और opus उपनाम भी मैप करने का मतलब है कि वे अनुरोध भी ऐसे मॉडल पर पहुँचेंगे जिसे प्रॉक्सी जानता है। अपनी BroadNet key प्रॉक्सी के एनवायरनमेंट में रखें, किसी प्रोजेक्ट की कमिट की गई .claude/settings.json में कभी नहीं।
कौन-से DeepSeek और GLM एंडपॉइंट बिना प्रॉक्सी के चलते हैं?
दो मॉडल बनाने वाले Anthropic-फ़ॉर्मैट base URL प्रकाशित करते हैं:
| प्रोवाइडर | Base URL | मॉडल हैंडलिंग (उनके डॉक्स से, 2026-11-15 को देखा गया) |
|---|---|---|
| DeepSeek | https://api.deepseek.com/anthropic |
claude-sonnet* और claude-haiku* नाम deepseek-flash पर मैप होते हैं; claude-opus* deepseek-v4-pro पर; जो नाम claude से शुरू नहीं होते, वे 400 लौटाते हैं |
| Z.ai (GLM Coding Plan) | https://api.z.ai/api/anthropic |
key ANTHROPIC_AUTH_TOKEN में; मैनुअल उदाहरण Opus और Sonnet को glm-5.3[1m] पर और Haiku को glm-5.3-flash[1m] पर मैप करता है |
DeepSeek का 10 सितंबर 2026 का रिलीज़ नोट कहता है कि deepseek-flash, DeepSeek-V4.1-Flash चलाता है। उसका Anthropic API पेज यह भी बताता है कि वह क्या अनदेखा करता है: दूसरी चीज़ों के साथ cache_control, budget_tokens, disable_parallel_tool_use और anthropic-version हेडर। deepseek-flash पर असिस्टेंट मैसेज में इमेज 400 लौटाती हैं, और deepseek-v4-pro इमेज की जगह “[Unsupported Image]” रख देता है।
अगर आपको Claude Code में सिर्फ़ DeepSeek या GLM चाहिए, तो ये नेटिव एंडपॉइंट सबसे छोटा रास्ता हैं। दोनों की कीमतों और प्लान सीमाओं की तुलना Claude API के विकल्प वाले पेज में है।
ग़ैर-Claude मॉडल पर क्या टूटता या बदलता है?
अनुवाद से अनुरोध चलते रहते हैं, लेकिन Claude Code के कई फ़ीचर ऐसी चीज़ों पर निर्भर हैं जिन्हें प्रॉक्सी या दूसरा मॉडल शायद आगे न भेजे। Claude Code के डॉक्स इनके नाम बताते हैं:
- प्रॉम्प्ट कैशिंग। Claude Code
systemऔर मैसेज ब्लॉक परcache_controlलगाता है। अगर गेटवे या अपस्ट्रीम इसे हटा दे, तो कोई एरर नहीं आता, लेकिन हर टर्न का बिल बिना कैश वाले इनपुट के रूप में बनता है। OpenAI-कम्पैटिबल अपस्ट्रीम पर कैशिंग उसके बजाय उस प्रोवाइडर के अपने नियमों पर चलती है। जब BroadNet का usage ब्लॉक कैश हिट बताता है, तो वह कैश्ड इनपुट का बिल कम कीमत पर बनाता है; अपने लॉग मेंcached_tokensजाँचें। - टोकन गिनती।
/v1/messages/count_tokensके बिना Claude Code अक्षरों पर आधारित अनुमान पर लौट आता है, इसलिए/contextअनुमानित है। - कॉन्टेक्स्ट विंडो। Claude Code अनजान मॉडल नामों पर अपनी डिफ़ॉल्ट विंडो लगाता है। मॉडल के हिसाब से
CLAUDE_CODE_AUTO_COMPACT_WINDOW(100,000 से 1,000,000 टोकन) सेट करें। 262,144 टोकन कॉन्टेक्स्ट वाले Qwen3.8 27B के लिए इसे उससे काफ़ी नीचे रखें। - अनजान फ़ील्ड।
Extra inputs are not permittedया किसीanthropic-betaवैल्यू का नाम लेता400का मतलब है कि अपस्ट्रीम में किसी ने प्री-रिलीज़ फ़ील्ड अस्वीकार किया। डॉक्सCLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1सुझाते हैं। - थिंकिंग।
MAX_THINKING_TOKENSऔर एडैप्टिव थिंकिंग Claude के फ़ीचर हैं। BroadNet पर DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और वे रीज़निंग टोकनmax_tokensमें गिने जाते हैं। अगर जवाब ख़ाली आएँ, तो आउटपुट सीमा बढ़ाएँ याreasoning_effortlow भेजें। देखें रीज़निंग मॉडल ख़ाली जवाब क्यों देते हैं। - इमेज। BroadNet पर GLM 5.3 सिर्फ़ टेक्स्ट वाला है। स्क्रीनशॉट पेस्ट करते हैं तो Qwen3.8 27B इस्तेमाल करें।
भरोसा करने से पहले एक असली टास्क शुरू से आख़िर तक टेस्ट करें, फ़ाइल एडिट, शेल कमांड और एक लंबे सेशन के साथ।
Claude Code के पीछे BroadNet का कौन-सा मॉडल रखें?
Claude Code टूल कॉल के ज़रिए फ़ाइलें पढ़ता है, एडिट करता है और कमांड चलाता है। BroadNet का API रेफ़रंस दो मॉडल के लिए टूल, स्ट्रक्चर्ड आउटपुट और रीज़निंग डॉक्यूमेंट करता है:
| मॉडल | इनपुट / आउटपुट प्रति 1M टोकन | कॉन्टेक्स्ट | इमेज | टूल डॉक्यूमेंटेड |
|---|---|---|---|---|
| GLM 5.3 | $0.78 / $3.46 | 1,048,576 | नहीं | हाँ |
| Qwen3.8 27B | $0.175 / $2.17 | 262,144 | हाँ | हाँ |
| DeepSeek V4.1 Flash | $0.175 / $0.52 | 1,048,576 | हाँ | डॉक्यूमेंटेड नहीं |
बड़ी रिपॉज़िटरी के लिए GLM 5.3 स्वाभाविक मुख्य मॉडल है। Qwen3.8 27B प्रति इनपुट टोकन सस्ता है और इमेज और हल्की बैकग्राउंड कॉल के लिए चलता है। दोनों के लिए टॉप-अप चाहिए; वे $5 के शुरुआती क्रेडिट में शामिल नहीं हैं। GLM 5.3 बनाम Qwen3.8 27B तुलना में दोनों साथ-साथ हैं।
क्या आप Claude Code के साथ BroadNet का फ़्लैट-रेट प्लान इस्तेमाल कर सकते हैं?
डॉक्यूमेंटेड रूप से नहीं, और ख़रीदने से पहले यह जानना बेहतर है। Full Moon, Orbit और Meteor प्लान सिर्फ़ DeepSeek V4.1 Flash को कवर करते हैं, और BroadNet उसके लिए टूल कॉलिंग डॉक्यूमेंट नहीं करता। हर प्लान सेशन एक समय में एक अनुरोध भी चलाता है। Claude Code मुख्य लूप के साथ सबएजेंट और बैकग्राउंड टास्क चला सकता है, और वे अनुरोध एक सेशन पर क़तार में लगेंगे।
अगर आपको फ़्लैट कीमत ही चाहिए, तो ऐसा एजेंट इस्तेमाल करें जिसे BroadNet प्लान के साथ डॉक्यूमेंट करता है, जैसे Aider। Claude Code के लिए उपयोग के अनुसार भुगतान वाले GLM 5.3 या Qwen3.8 27B इस्तेमाल करें, जो हर key पर प्रति मिनट 30 अनुरोध और 4 चालू अनुरोध की अनुमति देते हैं। 429 पर एरर और रीट्राई के मुताबिक़ रुककर दोबारा कोशिश करें।
दूसरा एजेंट कब बेहतर विकल्प है?
अगर आपको ख़ुद Claude Code की ज़रूरत नहीं है, तो प्रॉक्सी छोड़ दें। opencode, Cline, Roo Code, Continue और Aider सभी सीधे OpenAI-कम्पैटिबल base URL, एक key और एक मॉडल ID लेते हैं। हर एक के फ़ील्ड के नाम कोडिंग एजेंट में ओपन मॉडल में हैं, साथ में opencode और Cline की सेटअप गाइड। कम पुर्ज़ों का मतलब है अनुवाद के कम बग। इस काम के लिए मॉडल की तुलना के लिए देखें कोडिंग एजेंट के लिए सबसे अच्छा ओपन मॉडल।
अगर आपका काम एक्सटेंडेड थिंकिंग, Anthropic प्रॉम्प्ट कैशिंग या Claude Code के नए बीटा जैसे Claude-विशेष फ़ीचर पर निर्भर है, तो Claude मॉडल पर ही रहें। ऐसे में मॉडल बदलने के बजाय Claude Code के अंदर ही लागत घटाएँ।
BroadNet Inference कहाँ फ़िट होता है
BroadNet Inference एक OpenAI-कम्पैटिबल API है, इसलिए यह Claude Code तक सिर्फ़ LiteLLM जैसे प्रॉक्सी के ज़रिए पहुँचता है। प्रॉक्सी के पीछे GLM 5.3 और Qwen3.8 27B डॉक्यूमेंटेड टूल कॉलिंग वाले दो मॉडल हैं, जिनका बिल प्रति टोकन बनता है और अनुरोध के बाद कोई कंटेंट नहीं रखा जाता। अगर आपको नेटिव Anthropic-फ़ॉर्मैट एंडपॉइंट चाहिए, तो DeepSeek और Z.ai ज़्यादा आसान हैं। अगर आपको BroadNet का फ़्लैट प्लान चाहिए, तो उसे ऐसे एजेंट के साथ जोड़ें जो OpenAI फ़ॉर्मैट बोलता है।
