OpenAI-compatible API वही अनुरोध ढाँचा स्वीकार करता है जो OpenAI का API करता है, इसलिए base_url और API key बदलने के बाद OpenAI के आधिकारिक SDK चल जाते हैं। मुश्किल यह है कि हर प्रोवाइडर अपना एंडपॉइंट थोड़ी अलग जगह रखता है। नीचे की तालिका में 14 प्रोवाइडर हैं, हर एक 15 नवंबर 2026 को प्रोवाइडर के अपने डॉक्यूमेंटेशन से पढ़ा गया।
हर OpenAI-compatible प्रोवाइडर का base URL क्या है?
| प्रोवाइडर | Base URL | उसके OpenAI-compatibility डॉक्स में क्या दिया है | डॉक्स में बताई गई बारीकियाँ |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
सब कुछ; यही रेफ़रंस है | कुछ सेट न होने पर SDK का डिफ़ॉल्ट |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (अनुवाद: “मुख्य रूप से मॉडल की क्षमताओं को टेस्ट करने और तुलना करने के लिए”); strict अनदेखा; ऑडियो और फ़ाइल इनपुट पर 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, इमेज जनरेशन, models, batch | OpenAI लाइब्रेरी का सपोर्ट “still in beta” (अनुवाद: “अभी बीटा में”); Responses API सूची में नहीं |
| DeepSeek | https://api.deepseek.com |
Chat completions | कोई वर्शन पाथ नहीं; Anthropic फ़ॉर्मैट के लिए अलग URL /anthropic पर |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; ऑडियो ट्रांसक्रिप्शन पर नोट | logprobs, logit_bias, top_logprobs, messages[].name पर 400; n का 1 होना ज़रूरी; srt या vtt ट्रांसक्रिप्ट नहीं |
| Together AI | https://api.together.ai/v1 |
Chat, completions, इमेज, स्पीच, ट्रांसक्रिप्शन, models, Responses | सिर्फ़ अमेरिका में इन्फ़रेंस https://us-api.together.ai/v1 पर; embeddings सिर्फ़ डेडिकेटेड एंडपॉइंट पर |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | मॉडल ID accounts/fireworks/models/… जैसे; जब तक मना न करें, एरर देने की जगह max_tokens घटाकर कॉन्टेक्स्ट में फ़िट कर देता है |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; Responses क्लाइंट भी यही base इस्तेमाल करते हैं | Embeddings, इमेज और स्पीच एक अलग पेज पर डॉक्यूमेंटेड |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
इसका API रेफ़रंस ख़ुद को OpenAI-compatible नहीं कहता; भरोसा करने से पहले टेस्ट करें |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | इसकी रैंकिंग के लिए वैकल्पिक HTTP-Referer और X-OpenRouter-Title हेडर |
| xAI | https://api.x.ai/v1 |
Responses API | इसकी गाइड कहती है “The Responses API is the preferred way of interacting with our models” (अनुवाद: “हमारे मॉडलों के साथ काम करने का पसंदीदा तरीक़ा Responses API है”) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | v4 पाथ, v1 नहीं |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (सिंगापुर) |
Chat completions | होस्ट में Workspace ID; key सिर्फ़ उसी रीजन में चलती है जहाँ बनाई गई, वरना 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | मॉडल ID broadnet/ से शुरू होते हैं; नीचे देखें |
Alibaba, us-east-1 पर अमेरिका (वर्जीनिया) का एक एंडपॉइंट भी देता है। उसी पेज पर बीजिंग वाली पंक्ति सिंगापुर का होस्ट दिखाती है, जबकि पेज का बाक़ी टेक्स्ट cn-beijing बताता है, इसलिए चीन का एंडपॉइंट कंसोल में पक्का कर लें। यह तालिका एक स्नैपशॉट है। एंडपॉइंट बदलते रहते हैं: जाँच के दौरान ही Anthropic और Google, दोनों के डॉक्स नए पतों पर रीडायरेक्ट हुए।
इन प्रोवाइडर की कीमतों के लिए प्रोवाइडर के हिसाब से LLM API की कीमतें वाले पेज देखें।
कोड में base URL कैसे सेट करें?
Python में क्लाइंट को base_url दें:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Node में यह विकल्प baseURL है:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
या इसे एक बार उन सभी टूल के लिए सेट कर दें जो आधिकारिक SDK इस्तेमाल करते हैं। Node SDK के सोर्स में baseURL का डिफ़ॉल्ट पहले process.env['OPENAI_BASE_URL'] है, फिर https://api.openai.com/v1; Python README भी यही वेरिएबल डॉक्यूमेंट करता है:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
पूरी गाइड: OpenAI Python SDK, OpenAI Node SDK। base URL क्या है और टूल इसे क्यों माँगते हैं, यह ग्लॉसरी में देखें।
curl से नए base URL को कैसे टेस्ट करें?
ऐप्लिकेशन का कोई भी कोड बदलने से पहले एक छोटा-सा अनुरोध भेजें:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
जिस प्रोवाइडर को टेस्ट कर रहे हैं, उसका base URL, key और मॉडल डालें। choices ऐरे के साथ 200 का मतलब है कि पाथ, key और मॉडल ID सही हैं। 404 का मतलब आम तौर पर ग़लत पाथ है; 401 का मतलब ग़लत key या रीजन; 400 अक्सर वह पैरामीटर बताता है जिसे प्रोवाइडर अस्वीकार करता है। curl क्विकस्टार्ट में और उदाहरण हैं, और API रिक्वेस्ट बिल्डर आपके लिए curl, Python और Node वर्शन लिख देता है।
base_url बदलते समय आम ग़लतियाँ क्या हैं?
- पूरा एंडपॉइंट पेस्ट करना। SDK
/chat/completionsख़ुद जोड़ता है। जो base URL पहले से उस पर ख़त्म होता है, वह/chat/completions/chat/completionsबनाता है और 404 देता है। - आदतन
/v1जोड़ना या हटाना। DeepSeek के डॉक्यूमेंटेड base में/v1नहीं है, Z.ai का/v4/पर ख़त्म होता है और Gemini का/v1beta/openai/पर। प्रोवाइडर का सटीक स्ट्रिंग कॉपी करें। - OpenAI के मॉडल नाम रखे रहना।
gpt-…नाम दूसरी जगह फ़ेल होते हैं। हर प्रोवाइडर का अपना फ़ॉर्मैट है: DeepInfra परdeepseek-ai/DeepSeek-V4-Flash-0731, Fireworks परaccounts/fireworks/models/…, BroadNet परbroadnet/deepseek-v4.1-flash। - ऐसे पैरामीटर भेजना जिन्हें प्रोवाइडर अस्वीकार या अनदेखा करता है। Groq
logprobsपर 400 लौटाता है; Anthropic की लेयरseed,logit_biasऔरreasoning_effortको चुपचाप अनदेखा कर देती है। चुपचाप अनदेखा किया गया पैरामीटर एरर से भी बुरा है, क्योंकि आपको कुछ पता ही नहीं चलता। - मान लेना कि रिस्पॉन्स फ़ील्ड वही होंगे। Anthropic की लेयर ख़ाली
prompt_tokens_detailsलौटाती है, इसलिए कैश्ड टोकन की रिपोर्टिंग नहीं मिलती। Fireworks स्ट्रीमिंग usage आख़िरी chunk में रखता है, जिसे SDK के टाइप शायद डिक्लेयर न करें। - मान लेना कि हर एंडपॉइंट मौजूद है। “OpenAI-compatible” का मतलब आम तौर पर chat completions होता है। Embeddings, ऑडियो, इमेज जनरेशन और Responses API अलग सवाल हैं, जैसा तालिका दिखाती है।
- रीजन मिला देना। Alibaba की key एक रीजन से बंधी होती हैं, और Together सिर्फ़ अमेरिका के लिए एक अलग होस्ट देता है। सही key भी ग़लत होस्ट पर फ़ेल होती है।
स्विच से पहले की पूरी सूची OpenAI-compatible माइग्रेशन चेकलिस्ट में है।
BroadNet Inference कौन से एंडपॉइंट सपोर्ट करता है?
BroadNet का API रेफ़रंस https://inference.broadnet.ai/v1 पर दो मॉडल एंडपॉइंट डॉक्यूमेंट करता है, और कैटलॉग मेटाडेटा के लिए GET /v1/models:
| एंडपॉइंट | मॉडल |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 भाषाएँ) |
व्यवहार में इसका मतलब:
- Embeddings, इमेज जनरेशन या Responses API डॉक्यूमेंटेड नहीं हैं। जिस टूल को इनमें से कोई चाहिए, उसे उस हिस्से के लिए दूसरा प्रोवाइडर चाहिए होगा।
- टूल कॉलिंग और स्ट्रक्चर्ड आउटपुट GLM 5.3 और Qwen3.8 27B के लिए डॉक्यूमेंटेड हैं।
- इमेज
data:URL के रूप में जाती हैं,image_urlकंटेंट पार्ट के अंदर, DeepSeek V4.1 Flash, Qwen3.8 27B और Gemma 4 VL 26B पर। - रीज़निंग मॉडल (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) रीज़निंग को
max_tokensमें गिनते हैं। डॉक्स की सलाह के मुताबिक़ 1,000 या उससे ज़्यादा टोकन छोड़ें, याreasoning_effortकोlowपर सेट करें; देखें रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाते हैं। - मॉडल लिस्ट ने जवाब दिया जब हमने 15 नवंबर 2026 को
GET /v1/modelsकॉल किया, लेकिन यह डॉक्यूमेंटेड एंडपॉइंट की सूची में नहीं है, इसलिए इस पर निर्भर न रहें। - सीमाएँ: उपयोग के अनुसार भुगतान वाली key पर प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध।
प्रति 1M टोकन कीमतें: DeepSeek V4.1 Flash इनपुट $0.175 और आउटपुट $0.52, Gemma 4 VL 26B $0.10 और $0.22। DeepSeek V4.1 Flash फ़्लैट प्लान के रूप में भी मिलता है, प्रति सेशन $60 प्रति माह, एक समय में एक अनुरोध।
क्या कई प्रोवाइडर को एक ही base URL से रूट करना चाहिए?
अगर आपका ऐप इनमें से कई प्रोवाइडर को कॉल करता है, तो LiteLLM जैसा प्रॉक्सी आपके कोड को एक base URL देता है और मॉडल नामों को हर अपस्ट्रीम से मैप करता है। मैपिंग आप तय करते हैं; जब तक आप ख़ुद फ़ॉलबैक कॉन्फ़िगर न करें, कोई भी चीज़ आपके लिए प्रोवाइडर नहीं बदलती। LLM API फ़ेलओवर दिखाता है कि यह क्लाइंट में या LiteLLM में कैसे करें। LiteLLM प्रॉक्सी गाइड में BroadNet की एंट्री दी गई है। इस शब्द की पृष्ठभूमि के लिए OpenAI-compatible API देखें।
BroadNet Inference कहाँ फ़िट बैठता है
BroadNet आपके लिए ठीक है अगर आपका कोड पहले से chat completions इस्तेमाल करता है और आप एक ही key पर ओपन मॉडल, अरबी और बहुभाषी स्पीच-टू-टेक्स्ट, या फ़्लैट-रेट DeepSeek सेशन चाहते हैं। अगर आपको उसी प्रोवाइडर से embeddings, Responses API या इमेज जनरेशन चाहिए, तो यह सही नहीं है; Together AI और Gemini, OpenAI का ज़्यादा हिस्सा डॉक्यूमेंट करते हैं। शिप करने से पहले हमारी तालिका को हर प्रोवाइडर के डॉक्स से मिला लें, क्योंकि ये URL और एंडपॉइंट की सूचियाँ बदलती रहती हैं।
