BroadRouter
शुरू करें

OpenAI-compatible API के base URL: 14 प्रोवाइडर, डॉक्स से जाँचे हुए

BroadNet Inference टीम · 6 मिनट में पढ़ें · प्रकाशित

OpenAI-compatible API में आप OpenAI SDK रख सकते हैं और सिर्फ़ दो चीज़ें बदलते हैं: base_url और API key। base URL हर प्रोवाइडर का अलग है, जैसे Groq के लिए https://api.groq.com/openai/v1, OpenRouter के लिए https://openrouter.ai/api/v1 और BroadNet Inference के लिए https://inference.broadnet.ai/v1। पाथ, मॉडल ID और समर्थित पैरामीटर फिर भी अलग होते हैं, इसलिए स्विच करने से पहले एक अनुरोध टेस्ट करें।

OpenAI-compatible API वही अनुरोध ढाँचा स्वीकार करता है जो OpenAI का API करता है, इसलिए base_url और API key बदलने के बाद OpenAI के आधिकारिक SDK चल जाते हैं। मुश्किल यह है कि हर प्रोवाइडर अपना एंडपॉइंट थोड़ी अलग जगह रखता है। नीचे की तालिका में 14 प्रोवाइडर हैं, हर एक 15 नवंबर 2026 को प्रोवाइडर के अपने डॉक्यूमेंटेशन से पढ़ा गया।

हर OpenAI-compatible प्रोवाइडर का base URL क्या है?

प्रोवाइडर Base URL उसके OpenAI-compatibility डॉक्स में क्या दिया है डॉक्स में बताई गई बारीकियाँ
OpenAI https://api.openai.com/v1 सब कुछ; यही रेफ़रंस है कुछ सेट न होने पर SDK का डिफ़ॉल्ट
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (अनुवाद: “मुख्य रूप से मॉडल की क्षमताओं को टेस्ट करने और तुलना करने के लिए”); strict अनदेखा; ऑडियो और फ़ाइल इनपुट पर 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions, embeddings, इमेज जनरेशन, models, batch OpenAI लाइब्रेरी का सपोर्ट “still in beta” (अनुवाद: “अभी बीटा में”); Responses API सूची में नहीं
DeepSeek https://api.deepseek.com Chat completions कोई वर्शन पाथ नहीं; Anthropic फ़ॉर्मैट के लिए अलग URL /anthropic पर
Groq https://api.groq.com/openai/v1 Chat completions, Responses API; ऑडियो ट्रांसक्रिप्शन पर नोट logprobs, logit_bias, top_logprobs, messages[].name पर 400; n का 1 होना ज़रूरी; srt या vtt ट्रांसक्रिप्ट नहीं
Together AI https://api.together.ai/v1 Chat, completions, इमेज, स्पीच, ट्रांसक्रिप्शन, models, Responses सिर्फ़ अमेरिका में इन्फ़रेंस https://us-api.together.ai/v1 पर; embeddings सिर्फ़ डेडिकेटेड एंडपॉइंट पर
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions मॉडल ID accounts/fireworks/models/… जैसे; जब तक मना न करें, एरर देने की जगह max_tokens घटाकर कॉन्टेक्स्ट में फ़िट कर देता है
DeepInfra https://api.deepinfra.com/v1/openai Chat completions; Responses क्लाइंट भी यही base इस्तेमाल करते हैं Embeddings, इमेज और स्पीच एक अलग पेज पर डॉक्यूमेंटेड
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions इसका API रेफ़रंस ख़ुद को OpenAI-compatible नहीं कहता; भरोसा करने से पहले टेस्ट करें
OpenRouter https://openrouter.ai/api/v1 Chat completions इसकी रैंकिंग के लिए वैकल्पिक HTTP-Referer और X-OpenRouter-Title हेडर
xAI https://api.x.ai/v1 Responses API इसकी गाइड कहती है “The Responses API is the preferred way of interacting with our models” (अनुवाद: “हमारे मॉडलों के साथ काम करने का पसंदीदा तरीक़ा Responses API है”)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions v4 पाथ, v1 नहीं
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (सिंगापुर) Chat completions होस्ट में Workspace ID; key सिर्फ़ उसी रीजन में चलती है जहाँ बनाई गई, वरना 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions, audio transcriptions मॉडल ID broadnet/ से शुरू होते हैं; नीचे देखें

Alibaba, us-east-1 पर अमेरिका (वर्जीनिया) का एक एंडपॉइंट भी देता है। उसी पेज पर बीजिंग वाली पंक्ति सिंगापुर का होस्ट दिखाती है, जबकि पेज का बाक़ी टेक्स्ट cn-beijing बताता है, इसलिए चीन का एंडपॉइंट कंसोल में पक्का कर लें। यह तालिका एक स्नैपशॉट है। एंडपॉइंट बदलते रहते हैं: जाँच के दौरान ही Anthropic और Google, दोनों के डॉक्स नए पतों पर रीडायरेक्ट हुए।

इन प्रोवाइडर की कीमतों के लिए प्रोवाइडर के हिसाब से LLM API की कीमतें वाले पेज देखें।

कोड में base URL कैसे सेट करें?

Python में क्लाइंट को base_url दें:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

Node में यह विकल्प baseURL है:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

या इसे एक बार उन सभी टूल के लिए सेट कर दें जो आधिकारिक SDK इस्तेमाल करते हैं। Node SDK के सोर्स में baseURL का डिफ़ॉल्ट पहले process.env['OPENAI_BASE_URL'] है, फिर https://api.openai.com/v1; Python README भी यही वेरिएबल डॉक्यूमेंट करता है:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

पूरी गाइड: OpenAI Python SDK, OpenAI Node SDK। base URL क्या है और टूल इसे क्यों माँगते हैं, यह ग्लॉसरी में देखें।

curl से नए base URL को कैसे टेस्ट करें?

ऐप्लिकेशन का कोई भी कोड बदलने से पहले एक छोटा-सा अनुरोध भेजें:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

जिस प्रोवाइडर को टेस्ट कर रहे हैं, उसका base URL, key और मॉडल डालें। choices ऐरे के साथ 200 का मतलब है कि पाथ, key और मॉडल ID सही हैं। 404 का मतलब आम तौर पर ग़लत पाथ है; 401 का मतलब ग़लत key या रीजन; 400 अक्सर वह पैरामीटर बताता है जिसे प्रोवाइडर अस्वीकार करता है। curl क्विकस्टार्ट में और उदाहरण हैं, और API रिक्वेस्ट बिल्डर आपके लिए curl, Python और Node वर्शन लिख देता है।

base_url बदलते समय आम ग़लतियाँ क्या हैं?

  • पूरा एंडपॉइंट पेस्ट करना। SDK /chat/completions ख़ुद जोड़ता है। जो base URL पहले से उस पर ख़त्म होता है, वह /chat/completions/chat/completions बनाता है और 404 देता है।
  • आदतन /v1 जोड़ना या हटाना। DeepSeek के डॉक्यूमेंटेड base में /v1 नहीं है, Z.ai का /v4/ पर ख़त्म होता है और Gemini का /v1beta/openai/ पर। प्रोवाइडर का सटीक स्ट्रिंग कॉपी करें।
  • OpenAI के मॉडल नाम रखे रहना। gpt-… नाम दूसरी जगह फ़ेल होते हैं। हर प्रोवाइडर का अपना फ़ॉर्मैट है: DeepInfra पर deepseek-ai/DeepSeek-V4-Flash-0731, Fireworks पर accounts/fireworks/models/…, BroadNet पर broadnet/deepseek-v4.1-flash।
  • ऐसे पैरामीटर भेजना जिन्हें प्रोवाइडर अस्वीकार या अनदेखा करता है। Groq logprobs पर 400 लौटाता है; Anthropic की लेयर seed, logit_bias और reasoning_effort को चुपचाप अनदेखा कर देती है। चुपचाप अनदेखा किया गया पैरामीटर एरर से भी बुरा है, क्योंकि आपको कुछ पता ही नहीं चलता।
  • मान लेना कि रिस्पॉन्स फ़ील्ड वही होंगे। Anthropic की लेयर ख़ाली prompt_tokens_details लौटाती है, इसलिए कैश्ड टोकन की रिपोर्टिंग नहीं मिलती। Fireworks स्ट्रीमिंग usage आख़िरी chunk में रखता है, जिसे SDK के टाइप शायद डिक्लेयर न करें।
  • मान लेना कि हर एंडपॉइंट मौजूद है। “OpenAI-compatible” का मतलब आम तौर पर chat completions होता है। Embeddings, ऑडियो, इमेज जनरेशन और Responses API अलग सवाल हैं, जैसा तालिका दिखाती है।
  • रीजन मिला देना। Alibaba की key एक रीजन से बंधी होती हैं, और Together सिर्फ़ अमेरिका के लिए एक अलग होस्ट देता है। सही key भी ग़लत होस्ट पर फ़ेल होती है।

स्विच से पहले की पूरी सूची OpenAI-compatible माइग्रेशन चेकलिस्ट में है।

BroadNet Inference कौन से एंडपॉइंट सपोर्ट करता है?

BroadNet का API रेफ़रंस https://inference.broadnet.ai/v1 पर दो मॉडल एंडपॉइंट डॉक्यूमेंट करता है, और कैटलॉग मेटाडेटा के लिए GET /v1/models:

एंडपॉइंट मॉडल
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 भाषाएँ)

व्यवहार में इसका मतलब:

  • Embeddings, इमेज जनरेशन या Responses API डॉक्यूमेंटेड नहीं हैं। जिस टूल को इनमें से कोई चाहिए, उसे उस हिस्से के लिए दूसरा प्रोवाइडर चाहिए होगा।
  • टूल कॉलिंग और स्ट्रक्चर्ड आउटपुट GLM 5.3 और Qwen3.8 27B के लिए डॉक्यूमेंटेड हैं।
  • इमेज data: URL के रूप में जाती हैं, image_url कंटेंट पार्ट के अंदर, DeepSeek V4.1 Flash, Qwen3.8 27B और Gemma 4 VL 26B पर।
  • रीज़निंग मॉडल (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) रीज़निंग को max_tokens में गिनते हैं। डॉक्स की सलाह के मुताबिक़ 1,000 या उससे ज़्यादा टोकन छोड़ें, या reasoning_effort को low पर सेट करें; देखें रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाते हैं।
  • मॉडल लिस्ट ने जवाब दिया जब हमने 15 नवंबर 2026 को GET /v1/models कॉल किया, लेकिन यह डॉक्यूमेंटेड एंडपॉइंट की सूची में नहीं है, इसलिए इस पर निर्भर न रहें।
  • सीमाएँ: उपयोग के अनुसार भुगतान वाली key पर प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध।

प्रति 1M टोकन कीमतें: DeepSeek V4.1 Flash इनपुट $0.175 और आउटपुट $0.52, Gemma 4 VL 26B $0.10 और $0.22। DeepSeek V4.1 Flash फ़्लैट प्लान के रूप में भी मिलता है, प्रति सेशन $60 प्रति माह, एक समय में एक अनुरोध।

क्या कई प्रोवाइडर को एक ही base URL से रूट करना चाहिए?

अगर आपका ऐप इनमें से कई प्रोवाइडर को कॉल करता है, तो LiteLLM जैसा प्रॉक्सी आपके कोड को एक base URL देता है और मॉडल नामों को हर अपस्ट्रीम से मैप करता है। मैपिंग आप तय करते हैं; जब तक आप ख़ुद फ़ॉलबैक कॉन्फ़िगर न करें, कोई भी चीज़ आपके लिए प्रोवाइडर नहीं बदलती। LLM API फ़ेलओवर दिखाता है कि यह क्लाइंट में या LiteLLM में कैसे करें। LiteLLM प्रॉक्सी गाइड में BroadNet की एंट्री दी गई है। इस शब्द की पृष्ठभूमि के लिए OpenAI-compatible API देखें।

BroadNet Inference कहाँ फ़िट बैठता है

BroadNet आपके लिए ठीक है अगर आपका कोड पहले से chat completions इस्तेमाल करता है और आप एक ही key पर ओपन मॉडल, अरबी और बहुभाषी स्पीच-टू-टेक्स्ट, या फ़्लैट-रेट DeepSeek सेशन चाहते हैं। अगर आपको उसी प्रोवाइडर से embeddings, Responses API या इमेज जनरेशन चाहिए, तो यह सही नहीं है; Together AI और Gemini, OpenAI का ज़्यादा हिस्सा डॉक्यूमेंट करते हैं। शिप करने से पहले हमारी तालिका को हर प्रोवाइडर के डॉक्स से मिला लें, क्योंकि ये URL और एंडपॉइंट की सूचियाँ बदलती रहती हैं।

अक्सर पूछे जाने वाले सवाल

OpenAI API का base URL क्या है?

https://api.openai.com/v1। जब आप न baseURL सेट करते हैं और न OPENAI_BASE_URL एनवायरनमेंट वेरिएबल, तब आधिकारिक Node SDK यही इस्तेमाल करता है।

base_url के आख़िर में /v1 होना चाहिए या /chat/completions?

वहीं ख़त्म करें जहाँ प्रोवाइडर के डॉक्स ख़त्म करते हैं, आम तौर पर /v1 पर। SDK /chat/completions ख़ुद जोड़ता है, इसलिए जो base URL पहले से /chat/completions पर ख़त्म होता है, वह 404 देता है।

क्या मैं base URL एनवायरनमेंट वेरिएबल से सेट कर सकता हूँ?

हाँ। OpenAI के दोनों आधिकारिक SDK OPENAI_BASE_URL पढ़ते हैं, और उन पर बने कई टूल भी। इसके साथ OPENAI_API_KEY सेट करें, और हर टूल के डॉक्स देख लें, क्योंकि कुछ टूल अपने अलग वेरिएबल नाम इस्तेमाल करते हैं।

क्या Claude API, OpenAI-compatible है?

आंशिक रूप से। Anthropic, OpenAI SDK के लिए https://api.anthropic.com/v1/ देता है, लेकिन कहता है कि यह लेयर मुख्य रूप से मॉडलों की टेस्टिंग और तुलना के लिए है, लंबे समय के प्रोडक्शन के लिए नहीं। यह टूल पर strict को अनदेखा करती है और ऑडियो व फ़ाइल इनपुट अस्वीकार करती है।

BroadNet Inference कौन से एंडपॉइंट सपोर्ट करता है?

इसके डॉक्स में POST /v1/chat/completions और POST /v1/audio/transcriptions दिए गए हैं। embeddings, इमेज जनरेशन या Responses API का ज़िक्र नहीं है।

मेरा अनुरोध OpenAI पर चलता है, पर दूसरे प्रोवाइडर पर फ़ेल क्यों होता है?

आम तौर पर मॉडल ID ग़लत फ़ॉर्मैट में होता है, या कोई ऐसा पैरामीटर होता है जिसे प्रोवाइडर अस्वीकार करता है। उदाहरण के लिए, Groq logprobs, logit_bias, top_logprobs और messages[].name पर 400 लौटाता है। वैकल्पिक पैरामीटर हटाएँ और प्रोवाइडर के सटीक मॉडल ID के साथ फिर कोशिश करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें