OpenAI-compatible API وہی درخواست کا ڈھانچہ قبول کرتا ہے جو OpenAI کا API کرتا ہے، اس لیے base_url اور API کلید بدلنے کے بعد OpenAI کے آفیشل SDK چل جاتے ہیں۔ مشکل یہ ہے کہ ہر فراہم کنندہ اپنا اینڈپوائنٹ تھوڑی مختلف جگہ رکھتا ہے۔ نیچے کے جدول میں 14 فراہم کنندگان ہیں، ہر ایک 15 نومبر 2026 کو فراہم کنندہ کی اپنی دستاویزات سے پڑھا گیا۔
ہر OpenAI-compatible فراہم کنندہ کا base URL کیا ہے؟
| فراہم کنندہ | Base URL | اس کی OpenAI-compatibility دستاویزات میں کیا درج ہے | دستاویزات میں بتائی گئی باریکیاں |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
سب کچھ؛ یہی ریفرنس ہے | کچھ سیٹ نہ ہو تو SDK کا ڈیفالٹ |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (ترجمہ: ”بنیادی طور پر ماڈل کی صلاحیتوں کو ٹیسٹ کرنے اور موازنہ کرنے کے لیے“)؛ strict نظر انداز؛ آڈیو اور فائل ان پٹ پر 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions، embeddings، تصویر بنانا، models، batch | OpenAI لائبریری کی سپورٹ “still in beta” (ترجمہ: ”ابھی بیٹا میں“)؛ Responses API درج نہیں |
| DeepSeek | https://api.deepseek.com |
Chat completions | کوئی ورژن پاتھ نہیں؛ Anthropic فارمیٹ کے لیے الگ URL /anthropic پر |
| Groq | https://api.groq.com/openai/v1 |
Chat completions، Responses API؛ آڈیو ٹرانسکرپشن پر نوٹس | logprobs، logit_bias، top_logprobs، messages[].name پر 400؛ n کا 1 ہونا لازمی؛ srt یا vtt ٹرانسکرپٹ نہیں |
| Together AI | https://api.together.ai/v1 |
Chat، completions، تصاویر، اسپیچ، ٹرانسکرپشن، models، Responses | صرف امریکہ میں انفرنس https://us-api.together.ai/v1 پر؛ embeddings صرف مخصوص اینڈپوائنٹس پر |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | ماڈل ID accounts/fireworks/models/… جیسے؛ جب تک منع نہ کیا جائے، ایرر دینے کی بجائے max_tokens کم کر کے کانٹیکسٹ میں فٹ کر دیتا ہے |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions؛ Responses کلائنٹس بھی یہی base استعمال کرتے ہیں | Embeddings، تصاویر اور اسپیچ ایک الگ صفحے پر دستاویز شدہ |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
اس کا API ریفرنس خود کو OpenAI-compatible نہیں کہتا؛ بھروسہ کرنے سے پہلے ٹیسٹ کریں |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | اس کی رینکنگ کے لیے اختیاری HTTP-Referer اور X-OpenRouter-Title ہیڈرز |
| xAI | https://api.x.ai/v1 |
Responses API | اس کی گائیڈ کہتی ہے “The Responses API is the preferred way of interacting with our models” (ترجمہ: ”ہمارے ماڈلز کے ساتھ کام کرنے کا پسندیدہ طریقہ Responses API ہے“) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | v4 پاتھ، v1 نہیں |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (سنگاپور) |
Chat completions | ہوسٹ میں Workspace ID؛ کلید صرف اسی ریجن میں چلتی ہے جہاں بنائی گئی، ورنہ 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions، audio transcriptions | ماڈل ID broadnet/ سے شروع ہوتے ہیں؛ نیچے دیکھیں |
Alibaba، us-east-1 پر امریکہ (ورجینیا) کا ایک اینڈپوائنٹ بھی دیتا ہے۔ اسی صفحے پر بیجنگ والی قطار سنگاپور کا ہوسٹ دکھاتی ہے، جبکہ صفحے کا باقی متن cn-beijing بتاتا ہے، اس لیے چین کا اینڈپوائنٹ کنسول میں پکا کر لیں۔ یہ جدول ایک اسنیپ شاٹ ہے۔ اینڈپوائنٹس بدلتے رہتے ہیں: ہماری جانچ کے دوران ہی Anthropic اور Google، دونوں کی دستاویزات نئے پتوں پر ری ڈائریکٹ ہوئیں۔
ان فراہم کنندگان کی قیمتوں کے لیے فراہم کنندہ کے لحاظ سے LLM API قیمتیں والے صفحات دیکھیں۔
کوڈ میں base URL کیسے سیٹ کریں؟
Python میں کلائنٹ کو base_url دیں:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Node میں یہ آپشن baseURL ہے:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
یا اسے ایک بار ان تمام ٹولز کے لیے سیٹ کر دیں جو آفیشل SDK استعمال کرتے ہیں۔ Node SDK کے سورس میں baseURL کا ڈیفالٹ پہلے process.env['OPENAI_BASE_URL'] ہے، پھر https://api.openai.com/v1؛ Python README بھی یہی ویری ایبل دستاویز کرتا ہے:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
مکمل گائیڈز: OpenAI Python SDK، OpenAI Node SDK۔ base URL کیا ہے اور ٹولز اسے کیوں مانگتے ہیں، یہ اصطلاحات کے صفحے پر دیکھیں۔
curl سے نئے base URL کو کیسے ٹیسٹ کریں؟
ایپلیکیشن کا کوئی بھی کوڈ بدلنے سے پہلے ایک چھوٹی سی درخواست بھیجیں:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
جس فراہم کنندہ کو ٹیسٹ کر رہے ہیں، اس کا base URL، کلید اور ماڈل ڈالیں۔ choices ارے کے ساتھ 200 کا مطلب ہے کہ پاتھ، کلید اور ماڈل ID درست ہیں۔ 404 کا مطلب عموماً غلط پاتھ ہے؛ 401 کا مطلب غلط کلید یا ریجن؛ 400 اکثر وہ پیرامیٹر بتاتا ہے جسے فراہم کنندہ مسترد کرتا ہے۔ curl کوئک اسٹارٹ میں مزید مثالیں ہیں، اور API ریکویسٹ بلڈر آپ کے لیے curl، Python اور Node ورژن لکھ دیتا ہے۔
base_url بدلتے وقت عام غلطیاں کیا ہیں؟
- پورا اینڈپوائنٹ پیسٹ کرنا۔ SDK
/chat/completionsخود جوڑتا ہے۔ جو base URL پہلے سے اس پر ختم ہو، وہ/chat/completions/chat/completionsبناتا ہے اور 404 دیتا ہے۔ - عادتاً
/v1جوڑنا یا ہٹانا۔ DeepSeek کے دستاویز شدہ base میں/v1نہیں ہے، Z.ai کا/v4/پر ختم ہوتا ہے اور Gemini کا/v1beta/openai/پر۔ فراہم کنندہ کی بالکل وہی اسٹرنگ کاپی کریں۔ - OpenAI کے ماڈل نام برقرار رکھنا۔
gpt-…نام دوسری جگہ ناکام ہوتے ہیں۔ ہر فراہم کنندہ کا اپنا فارمیٹ ہے: DeepInfra پرdeepseek-ai/DeepSeek-V4-Flash-0731، Fireworks پرaccounts/fireworks/models/…، BroadNet پرbroadnet/deepseek-v4.1-flash۔ - ایسے پیرامیٹرز بھیجنا جنہیں فراہم کنندہ مسترد یا نظر انداز کرتا ہے۔ Groq،
logprobsپر 400 لوٹاتا ہے؛ Anthropic کی لیئرseed،logit_biasاورreasoning_effortکو خاموشی سے نظر انداز کر دیتی ہے۔ خاموشی سے نظر انداز کیا گیا پیرامیٹر ایرر سے بھی برا ہے، کیونکہ آپ کو کچھ پتا ہی نہیں چلتا۔ - یہ فرض کرنا کہ ریسپانس فیلڈز وہی ہوں گی۔ Anthropic کی لیئر خالی
prompt_tokens_detailsلوٹاتی ہے، اس لیے کیش شدہ ٹوکن کی رپورٹنگ نہیں ملتی۔ Fireworks اسٹریمنگ usage آخری chunk میں رکھتا ہے، جسے SDK کی ٹائپس شاید ڈکلیئر نہ کریں۔ - یہ فرض کرنا کہ ہر اینڈپوائنٹ موجود ہے۔ ”OpenAI-compatible“ کا مطلب عموماً chat completions ہوتا ہے۔ Embeddings، آڈیو، تصویر بنانا اور Responses API الگ سوال ہیں، جیسا کہ جدول دکھاتا ہے۔
- ریجن ملا دینا۔ Alibaba کی کلیدیں ایک ریجن سے بندھی ہوتی ہیں، اور Together صرف امریکہ کے لیے ایک الگ ہوسٹ دیتا ہے۔ درست کلید بھی غلط ہوسٹ پر ناکام ہوتی ہے۔
تبدیلی سے پہلے کی مکمل فہرست OpenAI-compatible مائیگریشن چیک لسٹ میں ہے۔
BroadNet Inference کون سے اینڈپوائنٹس سپورٹ کرتا ہے؟
BroadNet کا API ریفرنس https://inference.broadnet.ai/v1 پر دو ماڈل اینڈپوائنٹس دستاویز کرتا ہے، اور کیٹلاگ میٹا ڈیٹا کے لیے GET /v1/models:
| اینڈپوائنٹ | ماڈلز |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash، GLM 5.3، Qwen3.8 27B، BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic، BroadNet Transcribe (14 زبانیں) |
عملی طور پر اس کا مطلب:
- Embeddings، تصویر بنانا یا Responses API دستاویز شدہ نہیں ہیں۔ جس ٹول کو ان میں سے کوئی چاہیے، اسے اس حصے کے لیے دوسرا فراہم کنندہ چاہیے ہوگا۔
- ٹول کالنگ اور اسٹرکچرڈ آؤٹ پٹ GLM 5.3 اور Qwen3.8 27B کے لیے دستاویز شدہ ہیں۔
- تصاویر
data:URL کی صورت میں جاتی ہیں،image_urlکنٹینٹ پارٹس کے اندر، DeepSeek V4.1 Flash، Qwen3.8 27B اور Gemma 4 VL 26B پر۔ - ریزننگ ماڈلز (DeepSeek V4.1 Flash، GLM 5.3، Qwen3.8 27B) ریزننگ کو
max_tokensمیں گنتے ہیں۔ دستاویزات کے مشورے کے مطابق 1,000 یا اس سے زیادہ ٹوکن چھوڑیں، یاreasoning_effortکوlowپر سیٹ کریں؛ دیکھیں ریزننگ ماڈلز خالی جواب کیوں دیتے ہیں۔ - ماڈلز کی فہرست نے جواب دیا جب ہم نے 15 نومبر 2026 کو
GET /v1/modelsکال کیا، لیکن یہ دستاویز شدہ اینڈپوائنٹس کی فہرست میں نہیں ہے، اس لیے اس پر انحصار نہ کریں۔ - حدیں: استعمال کے مطابق ادائیگی والی کلیدوں پر فی منٹ 30 درخواستیں اور بیک وقت 4 جاری درخواستیں۔
فی 1M ٹوکن قیمتیں: DeepSeek V4.1 Flash ان پٹ $0.175 اور آؤٹ پٹ $0.52، Gemma 4 VL 26B $0.10 اور $0.22۔ DeepSeek V4.1 Flash مقررہ قیمت والے پلان کے طور پر بھی ملتا ہے، فی سیشن $60 ماہانہ، ایک وقت میں ایک درخواست۔
کیا کئی فراہم کنندگان کو ایک ہی base URL سے روٹ کرنا چاہیے؟
اگر آپ کی ایپ ان میں سے کئی فراہم کنندگان کو کال کرتی ہے، تو LiteLLM جیسا پراکسی آپ کے کوڈ کو ایک base URL دیتا ہے اور ماڈل ناموں کو ہر اپ اسٹریم سے میپ کرتا ہے۔ میپنگ آپ طے کرتے ہیں؛ جب تک آپ خود فال بیک کنفیگر نہ کریں، کوئی چیز آپ کے لیے فراہم کنندہ نہیں بدلتی۔ LLM API فیل اوور دکھاتا ہے کہ یہ کلائنٹ میں یا LiteLLM میں کیسے کریں۔ LiteLLM پراکسی گائیڈ میں BroadNet کی اینٹری دی گئی ہے۔ اس اصطلاح کے پس منظر کے لیے OpenAI-compatible API دیکھیں۔
BroadNet Inference کہاں فٹ بیٹھتا ہے
BroadNet آپ کے لیے موزوں ہے اگر آپ کا کوڈ پہلے سے chat completions استعمال کرتا ہے اور آپ ایک ہی کلید پر اوپن ماڈلز، عربی اور کثیر لسانی اسپیچ ٹو ٹیکسٹ، یا مقررہ قیمت والا DeepSeek سیشن چاہتے ہیں۔ اگر آپ کو اسی فراہم کنندہ سے embeddings، Responses API یا تصویر بنانے کی سہولت چاہیے تو یہ موزوں نہیں؛ Together AI اور Gemini، OpenAI کا زیادہ حصہ دستاویز کرتے ہیں۔ شپ کرنے سے پہلے ہمارا جدول ہر فراہم کنندہ کی دستاویزات سے ملا لیں، کیونکہ یہ URL اور اینڈپوائنٹس کی فہرستیں بدلتی رہتی ہیں۔
