BroadRouter
شروع کریں

OpenAI-compatible API کے base URL: 14 فراہم کنندگان، جانچ شدہ

BroadNet Inference ٹیم · 6 منٹ کی پڑھائی · شائع شدہ

OpenAI-compatible API میں آپ OpenAI SDK برقرار رکھتے ہیں اور صرف دو چیزیں بدلتے ہیں: base_url اور API کلید۔ base URL ہر فراہم کنندہ کا الگ ہے، مثلاً Groq کے لیے https://api.groq.com/openai/v1، OpenRouter کے لیے https://openrouter.ai/api/v1 اور BroadNet Inference کے لیے https://inference.broadnet.ai/v1۔ پاتھ، ماڈل ID اور معاون پیرامیٹرز پھر بھی مختلف ہوتے ہیں، اس لیے تبدیلی سے پہلے ایک درخواست ٹیسٹ کریں۔

OpenAI-compatible API وہی درخواست کا ڈھانچہ قبول کرتا ہے جو OpenAI کا API کرتا ہے، اس لیے base_url اور API کلید بدلنے کے بعد OpenAI کے آفیشل SDK چل جاتے ہیں۔ مشکل یہ ہے کہ ہر فراہم کنندہ اپنا اینڈپوائنٹ تھوڑی مختلف جگہ رکھتا ہے۔ نیچے کے جدول میں 14 فراہم کنندگان ہیں، ہر ایک 15 نومبر 2026 کو فراہم کنندہ کی اپنی دستاویزات سے پڑھا گیا۔

ہر OpenAI-compatible فراہم کنندہ کا base URL کیا ہے؟

فراہم کنندہ Base URL اس کی OpenAI-compatibility دستاویزات میں کیا درج ہے دستاویزات میں بتائی گئی باریکیاں
OpenAI https://api.openai.com/v1 سب کچھ؛ یہی ریفرنس ہے کچھ سیٹ نہ ہو تو SDK کا ڈیفالٹ
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (ترجمہ: ”بنیادی طور پر ماڈل کی صلاحیتوں کو ٹیسٹ کرنے اور موازنہ کرنے کے لیے“)؛ strict نظر انداز؛ آڈیو اور فائل ان پٹ پر 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions، embeddings، تصویر بنانا، models، batch OpenAI لائبریری کی سپورٹ “still in beta” (ترجمہ: ”ابھی بیٹا میں“)؛ Responses API درج نہیں
DeepSeek https://api.deepseek.com Chat completions کوئی ورژن پاتھ نہیں؛ Anthropic فارمیٹ کے لیے الگ URL /anthropic پر
Groq https://api.groq.com/openai/v1 Chat completions، Responses API؛ آڈیو ٹرانسکرپشن پر نوٹس logprobs، logit_bias، top_logprobs، messages[].name پر 400؛ n کا 1 ہونا لازمی؛ srt یا vtt ٹرانسکرپٹ نہیں
Together AI https://api.together.ai/v1 Chat، completions، تصاویر، اسپیچ، ٹرانسکرپشن، models، Responses صرف امریکہ میں انفرنس https://us-api.together.ai/v1 پر؛ embeddings صرف مخصوص اینڈپوائنٹس پر
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions ماڈل ID accounts/fireworks/models/… جیسے؛ جب تک منع نہ کیا جائے، ایرر دینے کی بجائے max_tokens کم کر کے کانٹیکسٹ میں فٹ کر دیتا ہے
DeepInfra https://api.deepinfra.com/v1/openai Chat completions؛ Responses کلائنٹس بھی یہی base استعمال کرتے ہیں Embeddings، تصاویر اور اسپیچ ایک الگ صفحے پر دستاویز شدہ
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions اس کا API ریفرنس خود کو OpenAI-compatible نہیں کہتا؛ بھروسہ کرنے سے پہلے ٹیسٹ کریں
OpenRouter https://openrouter.ai/api/v1 Chat completions اس کی رینکنگ کے لیے اختیاری HTTP-Referer اور X-OpenRouter-Title ہیڈرز
xAI https://api.x.ai/v1 Responses API اس کی گائیڈ کہتی ہے “The Responses API is the preferred way of interacting with our models” (ترجمہ: ”ہمارے ماڈلز کے ساتھ کام کرنے کا پسندیدہ طریقہ Responses API ہے“)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions v4 پاتھ، v1 نہیں
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (سنگاپور) Chat completions ہوسٹ میں Workspace ID؛ کلید صرف اسی ریجن میں چلتی ہے جہاں بنائی گئی، ورنہ 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions، audio transcriptions ماڈل ID broadnet/ سے شروع ہوتے ہیں؛ نیچے دیکھیں

Alibaba، us-east-1 پر امریکہ (ورجینیا) کا ایک اینڈپوائنٹ بھی دیتا ہے۔ اسی صفحے پر بیجنگ والی قطار سنگاپور کا ہوسٹ دکھاتی ہے، جبکہ صفحے کا باقی متن cn-beijing بتاتا ہے، اس لیے چین کا اینڈپوائنٹ کنسول میں پکا کر لیں۔ یہ جدول ایک اسنیپ شاٹ ہے۔ اینڈپوائنٹس بدلتے رہتے ہیں: ہماری جانچ کے دوران ہی Anthropic اور Google، دونوں کی دستاویزات نئے پتوں پر ری ڈائریکٹ ہوئیں۔

ان فراہم کنندگان کی قیمتوں کے لیے فراہم کنندہ کے لحاظ سے LLM API قیمتیں والے صفحات دیکھیں۔

کوڈ میں base URL کیسے سیٹ کریں؟

Python میں کلائنٹ کو base_url دیں:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

Node میں یہ آپشن baseURL ہے:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

یا اسے ایک بار ان تمام ٹولز کے لیے سیٹ کر دیں جو آفیشل SDK استعمال کرتے ہیں۔ Node SDK کے سورس میں baseURL کا ڈیفالٹ پہلے process.env['OPENAI_BASE_URL'] ہے، پھر https://api.openai.com/v1؛ Python README بھی یہی ویری ایبل دستاویز کرتا ہے:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

مکمل گائیڈز: OpenAI Python SDK، OpenAI Node SDK۔ base URL کیا ہے اور ٹولز اسے کیوں مانگتے ہیں، یہ اصطلاحات کے صفحے پر دیکھیں۔

curl سے نئے base URL کو کیسے ٹیسٹ کریں؟

ایپلیکیشن کا کوئی بھی کوڈ بدلنے سے پہلے ایک چھوٹی سی درخواست بھیجیں:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

جس فراہم کنندہ کو ٹیسٹ کر رہے ہیں، اس کا base URL، کلید اور ماڈل ڈالیں۔ choices ارے کے ساتھ 200 کا مطلب ہے کہ پاتھ، کلید اور ماڈل ID درست ہیں۔ 404 کا مطلب عموماً غلط پاتھ ہے؛ 401 کا مطلب غلط کلید یا ریجن؛ 400 اکثر وہ پیرامیٹر بتاتا ہے جسے فراہم کنندہ مسترد کرتا ہے۔ curl کوئک اسٹارٹ میں مزید مثالیں ہیں، اور API ریکویسٹ بلڈر آپ کے لیے curl، Python اور Node ورژن لکھ دیتا ہے۔

base_url بدلتے وقت عام غلطیاں کیا ہیں؟

  • پورا اینڈپوائنٹ پیسٹ کرنا۔ SDK /chat/completions خود جوڑتا ہے۔ جو base URL پہلے سے اس پر ختم ہو، وہ /chat/completions/chat/completions بناتا ہے اور 404 دیتا ہے۔
  • عادتاً /v1 جوڑنا یا ہٹانا۔ DeepSeek کے دستاویز شدہ base میں /v1 نہیں ہے، Z.ai کا /v4/ پر ختم ہوتا ہے اور Gemini کا /v1beta/openai/ پر۔ فراہم کنندہ کی بالکل وہی اسٹرنگ کاپی کریں۔
  • OpenAI کے ماڈل نام برقرار رکھنا۔ gpt-… نام دوسری جگہ ناکام ہوتے ہیں۔ ہر فراہم کنندہ کا اپنا فارمیٹ ہے: DeepInfra پر deepseek-ai/DeepSeek-V4-Flash-0731، Fireworks پر accounts/fireworks/models/…، BroadNet پر broadnet/deepseek-v4.1-flash۔
  • ایسے پیرامیٹرز بھیجنا جنہیں فراہم کنندہ مسترد یا نظر انداز کرتا ہے۔ Groq، logprobs پر 400 لوٹاتا ہے؛ Anthropic کی لیئر seed، logit_bias اور reasoning_effort کو خاموشی سے نظر انداز کر دیتی ہے۔ خاموشی سے نظر انداز کیا گیا پیرامیٹر ایرر سے بھی برا ہے، کیونکہ آپ کو کچھ پتا ہی نہیں چلتا۔
  • یہ فرض کرنا کہ ریسپانس فیلڈز وہی ہوں گی۔ Anthropic کی لیئر خالی prompt_tokens_details لوٹاتی ہے، اس لیے کیش شدہ ٹوکن کی رپورٹنگ نہیں ملتی۔ Fireworks اسٹریمنگ usage آخری chunk میں رکھتا ہے، جسے SDK کی ٹائپس شاید ڈکلیئر نہ کریں۔
  • یہ فرض کرنا کہ ہر اینڈپوائنٹ موجود ہے۔ ”OpenAI-compatible“ کا مطلب عموماً chat completions ہوتا ہے۔ Embeddings، آڈیو، تصویر بنانا اور Responses API الگ سوال ہیں، جیسا کہ جدول دکھاتا ہے۔
  • ریجن ملا دینا۔ Alibaba کی کلیدیں ایک ریجن سے بندھی ہوتی ہیں، اور Together صرف امریکہ کے لیے ایک الگ ہوسٹ دیتا ہے۔ درست کلید بھی غلط ہوسٹ پر ناکام ہوتی ہے۔

تبدیلی سے پہلے کی مکمل فہرست OpenAI-compatible مائیگریشن چیک لسٹ میں ہے۔

BroadNet Inference کون سے اینڈپوائنٹس سپورٹ کرتا ہے؟

BroadNet کا API ریفرنس https://inference.broadnet.ai/v1 پر دو ماڈل اینڈپوائنٹس دستاویز کرتا ہے، اور کیٹلاگ میٹا ڈیٹا کے لیے GET /v1/models:

اینڈپوائنٹ ماڈلز
POST /v1/chat/completions DeepSeek V4.1 Flash، GLM 5.3، Qwen3.8 27B، BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic، BroadNet Transcribe (14 زبانیں)

عملی طور پر اس کا مطلب:

  • Embeddings، تصویر بنانا یا Responses API دستاویز شدہ نہیں ہیں۔ جس ٹول کو ان میں سے کوئی چاہیے، اسے اس حصے کے لیے دوسرا فراہم کنندہ چاہیے ہوگا۔
  • ٹول کالنگ اور اسٹرکچرڈ آؤٹ پٹ GLM 5.3 اور Qwen3.8 27B کے لیے دستاویز شدہ ہیں۔
  • تصاویر data: URL کی صورت میں جاتی ہیں، image_url کنٹینٹ پارٹس کے اندر، DeepSeek V4.1 Flash، Qwen3.8 27B اور Gemma 4 VL 26B پر۔
  • ریزننگ ماڈلز (DeepSeek V4.1 Flash، GLM 5.3، Qwen3.8 27B) ریزننگ کو max_tokens میں گنتے ہیں۔ دستاویزات کے مشورے کے مطابق 1,000 یا اس سے زیادہ ٹوکن چھوڑیں، یا reasoning_effort کو low پر سیٹ کریں؛ دیکھیں ریزننگ ماڈلز خالی جواب کیوں دیتے ہیں۔
  • ماڈلز کی فہرست نے جواب دیا جب ہم نے 15 نومبر 2026 کو GET /v1/models کال کیا، لیکن یہ دستاویز شدہ اینڈپوائنٹس کی فہرست میں نہیں ہے، اس لیے اس پر انحصار نہ کریں۔
  • حدیں: استعمال کے مطابق ادائیگی والی کلیدوں پر فی منٹ 30 درخواستیں اور بیک وقت 4 جاری درخواستیں۔

فی 1M ٹوکن قیمتیں: DeepSeek V4.1 Flash ان پٹ $0.175 اور آؤٹ پٹ $0.52، Gemma 4 VL 26B $0.10 اور $0.22۔ DeepSeek V4.1 Flash مقررہ قیمت والے پلان کے طور پر بھی ملتا ہے، فی سیشن $60 ماہانہ، ایک وقت میں ایک درخواست۔

کیا کئی فراہم کنندگان کو ایک ہی base URL سے روٹ کرنا چاہیے؟

اگر آپ کی ایپ ان میں سے کئی فراہم کنندگان کو کال کرتی ہے، تو LiteLLM جیسا پراکسی آپ کے کوڈ کو ایک base URL دیتا ہے اور ماڈل ناموں کو ہر اپ اسٹریم سے میپ کرتا ہے۔ میپنگ آپ طے کرتے ہیں؛ جب تک آپ خود فال بیک کنفیگر نہ کریں، کوئی چیز آپ کے لیے فراہم کنندہ نہیں بدلتی۔ LLM API فیل اوور دکھاتا ہے کہ یہ کلائنٹ میں یا LiteLLM میں کیسے کریں۔ LiteLLM پراکسی گائیڈ میں BroadNet کی اینٹری دی گئی ہے۔ اس اصطلاح کے پس منظر کے لیے OpenAI-compatible API دیکھیں۔

BroadNet Inference کہاں فٹ بیٹھتا ہے

BroadNet آپ کے لیے موزوں ہے اگر آپ کا کوڈ پہلے سے chat completions استعمال کرتا ہے اور آپ ایک ہی کلید پر اوپن ماڈلز، عربی اور کثیر لسانی اسپیچ ٹو ٹیکسٹ، یا مقررہ قیمت والا DeepSeek سیشن چاہتے ہیں۔ اگر آپ کو اسی فراہم کنندہ سے embeddings، Responses API یا تصویر بنانے کی سہولت چاہیے تو یہ موزوں نہیں؛ Together AI اور Gemini، OpenAI کا زیادہ حصہ دستاویز کرتے ہیں۔ شپ کرنے سے پہلے ہمارا جدول ہر فراہم کنندہ کی دستاویزات سے ملا لیں، کیونکہ یہ URL اور اینڈپوائنٹس کی فہرستیں بدلتی رہتی ہیں۔

عام سوالات

OpenAI API کا base URL کیا ہے؟

https://api.openai.com/v1۔ جب آپ نہ baseURL سیٹ کرتے ہیں اور نہ OPENAI_BASE_URL انوائرنمنٹ ویری ایبل، تو آفیشل Node SDK یہی استعمال کرتا ہے۔

base_url کے آخر میں /v1 ہونا چاہیے یا /chat/completions؟

وہیں ختم کریں جہاں فراہم کنندہ کی دستاویزات ختم کرتی ہیں، عموماً /v1 پر۔ SDK /chat/completions خود جوڑتا ہے، اس لیے جو base URL پہلے سے /chat/completions پر ختم ہو، وہ 404 دیتا ہے۔

کیا میں base URL انوائرنمنٹ ویری ایبل سے سیٹ کر سکتا ہوں؟

جی ہاں۔ OpenAI کے دونوں آفیشل SDK، OPENAI_BASE_URL پڑھتے ہیں، اور ان پر بنے کئی ٹولز بھی۔ اس کے ساتھ OPENAI_API_KEY سیٹ کریں، اور ہر ٹول کی دستاویزات دیکھ لیں، کیونکہ کچھ ٹولز اپنے الگ ویری ایبل نام استعمال کرتے ہیں۔

کیا Claude API، OpenAI-compatible ہے؟

جزوی طور پر۔ Anthropic، OpenAI SDK کے لیے https://api.anthropic.com/v1/ دیتا ہے، لیکن کہتا ہے کہ یہ لیئر بنیادی طور پر ماڈلز کی ٹیسٹنگ اور موازنے کے لیے ہے، طویل مدتی پروڈکشن کے لیے نہیں۔ یہ ٹولز پر strict کو نظر انداز کرتی ہے اور آڈیو اور فائل ان پٹ مسترد کرتی ہے۔

BroadNet Inference کون سے اینڈپوائنٹس سپورٹ کرتا ہے؟

اس کی دستاویزات میں POST /v1/chat/completions اور POST /v1/audio/transcriptions درج ہیں۔ embeddings، تصویر بنانے یا Responses API کا ذکر نہیں ہے۔

میری درخواست OpenAI پر چلتی ہے مگر دوسرے فراہم کنندہ پر کیوں ناکام ہوتی ہے؟

عموماً ماڈل ID غلط فارمیٹ میں ہوتا ہے، یا کوئی ایسا پیرامیٹر ہوتا ہے جسے فراہم کنندہ مسترد کرتا ہے۔ مثال کے طور پر Groq، logprobs، logit_bias، top_logprobs اور messages[].name پر 400 لوٹاتا ہے۔ اختیاری پیرامیٹرز ہٹائیں اور فراہم کنندہ کے درست ماڈل ID کے ساتھ دوبارہ کوشش کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں