---
title: "کسٹم api_base کے ساتھ LlamaIndex OpenAILike | BroadRouter"
description: "OpenAILike کلاس سے LlamaIndex کو BroadNet Inference سے جوڑیں، اور api_base، context_window، is_chat_model اور is_function_calling_model درست سیٹ کریں۔"
url: https://broadrouter.com/ur/guides/llamaindex-openailike/
lang: ur
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/guides/llamaindex-openailike/) (اپ ڈیٹ: 2026-11-16).

# OpenAILike کے ذریعے BroadNet Inference کے ساتھ LlamaIndex

اپ ڈیٹ 2026-11-16

llama-index-llms-openai-like انسٹال کریں اور OpenAILike بنائیں: model میں broadnet/glm-5.3 جیسا BroadNet ID، api\_base میں https://inference.broadnet.ai/v1، اپنی BroadNet کلید، context\_window میں ماڈل کا اصل کانٹیکسٹ، is\_chat\_model=True، اور is\_function\_calling\_model=True صرف GLM 5.3 یا Qwen3.8 27B کے لیے۔ اسے ہر جگہ استعمال کرنے کے لیے Settings.llm بنا دیں۔

LlamaIndex، RAG اور ایجنٹس کے لیے ایک Python فریم ورک ہے۔ OpenAI کے علاوہ کسی بھی OpenAI-compatible API کے لیے یہ `OpenAILike` کلاس فراہم کرتا ہے۔ BroadNet Inference، `https://inference.broadnet.ai/v1` پر معیاری chat completions فراہم کرتا ہے۔ BroadRouter، BroadNet کی اپنی سائٹ ہے؛ یہ گائیڈ `llama-index-llms-openai-like` 0.9.0 کے LlamaIndex API ریفرنس کے مطابق ہے۔

## انسٹال کریں

```bash
pip install llama-index-llms-openai-like
export BROADNET_API_KEY='your-broadnet-key'
```

## کنیکٹ اور ٹیسٹ کریں

```python
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    context_window=1048576,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.complete("Name three uses for a vector index."))
```

جواب پرنٹ ہو تو کلید، URL اور ماڈل ID درست ہیں۔

## چار اہم سیٹنگز

| پیرامیٹر | کیا سیٹ کریں | سیٹ نہ کریں تو ڈیفالٹ |
| --- | --- | --- |
| `is_chat_model` | `True` | `False`، جو پرانا completions اینڈ پوائنٹ استعمال کرتا ہے؛ BroadNet، chat completions فراہم کرتا ہے |
| `context_window` | ماڈل کا اصل کانٹیکسٹ | 3,900 ٹوکن |
| `is_function_calling_model` | `True` صرف GLM 5.3 یا Qwen3.8 27B کے لیے | `False` |
| `max_tokens` | 1,000 یا زیادہ | None (بھیجا نہیں جاتا، اس لیے سرور طے کرتا ہے) |

سب سے اہم `is_chat_model` ہے۔ API ریفرنس کہتا ہے کہ یہ “controls whether the model uses the chat or completion endpoint” (ترجمہ: طے کرتا ہے کہ ماڈل chat اینڈ پوائنٹ استعمال کرے یا completion اینڈ پوائنٹ)، اور اس کا ڈیفالٹ false ہے۔ BroadNet کی دستاویزات `/v1/chat/completions` درج کرتی ہیں، پرانا completions اینڈ پوائنٹ نہیں۔

## پوری ایپ میں استعمال کریں

```python
from llama_index.core import Settings

Settings.llm = llm
```

اس کے بعد query engines، chat engines اور ایجنٹس BroadNet استعمال کرتے ہیں۔ Embeddings الگ ہیں: BroadNet کا API ریفرنس کوئی embeddings اینڈ پوائنٹ درج نہیں کرتا، اس لیے انڈیکسنگ کے لیے کوئی دوسرا embedding ماڈل رکھیں۔

## کانٹیکسٹ ونڈوز

| ماڈل | ID | `context_window` | ٹولز |
| --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 1048576 | ہاں |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1048576 | درج نہیں |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262144 | ہاں |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32768 | درج نہیں |

1M ٹوکن کے کانٹیکسٹ سے query engine ہر کال میں کہیں زیادہ ری ٹریو کیے گئے chunks بھیج سکتا ہے۔ یہ ہمیشہ بہتر نہیں ہوتا؛ [long context بمقابلہ RAG](https://broadrouter.com/ur/blog/long-context-vs-rag/) دیکھیں۔

## مسائل کا حل

-   **401۔** کلید غلط ہے، اس کی میعاد ختم ہو گئی ہے یا الاؤنس ختم ہو گیا ہے۔
-   **404۔** `api_base` کے آخر میں `/v1` ہونا چاہیے، اور `is_chat_model` کو `True` ہونا چاہیے۔ پھر ماڈل ID جانچیں۔ پیڈ ماڈلز کے لیے ٹاپ اپ چاہیے؛ $5 کریڈٹ پر صرف `broadnet/gemma-4-26b-a4b` اور دو Transcribe ماڈلز چلتے ہیں۔
-   **خالی جوابات۔** آؤٹ پٹ بجٹ ریزننگ میں خرچ ہو گیا۔ `max_tokens` بڑھائیں۔ [جوابات خالی کیوں آتے ہیں](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)۔
-   **ایجنٹ کبھی ٹولز کال نہیں کرتا۔** `is_function_calling_model=True` سیٹ کریں اور `broadnet/glm-5.3` یا `broadnet/qwen3.8-27b` استعمال کریں۔
-   **انجیشن یا بیچ کوئریز کے دوران 429۔** استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے۔ OpenAILike ڈیفالٹ طور پر 3 بار دوبارہ کوشش کرتا ہے (`max_retries`)۔ [ایررز اور دوبارہ کوشش](https://broadrouter.com/ur/guides/errors-and-retries/) دیکھیں۔

## اس گائیڈ کی اصطلاحات

[ایمبیڈنگز (embeddings)](https://broadrouter.com/ur/glossary/embeddings/)

ایمبیڈنگز فلوٹنگ پوائنٹ اعداد کی فہرستیں (ویکٹرز) ہیں جو کوئی ماڈل متن، تصویر یا دوسرے ان پٹ کی نمائندگی کے لیے بناتا ہے۔ ملتے جلتے معنی والے ان پٹس کے ویکٹرز ایک دوسرے کے قریب ہوتے ہیں، اس لیے ویکٹرز کا فاصلہ سرچ نتائج کی درجہ بندی، دستاویزات کی گروہ بندی یا متعلقہ چیزوں کی تلاش میں کام آتا ہے۔

[استعمال کے مطابق ادائیگی (pay-as-you-go)](https://broadrouter.com/ur/glossary/pay-as-you-go/)

استعمال کے مطابق ادائیگی (pay-as-you-go) قیمت طے کرنے کا ایک ماڈل ہے جس میں آپ صرف اتنا دیتے ہیں جتنا استعمال کرتے ہیں، ٹوکن، درخواستوں یا آڈیو منٹ جیسی اکائیوں میں ناپ کر، بغیر سبسکرپشن یا کم از کم وابستگی کے۔ زیادہ تر LLM API اسی طرح بل بناتے ہیں، پری پیڈ بیلنس یا وقتاً فوقتاً بننے والی انوائس سے۔

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[کنکرنسی (concurrency)](https://broadrouter.com/ur/glossary/concurrency/)

کنکرنسی، کسی کلائنٹ کی بیک وقت چل رہی (in-flight) درخواستوں کی تعداد ہے۔ LLM APIs اکثر اس کی حد ہر کلید یا پلان پر، فی منٹ درخواستوں سے الگ رکھتے ہیں، کیونکہ ہر کھلی درخواست جواب مکمل ہونے تک GPU کی گنجائش گھیرے رکھتی ہے۔

[Chat Completions API](https://broadrouter.com/ur/glossary/chat-completions-api/)

Chat Completions API، OpenAI کا HTTP اینڈپوائنٹ POST /v1/chat/completions ہے، جو ایک ماڈل کا نام اور رول والے پیغامات کی فہرست لیتا ہے اور ماڈل کا اگلا پیغام لوٹاتا ہے۔ اس کی درخواست اور جواب کی ساخت وہ عام فارمیٹ بن گئی جسے OpenAI-compatible فراہم کنندگان اور SDKs اپناتے ہیں۔

[RAG (retrieval-augmented generation)](https://broadrouter.com/ur/glossary/rag/)

RAG (retrieval-augmented generation) ایک طریقہ ہے جس میں ایپلیکیشن پہلے کسی بیرونی اسٹور، جیسے سرچ یا ویکٹر انڈیکس، سے سوال سے متعلقہ حصے نکالتی ہے، اور پھر انہیں پرامپٹ میں جوڑتی ہے، تاکہ لینگویج ماڈل صرف اپنی یادداشت کے بجائے اس متن سے جواب دے سکے۔

[پری پیڈ کریڈٹ (prepaid credit)](https://broadrouter.com/ur/glossary/prepaid-credit/)

پری پیڈ کریڈٹ وہ رقم ہے جو استعمال سے پہلے API اکاؤنٹ میں ڈالی جاتی ہے۔ ہر درخواست کی لاگت بیلنس سے کٹتی ہے، اور بیلنس ختم ہونے پر میٹر والی درخواستیں تب تک رک جاتی ہیں جب تک آپ ٹاپ اپ نہ کریں۔ اس سے خرچ اتنا ہی رہتا ہے جتنا آپ نے جمع کیا ہے۔

[ریٹ لمٹ (rate limit)](https://broadrouter.com/ur/glossary/rate-limit/)

ریٹ لمٹ وہ حد ہے جو کوئی API طے کرتا ہے کہ ایک کلائنٹ کسی مدت میں اسے کتنا استعمال کر سکتا ہے، جیسے فی منٹ درخواستیں یا فی منٹ ٹوکن۔ حد سے زیادہ درخواستیں رد کر دی جاتی ہیں، عموماً HTTP 429 Too Many Requests کے ساتھ، جب تک استعمال دوبارہ حد سے نیچے نہ آ جائے۔

## عام سوالات

### LlamaIndex کی OpenAI کلاس کو الگ api\_base کے ساتھ کیوں نہ استعمال کریں؟

LlamaIndex کا اپنا OpenAI صفحہ کہتا ہے کہ سرکاری OpenAI API کے علاوہ کسی بھی OpenAI-compatible API کے لیے OpenAILike انٹیگریشن استعمال کریں۔ OpenAILike میں آپ کانٹیکسٹ ونڈو اور ٹول سپورٹ بھی خود بتا سکتے ہیں۔

### اگر میں context\_window چھوڑ دوں تو کیا ہوگا؟

OpenAILike کا ڈیفالٹ 3,900 ٹوکن ہے، اس لیے LlamaIndex پرامپٹس اور ری ٹریو کیے گئے chunks کو BroadNet کے ماڈلز کی گنجائش سے بہت کم پر کاٹ دیتا ہے۔ GLM 5.3 اور DeepSeek V4.1 Flash کے لیے 1048576، یا Qwen3.8 27B کے لیے 262144 سیٹ کریں۔

### کیا LlamaIndex کا FunctionAgent، BroadNet استعمال کر سکتا ہے؟

ہاں، is\_function\_calling\_model=True کے ساتھ، اس ماڈل پر جس کے لیے BroadNet ٹولز درج کرتا ہے: GLM 5.3 یا Qwen3.8 27B۔ DeepSeek V4.1 Flash کے لیے اسے False رکھیں، کیونکہ BroadNet کی دستاویزات اس کے لیے ٹول کالنگ درج نہیں کرتیں۔

### کیا BroadNet، LlamaIndex انڈیکس کے لیے embeddings فراہم کرتا ہے؟

BroadNet کا API ریفرنس chat completions اور آڈیو ٹرانسکرپشن درج کرتا ہے، embeddings نہیں۔ انڈیکس کے لیے الگ embedding ماڈل اور LLM کے لیے BroadNet استعمال کریں۔

## متعلقہ گائیڈز

-   [BroadNet Inference کے ساتھ LangChain استعمال کریں](https://broadrouter.com/ur/guides/langchain-openai-base-url/)
-   [BroadNet Inference کے ساتھ Pydantic AI (OpenAICompatibleProvider)](https://broadrouter.com/ur/guides/pydantic-ai-openai-compatible/)
-   [BroadNet Inference کے ساتھ OpenAI Python SDK استعمال کریں](https://broadrouter.com/ur/guides/openai-python-sdk/)
-   [ریزننگ ماڈل خالی جواب کیوں لوٹاتا ہے](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference کے ساتھ کام کرنے والے تمام ٹولز (انگریزی میں)](https://broadrouter.com/integrations/): SDKs، کوڈنگ ایجنٹس، چیٹ انٹرفیس اور آٹومیشن ٹولز، ہر ایک کی درست سیٹنگز کے ساتھ

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-llamaindex-openailike&utm_content=page-cta) ·

**ذرائع**

-   [LlamaIndex API ریفرنس، OpenAILike (2026-11-15 کو جانچا گیا)](https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/)
-   [LlamaIndex دستاویزات، OpenAILike کی مثال (Grok انٹیگریشن صفحہ) (2026-11-15 کو جانچا گیا)](https://developers.llamaindex.ai/python/framework/integrations/llm/grok/)
-   [LlamaIndex دستاویزات، OpenAI LLM صفحہ (compatible APIs کے لیے OpenAILike تجویز کرتا ہے) (2026-11-15 کو جانچا گیا)](https://developers.llamaindex.ai/python/framework/integrations/llm/openai/)
-   [PyPI، llama-index-llms-openai-like 0.9.0، Python 3.11+ (2026-11-15 کو جانچا گیا)](https://pypi.org/project/llama-index-llms-openai-like/)
-   [LlamaIndex سورس، OpenAI LLM میں max\_tokens کا ڈیفالٹ اور payload (2026-11-16 کو جانچا گیا)](https://github.com/run-llama/llama_index/blob/main/llama-index-integrations/llms/llama-index-llms-openai/llama_index/llms/openai/base.py)
-   [BroadNet Inference API ریفرنس (2026-11-15 کو جانچا گیا) (انگریزی میں)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-llamaindex-openailike&utm_content=sources)
