---
title: "LLM کا ٹوٹا JSON ٹھیک کریں: وجوہات، مرمت، دوبارہ کوشش"
description: "LLM ٹوٹا JSON کیوں لوٹاتے ہیں (کوڈ فینس، نثر، max_tokens پر کٹاؤ، ٹریلنگ کوما) اور ایک ٹیسٹ شدہ Python فنکشن جو محفوظ چیزیں ٹھیک کرے، باقی رد کرے۔"
url: https://broadrouter.com/ur/blog/fix-invalid-json-from-llm/
lang: ur
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/blog/fix-invalid-json-from-llm/) (اپ ڈیٹ: 2026-11-16).

# LLM کا غلط JSON کیسے ٹھیک کریں: وجوہات، مرمت، دوبارہ کوشش

BroadNet Inference ٹیم · 7 منٹ کی پڑھائی · شائع شدہ 2026-11-15 · اپ ڈیٹ 2026-11-16

پہلے finish\_reason دیکھیں: max\_tokens پر کٹا جواب محفوظ طریقے سے ٹھیک نہیں ہو سکتا، اس لیے حد بڑھا کر دوبارہ بھیجیں۔ ورنہ کوڈ فینس اور آس پاس کی نثر ہٹائیں، پہلی JSON ویلیو ڈی کوڈ کریں، پھر صرف ٹریلنگ کوما جیسی واضح غلطیاں ٹھیک کریں۔ اسکیما سے تصدیق کریں، اور ناکام ہو تو عین ایرر ایک دو بار واپس بھیجیں۔ جہاں سپورٹ ہو، اسٹرکچرڈ آؤٹ پٹ ان میں سے زیادہ تر روکتا ہے۔

## اہم نکات

-   زیادہ تر ٹوٹا JSON دراصل غلط JSON نہیں بلکہ لپیٹ ہے: کوڈ فینس، پہلے یا بعد میں ایک جملہ، یا ریزننگ بلاک۔ Python کا raw\_decode پہلی ویلیو پڑھتا ہے اور باقی کو نظرانداز کرتا ہے۔
-   finish\_reason "length" کا مطلب ہے JSON کٹ گیا۔ بریکٹ بند کرنے سے وہ پارس تو ہو جاتا ہے لیکن ڈیٹا خاموشی سے ضائع ہو جاتا ہے، اس لیے زیادہ جگہ دے کر دوبارہ بھیجیں۔
-   صرف وہی ٹھیک کریں جس کا ایک ہی مطلب ہو: ٹریلنگ کوما، Python انداز کے True/None اور سنگل کوٹس۔ باقی سب رد کریں اور دوبارہ مانگیں۔
-   Python کا json ماڈیول بطور ڈیفالٹ NaN اور Infinity قبول کرتا ہے؛ RFC 8259 نہیں کرتا۔ انہیں رد کریں، ورنہ آگے کے دوسرے پارسر ناکام ہوں گے۔
-   BroadNet Inference پر صرف GLM 5.3 اور Qwen3.8 27B اسٹرکچرڈ آؤٹ پٹ درج کرتے ہیں۔ باقی ماڈلز پر صرف پرامپٹ والا JSON اس مرمت اور تصدیق کے ساتھ استعمال کریں۔

**اس صفحے پر**

1.  LLM غلط JSON کیوں لوٹاتے ہیں؟
2.  کٹے ہوئے JSON کی مرمت کیوں نہ کریں؟
3.  مرمت کا فنکشن جو صرف محفوظ صورتیں ٹھیک کرتا ہے
4.  مرمت ناکام ہونے کے بعد دوبارہ کوشش کیسے کریں؟
5.  کیا اسٹرکچرڈ آؤٹ پٹ سے یہ سب غیر ضروری ہو جاتا ہے؟
6.  BroadNet Inference کہاں فٹ ہوتا ہے

آپ کا کوڈ ماڈل کے جواب پر `json.loads()` چلاتا ہے اور `JSONDecodeError: Expecting value: line 1 column 1` ملتا ہے۔ یا وہ پارس ہو جاتا ہے، لیکن جہاں آپ کو نمبر چاہیے تھا وہاں ایک فیلڈ اسٹرنگ ہے۔ یہ پوسٹ وجوہات کو اس حساب سے ترتیب دیتی ہے کہ ہر ایک کے ساتھ آپ محفوظ طریقے سے کیا کر سکتے ہیں، ایک ٹیسٹ شدہ Python فنکشن دیتی ہے جو صرف واضح صورتوں کی مرمت کرتا ہے، اور ایک دوبارہ کوشش کا لوپ دکھاتی ہے جو جانتا ہے کہ کب دوبارہ کوشش سے کچھ نہیں ہوگا۔

[JSON mode](https://broadrouter.com/ur/glossary/json-mode/) اور `json_schema` میں سے انتخاب [JSON mode بمقابلہ json\_schema](https://broadrouter.com/ur/blog/structured-output-json-schema/) میں ہے۔ یہ پوسٹ اس جواب کے بارے میں ہے جو آپ کو اصل میں ملا۔

## LLM غلط JSON کیوں لوٹاتے ہیں؟

ماڈل ایک ایک ٹوکن کر کے متن لکھتا ہے۔ جب تک سرور ڈی کوڈنگ کو پابند نہ کرے، اسے ایک دوستانہ جملہ جوڑنے یا جگہ ختم ہونے سے کوئی نہیں روکتا۔ عام خرابیاں:

| آپ کو کیا نظر آتا ہے | وجہ | کیا کوڈ میں مرمت محفوظ ہے؟ |
| --- | --- | --- |
| ` ```json ` … ` ``` ` آبجیکٹ کے گرد | چیٹ فارمیٹنگ کی عادت | ہاں: فینس ہٹائیں |
| پہلے “Here is the JSON:”، بعد میں “Let me know…” | وہی عادت | ہاں: صرف پہلی ویلیو پڑھیں |
| آبجیکٹ سے پہلے `<think>...</think>` | کچھ سرورز پر content فیلڈ میں ریزننگ کا متن | ہاں: بلاک ہٹائیں |
| اسٹرنگ کے بیچ میں ختم، بریکٹ کھلے | `max_tokens` تک پہنچا | نہیں: زیادہ جگہ کے ساتھ دوبارہ بھیجیں |
| خالی content | ریزننگ نے پورا بجٹ لے لیا | نہیں: زیادہ جگہ کے ساتھ دوبارہ بھیجیں |
| `{"a": 1,}` | ٹریلنگ کوما؛ JavaScript اجازت دیتا ہے، [RFC 8259](https://www.rfc-editor.org/rfc/rfc8259) نہیں | ہاں: ایک ہی مطلب |
| `{'a': True, 'b': None}` | Python سنٹیکس | ہاں: `ast.literal_eval` اسے محفوظ طریقے سے پڑھتا ہے |
| `NaN`، `Infinity` | JSON نہیں؛ Python بطور ڈیفالٹ قبول کرتا ہے | نہیں: رد کریں |
| درست JSON، غلط ٹائپس یا غائب فیلڈز | اسکیما نافذ نہیں | نہیں: ایرر کے ساتھ دوبارہ مانگیں |

تقسیم کی لکیر ابہام ہے۔ اگر ماڈل کا مطلب بالکل ایک ہی ہو سکتا تھا تو اسے کوڈ میں ٹھیک کریں اور لاگ کریں کہ آپ نے ٹھیک کیا۔ اگر اندازہ لگانا پڑے تو جواب رد کر دیں۔

## کٹے ہوئے JSON کی مرمت کیوں نہ کریں؟

کیونکہ مرمت شدہ ورژن درست دکھتا ہے مگر ہوتا نہیں۔ ہم نے [json\_repair](https://github.com/mangiucugna/json_repair) 0.64.9، ایک مقبول MIT لائسنس والی لائبریری، ایک ایسے جواب پر چلائی جو لفظ کے بیچ میں کٹا تھا:

```text
'{"name": "Omar", "city": "Jed'  ->  {'name': 'Omar', 'city': 'Jed'}
```

اس نے شہر “Jed” کے ساتھ درست JSON لوٹایا۔ اس کا README یہ کھل کر کہتا ہے: یہ “automatically completes missing values in JSON fields with reasonable defaults” (ترجمہ: JSON فیلڈز میں غائب ویلیوز کو خودکار طور پر مناسب ڈیفالٹ سے مکمل کرتا ہے)۔ لاگز پڑھنے کے لیے یہ مفید ہے۔ جس ڈیٹا کو آپ محفوظ کرتے ہیں یا جس پر عمل کرتے ہیں، اس کے لیے یہ نظر آنے والی خرابی کو چھپی خرابی بنا دیتا ہے۔

پارس کرنے سے پہلے `finish_reason` دیکھیں۔ `"length"` کا مطلب ہے کہ جواب [`max_tokens`](https://broadrouter.com/ur/glossary/max-tokens/) تک پہنچ گیا۔ وہی درخواست اسی حد کے ساتھ دوبارہ بھیجنے پر ویسے ہی ناکام ہوگی، اس لیے حد دگنی کریں یا ہر کال میں کم مانگیں۔ ریزننگ ماڈلز سے یہ اور عام ہو جاتا ہے: BroadNet کا [API ریفرنس](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-fix-invalid-json-from-llm&utm_content=body) کہتا ہے کہ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ `max_tokens` میں گنی جاتی ہے۔ چھوٹی حد پر جواب خالی آ سکتا ہے۔ 1,000 یا زیادہ ٹوکن چھوڑیں، یا `reasoning_effort` کو `low` کریں؛ اعداد [ریزننگ بجٹ والی پوسٹ](https://broadrouter.com/ur/blog/reasoning-model-max-tokens-budget/) میں ہیں۔

## مرمت کا فنکشن جو صرف محفوظ صورتیں ٹھیک کرتا ہے

یہ صرف اسٹینڈرڈ لائبریری استعمال کرتا ہے۔ یہ پارس شدہ ویلیو اور کی گئی مرمتوں کی فہرست لوٹاتا ہے، تاکہ آپ انہیں گن سکیں۔

```python
import ast, json, re

class Truncated(Exception): pass
class NotJSON(Exception): pass

FENCE = re.compile(r"```(?:json|JSON)?\s*\n(.*?)```", re.S)
THINK = re.compile(r"<think>.*?</think>", re.S)

def _reject_constant(name):                 # NaN, Infinity: Python accepts them, JSON does not
    raise NotJSON(f"non-standard constant {name}")

_decoder = json.JSONDecoder(parse_constant=_reject_constant)

def _first_value(s):
    """Decode the first JSON object or array in s, ignoring prose before and after it."""
    for i, ch in enumerate(s):
        if ch in "{[":
            try:
                return _decoder.raw_decode(s, i)[0]
            except json.JSONDecodeError:
                continue                    # a stray brace in prose; try the next one
    raise NotJSON("no JSON object or array found")

def _scan(s):
    """Drop commas before } or ] outside strings; report brackets left open."""
    out, stack, in_str, esc = [], [], False, False
    for i, ch in enumerate(s):
        if in_str:
            if esc:
                esc = False
            elif ch == "\\":
                esc = True
            elif ch == '"':
                in_str = False
        elif ch == '"':
            in_str = True
        elif ch in "{[":
            stack.append(ch)
        elif ch in "}]" and stack:
            stack.pop()
        elif ch == ",":
            rest = s[i + 1:].lstrip()
            if rest[:1] in ("}", "]"):
                continue                    # trailing comma: skip it
        out.append(ch)
    return "".join(out), len(stack) + (1 if in_str else 0)

def _python_literal(s):
    """Output in Python syntax: single quotes, True/False/None, trailing commas."""
    start = min((i for i in (s.find("{"), s.find("[")) if i >= 0), default=-1)
    end = max(s.rfind("}"), s.rfind("]"))
    if start < 0 or end <= start:
        raise NotJSON("no braces")
    value = ast.literal_eval(s[start:end + 1])       # literals only; never runs code
    if not isinstance(value, (dict, list)):
        raise NotJSON("not an object or array")
    json.dumps(value, allow_nan=False)               # must round-trip as strict JSON
    return value

def parse_llm_json(content, finish_reason=None):
    """Return (value, repairs). Raises Truncated or NotJSON."""
    if finish_reason == "length":
        raise Truncated("hit max_tokens; raise the limit or shorten the output")
    if not content or not content.strip():
        raise NotJSON("empty content (reasoning may have used the whole budget)")
    repairs = []
    s = content.strip().lstrip("\ufeff")
    if THINK.search(s):
        s = THINK.sub("", s).strip(); repairs.append("removed <think> block")
    m = FENCE.search(s)
    if m:
        s = m.group(1).strip(); repairs.append("removed code fence")
    try:
        value = _decoder.decode(s)
        return value, repairs
    except json.JSONDecodeError:
        pass
    try:
        value = _first_value(s); repairs.append("ignored text around JSON")
        return value, repairs
    except NotJSON:
        pass
    fixed, open_count = _scan(s)
    if open_count:
        raise NotJSON(f"incomplete JSON, {open_count} bracket(s) or string left open: treat as truncated")
    if fixed != s:
        try:
            value = _first_value(fixed); repairs.append("removed trailing commas")
            return value, repairs
        except NotJSON:
            pass
    try:
        value = _python_literal(s); repairs.append("parsed Python-style literal")
        return value, repairs
    except (ValueError, SyntaxError, TypeError, MemoryError, RecursionError, NotJSON) as e:
        raise NotJSON(f"unrepairable: {e}") from None
```

ہر مرحلہ کیسے کام کرتا ہے:

1.  **کٹے اور خالی جواب** پارسنگ سے پہلے ہی ایرر اٹھاتے ہیں، اس لیے وہ کبھی ڈیٹا نہیں بنتے۔
2.  **فینس اور ریزننگ بلاک** دو ریگولر ایکسپریشنز سے ہٹائے جاتے ہیں۔
3.  **`raw_decode`** اصل اوزار ہے۔ Python کی دستاویزات کہتی ہیں کہ یہ دستاویز کو “from a string that may have extraneous data at the end” (ترجمہ: ایسی اسٹرنگ سے جس کے آخر میں فالتو ڈیٹا ہو سکتا ہے) ڈی کوڈ کرتا ہے، اور بتاتا ہے کہ کہاں رکا۔ پہلے `{` یا `[` سے شروع کر کے یہ آبجیکٹ سے پہلے کی نثر چھوڑ دیتا ہے اور بعد کی نظرانداز کرتا ہے۔ اگر نثر میں کوئی بریس ڈی کوڈ نہ ہو تو یہ اگلا آزماتا ہے۔
4.  **بریکٹ اسکین** اسٹرنگز اور ایسکیپس پر نظر رکھتے ہوئے متن سے گزرتا ہے۔ کھلے رہ جانے والے بریکٹ کا مطلب ہے کہ جواب کٹا تھا، چاہے `finish_reason` نے ایسا نہ کہا ہو؛ اس پر ایرر اٹھتا ہے۔ اسٹرنگز کے باہر `}` یا `]` سے فوراً پہلے والے کوما ہٹا دیے جاتے ہیں۔
5.  **`ast.literal_eval`** سنگل کوٹس، `True` اور `None` والا Python انداز کا آؤٹ پٹ پڑھتا ہے۔ یہ صرف لٹرلز کا حساب کرتا ہے اور کبھی کوڈ نہیں چلاتا۔ پھر نتیجے کا سخت JSON کے طور پر سیریلائز ہونا ضروری ہے۔
6.  **`NaN` اور `Infinity`** `parse_constant` کے ذریعے ایرر اٹھاتے ہیں۔ Python کا `json` انہیں بطور ڈیفالٹ قبول کرتا ہے؛ RFC 8259 کہتا ہے کہ یہ “are not permitted” (ترجمہ: اجازت نہیں ہے)، اور JavaScript کا `JSON.parse` انہیں رد کرتا ہے۔

ہم نے اسے 17 ٹیسٹ اسٹرنگز پر چلایا: صاف JSON، فینس والا JSON، فینس میں عربی کلیدیں اور ویلیوز، پہلے اور بعد میں نثر، آبجیکٹ سے پہلے نثر میں `{name}` پلیس ہولڈر، ایک `<think>` بلاک، آبجیکٹس اور ایریز میں ٹریلنگ کوما، اسٹرنگز کے اندر کوما اور بریکٹ، ایسکیپ شدہ کوٹس، بیک سلیش پر ختم ہونے والا Windows پاتھ، Python لٹرلز، `NaN`، خالی جواب، `finish_reason: "length"` کے ساتھ اور اس کے بغیر کٹا جواب، اور لگاتار دو آبجیکٹس۔ سب نے اوپر کی ٹیبل کے مطابق برتاؤ کیا۔ ایک ٹیسٹ نے اصل بگ پکڑا: ایک ابتدائی ورژن بند ہونے والے کوٹ کی جانچ سے پہلے اپنا ایسکیپ فلیگ پلٹ دیتا تھا، اس لیے `"he said \"hi,]\""` کا کوما کھو جاتا تھا۔ اپنے مرمت کے کوڈ کو ایسکیپ شدہ کوٹس پر ضرور ٹیسٹ کریں۔

دو حدیں جان لیں۔ لگاتار دو آبجیکٹس ملیں تو یہ پہلا لوٹاتا ہے؛ اگر آپ کو کئی آئٹمز چاہییں تو ایک JSON ایرے مانگیں۔ اور سنگل کوٹس والا Python آؤٹ پٹ، جس کی کسی اسٹرنگ میں ڈبل کوٹ ہو، بریکٹ اسکین میں غلط پڑھا جا کر رد ہو سکتا ہے۔ رد کرنا ناکامی کی محفوظ صورت ہے۔

## مرمت ناکام ہونے کے بعد دوبارہ کوشش کیسے کریں؟

مرمت فارمیٹ سنبھالتی ہے۔ تصدیق مواد سنبھالتی ہے: درست فیلڈز، درست ٹائپس، معقول ویلیوز۔ یہ لوپ `jsonschema` پیکیج سے تصدیق کرتا ہے اور وجہ کے حساب سے دوبارہ کوشش کا طریقہ چنتا ہے:

```python
import json, os
from jsonschema import Draft202012Validator
from openai import OpenAI
from llm_json import parse_llm_json, Truncated, NotJSON

client = OpenAI(base_url=os.environ.get("BASE_URL", "https://inference.broadnet.ai/v1"),
                api_key=os.environ["BROADNET_API_KEY"])
SCHEMA = {"type": "object", "additionalProperties": False,
          "required": ["name", "city", "amount"],
          "properties": {"name": {"type": "string", "minLength": 1},
                         "city": {"type": ["string", "null"]},
                         "amount": {"type": "number", "minimum": 0}}}
validator = Draft202012Validator(SCHEMA)

def extract(text, model="broadnet/qwen3.8-27b", max_tokens=1500, attempts=3, log=print):
    messages = [{"role": "system", "content": "Extract name, city and amount. Reply with one JSON object only, no code fence. "
                                              "Schema: " + json.dumps(SCHEMA)},
                {"role": "user", "content": text}]
    for attempt in range(1, attempts + 1):
        r = client.chat.completions.create(model=model, messages=messages, max_tokens=max_tokens,
                                           reasoning_effort="low", temperature=0)
        c = r.choices[0]
        try:
            value, repairs = parse_llm_json(c.message.content, c.finish_reason)
            errors = [f"{'/'.join(map(str, e.path)) or '(root)'}: {e.message}" for e in validator.iter_errors(value)]
            if not errors:
                log({"attempt": attempt, "repairs": repairs, "ok": True})
                return value
            problem = "The JSON does not match the schema: " + "; ".join(errors)
        except Truncated:
            log({"attempt": attempt, "ok": False, "why": "truncated"})
            max_tokens *= 2                 # same prompt, more room; a re-ask would be cut off too
            continue
        except NotJSON as e:
            problem = f"That reply was not valid JSON ({e})."
        log({"attempt": attempt, "ok": False, "why": problem})
        messages += [{"role": "assistant", "content": c.message.content or ""},
                     {"role": "user", "content": problem + " Return the corrected JSON object only."}]
    raise RuntimeError(f"no valid JSON after {attempts} attempts")
```

اس لوپ کے اصول:

-   **کٹا ہوا: وہی پیغامات دگنی حد کے ساتھ دوبارہ بھیجیں۔** ”please fix“ والا پیغام جوڑنے سے پرامپٹ لمبا ہوگا اور آؤٹ پٹ چھوٹا نہیں ہوگا۔
-   **JSON نہیں، یا غلط ساخت: عین ایرر واپس بھیجیں۔** “amount: ‘1200’ is not of type ‘number’” ماڈل کو ٹھیک کرنے کے لیے کچھ ٹھوس دیتا ہے۔ خالی دوبارہ کوشش اکثر وہی غلطی دہراتی ہے۔
-   **کوششیں تین تک محدود رکھیں۔** ہر دوبارہ کوشش پوری گفتگو کو [ان پٹ ٹوکن](https://broadrouter.com/ur/glossary/input-and-output-tokens/) کے طور پر دوبارہ بھیجتی ہے۔ تین کے بعد ان پٹ لاگ کریں اور اسے کہیں اور بھیجیں۔
-   **مرمتوں کی فہرست لاگ کریں۔** پرامپٹ بدلنے کے بعد “removed code fence” کی بڑھتی گنتی بتاتی ہے کہ پرامپٹ بگڑ گیا، چاہے کچھ ناکام نہ ہوا ہو۔

ہم نے یہ لوپ ایک مقامی موک سرور پر چلایا جو پہلے سے طے شدہ جواب لوٹاتا تھا۔ ٹریلنگ کوما اور اسٹرنگ کی صورت میں `"amount": "1200"` والا فینس شدہ جواب مرمت ہوا، تصدیق میں ناکام ہوا، اور ایرر واپس بھیجنے پر دوسری کال میں ٹھیک ہو گیا۔ `finish_reason: "length"` کے ساتھ کٹا جواب `max_tokens` کو 1,500 سے 3,000 کر کے دوبارہ بھیجا گیا اور کامیاب رہا۔ موک نے ہر بار درخواست ریکارڈ کی، جس سے تصدیق ہوئی کہ لوپ نے کتنے پیغامات اور کون سی حد بھیجی۔ اصل ماڈل مختلف طریقے سے ناکام ہو سکتا ہے، اس لیے اعداد پر بھروسا کرنے سے پہلے اسے اپنے 100 ان پٹس پر چلائیں۔

## کیا اسٹرکچرڈ آؤٹ پٹ سے یہ سب غیر ضروری ہو جاتا ہے؟

یہ زیادہ تر ختم کر دیتا ہے۔ جو سرور ڈی کوڈنگ کو آپ کے اسکیما کا پابند کرتا ہے، وہ فینس، ٹریلنگ کوما یا غائب فیلڈ نہیں نکال سکتا۔ vLLM، اوپن ماڈلز کا ایک عام سرور، یہ xgrammar یا guidance بیک اینڈ سے کرتا ہے۔ پھر بھی دو خرابیاں باقی رہتی ہیں: `max_tokens` پر کٹاؤ، اور انکار۔ OpenAI بتاتا ہے کہ JSON mode کا آؤٹ پٹ درست ہوتا ہے “except for in some edge cases” (ترجمہ: کچھ خاص صورتوں کے سوا) اور آپ کی ایپلیکیشن کو ایسا آؤٹ پٹ جو مکمل آبجیکٹ نہیں، “must detect and handle” (ترجمہ: پہچاننا اور سنبھالنا ہوگا)۔ اس لیے `json_schema` کے ساتھ بھی `finish_reason` کی جانچ اور تصدیق کار رکھیں۔

ہر طریقہ کیا روکتا ہے:

| طریقہ | فینس اور نثر | سنٹیکس ایررز | غلط ساخت | کٹاؤ |
| --- | --- | --- | --- | --- |
| صرف پرامپٹ (”JSON میں جواب دیں“) | کم | کم | کم | نہیں |
| JSON mode (`json_object`) | ہاں | ہاں | نہیں | نہیں |
| اسٹرکچرڈ آؤٹ پٹ (`json_schema`، نافذ) | ہاں | ہاں | ہاں | نہیں |

JSON mode کے ساتھ OpenAI یہ بھی کہتا ہے کہ آپ کو کسی پیغام میں “must always instruct the model to produce JSON” (ترجمہ: ماڈل کو ہمیشہ JSON بنانے کی ہدایت دینی ہوگی)؛ ورنہ وہ ٹوکن کی حد تک وائٹ اسپیس نکال سکتا ہے۔ OpenAI سے مطابقت رکھنے والے دوسرے سرورز مختلف ہیں، اس لیے جو ماڈل آپ شپ کرتے ہیں اس پر موڈ ٹیسٹ کریں۔ ٹیسٹ [اسٹرکچرڈ آؤٹ پٹ والی پوسٹ](https://broadrouter.com/ur/blog/structured-output-json-schema/) میں ہے۔

کسی جواب کو ہاتھ سے جانچنے کے لیے اسے [LLM JSON آؤٹ پٹ ویلیڈیٹر](https://broadrouter.com/tools/llm-json-output-validator/) میں پیسٹ کریں، یا [JSON schema جنریٹر](https://broadrouter.com/tools/json-schema-generator/) سے ایک نمونہ آبجیکٹ سے سخت اسکیما بنائیں۔

## BroadNet Inference کہاں فٹ ہوتا ہے

BroadRouter، BroadNet کی سائٹ ہے۔ BroadNet کا API ریفرنس اسٹرکچرڈ آؤٹ پٹ صرف [GLM 5.3](https://broadrouter.com/ur/models/glm-5.3/) اور [Qwen3.8 27B](https://broadrouter.com/ur/models/qwen3.8-27b/) کے لیے درج کرتا ہے، اور درخواست کے پیرامیٹر کا نام نہیں بتاتا، اس لیے اس پر انحصار سے پہلے ماڈل پر `json_schema` ٹیسٹ کریں۔ [DeepSeek V4.1 Flash](https://broadrouter.com/ur/models/deepseek-v4.1-flash/) اور [Gemma 4 VL 26B](https://broadrouter.com/ur/models/gemma-4-vl-26b/) پر اوپر کے مرمت کے فنکشن اور تصدیق کار کے ساتھ صرف پرامپٹ والا JSON استعمال کریں۔ چار میں سے تین ماڈلز جواب سے پہلے ریزننگ کرتے ہیں، اس لیے `max_tokens` میں اس کا بجٹ رکھیں۔ بڑی مقدار میں ایکسٹریکشن کے لیے [بیچ رنر والی پوسٹ](https://broadrouter.com/ur/blog/llm-batch-processing-without-batch-api/) دکھاتی ہے کہ ہر آئٹم کا `finish_reason` کیسے لاگ کریں۔ ہر درخواست کے بعد پرامپٹس اور جوابات محفوظ نہیں رکھے جاتے۔

اس موضوع کے مفت ٹولز (انگریزی میں)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[مفت ٹولز (انگریزی میں)](https://broadrouter.com/tools/)

## اس مضمون کی اصطلاحات

[اسٹرکچرڈ آؤٹ پٹ (structured output)](https://broadrouter.com/ur/glossary/structured-output/)

اسٹرکچرڈ آؤٹ پٹ LLM API کا ایک فیچر ہے جو ماڈل کے جواب کو ڈویلپر کے طے کردہ فارمیٹ، عموماً JSON Schema، تک محدود کرتا ہے، تاکہ کوڈ اسے قابلِ اعتماد طریقے سے پارس کر سکے۔ یہ JSON mode سے زیادہ سخت ہے، جو درست JSON کی ضمانت دیتا ہے، لیکن کسی خاص ساخت کی نہیں۔

[JSON موڈ (JSON mode)](https://broadrouter.com/ur/glossary/json-mode/)

JSON موڈ، LLM API کی ایک سیٹنگ ہے، OpenAI طرز کے APIs میں response\_format {"type": "json\_object"}، جو ماڈل کے جواب کو درست اور پارس ہونے کے قابل JSON بناتی ہے۔ JSON Schema والے اسٹرکچرڈ آؤٹ پٹ کے برعکس، یہ ضمانت نہیں دیتی کہ آبجیکٹ میں کون سی keys، ٹائپس یا قدریں ہوں گی۔

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[ٹول کالنگ (tool calling)](https://broadrouter.com/ur/glossary/tool-calling/)

ٹول کالنگ، جسے function calling بھی کہتے ہیں، LLM API کی وہ سہولت ہے جس میں ماڈل ڈویلپر کے طے کردہ کسی فنکشن کو چلانے کی ایک منظم درخواست، JSON آرگیومنٹس کے ساتھ، لوٹاتا ہے۔ ایپلیکیشن فنکشن چلا کر نتیجہ واپس بھیجتی ہے؛ ماڈل خود کبھی کوڈ نہیں چلاتا۔

[JSON Schema (JSON اسکیما)](https://broadrouter.com/ur/glossary/json-schema/)

JSON Schema، JSON میں لکھی ایک لغت ہے جو JSON ڈیٹا کی ساخت بیان کرتی اور جانچتی ہے: ٹائپس، لازمی فیلڈز، قابلِ قبول قدریں اور نیسٹنگ۔ موجودہ ورژن 2020-12 ہے۔ LLM APIs اس سے ٹول پیرامیٹرز طے کرتے ہیں، اور وہ عین شکل بھی جس کی اسٹرکچرڈ آؤٹ پٹ کو پابندی کرنی ہے۔

[Prefill اور decode](https://broadrouter.com/ur/glossary/prefill-and-decode/)

Prefill اور decode، LLM انفرنس کے دو مراحل ہیں۔ Prefill میں ماڈل پورا پرامپٹ متوازی طور پر پروسیس کر کے اپنا KV cache بھرتا ہے؛ decode میں وہ اسی cache کو دوبارہ استعمال کرتے ہوئے جواب ایک ایک ٹوکن کر کے بناتا ہے۔ Prefill زیادہ تر پہلے ٹوکن تک کا وقت طے کرتا ہے؛ decode آؤٹ پٹ کی رفتار۔

[ان پٹ اور آؤٹ پٹ ٹوکن (input and output tokens)](https://broadrouter.com/ur/glossary/input-and-output-tokens/)

ان پٹ ٹوکن وہ ٹوکن ہیں جو لینگویج ماڈل کسی درخواست میں پڑھتا ہے، جن میں سسٹم پرامپٹ، گفتگو کی تاریخ، ٹول ڈیفینیشنز اور تصاویر شامل ہیں۔ آؤٹ پٹ ٹوکن وہ ہیں جو وہ جواب میں بناتا ہے، ریزننگ سمیت۔ LLM API عموماً دونوں کی قیمت الگ رکھتے ہیں، اور آؤٹ پٹ عموماً مہنگا ہوتا ہے۔

[کانٹیکسٹ ونڈو (context window)](https://broadrouter.com/ur/glossary/context-window/)

کانٹیکسٹ ونڈو ٹوکنز کی وہ زیادہ سے زیادہ تعداد ہے جس کے ساتھ لینگویج ماڈل ایک درخواست میں کام کر سکتا ہے۔ اس میں پرامپٹ، گفتگو کی تاریخ، ٹول ڈیفینیشنز، تصاویر اور بننے والا آؤٹ پٹ، ریزننگ ٹوکنز سمیت، سب شامل ہیں۔ جو اس میں نہ سمائے اسے کاٹنا، خلاصہ کرنا یا کئی درخواستوں میں بانٹنا پڑتا ہے۔

## عام سوالات

### میرا LLM مارک ڈاؤن کوڈ بلاک کے اندر JSON کیوں لوٹاتا ہے؟

چیٹ ماڈلز عموماً کوڈ کو انسانوں کے لیے فارمیٹ کرتے ہیں، اور چیٹ انٹرفیس کوڈ فینس سے ہی کوڈ دکھاتے ہیں۔ ”صرف JSON، کوڈ فینس نہیں“ مانگیں، لیکن کوڈ میں فینس پھر بھی ہٹائیں: ہدایت سے ایسا کم ہوتا ہے، ختم نہیں ہوتا۔

### LLM آؤٹ پٹ پر JSONDecodeError کیسے ٹھیک کریں؟

پہلے finish\_reason دیکھیں۔ اگر وہ "length" ہے تو جواب کٹ گیا: max\_tokens بڑھائیں اور دوبارہ بھیجیں۔ ورنہ کوڈ فینس ہٹائیں اور raw\_decode سے پہلی JSON ویلیو ڈی کوڈ کریں، جو اس کے بعد کے متن کو نظرانداز کرتا ہے۔ ٹریلنگ کوما ٹھیک کریں، پھر تصدیق کریں۔ پھر بھی ناکام ہو تو ایرر کے ساتھ دوبارہ مانگیں۔

### کیا JSON مرمت کی لائبریری استعمال کرنی چاہیے؟

لاگز اور ڈیبگنگ کے لیے، ہاں۔ جس ڈیٹا پر آپ عمل کرتے ہیں، اس کے لیے محتاط رہیں۔ json\_repair جیسی لائبریریاں غائب ویلیوز ڈیفالٹ سے پوری کرتی ہیں، اس لیے کٹا ہوا شہر "Jed" ایک درست "Jed" بن کر لوٹتا ہے۔ کٹے ہوئے آؤٹ پٹ کو رد کریں اور دوبارہ بھیجیں۔

### میرا LLM JSON آؤٹ پٹ درمیان میں کیوں کٹ جاتا ہے؟

جواب max\_tokens تک پہنچ گیا۔ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جیسے ریزننگ ماڈلز پر ریزننگ اسی حد میں گنی جاتی ہے، اس لیے لمبی تھنکنگ کے بعد بہت کم جگہ بچ سکتی ہے۔ حد بڑھائیں، reasoning\_effort low کریں، یا ہر کال میں کم آؤٹ پٹ مانگیں۔

### کیا JSON mode درست JSON کی ضمانت دیتا ہے؟

تقریباً۔ OpenAI کہتا ہے کہ JSON mode کا آؤٹ پٹ درست JSON ہوتا ہے "except for in some edge cases" (ترجمہ: کچھ خاص صورتوں کے سوا)، جیسے ٹوکن کی حد تک پہنچنا، اور یہ آپ کا اسکیما نافذ نہیں کرتا۔ json\_schema والا اسٹرکچرڈ آؤٹ پٹ اسکیما کی پابندی جوڑتا ہے، جہاں فراہم کنندہ اسے نافذ کرتا ہے۔ دونوں میں تصدیق کریں۔

### BroadNet کے کون سے ماڈلز اسٹرکچرڈ آؤٹ پٹ سپورٹ کرتے ہیں؟

BroadNet کا API ریفرنس GLM 5.3 اور Qwen3.8 27B کے لیے اسٹرکچرڈ آؤٹ پٹ درج کرتا ہے، 15 نومبر 2026 کو دیکھا گیا۔ DeepSeek V4.1 Flash یا Gemma 4 VL 26B کے لیے یہ درج نہیں، اس لیے ان پر مرمت اور تصدیق کے ساتھ صرف پرامپٹ والا JSON استعمال کریں۔

## مزید پڑھیں

-   [JSON mode بمقابلہ json\_schema: قابل اعتماد اسٹرکچرڈ آؤٹ پٹ](https://broadrouter.com/ur/blog/structured-output-json-schema/)
-   [اوپن ماڈلز کے ساتھ ٹول کالنگ: اسکیما، متوازی کالز، دوبارہ کوشش](https://broadrouter.com/ur/blog/tool-calling-open-models/)
-   [ریزننگ ماڈلز کے لیے max\_tokens کیسے طے کریں: بجٹ کا طریقہ](https://broadrouter.com/ur/blog/reasoning-model-max-tokens-budget/)
-   [LLM سے عربی متن کی classification: sentiment، intent، triage](https://broadrouter.com/ur/blog/arabic-text-classification-llm/)
-   [Batch API کے بغیر LLM بیچ پروسیسنگ: دوبارہ شروع ہونے والا runner](https://broadrouter.com/ur/blog/llm-batch-processing-without-batch-api/)
-   [LLM سے ایپ strings کا عربی ترجمہ: placeholders اور plurals](https://broadrouter.com/ur/blog/translate-app-strings-to-arabic-llm/)
-   [BroadNet کا GPU ہارڈویئر اور سروِنگ کا طریقہ، BroadNet کی زبانی](https://broadrouter.com/ur/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API جوابات کیش کر کے لاگت کم کریں: Python میں ایگزیکٹ میچ کیش](https://broadrouter.com/ur/blog/cache-llm-responses-cut-cost/)
-   [گائیڈ: ریزننگ ماڈل خالی جواب کیوں لوٹاتا ہے](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)
-   [گائیڈ: BroadNet Inference کے ساتھ OpenAI Python SDK استعمال کریں](https://broadrouter.com/ur/guides/openai-python-sdk/)
-   [گائیڈ: وژن ماڈل سے عربی انوائسز اور رسیدیں پڑھیں](https://broadrouter.com/ur/guides/read-arabic-invoices-with-vision/)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-fix-invalid-json-from-llm&utm_content=page-cta) ·

**ذرائع**

-   [BroadNet Inference کا API ریفرنس: ٹولز اور اسٹرکچرڈ آؤٹ پٹ صرف GLM 5.3 اور Qwen3.8 27B کے لیے درج؛ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B ریزننگ کرتے ہیں، اور ریزننگ max\_tokens میں گنی جاتی ہے (2026-11-16 کو دیکھا گیا) (انگریزی میں)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-blog-fix-invalid-json-from-llm&utm_content=sources)
-   [OpenAI Structured Outputs گائیڈ: JSON mode بمقابلہ اسکیما کی پابندی، ماڈل کو JSON بنانے کی ہدایت، ٹوکن کی حد تک وائٹ اسپیس، نامکمل آؤٹ پٹ، انکار (2026-11-15 کو دیکھا گیا)](https://developers.openai.com/api/docs/guides/structured-outputs)
-   [IETF RFC 8259، The JSON Data Interchange Format: آبجیکٹ کی گرامر، ڈبل کوٹ والی اسٹرنگز، Infinity اور NaN کی اجازت نہیں (2026-11-15 کو دیکھا گیا)](https://www.rfc-editor.org/rfc/rfc8259)
-   [Python کی دستاویزات، json ماڈیول: JSONDecoder.raw\_decode، NaN اور Infinity بطور ڈیفالٹ قبول، parse\_constant (2026-11-15 کو دیکھا گیا)](https://docs.python.org/3/library/json.html)
-   [GitHub پر json\_repair (MIT): خراب JSON ٹھیک کرتا ہے اور غائب ویلیوز ڈیفالٹ سے بھرتا ہے (ورژن 0.64.9 ٹیسٹ کیا؛ 2026-11-15 کو دیکھا گیا)](https://github.com/mangiucugna/json_repair)
-   [vLLM کی دستاویزات، اسٹرکچرڈ آؤٹ پٹ: xgrammar یا guidance بیک اینڈ کے ساتھ json\_schema، regex، choice اور grammar (2026-11-15 کو دیکھا گیا)](https://docs.vllm.ai/en/latest/features/structured_outputs.html)
