BroadRouter
शुरू करें

स्ट्रक्चर्ड आउटपुट (structured output)

अपडेट किया गया

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

अन्य नाम: स्ट्रक्चर्ड आउटपुट, JSON आउटपुट, structured output kya hai, structured output, structured outputs, JSON schema output, response_format

कोड को पहले से पता इनपुट चाहिए। स्ट्रक्चर्ड आउटपुट मॉडल के खुले टेक्स्ट को ऐसे डेटा में बदलता है जिस पर आपका प्रोग्राम भरोसा कर सके।

यह कैसे काम करता है

नियंत्रण के तीन स्तर हैं:

तरीक़ा आपको क्या मिलता है
प्रॉम्प्ट में माँगना आम तौर पर JSON, कभी-कभी अतिरिक्त टेक्स्ट या छूटी फ़ील्ड के साथ
JSON mode मान्य JSON, कोई भी ढाँचा
स्कीमा के साथ स्ट्रक्चर्ड आउटपुट आपके स्कीमा से मेल खाता JSON

OpenAI फ़ॉर्मैट में JSON mode है response_format: {"type": "json_object"}। स्ट्रक्चर्ड आउटपुट एक स्कीमा पास करता है:

"response_format": {
  "type": "json_schema",
  "json_schema": {
    "name": "invoice",
    "strict": true,
    "schema": {
      "type": "object",
      "properties": {
        "vendor": { "type": "string" },
        "total": { "type": "number" }
      },
      "required": ["vendor", "total"],
      "additionalProperties": false
    }
  }
}

OpenAI का रेफ़रंस कहता है कि json_schema टाइप “ensures the model will match your supplied JSON schema” (अनुवाद: पक्का करता है कि मॉडल आपके दिए JSON स्कीमा से मेल खाएगा)। कई प्रोवाइडर यह constrained decoding से करते हैं: हर क़दम पर मॉडल कौन-से टोकन बना सकता है, यह सीमित करके, ताकि स्कीमा तोड़ने वाला आउटपुट बन ही न सके।

यह क्यों मायने रखता है

  • पार्सिंग एरर कम. एक्सट्रैक्शन पाइपलाइन, क्लासिफ़ायर और एजेंट फ़ील्ड सीधे पढ़ सकते हैं।
  • आसान प्रॉम्प्ट. स्कीमा लंबे फ़ॉर्मैट निर्देशों की जगह ले लेता है।
  • पूरी गारंटी नहीं. OpenAI की गाइड कहती है कि आपके ऐप को फिर भी इनकार, अधूरे रिस्पॉन्स और एरर सँभालने चाहिए। max_tokens से कटा जवाब टूटा हुआ JSON है, स्कीमा चाहे जो कहे।

OpenAI-compatible API में सपोर्ट अलग-अलग है। कुछ सिर्फ़ json_schema लेते हैं, कुछ सिर्फ़ json_object, और कुछ फ़ील्ड को अनदेखा कर देते हैं। इस पर निर्भर होने से पहले जाँच लें।

BroadNet Inference पर

BroadNet के डॉक्स GLM 5.3 और Qwen3.8 27B के लिए स्ट्रक्चर्ड आउटपुट सूचीबद्ध करते हैं। डॉक्स अनुरोध के पैरामीटर का नाम नहीं बताते, इसलिए अपने मॉडल पर response_format टेस्ट करें, और दोनों ही सूरतों में एरर हैंडलिंग वाला JSON पार्सर रखें। LLM JSON आउटपुट वैलिडेटर दिखाता है कि जवाब कहाँ टूटता है और उसे आपके स्कीमा से जाँचता है। दोनों मॉडल पहले रीज़निंग करते हैं, इसलिए max_tokens में सोचने और JSON, दोनों के लिए जगह रखें।

स्ट्रक्चर्ड आउटपुट विज़न मॉडल के साथ अच्छा काम करता है। अरबी इनवॉइस गाइड एक इमेज भेजती है और फ़ील्ड JSON में माँगती है। जवाबों की जगह एक्शन के लिए टूल कॉलिंग इस्तेमाल करें।

आम ग़लतियाँ

  • strict mode इस्तेमाल करते समय additionalProperties: false भूल जाना, या हर फ़ील्ड को required में सूचीबद्ध न करना।
  • पार्स करने से पहले finish_reason न जाँचना।

अक्सर पूछे जाने वाले सवाल

JSON mode और स्ट्रक्चर्ड आउटपुट में क्या फ़र्क़ है?

JSON mode सिर्फ़ यह वादा करता है कि जवाब JSON के रूप में पार्स होगा। स्कीमा के साथ स्ट्रक्चर्ड आउटपुट यह भी वादा करता है कि आपकी तय फ़ील्ड, टाइप और ज़रूरी key मौजूद होंगी। OpenAI की गाइड कहती है कि सिर्फ़ Structured Outputs ही स्कीमा के पालन की गारंटी देते हैं।

क्या मुझे फिर भी आउटपुट वैलिडेट करना होगा?

हाँ। जवाब फिर भी इनकार हो सकता है या max_tokens से कट सकता है, और स्कीमा हर बिज़नेस नियम नहीं बता सकता, जैसे कुल रक़म जिसे लाइन आइटम के जोड़ के बराबर होना चाहिए।

स्ट्रक्चर्ड आउटपुट इस्तेमाल करूँ या टूल कॉलिंग?

जब आपको अंतिम जवाब तय ढाँचे में चाहिए, तब स्ट्रक्चर्ड आउटपुट इस्तेमाल करें। जब मॉडल को आपके कोड से कुछ करवाना हो और फिर आगे बढ़ना हो, तब टूल कॉलिंग।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें