BroadRouter

सिस्टम प्रॉम्प्ट (system prompt)

अपडेट किया गया

सिस्टम प्रॉम्प्ट वह निर्देश टेक्स्ट है जो कोई ऐप्लिकेशन बातचीत से पहले लैंग्वेज मॉडल को भेजता है, आम तौर पर system या developer रोल वाले मैसेज के रूप में। यह मॉडल की भूमिका, नियम, लहजा और आउटपुट फ़ॉर्मैट तय करता है, और टकराव होने पर मॉडल को यूज़र के मैसेज के बजाय इसी का पालन करना होता है।

अन्य नाम: सिस्टम प्रॉम्प्ट, सिस्टम मैसेज, सिस्टम निर्देश, system prompt kya hai, system prompt kya hota hai, system prompt, system message, developer message, system instructions, system role

सिस्टम प्रॉम्प्ट अनुरोध का वह हिस्सा है जिसे एंड यूज़र कभी टाइप नहीं करता। यह मॉडल को बताता है कि वह किसके लिए काम कर रहा है और उसे कैसे पेश आना है।

यह कैसे काम करता है

Chat Completions फ़ॉर्मैट में messages, role वाले ऑब्जेक्ट की एक लिस्ट है। पहले ऑब्जेक्ट में आम तौर पर स्थायी निर्देश होते हैं। नीचे के उदाहरण में सिस्टम मैसेज मॉडल को एयरलाइन का सपोर्ट एजेंट बनाता है, दो वाक्यों में जवाब देने और किराया कभी न बताने को कहता है:

{"messages": [
  {"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
  {"role": "user", "content": "Can I change my flight?"}
]}

OpenAI का API रेफ़रंस system और developer दोनों मैसेज को “developer-provided instructions that the model should follow, regardless of messages sent by the user” (अनुवाद: डेवलपर के दिए निर्देश, जिनका मॉडल को पालन करना चाहिए, यूज़र चाहे जो मैसेज भेजे) बताता है, और कहता है कि o1 और नए मॉडल पर developer मैसेज, system मैसेज की जगह लेते हैं। उसकी टेक्स्ट गाइड प्राथमिकता में developer मैसेज को “ahead of user messages” (अनुवाद: यूज़र मैसेज से ऊपर) रखती है। Anthropic सिस्टम प्रॉम्प्ट को मैसेज के बजाय अलग टॉप-लेवल system पैरामीटर में लेता है, और बताता है कि भूमिका तय करने वाला एक वाक्य भी “focuses Claude’s behavior and tone” (अनुवाद: Claude के व्यवहार और लहजे को केंद्रित करता है)।

आम तौर पर इसमें होता है: एक भूमिका, काम, सख़्त नियम, आउटपुट फ़ॉर्मैट, और कभी-कभी उदाहरण (few-shot प्रॉम्प्टिंग)।

यह क्यों मायने रखता है

  • लागत. सिस्टम प्रॉम्प्ट हर कॉल पर इनपुट टोकन के रूप में दोबारा भेजा जाता है। 10,000 अनुरोधों पर 2,000 टोकन का प्रॉम्प्ट 20 million (2 करोड़) टोकन बनता है।
  • कैशिंग. हर बार एक जैसा और सबसे पहले होने की वजह से सिस्टम प्रॉम्प्ट कैश करने के लिए सबसे आसान प्रीफ़िक्स है। तारीख़ या यूज़र के नाम जैसा बदलने वाला डेटा इसके बाद रखें। कैशिंग के लिए प्रॉम्प्ट का ढाँचा वाला लेख सही क्रम दिखाता है।
  • सुरक्षा. यह एक नीति की परत है, सुरक्षा की दीवार नहीं। दस्तावेज़ों या यूज़र टेक्स्ट में छिपा प्रॉम्प्ट इंजेक्शन फिर भी मॉडल को भटका सकता है।

BroadNet Inference पर

BroadNet, OpenAI का chat-completions ढाँचा देता है, इसलिए सिस्टम मैसेज ऊपर की तरह messages में जाता है। डॉक्स के उदाहरण सिर्फ़ एक यूज़र मैसेज इस्तेमाल करते हैं और यह नहीं बताते कि हर मॉडल system या developer रोल को कैसे सँभालता है; जिस मॉडल को आप प्रोडक्शन में ले जा रहे हैं, उस पर अपना प्रॉम्प्ट टेस्ट करें।

BroadNet, usage में prompt_tokens_details.cached_tokens बताता है और उन टोकन का बिल कैश्ड इनपुट कीमत पर बनाता है। DeepSeek V4.1 Flash पर ऊपर के 20 million टोकन का उदाहरण: कुछ भी कैश न हो तो 20 × $0.175, और हर रीड कैश से मिले तो 20 × $0.0055। असली हिट रेट इन दोनों के बीच रहता है; अपना रेट जानने के लिए cached_tokens देखें। पहला अनुरोध curl क्विकस्टार्ट में है।

आम ग़लतियाँ

  • सिस्टम प्रॉम्प्ट के सबसे ऊपर टाइमस्टैम्प रखना। यह हर कॉल पर बदलता है और कैश तोड़ देता है।
  • सिस्टम प्रॉम्प्ट में सीक्रेट रखना। यूज़र अक्सर मॉडल से इसे दोहरवा लेते हैं।

अक्सर पूछे जाने वाले सवाल

system मैसेज और developer मैसेज में क्या फ़र्क़ है?

दोनों एक ही काम करते हैं। OpenAI कहता है कि o1 और उसके बाद के मॉडल में developer मैसेज, system मैसेज की जगह लेते हैं। कई OpenAI-कम्पैटिबल सर्वर अब भी system रोल की उम्मीद करते हैं, इसलिए देखें कि आपका मॉडल कौन-सा स्वीकार करता है।

क्या यूज़र सिस्टम प्रॉम्प्ट को ओवरराइड कर सकता है?

मॉडल को इसे प्राथमिकता देने के लिए ट्रेन किया जाता है, लेकिन यह पूरी तरह पक्का नहीं है। प्रॉम्प्ट इंजेक्शन और जेलब्रेक की कोशिशें ठीक यही करती हैं, इसलिए सख़्त नियम कोड में भी लागू करें।

क्या सिस्टम प्रॉम्प्ट का बिल बनता है?

हाँ। यह हर अनुरोध पर इनपुट टोकन है। अगर यह हर बार एक जैसा रहे और सबसे पहले आए, तो प्रॉम्प्ट कैशिंग वाला प्रोवाइडर इसका बिल कैश्ड रेट पर बना सकता है।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें