सिस्टम प्रॉम्प्ट अनुरोध का वह हिस्सा है जिसे एंड यूज़र कभी टाइप नहीं करता। यह मॉडल को बताता है कि वह किसके लिए काम कर रहा है और उसे कैसे पेश आना है।
यह कैसे काम करता है
Chat Completions फ़ॉर्मैट में messages, role वाले ऑब्जेक्ट की एक लिस्ट है। पहले ऑब्जेक्ट में आम तौर पर स्थायी निर्देश होते हैं। नीचे के उदाहरण में सिस्टम मैसेज मॉडल को एयरलाइन का सपोर्ट एजेंट बनाता है, दो वाक्यों में जवाब देने और किराया कभी न बताने को कहता है:
{"messages": [
{"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
{"role": "user", "content": "Can I change my flight?"}
]}
OpenAI का API रेफ़रंस system और developer दोनों मैसेज को “developer-provided instructions that the model should follow, regardless of messages sent by the user” (अनुवाद: डेवलपर के दिए निर्देश, जिनका मॉडल को पालन करना चाहिए, यूज़र चाहे जो मैसेज भेजे) बताता है, और कहता है कि o1 और नए मॉडल पर developer मैसेज, system मैसेज की जगह लेते हैं। उसकी टेक्स्ट गाइड प्राथमिकता में developer मैसेज को “ahead of user messages” (अनुवाद: यूज़र मैसेज से ऊपर) रखती है। Anthropic सिस्टम प्रॉम्प्ट को मैसेज के बजाय अलग टॉप-लेवल system पैरामीटर में लेता है, और बताता है कि भूमिका तय करने वाला एक वाक्य भी “focuses Claude’s behavior and tone” (अनुवाद: Claude के व्यवहार और लहजे को केंद्रित करता है)।
आम तौर पर इसमें होता है: एक भूमिका, काम, सख़्त नियम, आउटपुट फ़ॉर्मैट, और कभी-कभी उदाहरण (few-shot प्रॉम्प्टिंग)।
यह क्यों मायने रखता है
- लागत. सिस्टम प्रॉम्प्ट हर कॉल पर इनपुट टोकन के रूप में दोबारा भेजा जाता है। 10,000 अनुरोधों पर 2,000 टोकन का प्रॉम्प्ट 20 million (2 करोड़) टोकन बनता है।
- कैशिंग. हर बार एक जैसा और सबसे पहले होने की वजह से सिस्टम प्रॉम्प्ट कैश करने के लिए सबसे आसान प्रीफ़िक्स है। तारीख़ या यूज़र के नाम जैसा बदलने वाला डेटा इसके बाद रखें। कैशिंग के लिए प्रॉम्प्ट का ढाँचा वाला लेख सही क्रम दिखाता है।
- सुरक्षा. यह एक नीति की परत है, सुरक्षा की दीवार नहीं। दस्तावेज़ों या यूज़र टेक्स्ट में छिपा प्रॉम्प्ट इंजेक्शन फिर भी मॉडल को भटका सकता है।
BroadNet Inference पर
BroadNet, OpenAI का chat-completions ढाँचा देता है, इसलिए सिस्टम मैसेज ऊपर की तरह messages में जाता है। डॉक्स के उदाहरण सिर्फ़ एक यूज़र मैसेज इस्तेमाल करते हैं और यह नहीं बताते कि हर मॉडल system या developer रोल को कैसे सँभालता है; जिस मॉडल को आप प्रोडक्शन में ले जा रहे हैं, उस पर अपना प्रॉम्प्ट टेस्ट करें।
BroadNet, usage में prompt_tokens_details.cached_tokens बताता है और उन टोकन का बिल कैश्ड इनपुट कीमत पर बनाता है। DeepSeek V4.1 Flash पर ऊपर के 20 million टोकन का उदाहरण: कुछ भी कैश न हो तो 20 × $0.175, और हर रीड कैश से मिले तो 20 × $0.0055। असली हिट रेट इन दोनों के बीच रहता है; अपना रेट जानने के लिए cached_tokens देखें। पहला अनुरोध curl क्विकस्टार्ट में है।
आम ग़लतियाँ
- सिस्टम प्रॉम्प्ट के सबसे ऊपर टाइमस्टैम्प रखना। यह हर कॉल पर बदलता है और कैश तोड़ देता है।
- सिस्टम प्रॉम्प्ट में सीक्रेट रखना। यूज़र अक्सर मॉडल से इसे दोहरवा लेते हैं।