BroadRouter

चेन-ऑफ़-थॉट (chain-of-thought, CoT)

अपडेट किया गया

Chain-of-thought (CoT) एक प्रॉम्प्टिंग तकनीक है जिसमें लैंग्वेज मॉडल को अंतिम जवाब से पहले बीच के रीज़निंग चरण लिखकर दिखाए जाते हैं या लिखने को कहा जाता है। इससे गणित और तर्क जैसी कई-चरण वाली समस्याओं पर सटीकता बढ़ती है, और रीज़निंग मॉडल अब इसे अपने-आप बनाते हैं।

अन्य नाम: चेन ऑफ़ थॉट, स्टेप-बाय-स्टेप प्रॉम्प्टिंग, chain of thought kya hai, cot prompting kya hai, CoT, chain-of-thought prompting, step-by-step prompting, CoT prompting

Chain-of-thought एक प्रॉम्प्ट ट्रिक के रूप में शुरू हुआ और मॉडल का फ़ीचर बन गया।

यह कैसे काम करता है

Wei और साथियों ने यह तरीक़ा 2022 में प्रकाशित किया। सिर्फ़ सवाल और जवाब दिखाने वाले few-shot उदाहरणों के बजाय उन्होंने ऐसे उदाहरण लिखे जो बीच के चरण दिखाते थे। ऐसे आठ उदाहरणों के साथ 540 अरब पैरामीटर वाले एक मॉडल ने GSM8K पर, जो स्कूली गणित के शब्द-प्रश्नों का सेट है, state-of-the-art सटीकता हासिल की, और verifier वाले fine-tuned GPT-3 से आगे निकला। उन्होंने अंकगणित, सामान्य समझ (commonsense) और symbolic रीज़निंग टेस्ट की।

प्रॉम्प्ट में chain-of-thought का एक उदाहरण:

Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.

चरण लिखने से मॉडल को जवाब तय करने से पहले गणना के लिए ज़्यादा टोकन मिलते हैं, और हर चरण अगले को दिशा देता है। यह few-shot प्रॉम्प्टिंग का एक रूप है, जिसमें उदाहरण सिर्फ़ फ़ॉर्मैट नहीं, तरीक़ा सिखाते हैं।

रीज़निंग मॉडल इसे अपने अंदर कैसे ले आए

रीज़निंग मॉडल यह क़दम-दर-क़दम टेक्स्ट ख़ुद बनाने के लिए ट्रेन किए जाते हैं। OpenAI की गाइड कहती है कि वे “use internal reasoning tokens before producing a response” (अनुवाद: जवाब बनाने से पहले अंदरूनी रीज़निंग टोकन इस्तेमाल करते हैं), और ये टोकन उसके API में दिखते नहीं, फिर भी कॉन्टेक्स्ट लेते हैं और आउटपुट के रूप में बिल होते हैं। कुछ ओपन मॉडल रीज़निंग को एक अलग फ़ील्ड में लौटाते हैं। ये कैसे गिने जाते हैं, इसके लिए रीज़निंग टोकन देखें।

यह क्यों मायने रखता है

  • सटीकता। गणित, प्लानिंग और कोड सुधार जैसे कई-चरण वाले टास्क को सबसे ज़्यादा फ़ायदा होता है। सीधे लुकअप को कम।
  • लागत और latency। हर चरण एक आउटपुट टोकन है। लंबी चेन जवाब से ज़्यादा महँगी पड़ सकती है।
  • सबूत नहीं। लिखे हुए चरण सही दिख सकते हैं और फिर भी ग़लत हो सकते हैं, इसलिए वे हैलुसिनेशन नहीं रोकते।

BroadNet Inference पर

BroadNet के डॉक्स कहते हैं कि DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब से पहले रीज़न करते हैं, और रीज़निंग max_tokens में गिनी जाती है। 1,000 या उससे ज़्यादा टोकन छोड़ें, या reasoning_effort को low करें; छोटी लिमिट पर जवाब ख़ाली आ सकता है। जब रिपोर्ट हो, तो usage.completion_tokens_details.reasoning_tokens बताता है कि कितने इस्तेमाल हुए। डॉक्स BroadNet Gemma 4 VL 26B को रीज़निंग मॉडल के रूप में दर्ज नहीं करते, इसलिए उससे चरण माँगने का तरीक़ा क्लासिक chain-of-thought प्रॉम्प्टिंग है। ख़ाली जवाब गाइड और रीज़निंग टोकन लागत वाली पोस्ट बजट बनाना समझाती हैं।

अक्सर पूछे जाने वाले सवाल

क्या chain-of-thought और रीज़निंग टोकन एक ही हैं?

जुड़े हुए हैं, एक नहीं। Chain-of-thought चरण लिखने की तकनीक है। रीज़निंग टोकन वह है जो रीज़निंग मॉडल यही काम अंदर करते हुए बनाता है, और उनका बिल आउटपुट के रूप में लगता है।

क्या रीज़निंग मॉडल के लिए "think step by step" लिखना चाहिए?

आम तौर पर ज़रूरी नहीं। रीज़निंग मॉडल जवाब से पहले पहले से रीज़न करते हैं। OpenAI की गाइड हर चरण तय करने के बजाय उन्हें साफ़ लक्ष्य और शर्तें देने का सुझाव देती है।

क्या chain-of-thought ज़्यादा महँगा पड़ता है?

हाँ। चरण आउटपुट टोकन होते हैं, जो आम तौर पर सबसे महँगे टोकन हैं, और वे latency भी बढ़ाते हैं।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें