BroadRouter

रीज़निंग टोकन (reasoning tokens)

अपडेट किया गया

रीज़निंग टोकन वे टोकन हैं जो रीज़निंग मॉडल अपना दिखने वाला जवाब लिखने से पहले किसी समस्या को हल करने के लिए बनाता है। इनका बिल आम तौर पर आउटपुट टोकन की तरह बनता है, ये आउटपुट लिमिट और कॉन्टेक्स्ट विंडो में गिने जाते हैं, और API इन्हें छिपा सकता है या इनका सारांश दे सकता है।

अन्य नाम: रीज़निंग टोकन, थिंकिंग टोकन, reasoning tokens kya hai, reasoning tokens, thinking tokens, chain-of-thought tokens, reasoning effort, extended thinking

रीज़निंग मॉडल जवाब देने से पहले सोचते हैं। वह सोचना भी टेक्स्ट ही है, इसलिए उसमें टोकन, समय और कॉन्टेक्स्ट विंडो की जगह लगती है।

यह कैसे काम करता है

रीज़निंग मॉडल पहले अंदरूनी chain of thought बनाता है, फिर दिखने वाला जवाब। दोनों एक ही आउटपुट बजट से आते हैं। OpenAI की गाइड कहती है कि रीज़निंग टोकन “are billed as output tokens” (अनुवाद: आउटपुट टोकन की तरह बिल होते हैं) और कॉन्टेक्स्ट विंडो में जगह घेरते हैं; Anthropic thinking टोकन के बारे में यही कहता है और उन्हें “a subset of your max_tokens” (अनुवाद: आपके max_tokens का एक हिस्सा) बताता है।

Chat Completions फ़ॉर्मैट में गिनती usage में दिखती है:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

यहाँ 1,186 आउटपुट टोकन में से 1,024 सोचने में गए, और जवाब को सिर्फ़ 162 मिले। OpenAI चेतावनी देता है कि रिस्पॉन्स “before any visible output tokens are produced” (अनुवाद: कोई भी दिखने वाला आउटपुट टोकन बनने से पहले) लिमिट तक पहुँच सकता है, यानी आप इनपुट और रीज़निंग का भुगतान करते हैं और जवाब नहीं मिलता। वह सुझाव देता है कि उसके मॉडलों के साथ प्रयोग शुरू करते समय रीज़निंग और आउटपुट के लिए कम से कम 25,000 टोकन रखें।

कई API reasoning_effort (low, medium, high) जैसा कंट्रोल देते हैं, ताकि कम थिंकिंग टोकन के बदले क्वालिटी में समझौता किया जा सके।

यह क्यों मायने रखता है

  • लागत. प्रति-टोकन key पर रीज़निंग का बिल आउटपुट कीमत पर बनता है, जो आम तौर पर सबसे ऊँची दर है। देखें इनपुट और आउटपुट टोकन।
  • लेटेंसी. पहले दिखने वाले टोकन से पहले सोचने में समय लगता है। तय टोकन प्रति सेकंड पर 2,000 रीज़निंग टोकन, 2,000 आउटपुट टोकन जितना समय जोड़ते हैं।
  • भरोसेमंदी. जो छोटा max_tokens बिना रीज़निंग वाले मॉडल पर चलता था, वह रीज़निंग मॉडल पर ख़ाली जवाब दे सकता है।

BroadNet Inference पर

DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं। BroadNet के डॉक्स कहते हैं कि रीज़निंग max_tokens में गिनी जाती है। BroadNet के डॉक्स BroadNet Gemma 4 VL 26B के लिए रीज़निंग सूचीबद्ध नहीं करते।

जब मॉडल इसे रिपोर्ट करता है, तो usage.completion_tokens_details.reasoning_tokens सोचने का हिस्सा दिखाता है। max_tokens को 1,000 या ज़्यादा रखें, या सेट ही न करें, और आसान क़दमों के लिए reasoning_effort="low" इस्तेमाल करें:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

उपयोग के अनुसार भुगतान में रीज़निंग का बिल आउटपुट कीमत पर बनता है, जैसे DeepSeek V4.1 Flash पर प्रति 10 लाख टोकन $0.52। उसी मॉडल के अनलिमिटेड प्लान पर कोई टोकन मीटर नहीं है, इसलिए रीज़निंग का कोई अतिरिक्त ख़र्च नहीं; बस समय लगता है। समाधानों की पूरी सूची रीज़निंग मॉडल ख़ाली जवाब क्यों देता है में है।

अक्सर पूछे जाने वाले सवाल

क्या मैं रीज़निंग टोकन देख सकता हूँ?

यह API पर निर्भर है। OpenAI कहता है कि रीज़निंग टोकन उसके API में नहीं दिखते, लेकिन उनका सारांश मिल सकता है। दूसरे प्रोवाइडर रीज़निंग का कुछ हिस्सा या पूरा एक अलग फ़ील्ड में लौटाते हैं। दोनों ही सूरतों में बिल इनका बनता है।

रीज़निंग टोकन कैसे कम करें?

आसान कामों के लिए कम reasoning effort सेटिंग इस्तेमाल करें, जैसे reasoning_effort को low पर, जहाँ मॉडल इसे सपोर्ट करता हो। साफ़ और सटीक प्रॉम्प्ट भी मदद करते हैं।

रीज़निंग मॉडल से मुझे ख़ाली जवाब क्यों मिला?

शायद मॉडल ने पूरा आउटपुट बजट रीज़निंग पर ख़र्च कर दिया। तब finish_reason की वैल्यू length होती है। max_tokens बढ़ाएँ या reasoning effort घटाएँ।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें