रीज़निंग मॉडल जवाब देने से पहले सोचते हैं। वह सोचना भी टेक्स्ट ही है, इसलिए उसमें टोकन, समय और कॉन्टेक्स्ट विंडो की जगह लगती है।
यह कैसे काम करता है
रीज़निंग मॉडल पहले अंदरूनी chain of thought बनाता है, फिर दिखने वाला जवाब। दोनों एक ही आउटपुट बजट से आते हैं। OpenAI की गाइड कहती है कि रीज़निंग टोकन “are billed as output tokens” (अनुवाद: आउटपुट टोकन की तरह बिल होते हैं) और कॉन्टेक्स्ट विंडो में जगह घेरते हैं; Anthropic thinking टोकन के बारे में यही कहता है और उन्हें “a subset of your max_tokens” (अनुवाद: आपके max_tokens का एक हिस्सा) बताता है।
Chat Completions फ़ॉर्मैट में गिनती usage में दिखती है:
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
यहाँ 1,186 आउटपुट टोकन में से 1,024 सोचने में गए, और जवाब को सिर्फ़ 162 मिले। OpenAI चेतावनी देता है कि रिस्पॉन्स “before any visible output tokens are produced” (अनुवाद: कोई भी दिखने वाला आउटपुट टोकन बनने से पहले) लिमिट तक पहुँच सकता है, यानी आप इनपुट और रीज़निंग का भुगतान करते हैं और जवाब नहीं मिलता। वह सुझाव देता है कि उसके मॉडलों के साथ प्रयोग शुरू करते समय रीज़निंग और आउटपुट के लिए कम से कम 25,000 टोकन रखें।
कई API reasoning_effort (low, medium, high) जैसा कंट्रोल देते हैं, ताकि कम थिंकिंग टोकन के बदले क्वालिटी में समझौता किया जा सके।
यह क्यों मायने रखता है
- लागत. प्रति-टोकन key पर रीज़निंग का बिल आउटपुट कीमत पर बनता है, जो आम तौर पर सबसे ऊँची दर है। देखें इनपुट और आउटपुट टोकन।
- लेटेंसी. पहले दिखने वाले टोकन से पहले सोचने में समय लगता है। तय टोकन प्रति सेकंड पर 2,000 रीज़निंग टोकन, 2,000 आउटपुट टोकन जितना समय जोड़ते हैं।
- भरोसेमंदी. जो छोटा
max_tokensबिना रीज़निंग वाले मॉडल पर चलता था, वह रीज़निंग मॉडल पर ख़ाली जवाब दे सकता है।
BroadNet Inference पर
DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं। BroadNet के डॉक्स कहते हैं कि रीज़निंग max_tokens में गिनी जाती है। BroadNet के डॉक्स BroadNet Gemma 4 VL 26B के लिए रीज़निंग सूचीबद्ध नहीं करते।
जब मॉडल इसे रिपोर्ट करता है, तो usage.completion_tokens_details.reasoning_tokens सोचने का हिस्सा दिखाता है। max_tokens को 1,000 या ज़्यादा रखें, या सेट ही न करें, और आसान क़दमों के लिए reasoning_effort="low" इस्तेमाल करें:
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
उपयोग के अनुसार भुगतान में रीज़निंग का बिल आउटपुट कीमत पर बनता है, जैसे DeepSeek V4.1 Flash पर प्रति 10 लाख टोकन $0.52। उसी मॉडल के अनलिमिटेड प्लान पर कोई टोकन मीटर नहीं है, इसलिए रीज़निंग का कोई अतिरिक्त ख़र्च नहीं; बस समय लगता है। समाधानों की पूरी सूची रीज़निंग मॉडल ख़ाली जवाब क्यों देता है में है।