BroadRouter
शुरू करें

मल्टी-एजेंट सेटअप की असली लागत: प्रति टोकन बनाम फ़्लैट सेशन

BroadNet Inference टीम · 4 मिनट में पढ़ें · प्रकाशित · अपडेट किया गया

मल्टी-एजेंट सेटअप की लागत मोटे तौर पर हर एजेंट के टोकन का जोड़ होती है, साथ में हैंडऑफ़ और दोहराया गया कॉन्टेक्स्ट। Anthropic ने अपने मल्टी-एजेंट रिसर्च सिस्टम के लिए चैट के लगभग 15 गुना टोकन मापे, जबकि एक एजेंट के लिए 4 गुना। प्रति टोकन बिल हर एजेंट के साथ बढ़ता है; फ़्लैट प्लान पर वह एक साथ चल रहे एजेंट के साथ बढ़ता है।

किसी टास्क को एक ऑर्केस्ट्रेटर और सब-एजेंट में बाँटने से वह जल्दी पूरा हो सकता है और ज़्यादा खोजबीन हो सकती है। साथ ही बिल भी कई गुना हो जाता है, ऐसे तरीक़ों से जो प्राइस लिस्ट से साफ़ नहीं दिखते। यह पोस्ट DeepSeek V4.1 Flash के लिए BroadNet की प्रकाशित कीमतों से हिसाब लगाती है कि मल्टी-एजेंट सेटअप प्रति टोकन और फ़्लैट सेशन पर कितने का पड़ता है। सेशन कैसे गिनें और ख़रीदें, यह फ़्लैट रेट पर पैरेलल कोडिंग एजेंट चलाना में है; यह पोस्ट पैसे के बारे में है।

मल्टी-एजेंट सिस्टम कितने ज़्यादा टोकन इस्तेमाल करता है?

सबसे साफ़ सार्वजनिक आँकड़े Anthropic के अपने मल्टी-एजेंट रिसर्च सिस्टम वाले लेख से आते हैं। उसने बताया कि “agents typically use about 4× more tokens than chat interactions, and multi-agent systems use about 15× more tokens than chats.” (अनुवाद: एजेंट आम तौर पर चैट की तुलना में लगभग 4× ज़्यादा टोकन इस्तेमाल करते हैं, और मल्टी-एजेंट सिस्टम चैट की तुलना में लगभग 15× ज़्यादा।) उसने यह भी पाया कि उसके परफ़ॉर्मेंस टेस्ट में अंतर का 80% अकेले टोकन उपयोग से समझ आता था। ज़्यादा एजेंट ज़्यादा टोकन ख़र्च करते हैं, और अक्सर इसके बदले बेहतर नतीजे पाते हैं।

वही लेख फ़िट को लेकर सावधान है: “For economic viability, multi-agent systems require tasks where the value of the task is high enough” (अनुवाद: आर्थिक रूप से टिकाऊ होने के लिए मल्टी-एजेंट सिस्टम को ऐसे टास्क चाहिए जिनका मूल्य इतना ऊँचा हो), ताकि बेहतर परफ़ॉर्मेंस की अतिरिक्त लागत निकल सके। वह यह भी बताता है कि ज़्यादातर कोडिंग टास्क में रिसर्च की तुलना में कम सचमुच पैरेलल हिस्से होते हैं।

इसलिए योजना के लिए एक उचित मान्यता यह है कि किसी टास्क का मल्टी-एजेंट संस्करण एक-एजेंट संस्करण का 3 से 4 गुना पड़ता है। आपका डिज़ाइन इससे सस्ता या कहीं बुरा हो सकता है। इसे मापें।

अतिरिक्त टोकन कहाँ से आते हैं?

गुणक ऐसा क्यों होता है
हर एजेंट का ओवरहेड हर सब-एजेंट हर कॉल पर अपना सिस्टम प्रॉम्प्ट और टूल परिभाषाएँ भेजता है
दोहरा पढ़ना सब-एजेंट कॉन्टेक्स्ट साझा नहीं करते, इसलिए वही फ़ाइलें दोबारा पढ़ते हैं
नतीजे आगे देना ऑर्केस्ट्रेटर हर सब-एजेंट का आउटपुट नए इनपुट के रूप में पढ़ता है
अलग-अलग कैश हर एजेंट के अलग प्रीफ़िक्स का मतलब कम कैश्ड इनपुट हिट
रीट्राई फ़ेल हुआ सब-टास्क अपना पूरा कॉन्टेक्स्ट दोबारा भेजता है

एजेंट टोकन बजट पोस्ट हर कॉल पर हर हिस्से को मापने का तरीक़ा दिखाती है।

दोनों बिलिंग मॉडल कैसे बढ़ते हैं?

मुख्य अंतर यह है कि हर एक क्या गिनता है:

  • प्रति टोकन (उपयोग के अनुसार भुगतान) हर एजेंट के भेजे और पाए गए हर टोकन को गिनता है। एक एजेंट जोड़ें, उसके टोकन जुड़ जाते हैं।
  • फ़्लैट सेशन गिनते हैं कि एक ही समय में कितने अनुरोध चल रहे हैं। BroadNet के अनलिमिटेड प्लान पर एक सेशन एक समय में एक अनुरोध चलाता है, बिना टोकन मीटर के, Full Moon पर $60 प्रति माह। एक साथ मॉडल को कॉल करने वाले चार एजेंट को चार सेशन चाहिए। बारी-बारी चलने वाले चार एजेंट को एक।

इसका मतलब है कि प्लान मल्टी-एजेंट को मुफ़्त नहीं बना देता। एक सेशन की उत्पादन क्षमता सीमित है: लगभग 100 टोकन प्रति सेकंड पर, अगर वह लगातार जनरेट करता रहे, तो महीने में लगभग लगभग 259 मिलियन आउटपुट टोकन। उन्हीं घंटों में ज़्यादा टोकन का मतलब है ज़्यादा सेशन।

सेशन का हिसाब, हल करके

हम अपनी फ़्लैट रेट बनाम प्रति टोकन पोस्ट वाला पूरे समय का कोडिंग एजेंट लेते हैं: महीने में 1,000M इनपुट टोकन, 80% कैश्ड, 50M आउटपुट। DeepSeek V4.1 Flash पर इसकी लागत प्रति टोकन $65.40 प्रति माह है।

सेटअप मासिक टोकन प्रति-टोकन बिल सेशन प्लान बिल
एक एजेंट, पूरा दिन 1× $65.40 1 $60
ऑर्केस्ट्रेटर + 3 सब-एजेंट, सब पूरा दिन व्यस्त 4× 4 × $65.40 4 4 × $60
वही टीम, सब-एजेंट उछाल में, पीक ओवरलैप 2 लगभग 2× 2 × $65.40 2 2 × $60
चार हल्के एजेंट, हर एक साइड-प्रोजेक्ट वॉल्यूम पर 4 × हल्का 4 × $14.23 4 4 × $60

पंक्तियाँ क्या दिखाती हैं:

  1. व्यस्त एजेंट प्लान के पक्ष में हैं, हर सेशन पर एक अंतर से। इस वॉल्यूम पर हर पूरी तरह भरा सेशन महीने में $5.40 बचाता है। चार सेशन उसका चार गुना बचाते हैं।
  2. उछाल वाले सब-एजेंट कम सेशन के पक्ष में हैं। उस ओवरलैप के लिए ख़रीदें जो ज़्यादातर समय दिखता है। BroadNet के पेज यह नहीं बताते कि उससे ऊपर का अनुरोध इंतज़ार करता है या लौटा दिया जाता है, इसलिए हर एजेंट को concurrency वाले 429 के लिए backoff के साथ रीट्राई दें।
  3. हल्के एजेंट प्रति टोकन के पक्ष में हैं। चार ज़्यादातर ख़ाली एजेंट के लिए चार सेशन उनके टोकन से कहीं ज़्यादा महँगे हैं। साइड-प्रोजेक्ट वॉल्यूम पर हर एजेंट प्रति टोकन $14.23 प्रति माह का पड़ता है।

मोटा नियम: एक सेशन तब फ़ायदेमंद है जब उसे इस्तेमाल करने वाले एजेंट उसके ज़रिए महीने में लगभग 917 मिलियन इनपुट और 46 मिलियन आउटपुट टोकन भेजें।

अपने बिल का अनुमान कैसे लगाएँ?

  1. मल्टी-एजेंट वर्कफ़्लो को एक हफ़्ते के लिए उपयोग के अनुसार भुगतान वाली key पर चलाएँ, हर एजेंट के usage लॉग के साथ।
  2. हर एजेंट के टोकन जोड़ें: इनपुट, कैश्ड इनपुट और आउटपुट। महीने के लिए लगभग 4.3 से गुणा करें।
  3. अनुरोधों के टाइमस्टैम्प से पता करें कि ज़्यादातर समय कितने अनुरोध ओवरलैप होते हैं। वही आपकी सेशन संख्या है।
  4. फ़्लैट रेट बनाम प्रति टोकन कैलकुलेटर में प्रति-टोकन कुल की तुलना सेशन × $60 से करें।
  5. महीना ख़रीदने से पहले वही वर्कफ़्लो $1 के Meteor घंटों पर चलाएँ, हर सेशन के लिए एक।

उपयोग के अनुसार भुगतान वाली key 4 चलते अनुरोध और प्रति मिनट 30 की अनुमति देती है, इसलिए बड़ा फ़ैन-आउट प्रति-टोकन बिलिंग पर भी रेट लिमिट से टकराएगा। दोनों ही सूरत में backoff की योजना बनाएँ; देखें लंबे चलने वाले एजेंट।

मल्टी-एजेंट लागत कैसे घटाएँ?

  • एक एजेंट से शुरू करें। सब-एजेंट सिर्फ़ वहीं जोड़ें जहाँ काम साफ़-साफ़ बँटता हो।
  • सब-एजेंट को ऑर्केस्ट्रेटर से कम टूल और छोटे प्रॉम्प्ट दें।
  • सब-एजेंट से ऑर्केस्ट्रेटर को पूरी बातचीत नहीं, सारांश लौटाएँ।
  • जहाँ गुणवत्ता अनुमति दे, सब-एजेंट के लिए सस्ता मॉडल इस्तेमाल करें, और मज़बूत मॉडल प्लानिंग के लिए रखें।
  • जब रफ़्तार मायने न रखे, हैंडऑफ़ क्रम से चलाएँ। क्रम से चलने वाले एजेंट एक सेशन साझा करते हैं।

BroadNet Inference कहाँ फ़िट होता है

BroadNet के अनलिमिटेड प्लान उन मल्टी-एजेंट सिस्टम के लिए ठीक हैं जिनके एजेंट व्यस्त रहते हैं: DeepSeek V4.1 Flash पर हर सेशन $60 प्रति माह का है, बिना टोकन मीटर के, और एक key में कई सेशन हो सकते हैं। प्रति-टोकन key उछाल वाले फ़ैन-आउट और GLM 5.3 जैसे दूसरे मॉडल के लिए ठीक हैं। प्लान उन एजेंट के लिए ठीक नहीं जो दिन का ज़्यादातर हिस्सा ख़ाली रहते हैं, और BroadNet DeepSeek V4.1 Flash के लिए टूल कॉलिंग सूचीबद्ध नहीं करता, इसलिए पहले अपने सब-एजेंट का टूल उपयोग परखें। OpenAI Agents SDK गाइड जोड़ने का तरीक़ा दिखाता है, और प्लान inference.broadnet.ai/plans पर हैं।

अक्सर पूछे जाने वाले सवाल

मल्टी-एजेंट सिस्टम एक एजेंट से कितना ज़्यादा महँगा पड़ता है?

यह डिज़ाइन पर निर्भर है, लेकिन Anthropic के प्रकाशित आँकड़े एक पैमाना देते हैं। उसके एजेंट चैट के लगभग 4 गुना टोकन इस्तेमाल करते थे और उसका मल्टी-एजेंट रिसर्च सिस्टम लगभग 15 गुना, यानी उसी सवाल के लिए एक एजेंट का मोटे तौर पर 3 से 4 गुना।

क्या मल्टी-एजेंट सिस्टम के लिए फ़्लैट-रेट प्लान सस्ता है?

तब, जब हर सेशन व्यस्त रहे। BroadNet का Full Moon सेशन DeepSeek V4.1 Flash पर महीने में लगभग 917 मिलियन इनपुट और 46 मिलियन आउटपुट टोकन पर फ़ायदेमंद होता है। जो सेशन दिन का ज़्यादातर हिस्सा ख़ाली रहते हैं, वे प्रति टोकन भुगतान से महँगे पड़ते हैं।

सब-एजेंट वाले ऑर्केस्ट्रेटर को कितने प्लान सेशन चाहिए?

एक साथ चल रहे हर अनुरोध के लिए एक। जो ऑर्केस्ट्रेटर तीन सब-एजेंट के पैरेलल काम करते समय इंतज़ार करता है, उसे तीन या चार चाहिए, इस पर निर्भर कि वह उस दौरान मॉडल को कॉल करता है या नहीं। एक के बाद एक चलने वाले हैंडऑफ़ को एक चाहिए।

सब-एजेंट इतने टोकन क्यों इस्तेमाल करते हैं?

हर सब-एजेंट का अपना कॉन्टेक्स्ट होता है। वह अपना सिस्टम प्रॉम्प्ट और टूल परिभाषाएँ लोड करता है, वे फ़ाइलें दोबारा पढ़ता है जो दूसरे एजेंट पढ़ चुके हैं, और ऐसे नतीजे लौटाता है जिन्हें ऑर्केस्ट्रेटर फिर से पढ़ता है।

क्या कोडिंग के लिए मल्टी-एजेंट सिस्टम फ़ायदेमंद हैं?

कभी-कभी। Anthropic का लेख बताता है कि ज़्यादातर कोडिंग टास्क में रिसर्च की तुलना में कम सचमुच पैरेलल हिस्से होते हैं, और साझा कॉन्टेक्स्ट माँगने वाले टास्क इसमें ठीक से फ़िट नहीं होते। पहले एक एजेंट आज़माएँ और सब-एजेंट वहीं जोड़ें जहाँ काम सच में बँटता हो।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें