BroadRouter
शुरू करें

मल्टी-एजेंट सिस्टम (multi-agent system)

अपडेट किया गया

मल्टी-एजेंट सिस्टम एक LLM ऐप्लिकेशन है जिसमें कई एजेंट, हर एक अपने प्रॉम्प्ट, टूल और कॉन्टेक्स्ट के साथ, एक ही काम के अलग-अलग हिस्सों पर काम करते हैं। आम डिज़ाइन orchestrator-worker है: एक lead एजेंट योजना बनाता है, worker एजेंट समानांतर शुरू करता है और उनके नतीजे जोड़ता है।

अन्य नाम: मल्टी-एजेंट, मल्टी एजेंट सिस्टम, multi agent system kya hai, multi-agent kya hota hai, multi-agent system, multi-agent, multi-agent orchestration, orchestrator-worker

एक एजेंट किसी काम को क़दम-दर-क़दम पूरा करता है। मल्टी-एजेंट सिस्टम काम को बाँटता है और हिस्सों को एक साथ चलाता है।

यह कैसे काम करता है

Anthropic अपने Research फ़ीचर को एक “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (अनुवाद: orchestrator-worker पैटर्न, जिसमें एक lead एजेंट प्रक्रिया का तालमेल करता है और काम विशेष subagents को सौंपता है।) बताता है। lead सवाल पढ़ता है, योजना बनाता है, कई subagents शुरू करता है जो समानांतर सर्च करते हैं, और उनके सारांशों से अंतिम जवाब लिखता है।

दूसरे डिज़ाइन भी हैं। AutoGen पेपर (Wu और साथी, 2023) एक ऐसा फ़्रेमवर्क बताता है जिसमें “customizable, conversable” (अनुवाद: अनुकूलन-योग्य, बातचीत करने वाले) एजेंट एक-दूसरे से, इंसानों से और टूल से बात करते हैं, और डेवलपर बातचीत का पैटर्न सामान्य भाषा या कोड में प्रोग्राम करते हैं।

orchestrator-worker रन का एक उदाहरण:

Lead:     plan -> start 3 workers
Worker 1: search docs for topic A  -> 1,500-token summary
Worker 2: search docs for topic B  -> 1,500-token summary
Worker 3: search docs for topic C  -> 1,500-token summary
Lead:     read 3 summaries -> final answer

हर worker सर्च करने और पढ़ने पर अपने टोकन खर्च करता है। lead सिर्फ़ सारांश देखता है।

यह क्यों मायने रखता है

  • व्यापक कामों पर क्वालिटी. Anthropic बताता है कि Claude Opus 4 lead और Sonnet 4 workers वाले मल्टी-एजेंट सेटअप ने उसके अंदरूनी रिसर्च eval पर “outperformed single-agent Claude Opus 4 by 90.2%” (अनुवाद: अकेले एजेंट वाले Claude Opus 4 से 90.2% बेहतर प्रदर्शन किया)।
  • टोकन की लागत. उसी पोस्ट के अनुसार एजेंट चैट के मुक़ाबले लगभग चार गुना टोकन खर्च करते हैं, और मल्टी-एजेंट सिस्टम “about 15× more tokens than chats.” (अनुवाद: चैट से लगभग 15× ज़्यादा टोकन)। वह यह भी बताता है कि BrowseComp पर प्रदर्शन के 80% अंतर को अकेले टोकन उपयोग ने समझाया। ज़्यादा एजेंट का मतलब आम तौर पर बड़ा बिल है। मल्टी-एजेंट की लागत वाला लेख प्रति-टोकन और फ़्लैट बिलिंग की तुलना करता है।
  • कहाँ फ़िट बैठता है. Anthropic कहता है कि कोडिंग इसके लिए कम उपयुक्त है, क्योंकि “most coding tasks involve fewer truly parallelizable tasks than research,” (अनुवाद: ज़्यादातर कोडिंग कामों में रिसर्च के मुक़ाबले सच में समानांतर चल सकने वाले काम कम होते हैं), और जिन कामों में बहुत साझा कॉन्टेक्स्ट हो या एजेंट एक-दूसरे पर निर्भर हों, वे इसके लिए ठीक नहीं।
  • Concurrency. समानांतर workers का मतलब समानांतर अनुरोध है, इसलिए आपकी concurrency सीमा तय करती है कि रफ़्तार कितनी बढ़ेगी।

BroadNet Inference पर

BroadNet मॉडल सर्व करता है; orchestration आपके फ़्रेमवर्क में चलता है। गाइड BroadNet base URL के साथ CrewAI और OpenAI Agents SDK कवर करती हैं।

उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चलते अनुरोध की अनुमति देती है। DeepSeek V4.1 Flash के फ़्लैट-रेट प्लान पर कोई टोकन मीटर नहीं है, जिससे बिल से टोकन का गुणक हट जाता है, पर हर सेशन एक समय में एक ही अनुरोध चलाता है। हर उस मॉडल अनुरोध के लिए एक सेशन ख़रीदें जो एक ही पल में चल सकता है: एक साथ चलने वाले तीन workers को तीन सेशन चाहिए, और चार, अगर उनके काम करते समय lead भी मॉडल को कॉल करता रहे। फ़्लैट-रेट API पर समानांतर कोडिंग एजेंट चलाना आम पैटर्न समझाता है।

अक्सर पूछे जाने वाले सवाल

क्या मल्टी-एजेंट सिस्टम हमेशा एक एजेंट से बेहतर होता है?

नहीं। Anthropic व्यापक रिसर्च वाले कामों पर बड़े सुधार बताता है, पर यह भी कि मल्टी-एजेंट सिस्टम चैट के मुक़ाबले लगभग 15 गुना टोकन खर्च करते हैं, और ज़्यादातर कोडिंग कामों में रिसर्च के मुक़ाबले सच में समानांतर हिस्से कम होते हैं।

मल्टी-एजेंट सिस्टम किन फ़्रेमवर्क से बनते हैं?

AutoGen, OpenAI Agents SDK, CrewAI और Claude Code जैसे कोडिंग टूल, सभी किसी न किसी रूप में इसे सपोर्ट करते हैं। AutoGen का पेपर ऐसे एजेंट बताता है जो एक-दूसरे से, इंसानों से और टूल से बात करते हैं।

मल्टी-एजेंट सिस्टम को कितने समानांतर अनुरोध चाहिए?

हर उस एजेंट के लिए एक, जो उसी पल मॉडल को कॉल करता है। एक lead और चार workers साथ चलें, तो एक साथ पाँच अनुरोध चल रहे होंगे।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें