एक एजेंट किसी काम को क़दम-दर-क़दम पूरा करता है। मल्टी-एजेंट सिस्टम काम को बाँटता है और हिस्सों को एक साथ चलाता है।
यह कैसे काम करता है
Anthropic अपने Research फ़ीचर को एक “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (अनुवाद: orchestrator-worker पैटर्न, जिसमें एक lead एजेंट प्रक्रिया का तालमेल करता है और काम विशेष subagents को सौंपता है।) बताता है। lead सवाल पढ़ता है, योजना बनाता है, कई subagents शुरू करता है जो समानांतर सर्च करते हैं, और उनके सारांशों से अंतिम जवाब लिखता है।
दूसरे डिज़ाइन भी हैं। AutoGen पेपर (Wu और साथी, 2023) एक ऐसा फ़्रेमवर्क बताता है जिसमें “customizable, conversable” (अनुवाद: अनुकूलन-योग्य, बातचीत करने वाले) एजेंट एक-दूसरे से, इंसानों से और टूल से बात करते हैं, और डेवलपर बातचीत का पैटर्न सामान्य भाषा या कोड में प्रोग्राम करते हैं।
orchestrator-worker रन का एक उदाहरण:
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
हर worker सर्च करने और पढ़ने पर अपने टोकन खर्च करता है। lead सिर्फ़ सारांश देखता है।
यह क्यों मायने रखता है
- व्यापक कामों पर क्वालिटी. Anthropic बताता है कि Claude Opus 4 lead और Sonnet 4 workers वाले मल्टी-एजेंट सेटअप ने उसके अंदरूनी रिसर्च eval पर “outperformed single-agent Claude Opus 4 by 90.2%” (अनुवाद: अकेले एजेंट वाले Claude Opus 4 से 90.2% बेहतर प्रदर्शन किया)।
- टोकन की लागत. उसी पोस्ट के अनुसार एजेंट चैट के मुक़ाबले लगभग चार गुना टोकन खर्च करते हैं, और मल्टी-एजेंट सिस्टम “about 15× more tokens than chats.” (अनुवाद: चैट से लगभग 15× ज़्यादा टोकन)। वह यह भी बताता है कि BrowseComp पर प्रदर्शन के 80% अंतर को अकेले टोकन उपयोग ने समझाया। ज़्यादा एजेंट का मतलब आम तौर पर बड़ा बिल है। मल्टी-एजेंट की लागत वाला लेख प्रति-टोकन और फ़्लैट बिलिंग की तुलना करता है।
- कहाँ फ़िट बैठता है. Anthropic कहता है कि कोडिंग इसके लिए कम उपयुक्त है, क्योंकि “most coding tasks involve fewer truly parallelizable tasks than research,” (अनुवाद: ज़्यादातर कोडिंग कामों में रिसर्च के मुक़ाबले सच में समानांतर चल सकने वाले काम कम होते हैं), और जिन कामों में बहुत साझा कॉन्टेक्स्ट हो या एजेंट एक-दूसरे पर निर्भर हों, वे इसके लिए ठीक नहीं।
- Concurrency. समानांतर workers का मतलब समानांतर अनुरोध है, इसलिए आपकी concurrency सीमा तय करती है कि रफ़्तार कितनी बढ़ेगी।
BroadNet Inference पर
BroadNet मॉडल सर्व करता है; orchestration आपके फ़्रेमवर्क में चलता है। गाइड BroadNet base URL के साथ CrewAI और OpenAI Agents SDK कवर करती हैं।
उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चलते अनुरोध की अनुमति देती है। DeepSeek V4.1 Flash के फ़्लैट-रेट प्लान पर कोई टोकन मीटर नहीं है, जिससे बिल से टोकन का गुणक हट जाता है, पर हर सेशन एक समय में एक ही अनुरोध चलाता है। हर उस मॉडल अनुरोध के लिए एक सेशन ख़रीदें जो एक ही पल में चल सकता है: एक साथ चलने वाले तीन workers को तीन सेशन चाहिए, और चार, अगर उनके काम करते समय lead भी मॉडल को कॉल करता रहे। फ़्लैट-रेट API पर समानांतर कोडिंग एजेंट चलाना आम पैटर्न समझाता है।