टूल कॉलिंग वह तरीक़ा है जिससे लैंग्वेज मॉडल दुनिया में कुछ करता है: वह आपके कोड से कुछ खोजने, कोई क्वेरी चलाने या कोई फ़ाइल बदलने को कहता है, और फिर नतीजे का इस्तेमाल करता है।
यह कैसे काम करती है
OpenAI की गाइड आपके ऐप और मॉडल के बीच एक लूप बताती है:
- टूल भेजें. अनुरोध में फ़ंक्शन की सूची होती है, हर एक का नाम, विवरण और आर्ग्युमेंट के लिए JSON Schema।
- टूल कॉल पाएँ. अगर मॉडल को कोई टूल चाहिए, तो वह अंतिम जवाब के बजाय फ़ंक्शन का नाम और JSON आर्ग्युमेंट लौटाता है।
- उसे चलाएँ. आपका कोड फ़ंक्शन चलाता है। OpenAI की गाइड यह क़दम “the application side” (अनुवाद: ऐप्लिकेशन की तरफ़) रखती है; मॉडल ख़ुद कभी कोड नहीं चलाता।
- नतीजा लौटाएँ, मेल खाते call ID के साथ।
- जवाब पाएँ, या एक और टूल कॉल। ज़रूरत के हिसाब से दोहराएँ।
Chat Completions फ़ॉर्मैट में टूल की परिभाषा ऐसी दिखती है:
{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by ID",
"parameters": {
"type": "object",
"properties": { "order_id": { "type": "string" } },
"required": ["order_id"]
}
}
}
जवाब में finish_reason: "tool_calls" और एक tool_calls लिस्ट होती है। हर एंट्री में एक id, फ़ंक्शन का नाम और JSON स्ट्रिंग के रूप में arguments होते हैं। आप role: "tool", वही tool_call_id और नतीजे वाला एक मैसेज जोड़ते हैं, फिर API को दोबारा कॉल करते हैं।
यह क्यों मायने रखती है
- एजेंट. कोडिंग एजेंट, सपोर्ट बॉट और डेटा असिस्टेंट ज़्यादातर टूल कॉल के लूप ही हैं।
- लागत. हर चक्कर एक नया अनुरोध है जो बातचीत, टूल की परिभाषाएँ और टूल के नतीजे फिर से इनपुट टोकन के रूप में भेजता है। लंबे टूल लूप में कैश्ड इनपुट और टूल का स्थिर क्रम अहम हो जाते हैं।
- सुरक्षा. आर्ग्युमेंट मॉडल से आते हैं। डेटा बदलने या पैसे ख़र्च करने वाली कोई भी चीज़ चलाने से पहले उन्हें जाँचें।
अगर जवाब को किसी schema से मेल खाना है पर किसी फ़ंक्शन की ज़रूरत नहीं, तो स्ट्रक्चर्ड आउटपुट आसान रास्ता है।
BroadNet Inference पर
BroadNet के डॉक्स GLM 5.3 और Qwen3.8 27B के लिए टूल कॉलिंग सूचीबद्ध करते हैं, दोनों में स्ट्रक्चर्ड आउटपुट और रीज़निंग भी है। DeepSeek V4.1 Flash या BroadNet Gemma 4 VL 26B के लिए डॉक्स टूल सपोर्ट नहीं बताते। जिस मॉडल को आप प्रोडक्शन में ले जाना चाहते हैं, उस पर अपना टूल लूप टेस्ट करें।
सूचीबद्ध दोनों मॉडल जवाब से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है, इसलिए जगह छोड़ें, वरना टूल कॉल बीच में कट सकती है। रीज़निंग टोकन देखें। अपना टूल फ़ॉर्मैट लाने वाले एजेंट टूल के लिए Cline गाइड और Vercel AI SDK गाइड देखें।
आम ग़लतियाँ
argumentsको ऑब्जेक्ट मानकर पार्स करना। यह JSON स्ट्रिंग के रूप में आता है; इसे डिकोड करें और एरर सँभालें।tool_call_idभूल जाना। इसके बिना मॉडल नतीजों को कॉल से नहीं मिला सकता।