BroadRouter
शुरू करें

टूल कॉलिंग (tool calling)

अपडेट किया गया

टूल कॉलिंग, जिसे function calling भी कहते हैं, LLM API की वह सुविधा है जिसमें मॉडल डेवलपर के तय किए किसी फ़ंक्शन को चलाने का एक स्ट्रक्चर्ड अनुरोध, JSON आर्ग्युमेंट के साथ, लौटाता है। ऐप्लिकेशन फ़ंक्शन चलाकर नतीजा वापस भेजता है; मॉडल ख़ुद कभी कोड नहीं चलाता।

अन्य नाम: टूल कॉलिंग, फ़ंक्शन कॉलिंग, टूल का इस्तेमाल, tool calling kya hai, function calling kya hai, tool calling, function calling, tool use, tools, tool_calls

टूल कॉलिंग वह तरीक़ा है जिससे लैंग्वेज मॉडल दुनिया में कुछ करता है: वह आपके कोड से कुछ खोजने, कोई क्वेरी चलाने या कोई फ़ाइल बदलने को कहता है, और फिर नतीजे का इस्तेमाल करता है।

यह कैसे काम करती है

OpenAI की गाइड आपके ऐप और मॉडल के बीच एक लूप बताती है:

  1. टूल भेजें. अनुरोध में फ़ंक्शन की सूची होती है, हर एक का नाम, विवरण और आर्ग्युमेंट के लिए JSON Schema।
  2. टूल कॉल पाएँ. अगर मॉडल को कोई टूल चाहिए, तो वह अंतिम जवाब के बजाय फ़ंक्शन का नाम और JSON आर्ग्युमेंट लौटाता है।
  3. उसे चलाएँ. आपका कोड फ़ंक्शन चलाता है। OpenAI की गाइड यह क़दम “the application side” (अनुवाद: ऐप्लिकेशन की तरफ़) रखती है; मॉडल ख़ुद कभी कोड नहीं चलाता।
  4. नतीजा लौटाएँ, मेल खाते call ID के साथ।
  5. जवाब पाएँ, या एक और टूल कॉल। ज़रूरत के हिसाब से दोहराएँ।

Chat Completions फ़ॉर्मैट में टूल की परिभाषा ऐसी दिखती है:

{
  "type": "function",
  "function": {
    "name": "get_order_status",
    "description": "Look up an order by ID",
    "parameters": {
      "type": "object",
      "properties": { "order_id": { "type": "string" } },
      "required": ["order_id"]
    }
  }
}

जवाब में finish_reason: "tool_calls" और एक tool_calls लिस्ट होती है। हर एंट्री में एक id, फ़ंक्शन का नाम और JSON स्ट्रिंग के रूप में arguments होते हैं। आप role: "tool", वही tool_call_id और नतीजे वाला एक मैसेज जोड़ते हैं, फिर API को दोबारा कॉल करते हैं।

यह क्यों मायने रखती है

  • एजेंट. कोडिंग एजेंट, सपोर्ट बॉट और डेटा असिस्टेंट ज़्यादातर टूल कॉल के लूप ही हैं।
  • लागत. हर चक्कर एक नया अनुरोध है जो बातचीत, टूल की परिभाषाएँ और टूल के नतीजे फिर से इनपुट टोकन के रूप में भेजता है। लंबे टूल लूप में कैश्ड इनपुट और टूल का स्थिर क्रम अहम हो जाते हैं।
  • सुरक्षा. आर्ग्युमेंट मॉडल से आते हैं। डेटा बदलने या पैसे ख़र्च करने वाली कोई भी चीज़ चलाने से पहले उन्हें जाँचें।

अगर जवाब को किसी schema से मेल खाना है पर किसी फ़ंक्शन की ज़रूरत नहीं, तो स्ट्रक्चर्ड आउटपुट आसान रास्ता है।

BroadNet Inference पर

BroadNet के डॉक्स GLM 5.3 और Qwen3.8 27B के लिए टूल कॉलिंग सूचीबद्ध करते हैं, दोनों में स्ट्रक्चर्ड आउटपुट और रीज़निंग भी है। DeepSeek V4.1 Flash या BroadNet Gemma 4 VL 26B के लिए डॉक्स टूल सपोर्ट नहीं बताते। जिस मॉडल को आप प्रोडक्शन में ले जाना चाहते हैं, उस पर अपना टूल लूप टेस्ट करें।

सूचीबद्ध दोनों मॉडल जवाब से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है, इसलिए जगह छोड़ें, वरना टूल कॉल बीच में कट सकती है। रीज़निंग टोकन देखें। अपना टूल फ़ॉर्मैट लाने वाले एजेंट टूल के लिए Cline गाइड और Vercel AI SDK गाइड देखें।

आम ग़लतियाँ

  • arguments को ऑब्जेक्ट मानकर पार्स करना। यह JSON स्ट्रिंग के रूप में आता है; इसे डिकोड करें और एरर सँभालें।
  • tool_call_id भूल जाना। इसके बिना मॉडल नतीजों को कॉल से नहीं मिला सकता।

अक्सर पूछे जाने वाले सवाल

क्या मॉडल मेरा फ़ंक्शन चलाता है?

नहीं। मॉडल सिर्फ़ फ़ंक्शन का नाम और आर्ग्युमेंट लौटाता है। उसे चलाना है या नहीं, यह आपका कोड तय करता है; वही उसे चलाता है और नतीजा एक tool मैसेज में वापस भेजता है।

क्या मॉडल एक साथ कई टूल कॉल कर सकता है?

कई API पैरेलल टूल कॉल की अनुमति देते हैं, यानी एक ही जवाब में tool_calls के अंदर कई एंट्री। आपका कोड हर एक को चलाता है और हर tool_call_id के लिए एक नतीजा लौटाता है।

BroadNet के कौन-से मॉडल टूल कॉलिंग सपोर्ट करते हैं?

BroadNet के डॉक्स GLM 5.3 और Qwen3.8 27B के लिए टूल सूचीबद्ध करते हैं। DeepSeek V4.1 Flash या BroadNet Gemma 4 VL 26B के लिए वे टूल सपोर्ट नहीं बताते, इसलिए वहाँ इस पर भरोसा करने से पहले टेस्ट करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें