BroadRouter
शुरू करें

tool_choice

अपडेट किया गया

tool_choice एक अनुरोध पैरामीटर है जो टूल के इस्तेमाल को नियंत्रित करता है। OpenAI के Chat Completions में यह auto (मॉडल तय करे), required (एक या ज़्यादा टूल कॉल करने ही हैं), none (कोई टूल नहीं) या ज़बरदस्ती कॉल के लिए किसी फ़ंक्शन का नाम हो सकता है। Anthropic के बराबर विकल्प auto, any, tool और none हैं।

अन्य नाम: टूल चॉइस, फ़ोर्स्ड टूल कॉल, tool_choice kya hai, tool choice kya hai, tool choice, forced tool call, forced function call

टूल कॉलिंग से मॉडल आपके कोड से कोई फ़ंक्शन चलाने को कह सकता है। tool_choice तय करता है कि यह वैकल्पिक है, अनिवार्य है या बंद।

यह कैसे काम करता है

आप tools भेजते हैं (फ़ंक्शन के नाम, विवरण और JSON Schema पैरामीटर) और वैकल्पिक रूप से tool_choice।

OpenAI वैल्यू मतलब Anthropic में बराबर
"auto" मॉडल मैसेज या एक या ज़्यादा कॉल चुनता है; टूल भेजने पर डिफ़ॉल्ट {"type": "auto"}
"required" “The model must call one or more tools” (अनुवाद: मॉडल को एक या ज़्यादा टूल कॉल करने ही होंगे) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} वही एक टूल ज़बरदस्ती {"type": "tool", "name": "get_weather"}
"none" कोई टूल कॉल नहीं; टूल न हों तो डिफ़ॉल्ट {"type": "none"}

OpenAI की function calling गाइड एक allowed-tools विकल्प भी बताती है, जो पूरी टूल सूची को बिना बदले कॉल को एक उपसमूह तक सीमित करता है; गाइड इसे प्रॉम्प्ट कैशिंग के लिए सुझाती है।

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Anthropic के डॉक्स बताते हैं कि any या tool के साथ API जवाब को prefill करता है, इसलिए मॉडल कॉल से पहले कोई टेक्स्ट नहीं लिखता, और कुछ Claude मॉडल ज़बरदस्ती वाले टूल इस्तेमाल को रिजेक्ट करके 400 एरर लौटाते हैं।

यह क्यों मायने रखता है

  • भरोसेमंद पाइपलाइन. जिस extraction चरण को कॉल पर ख़त्म होना ही है, उसे बातूनी टेक्स्ट जवाब नहीं मिलना चाहिए। कॉल ज़बरदस्ती करवाने से वह रास्ता ही हट जाता है।
  • सुरक्षित टर्न. आख़िरी सारांश वाले टर्न के लिए none सेट करने से मॉडल नया टूल राउंड शुरू नहीं करता, और टूल सूची वही रहती है।
  • कैशिंग. Anthropic कहता है कि tool_choice बदलने से कैश किए गए मैसेज ब्लॉक अमान्य हो जाते हैं, इसलिए जहाँ हो सके इसे टर्न दर टर्न एक-सा रखें।

BroadNet Inference पर

BroadNet का API रेफ़रेंस टूल कॉलिंग सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए दर्ज करता है, और tool_choice दर्ज नहीं करता। जो भी वैल्यू इस्तेमाल करनी है उसे टेस्ट करें: required या किसी फ़ंक्शन का नाम भेजें और पक्का करें कि जवाब में tool_calls है। अगर ज़बरदस्ती ठीक से काम न करे, तो साफ़ निर्देश के साथ auto इस्तेमाल करें और नतीजा वैलिडेट करें, या उन्हीं मॉडलों पर स्ट्रक्चर्ड आउटपुट इस्तेमाल करें। ओपन मॉडल टूल कॉलिंग पोस्ट में validate-and-retry लूप है।

आम ग़लतियाँ

  • एजेंट लूप के हर टर्न पर टूल ज़बरदस्ती करवाना, जिससे वह कभी आख़िरी जवाब नहीं दे पाता।
  • यह मान लेना कि required का मतलब कोई ख़ास टूल है। इसका मतलब है कोई भी टूल।

अक्सर पूछे जाने वाले सवाल

tool_choice का डिफ़ॉल्ट क्या है?

OpenAI के API में, जब कोई टूल नहीं भेजा जाता तो none, और टूल मौजूद हों तो auto। Anthropic भी यही डिफ़ॉल्ट इस्तेमाल करता है।

टूल कॉल ज़बरदस्ती कब करवानी चाहिए?

जब सिर्फ़ कॉल ही स्वीकार्य जवाब हो, जैसे कोई classifier जिसे submit_label कॉल करना ही है। तय JSON जवाब के लिए अक्सर structured output आसान रहता है।

क्या BroadNet Inference tool_choice सपोर्ट करता है?

BroadNet, GLM 5.3 और Qwen3.8 27B के लिए टूल कॉलिंग दर्ज करता है, लेकिन उसका API रेफ़रेंस tool_choice दर्ज नहीं करता। भरोसा करने से पहले हर वैल्यू टेस्ट करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें