BroadRouter
شروع کریں

متوازی ٹول کالز (parallel tool calls)

اپ ڈیٹ

Parallel tool calls تب ہوتی ہیں جب ماڈل ایک ہی جواب میں ایک سے زیادہ ٹول کالز واپس کرتا ہے، مثلاً ایک ساتھ تین فائلیں پڑھنا۔ OpenAI فارمیٹ میں یہ tool_calls کی کئی اندراجات کے طور پر آتی ہیں، اور parallel_tool_calls کو false کرنے پر ماڈل ہر ٹرن میں صفر یا ایک کال تک محدود رہتا ہے۔

دوسرے نام: متوازی ٹول کالز، پیرالل ٹول کالز، parallel tool calls kya hai، parallel function calling kya hai، parallel tool calls، parallel tool calling، parallel function calling، parallel_tool_calls، multiple tool calls

جس ایجنٹ کو تین فائلیں چاہییں، اسے ہر فائل کے لیے الگ round trip نہیں کرنا پڑتا۔ Parallel tool calls کے ساتھ ماڈل تینوں ایک ساتھ مانگ لیتا ہے۔

یہ کیسے کام کرتا ہے

Tool calling والے جواب میں message.tool_calls ایک فہرست ہوتی ہے۔ متوازی کالز میں اس میں ایک سے زیادہ اندراجات ہوتے ہیں، ہر ایک کا اپنا id، function کا نام اور JSON arguments۔

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

آپ کا کوڈ کالز چلاتا ہے اور ہر کال کے لیے ایک tool میسج جوڑتا ہے، ہر ایک میں مطابقت رکھنے والا tool_call_id، پھر ماڈل کو دوبارہ کال کرتا ہے۔

  • OpenAI: parallel_tool_calls بطورِ طے شدہ true ہے۔ اسے false کرنا “ensures exactly zero or one tool is called.” (ترجمہ: یقینی بناتا ہے کہ ٹھیک صفر یا ایک ٹول کال ہو)۔ گائیڈ خبردار کرتی ہے کہ ایک ماڈل snapshot کبھی کبھی ایک ہی ٹول کو بار بار کال کرتا تھا، اور وہاں یہ فیچر بند کرنے کی سفارش کرتی ہے۔
  • Anthropic: متوازی استعمال بطورِ طے شدہ آن ہے۔ اسے tool_choice object کے اندر disable_parallel_tool_use: true سے بند کریں۔ Anthropic کہتا ہے کہ API “doesn’t prescribe an execution order” (ترجمہ: چلانے کی کوئی ترتیب مقرر نہیں کرتا)، اور parallelism برقرار رکھنے کے لیے تمام ٹول نتائج ایک ہی user میسج میں واپس آنے چاہییں۔

یہ کیوں اہم ہے

  • Latency۔ ماڈل کے round trips کم ہوتے ہیں۔ آزاد، صرف پڑھنے والے ٹولز آپ کی طرف بیک وقت چل سکتے ہیں۔
  • ترتیب۔ side effects والی کالز، جیسے پہلے لکھنا پھر پڑھنا، ایک دوسرے پر منحصر ہو سکتی ہیں۔ Anthropic انہیں ترتیب وار چلانے کا مشورہ دیتا ہے۔ یا فیچر بند کر دیں۔
  • حساب کتاب۔ ہر کال کو درست ID والا نتیجہ چاہیے۔ کوئی نتیجہ چھوٹ جانا اگلی درخواست کے ناکام ہونے کی ایک عام وجہ ہے۔

BroadNet Inference پر

BroadNet کا API ریفرنس GLM 5.3 اور Qwen3.8 27B کے لیے tool calling درج کرتا ہے اور parallel_tool_calls درج نہیں کرتا۔ ٹیسٹ کریں کہ آپ کے پرامپٹ پر کئی کالز واپس آتی ہیں یا نہیں، اور false مانا جاتا ہے یا نہیں۔ متوازی کالز ایک ہی جواب میں آتی ہیں، اس لیے وہ آپ کی درخواستوں کی گنتی نہیں بڑھاتیں۔ ٹولز چلانا آپ کی ذمہ داری ہے۔ نوٹ کریں کہ BroadNet کے لامحدود پلان کا ایک سیشن ایک وقت میں ایک ہی درخواست چلاتا ہے، اور وہ صرف DeepSeek V4.1 Flash کے لیے ہے؛ استعمال کے مطابق ادائیگی والی کلیدوں پر concurrency حد بیک وقت 4 جاری درخواستیں ہے۔ اوپن ماڈلز کے ساتھ tool calling والی تحریر میں کام کرتا ہوا loop ہے۔

عام غلطیاں

  • ہر کال کا نتیجہ مختلف میسج فارمیٹ میں واپس کرنا، یا کسی ایک کو چھوڑ دینا۔
  • ایک دوسرے پر منحصر ٹولز کو بیک وقت چلانا، صرف اس لیے کہ ماڈل نے انہیں ساتھ درج کیا۔

عام سوالات

کیا parallel tool calls کا مطلب متوازی API درخواستیں ہیں؟

نہیں۔ ماڈل ایک جواب میں کئی کالز واپس کرتا ہے۔ آپ کا کوڈ انہیں چلاتا ہے، بیک وقت یا ایک ایک کر کے، اور تمام نتائج اگلی درخواست میں واپس بھیجتا ہے۔

parallel tool calls بند کیسے کروں؟

OpenAI فارمیٹ میں parallel_tool_calls کو false کریں؛ OpenAI کہتا ہے کہ یہ "ensures exactly zero or one tool is called." (ترجمہ: یقینی بناتا ہے کہ ٹھیک صفر یا ایک ٹول کال ہو)۔ Anthropic کے API میں tool_choice کے اندر disable_parallel_tool_use کو true کریں۔

کیا BroadNet Inference میں parallel_tool_calls سپورٹ ہے؟

BroadNet کا API ریفرنس parallel_tool_calls درج نہیں کرتا۔ GLM 5.3 اور Qwen3.8 27B کے لیے tool calling درج ہے؛ ٹیسٹ کریں کہ وہ کئی کالز واپس کرتے ہیں یا نہیں، اور flag مانا جاتا ہے یا نہیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں