BroadRouter
Mulakan

Panggilan alatan selari (parallel tool calls)

Dikemas kini

Panggilan alatan selari berlaku apabila model memulangkan lebih daripada satu panggilan alatan dalam satu respons, contohnya tiga bacaan fail serentak. Dalam format OpenAI, ia tiba sebagai beberapa entri dalam tool_calls, dan parallel_tool_calls yang ditetapkan kepada false mengehadkan model kepada sifar atau satu panggilan setiap giliran.

Juga dikenali sebagai: parallel tool calls, panggilan alatan selari, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

Ejen yang memerlukan tiga fail tidak perlu memintanya satu pergi balik pada satu masa. Dengan panggilan alatan selari, model meminta ketiga-tiganya sekali gus.

Cara ia berfungsi

Dalam respons tool calling, message.tool_calls ialah senarai. Dengan panggilan selari, ia mempunyai lebih daripada satu entri, masing-masing dengan id, nama fungsi dan argumen JSON sendiri.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

Kod anda menjalankan panggilan itu dan menambah satu mesej tool bagi setiap panggilan, masing-masing dengan tool_call_id yang sepadan, kemudian memanggil model semula.

  • OpenAI: parallel_tool_calls lalai kepada true. Menetapkannya kepada false “ensures exactly zero or one tool is called.” (Terjemahan BroadRouter: “memastikan tepat sifar atau satu alatan dipanggil.”) Panduan itu memberi amaran bahawa satu snapshot model kadangkala mengulang panggilan ke alatan yang sama dan mengesyorkan ciri ini dimatikan di situ.
  • Anthropic: penggunaan selari dihidupkan secara lalai. Matikannya dengan disable_parallel_tool_use: true di dalam objek tool_choice. Anthropic menyatakan API itu “doesn’t prescribe an execution order” (Terjemahan BroadRouter: “tidak menetapkan susunan pelaksanaan”), dan semua hasil alatan patut dipulangkan dalam satu mesej pengguna supaya keselarian terus berfungsi.

Mengapa ia penting

  • Kependaman. Lebih sedikit pergi balik ke model. Alatan yang bebas dan baca sahaja boleh berjalan serentak di pihak anda.
  • Susunan. Panggilan dengan kesan sampingan, seperti tulis kemudian baca, mungkin bergantung antara satu sama lain. Anthropic mencadangkan panggilan begitu dijalankan secara berturutan. Atau matikan ciri ini.
  • Rekod. Setiap panggilan memerlukan hasil dengan ID yang betul. Hasil yang hilang ialah punca lazim permintaan seterusnya gagal.

Di BroadNet Inference

Rujukan API BroadNet mendokumenkan tool calling untuk GLM 5.3 dan Qwen3.8 27B dan tidak mendokumenkan parallel_tool_calls. Uji sama ada prompt anda mendapat beberapa panggilan kembali dan sama ada false dipatuhi. Panggilan selari tiba dalam satu respons, jadi ia tidak menambah kiraan permintaan anda. Menjalankan alatan adalah tanggungjawab anda. Perhatikan bahawa sesi pelan tanpa had BroadNet membenarkan satu permintaan pada satu masa, dan hanya untuk DeepSeek V4.1 Flash; pada kunci bayar ikut guna, had keserentakan ialah 4 permintaan serentak. Artikel tool calling dengan model terbuka mempunyai gelung yang berfungsi.

Kesilapan biasa

  • Memulangkan hasil dalam format mesej yang berlainan bagi setiap panggilan, atau tertinggal satu.
  • Menjalankan alatan yang saling bergantung secara serentak hanya kerana model menyenaraikannya bersama.

Soalan lazim

Adakah panggilan alatan selari bermaksud permintaan API selari?

Tidak. Model memulangkan beberapa panggilan dalam satu respons. Kod anda menjalankannya, serentak atau satu demi satu, dan menghantar semua hasil kembali dalam permintaan seterusnya.

Bagaimanakah saya mematikan panggilan alatan selari?

Dalam format OpenAI, tetapkan parallel_tool_calls kepada false; menurut OpenAI ini "ensures exactly zero or one tool is called." (Terjemahan BroadRouter: "memastikan tepat sifar atau satu alatan dipanggil.") Dalam API Anthropic, tetapkan disable_parallel_tool_use kepada true di dalam tool_choice.

Adakah BroadNet Inference menyokong parallel_tool_calls?

Rujukan API BroadNet tidak mendokumenkan parallel_tool_calls. Tool calling didokumenkan untuk GLM 5.3 dan Qwen3.8 27B; uji sama ada ia memulangkan beberapa panggilan dan sama ada flag itu dipatuhi.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity