BroadRouter
Inizia

Chiamate parallele a strumenti (parallel tool calls)

Aggiornato

Le chiamate parallele a strumenti (parallel tool calls) si hanno quando un modello restituisce più di una chiamata a strumenti in un’unica risposta, per esempio tre letture di file insieme. Nel formato OpenAI arrivano come più voci in tool_calls, e parallel_tool_calls impostato a false limita il modello a zero o una chiamata per turno.

Detto anche: chiamate parallele a strumenti, chiamate parallele di funzioni, function calling parallelo, più chiamate a strumenti, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

Un agente che ha bisogno di tre file non deve chiederli con un round trip alla volta. Con le chiamate parallele a strumenti il modello li chiede tutti e tre insieme.

Come funziona

In una risposta con tool calling, message.tool_calls è una lista. Con le chiamate parallele ha più di una voce, ognuna con il proprio id, nome della funzione e argomenti JSON.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

Il tuo codice esegue le chiamate e aggiunge un messaggio tool per ogni chiamata, ciascuno con il tool_call_id corrispondente, poi richiama il modello.

  • OpenAI: parallel_tool_calls vale true per impostazione predefinita. Impostarlo a false “ensures exactly zero or one tool is called.” (traduzione: garantisce che venga chiamato esattamente zero o uno strumento). La guida avverte che uno snapshot di modello a volte ripeteva le chiamate allo stesso strumento e consiglia di disattivare la funzione in quel caso.
  • Anthropic: l’uso parallelo è attivo per impostazione predefinita. Si disattiva con disable_parallel_tool_use: true dentro l’oggetto tool_choice. Anthropic dice che l’API “doesn’t prescribe an execution order” (traduzione: non prescrive un ordine di esecuzione), e che tutti i risultati degli strumenti dovrebbero tornare in un unico messaggio utente perché il parallelismo continui a funzionare.

Perché è importante

  • Latenza. Meno round trip con il modello. Gli strumenti indipendenti e di sola lettura possono girare contemporaneamente dalla tua parte.
  • Ordine. Le chiamate con effetti collaterali, come scrivere e poi leggere, possono dipendere l’una dall’altra. Anthropic suggerisce di eseguirle in sequenza. Oppure disattiva la funzione.
  • Contabilità. Ogni chiamata ha bisogno di un risultato con l’ID giusto. Un risultato mancante è una causa comune del fallimento della richiesta successiva.

Su BroadNet Inference

Il riferimento API di BroadNet documenta il tool calling per GLM 5.3 e Qwen3.8 27B e non documenta parallel_tool_calls. Verifica se il tuo prompt riceve più chiamate e se false viene rispettato. Le chiamate parallele arrivano in un’unica risposta, quindi non si sommano al tuo conteggio di richieste. L’esecuzione degli strumenti è a carico tuo. Nota che una sessione di un piano illimitato di BroadNet consente una richiesta alla volta ed è solo per DeepSeek V4.1 Flash; con le chiavi a consumo il limite di concorrenza è di 4 richieste contemporanee. L’articolo sul tool calling con i modelli open ha un ciclo funzionante.

Errori comuni

  • Restituire i risultati in un formato di messaggio diverso per ogni chiamata, o dimenticarne uno.
  • Eseguire in parallelo strumenti dipendenti tra loro perché il modello li ha elencati insieme.

Domande frequenti

Le chiamate parallele a strumenti significano richieste API parallele?

No. Il modello restituisce più chiamate in una sola risposta. Il tuo codice le esegue, in parallelo o una alla volta, e rimanda tutti i risultati nella richiesta successiva.

Come disattivo le chiamate parallele a strumenti?

Nel formato OpenAI imposta parallel_tool_calls a false; OpenAI dice che questo "ensures exactly zero or one tool is called" (traduzione: garantisce che venga chiamato esattamente zero o uno strumento). Nell’API di Anthropic imposta disable_parallel_tool_use a true dentro tool_choice.

BroadNet Inference supporta parallel_tool_calls?

Il riferimento API di BroadNet non documenta parallel_tool_calls. Il tool calling è documentato per GLM 5.3 e Qwen3.8 27B; verifica se restituiscono più chiamate e se il flag viene rispettato.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity