BroadRouter
Começar

Chamadas de ferramentas em paralelo (parallel tool calls)

Atualizado em

Chamadas de ferramentas em paralelo acontecem quando um modelo devolve mais de uma chamada de ferramenta em uma única resposta, por exemplo três leituras de arquivo de uma vez. No formato da OpenAI elas chegam como várias entradas em tool_calls, e parallel_tool_calls como false limita o modelo a zero ou uma chamada por turno.

Também chamado de: chamadas de ferramentas em paralelo, chamadas de função em paralelo, function calling paralelo, várias chamadas de ferramenta, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

Um agente que precisa de três arquivos não tem de pedi-los com uma ida e volta por vez. Com chamadas de ferramentas em paralelo, o modelo pede os três de uma vez.

Como funciona

Em uma resposta com tool calling, message.tool_calls é uma lista. Com chamadas em paralelo, ela tem mais de uma entrada, cada uma com o próprio id, nome de função e argumentos JSON.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

O seu código executa as chamadas e acrescenta uma mensagem tool por chamada, cada uma com o tool_call_id correspondente, e então chama o modelo de novo.

  • OpenAI: parallel_tool_calls vem como true por padrão. Definir como false “ensures exactly zero or one tool is called.” (tradução: garante que exatamente zero ou uma ferramenta seja chamada). O guia avisa que um snapshot de modelo às vezes repetia chamadas à mesma ferramenta e recomenda desligar o recurso nesse caso.
  • Anthropic: o uso em paralelo vem ligado por padrão. Desligue com disable_parallel_tool_use: true dentro do objeto tool_choice. A Anthropic diz que a API “doesn’t prescribe an execution order” (tradução: não prescreve uma ordem de execução), e que todos os resultados das ferramentas devem voltar em uma única mensagem de usuário para manter o paralelismo funcionando.

Por que importa

  • Latência. Menos idas e voltas com o modelo. Ferramentas independentes e somente leitura podem rodar ao mesmo tempo do seu lado.
  • Ordem. Chamadas com efeitos colaterais, como gravar e depois ler, podem depender umas das outras. A Anthropic sugere executá-las em sequência. Ou desligue o recurso.
  • Controle. Cada chamada precisa de um resultado com o ID certo. Um resultado faltando é uma causa comum de falha na requisição seguinte.

Na BroadNet Inference

A referência da API da BroadNet documenta tool calling para o GLM 5.3 e o Qwen3.8 27B e não documenta parallel_tool_calls. Teste se o seu prompt recebe várias chamadas de volta e se false é respeitado. Chamadas em paralelo chegam em uma única resposta, então não aumentam a sua contagem de requisições. Executar as ferramentas fica do seu lado. Note que uma sessão de plano ilimitado da BroadNet permite uma requisição por vez e é só para o DeepSeek V4.1 Flash; nas chaves de pagamento por uso, o limite de concorrência é de 4 requisições simultâneas. O post sobre tool calling com modelos abertos tem um loop funcionando.

Erros comuns

  • Devolver os resultados em um formato de mensagem diferente para cada chamada, ou esquecer um deles.
  • Executar ao mesmo tempo ferramentas que dependem umas das outras só porque o modelo listou todas juntas.

Perguntas frequentes

Chamadas de ferramentas em paralelo significam requisições de API em paralelo?

Não. O modelo devolve várias chamadas em uma resposta. O seu código as executa, ao mesmo tempo ou uma por uma, e envia todos os resultados de volta na próxima requisição.

Como desligo as chamadas de ferramentas em paralelo?

No formato da OpenAI, defina parallel_tool_calls como false; a OpenAI diz que isso "ensures exactly zero or one tool is called" (tradução: garante que exatamente zero ou uma ferramenta seja chamada). Na API da Anthropic, defina disable_parallel_tool_use como true dentro de tool_choice.

A BroadNet Inference suporta parallel_tool_calls?

A referência da API da BroadNet não documenta parallel_tool_calls. Tool calling está documentado para o GLM 5.3 e o Qwen3.8 27B; teste se eles devolvem várias chamadas e se a flag é respeitada.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity