BroadRouter
시작하기

병렬 도구 호출(parallel tool calls)

업데이트

병렬 도구 호출(parallel tool calls)은 모델이 한 번의 응답에서 도구 호출을 둘 이상 반환하는 것입니다. 예를 들어 파일 세 개를 한꺼번에 읽습니다. OpenAI 형식에서는 tool_calls의 여러 항목으로 오며, parallel_tool_calls를 false로 설정하면 턴당 호출이 0개나 1개로 제한됩니다.

다른 이름: 병렬 함수 호출, 병렬 툴 호출, 다중 도구 호출, 여러 도구 동시 호출, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

파일 세 개가 필요한 에이전트가 왕복 한 번에 하나씩 요청할 필요는 없습니다. 병렬 도구 호출을 쓰면 모델이 세 개를 한꺼번에 요청합니다.

작동 방식

도구 호출 응답에서 message.tool_calls는 리스트입니다. 병렬 호출에서는 항목이 둘 이상이며, 각 항목에 고유한 id, 함수 이름, JSON 인수가 있습니다.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

내 코드가 호출을 실행하고, 호출마다 해당 tool_call_id를 담은 tool 메시지를 하나씩 추가한 뒤 모델을 다시 호출합니다.

  • OpenAI: parallel_tool_calls의 기본값은 true입니다. false로 설정하면 “ensures exactly zero or one tool is called.”(번역: 정확히 0개 또는 1개의 도구만 호출되도록 보장합니다) 가이드는 특정 모델 스냅샷이 같은 도구를 반복 호출하는 경우가 있었다며, 그 모델에서는 이 기능을 끄라고 권합니다.
  • Anthropic: 병렬 사용이 기본으로 켜져 있습니다. tool_choice 객체 안에서 disable_parallel_tool_use: true로 끕니다. Anthropic은 API가 “doesn’t prescribe an execution order”(번역: 실행 순서를 규정하지 않는다)고 하며, 병렬 처리가 계속 동작하려면 모든 도구 결과를 하나의 사용자 메시지로 돌려보내야 한다고 설명합니다.

왜 중요한가

  • 지연 시간. 모델과의 왕복이 줄어듭니다. 서로 독립적인 읽기 전용 도구는 내 쪽에서 동시에 실행할 수 있습니다.
  • 순서. 쓰기 후 읽기처럼 부수 효과가 있는 호출은 서로 의존할 수 있습니다. Anthropic은 이런 호출을 순차적으로 실행하라고 제안합니다. 아니면 기능을 끄세요.
  • 관리. 모든 호출에는 올바른 ID의 결과가 있어야 합니다. 결과가 하나 빠지면 다음 요청이 실패하는 경우가 많습니다.

BroadNet Inference에서는

BroadNet API 레퍼런스는 GLM 5.3과 Qwen3.8 27B의 도구 호출을 문서화하지만 parallel_tool_calls는 문서화하지 않습니다. 내 프롬프트에 여러 호출이 반환되는지, false가 반영되는지 테스트하세요. 병렬 호출은 한 번의 응답으로 오므로 요청 수에 더해지지 않습니다. 도구 실행은 내 쪽에서 합니다. 참고로 BroadNet 무제한 플랜 세션은 한 번에 요청 하나만 허용하며 DeepSeek V4.1 Flash 전용입니다. 종량제 키의 동시 처리 한도는 동시 처리 요청 4개입니다. 동작하는 루프는 오픈 모델 도구 호출 글에 있습니다.

흔한 실수

  • 호출마다 다른 메시지 형식으로 결과를 돌려보내거나, 결과 하나를 빠뜨리는 것.
  • 모델이 함께 나열했다는 이유로 서로 의존하는 도구를 동시에 실행하는 것.

자주 묻는 질문

병렬 도구 호출은 병렬 API 요청을 뜻하나요?

아닙니다. 모델은 한 번의 응답에서 여러 호출을 반환합니다. 내 코드가 이를 동시에 또는 하나씩 실행하고, 다음 요청에서 모든 결과를 돌려보냅니다.

병렬 도구 호출은 어떻게 끄나요?

OpenAI 형식에서는 parallel_tool_calls를 false로 설정하세요. OpenAI는 이 설정이 "ensures exactly zero or one tool is called"(번역: 정확히 0개 또는 1개의 도구만 호출되도록 보장한다)고 설명합니다. Anthropic API에서는 tool_choice 안에서 disable_parallel_tool_use를 true로 설정하세요.

BroadNet Inference는 parallel_tool_calls를 지원하나요?

BroadNet API 레퍼런스에는 parallel_tool_calls가 문서화되어 있지 않습니다. 도구 호출은 GLM 5.3과 Qwen3.8 27B에 문서화되어 있으니, 여러 호출을 반환하는지와 이 플래그가 반영되는지 테스트하세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기