파일 세 개가 필요한 에이전트가 왕복 한 번에 하나씩 요청할 필요는 없습니다. 병렬 도구 호출을 쓰면 모델이 세 개를 한꺼번에 요청합니다.
작동 방식
도구 호출 응답에서 message.tool_calls는 리스트입니다. 병렬 호출에서는 항목이 둘 이상이며, 각 항목에 고유한 id, 함수 이름, JSON 인수가 있습니다.
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
내 코드가 호출을 실행하고, 호출마다 해당 tool_call_id를 담은 tool 메시지를 하나씩 추가한 뒤 모델을 다시 호출합니다.
- OpenAI:
parallel_tool_calls의 기본값은true입니다.false로 설정하면 “ensures exactly zero or one tool is called.”(번역: 정확히 0개 또는 1개의 도구만 호출되도록 보장합니다) 가이드는 특정 모델 스냅샷이 같은 도구를 반복 호출하는 경우가 있었다며, 그 모델에서는 이 기능을 끄라고 권합니다. - Anthropic: 병렬 사용이 기본으로 켜져 있습니다. tool_choice 객체 안에서
disable_parallel_tool_use: true로 끕니다. Anthropic은 API가 “doesn’t prescribe an execution order”(번역: 실행 순서를 규정하지 않는다)고 하며, 병렬 처리가 계속 동작하려면 모든 도구 결과를 하나의 사용자 메시지로 돌려보내야 한다고 설명합니다.
왜 중요한가
- 지연 시간. 모델과의 왕복이 줄어듭니다. 서로 독립적인 읽기 전용 도구는 내 쪽에서 동시에 실행할 수 있습니다.
- 순서. 쓰기 후 읽기처럼 부수 효과가 있는 호출은 서로 의존할 수 있습니다. Anthropic은 이런 호출을 순차적으로 실행하라고 제안합니다. 아니면 기능을 끄세요.
- 관리. 모든 호출에는 올바른 ID의 결과가 있어야 합니다. 결과가 하나 빠지면 다음 요청이 실패하는 경우가 많습니다.
BroadNet Inference에서는
BroadNet API 레퍼런스는 GLM 5.3과 Qwen3.8 27B의 도구 호출을 문서화하지만 parallel_tool_calls는 문서화하지 않습니다. 내 프롬프트에 여러 호출이 반환되는지, false가 반영되는지 테스트하세요. 병렬 호출은 한 번의 응답으로 오므로 요청 수에 더해지지 않습니다. 도구 실행은 내 쪽에서 합니다. 참고로 BroadNet 무제한 플랜 세션은 한 번에 요청 하나만 허용하며 DeepSeek V4.1 Flash 전용입니다. 종량제 키의 동시 처리 한도는 동시 처리 요청 4개입니다. 동작하는 루프는 오픈 모델 도구 호출 글에 있습니다.
흔한 실수
- 호출마다 다른 메시지 형식으로 결과를 돌려보내거나, 결과 하나를 빠뜨리는 것.
- 모델이 함께 나열했다는 이유로 서로 의존하는 도구를 동시에 실행하는 것.