Агенту, которому нужны три файла, не обязательно запрашивать их по одному, тратя на каждый отдельный круг запроса и ответа. С параллельными вызовами инструментов модель просит все три сразу.
Как это работает
В ответе с вызовом инструментов поле message.tool_calls — это список. При параллельных вызовах в нём больше одного элемента, и у каждого свой id, имя функции и аргументы в JSON.
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
Ваш код выполняет вызовы и добавляет по одному сообщению tool на каждый вызов, каждое с соответствующим tool_call_id, а затем снова обращается к модели.
- OpenAI:
parallel_tool_callsпо умолчанию равенtrue. Значениеfalse“ensures exactly zero or one tool is called.” (перевод: «гарантирует, что будет вызван ровно ноль или один инструмент».) Руководство предупреждает, что один из снапшотов модели иногда повторял вызовы одного и того же инструмента, и советует для него отключать эту функцию. - Anthropic: параллельное использование включено по умолчанию. Отключается через
disable_parallel_tool_use: trueвнутри объекта tool_choice. Anthropic пишет, что API “doesn’t prescribe an execution order” (перевод: «не предписывает порядок выполнения») и что все результаты инструментов должны возвращаться в одном сообщении пользователя, чтобы параллельность продолжала работать.
Почему это важно
- Задержка. Меньше кругов запроса к модели. Независимые инструменты, которые только читают данные, могут выполняться у вас одновременно.
- Порядок. Вызовы с побочными эффектами, например запись, а затем чтение, могут зависеть друг от друга. Anthropic советует выполнять такие вызовы последовательно. Или отключите функцию.
- Учёт. На каждый вызов нужен результат с правильным ID. Пропущенный результат — частая причина того, что следующий запрос завершается ошибкой.
В BroadNet Inference
Справочник API BroadNet документирует вызов инструментов для GLM 5.3 и Qwen3.8 27B и не документирует parallel_tool_calls. Проверьте, возвращает ли модель на ваш промпт несколько вызовов и учитывается ли false. Параллельные вызовы приходят в одном ответе, поэтому не увеличивают число запросов. Выполнение инструментов — на вашей стороне. Учтите, что сессия безлимитного тарифа BroadNet допускает один запрос за раз и работает только с DeepSeek V4.1 Flash; на ключах с оплатой по факту лимит параллельности — 4 одновременных запросов. В статье о вызове инструментов в открытых моделях есть рабочий цикл.
Частые ошибки
- Возвращать результаты для разных вызовов в разном формате сообщений или терять один из них.
- Выполнять зависимые инструменты одновременно только потому, что модель перечислила их вместе.