---
title: "Function calling в открытых LLM: схемы, повторы, код"
description: "Function calling на OpenAI-совместимых открытых моделях: советы по схемам, параллельные вызовы, пять типичных сбоев и цикл на Python с валидацией и повторами."
url: https://broadrouter.com/ru/blog/tool-calling-open-models/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/tool-calling-open-models/) (обновлён 2026-11-16).

# Вызов инструментов в открытых моделях: схемы, параллельность, повторы

Команда BroadNet Inference · 4 мин чтения · Опубликовано 2026-11-14 · Обновлено 2026-11-16

Открытые модели в OpenAI-совместимых API используют тот же формат tools и tool\_calls, что и OpenAI. Делайте схемы маленькими и плоскими, разбирайте аргументы как JSON-строки, валидируйте их до выполнения и возвращайте ошибки модели как результаты инструментов, чтобы она могла повторить вызов. Ограничьте число шагов. В BroadNet поддержка инструментов указана для GLM 5.3 и Qwen3.8 27B.

## Главное

-   Формат обмена тот же, что у OpenAI: на входе список tools, на выходе tool\_calls, затем по сообщению с ролью tool на каждый tool\_call\_id.
-   Аргументы приходят JSON-строкой. Документация vLLM предупреждает, что при извлечении вызовов из сырого текста они "may occasionally be malformed or violate the function's parameter schema" (перевод: «иногда могут быть некорректными или нарушать схему параметров функции»).
-   Валидируйте каждый вызов, возвращайте ошибки как результаты инструментов и ограничивайте повторы и общее число шагов.
-   Чем меньше инструментов и чем они площе, тем лучше. OpenAI советует держать в начале хода меньше 20 функций.
-   В BroadNet Inference для вызова инструментов берите GLM 5.3 или Qwen3.8 27B; DeepSeek V4.1 Flash сначала протестируйте.

**На этой странице**

1.  Как работает вызов инструментов в OpenAI-совместимом API?
2.  Как писать схемы инструментов?
3.  А что с параллельными вызовами?
4.  Почему вызовы инструментов сбоят?
5.  Цикл инструментов с валидацией и повторами
6.  Какие модели BroadNet поддерживают вызов инструментов?
7.  Место BroadNet Inference

[Вызов инструментов](https://broadrouter.com/ru/glossary/tool-calling/) — то, что превращает модель в агента. С открытыми моделями в [OpenAI-совместимом API](https://broadrouter.com/ru/glossary/openai-compatible-api/) формат запроса тот же, что и с OpenAI. Различается то, как часто что-то идёт не так, и что сервер делает, чтобы это предотвратить. В статье — формат, как писать схемы, с которыми открытые модели хорошо справляются, параллельные вызовы, пять сбоев, которые вы действительно увидите, и цикл на Python, который их переживает.

## Как работает вызов инструментов в OpenAI-совместимом API?

1.  Вы отправляете `messages` и список `tools`. У каждого инструмента есть имя, описание и JSON Schema для аргументов.
2.  Модель отвечает с `finish_reason: "tool_calls"` и списком `tool_calls`. В каждом элементе есть `id`, имя функции и `arguments` в виде **JSON-строки**.
3.  Ваш код выполняет каждый вызов и добавляет по одному сообщению `role: "tool"` на вызов с соответствующим `tool_call_id`.
4.  Вы снова вызываете API. Модель отвечает или запрашивает ещё инструменты.

Сама модель ничего не выполняет. Что запускать, решает ваш код.

## Как писать схемы инструментов?

Открытые модели надёжнее следуют простым схемам. Эти правила взяты из руководства OpenAI и из того, что обычно ломается:

-   **Называйте инструменты по действию**, например `read_file` или `search_code`, и пишите в описании, _когда_ использовать каждый.
-   **Держите список коротким.** Руководство OpenAI называет «меньше 20 функций в начале хода» мягкой рекомендацией. К тому же каждая схема отправляется при каждом вызове; см. [бюджет токенов агента](https://broadrouter.com/ru/blog/agent-token-budget/).
-   **Предпочитайте плоские аргументы.** Строки, числа, булевы значения и enum. Избегайте глубокой вложенности и объектов произвольной формы.
-   **Используйте enum** для фиксированных вариантов, чтобы модель не могла придумать значение. [Генератор JSON Schema](https://broadrouter.com/tools/json-schema-generator/) превращает образец объекта аргументов в плоскую схему, которую можно вставить в `parameters`.
-   **Отмечайте обязательные поля.** Строгий режим OpenAI требует `additionalProperties: false` и все поля в `required`, а для необязательных — `null` как один из типов. Обеспечивает ли провайдер `strict`, бывает по-разному, так что валидируйте в любом случае.

## А что с параллельными вызовами?

Модель может вернуть за один ход несколько элементов в `tool_calls`, например три чтения файлов. Выполняйте независимые вызовы параллельно и возвращайте по одному результату на каждый `tool_call_id`, в любом порядке. Если у инструментов есть побочные эффекты, зависящие друг от друга, задайте `parallel_tool_calls: false`; по руководству OpenAI, тогда модель делает не больше одного вызова за ход. Проверьте, что ваш провайдер это учитывает.

## Почему вызовы инструментов сбоят?

| Сбой | Что вы видите | Решение |
| --- | --- | --- |
| Некорректные аргументы | `json.loads` выбрасывает исключение | Вернуть ошибку разбора как результат инструмента; повторить |
| Несоответствие схеме | Нет поля, не тот тип, выдуманное значение enum | Валидировать; вернуть ошибку валидации |
| Неизвестный инструмент | Имя, которое вы не определяли | Вернуть «unknown tool, available: …» |
| Нет вызова, когда он нужен | Вместо него текстовый ответ | `tool_choice: "required"` или конкретная функция |
| Обрезанный вызов | `finish_reason: "length"` | Увеличить `max_tokens`; рассуждения делят тот же лимит |

Первые два сбоя ожидаемы, а не редки. Документация vLLM по вызову инструментов говорит, что в режиме `auto`, если инструмент не задаёт `strict: true` (или сервер не навязывает минимальную строгость) и парсер модели не поддерживает ограничения, “vLLM extracts tool calls from raw text, so arguments may occasionally be malformed or violate the function’s parameter schema.” (перевод: «vLLM извлекает вызовы инструментов из сырого текста, поэтому аргументы иногда могут быть некорректными или нарушать схему параметров функции».) Для явно указанной функции vLLM использует бэкенд структурированного вывода. Ваш провайдер может обслуживать модели иначе, поэтому считайте валидацию обязательной.

На последней строке спотыкаются те, кто использует [модели с рассуждениями](https://broadrouter.com/ru/glossary/reasoning-tokens/). GLM 5.3 и Qwen3.8 27B размышляют перед ответом, и размышления входят в [`max_tokens`](https://broadrouter.com/ru/glossary/max-tokens/). [Почему ответы приходят пустыми или обрезанными](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/) — там же сказано, сколько места оставить.

## Цикл инструментов с валидацией и повторами

```python
import json, os
from openai import OpenAI
from jsonschema import validate, ValidationError

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=4)
MODEL = "broadnet/glm-5.3"

TOOLS = [{"type": "function", "function": {
    "name": "get_order_status",
    "description": "Look up one order by its ID. Use when the user asks where an order is.",
    "parameters": {"type": "object",
                   "properties": {"order_id": {"type": "string"}},
                   "required": ["order_id"], "additionalProperties": False}}}]
SCHEMAS = {t["function"]["name"]: t["function"]["parameters"] for t in TOOLS}
IMPL = {"get_order_status": lambda order_id: f"Order {order_id}: shipped"}

def run_call(call):
    name = call.function.name
    if name not in IMPL:
        return f"Error: unknown tool {name}. Available: {', '.join(IMPL)}"
    try:
        args = json.loads(call.function.arguments or "{}")
        validate(args, SCHEMAS[name])
    except (json.JSONDecodeError, ValidationError) as e:
        return f"Error: invalid arguments ({e}). Send the call again with valid JSON."
    return str(IMPL[name](**args))

def agent(messages, max_steps=8):
    for _ in range(max_steps):
        r = client.chat.completions.create(model=MODEL, messages=messages,
                                           tools=TOOLS, max_tokens=4000)
        msg = r.choices[0].message
        if r.choices[0].finish_reason == "length":
            raise RuntimeError("Output limit reached; raise max_tokens")
        messages.append(msg.model_dump(exclude_none=True))
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            messages.append({"role": "tool", "tool_call_id": call.id,
                             "content": run_call(call)})
    raise RuntimeError("Step limit reached")
```

Здесь важны три проектных решения:

1.  **Ошибки возвращаются модели как результаты инструментов.** Модель видит, что было не так, и обычно исправляет это на следующем ходу. Выбросив исключение, вы лишаете её этого шанса.
2.  **Цикл ограничен.** `max_steps` останавливает модель, которая продолжает вызывать инструменты без прогресса.
3.  **Повторы на уровне транспорта — отдельно.** `max_retries` у клиента обрабатывает 429 и 5xx. Плохие аргументы обрабатываются в цикле. Не смешивайте одно с другим; см. [ошибки и повторы](https://broadrouter.com/ru/guides/errors-and-retries/).

Для инструментов с побочными эффектами, например отправки письма, добавьте ключ идемпотентности, чтобы повторённый шаг не сработал дважды. Подробнее — в статье о [долго работающих агентах](https://broadrouter.com/ru/blog/long-running-agents-timeouts-retries/).

## Какие модели BroadNet поддерживают вызов инструментов?

| Модель | Инструменты указаны | Контекст | Примечания |
| --- | --- | --- | --- |
| [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) | Да | 1 048 576 | Также структурированный вывод |
| [Qwen3.8 27B](https://broadrouter.com/ru/models/qwen3.8-27b/) | Да | 262 144 | Также ввод изображений |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) | Не указаны | 1 048 576 | Ввод изображений; протестируйте инструменты, прежде чем на них полагаться |
| [Gemma 4 VL 26B](https://broadrouter.com/ru/models/gemma-4-vl-26b/) | Не указаны | 32 768 | Не для циклов с инструментами |

Как выбрать между двумя моделями с поддержкой инструментов, см. [GLM 5.3 или Qwen3.8 27B](https://broadrouter.com/compare/glm-5.3-vs-qwen3.8-27b/). Когда итоговый ответ должен иметь определённую форму, но никакую функцию запускать не нужно, [структурированный вывод](https://broadrouter.com/ru/blog/structured-output-json-schema/) проще инструмента.

## Место BroadNet Inference

BroadNet Inference обслуживает GLM 5.3 и Qwen3.8 27B с заявленным вызовом инструментов через стандартный формат chat completions, так что цикл выше работает без изменений с [OpenAI Python SDK](https://broadrouter.com/ru/guides/openai-python-sdk/). Цены за токены — на [странице цен](https://broadrouter.com/ru/pricing/). Серверных инструментов вроде веб-поиска или выполнения кода BroadNet не предоставляет, а в документации вызов инструментов не указан для DeepSeek V4.1 Flash — модели безлимитных тарифов. Для агента, активно работающего с инструментами, берите GLM 5.3 или Qwen3.8 27B с оплатой за токены. Если вам всё же нужен фиксированный тариф, перед покупкой месяца проверьте на часе Meteor за $1, что DeepSeek V4.1 Flash надёжно вызывает ваши инструменты.

Бесплатные инструменты по теме (на английском)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[vLLM](https://broadrouter.com/ru/glossary/vllm/)

vLLM — это библиотека с открытым кодом для инференса и сервинга LLM, изначально созданная в Sky Computing Lab Калифорнийского университета в Беркли. Она управляет памятью KV-кэша с помощью PagedAttention, непрерывно батчит входящие запросы, поддерживает многие форматы квантизации и предоставляет OpenAI-совместимый HTTP-сервер.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[JSON Schema (JSON-схема)](https://broadrouter.com/ru/glossary/json-schema/)

JSON Schema — это словарь, записанный на самом JSON, для описания и валидации структуры JSON-данных: типов, обязательных полей, допустимых значений и вложенности. Текущая версия — 2020-12. API языковых моделей используют его, чтобы задать параметры инструментов и точную форму структурированного вывода.

[Ключ идемпотентности (idempotency key)](https://broadrouter.com/ru/glossary/idempotency-key/)

Ключ идемпотентности — это уникальное значение, обычно случайный ID вроде UUID, которое клиент прикладывает к запросу, меняющему состояние, например к платежу или покупке. Если тот же запрос приходит снова с тем же ключом, сервер возвращает исходный результат, а не выполняет действие второй раз.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

## Вопросы и ответы

### Поддерживают ли открытые модели function calling?

Многие поддерживают, но это зависит от модели и от того, как её обслуживает провайдер. В документации BroadNet Inference вызов инструментов указан для GLM 5.3 и Qwen3.8 27B. Для DeepSeek V4.1 Flash и Gemma 4 VL 26B он не указан.

### Почему аргументы вызова инструмента — невалидный JSON?

Если сервер не ограничивает декодирование, аргументы генерируются как текст и разбираются уже потом. Документация vLLM говорит, что аргументы, извлечённые из сырого текста, иногда бывают некорректными. Перехватите ошибку разбора и отправьте её обратно как результат инструмента, чтобы модель исправилась.

### Как отключить параллельные вызовы инструментов?

В формате OpenAI задайте parallel\_tool\_calls равным false. Тогда модель делает не больше одного вызова за ход. Проверьте, что ваш провайдер учитывает это поле.

### Почему модель отвечает текстом, а не вызывает инструмент?

При tool\_choice auto решает модель. Если вызов обязателен, задайте tool\_choice required или конкретную функцию. И проверьте, что в описании инструмента сказано, когда его использовать.

### Почему вызов инструмента обрывается?

У моделей с рассуждениями размышления входят в max\_tokens. При маленьком лимите ответ может оборваться посреди аргументов. Проверьте finish\_reason и увеличьте max\_tokens.

## Читайте также

-   [OpenClaw и Hermes Agent на дешёвой модели: настройка и расчёт токенов](https://broadrouter.com/ru/blog/openclaw-hermes-agent-cheap-model/)
-   [JSON mode или json\_schema: надёжный структурированный вывод LLM](https://broadrouter.com/ru/blog/structured-output-json-schema/)
-   [MCP-серверы с OpenAI-совместимыми моделями (у любого провайдера)](https://broadrouter.com/ru/blog/mcp-with-openai-compatible-models/)
-   [Долгоживущие ИИ-агенты: таймауты, повторы и чекпойнты](https://broadrouter.com/ru/blog/long-running-agents-timeouts-retries/)
-   [Бюджет токенов агента: куда уходят токены в цикле агента](https://broadrouter.com/ru/blog/agent-token-budget/)
-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [Руководство: OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [Руководство: OpenAI Agents SDK на BroadNet Inference](https://broadrouter.com/ru/guides/openai-agents-sdk-custom-provider/)
-   [Руководство: Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Руководство: Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-tool-calling-open-models&utm_content=page-cta) ·

**Источники**

-   [OpenAI, руководство по function calling (проверено 2026-11-14)](https://developers.openai.com/api/docs/guides/function-calling)
-   [Документация vLLM, вызов инструментов (проверено 2026-11-14)](https://docs.vllm.ai/en/latest/features/tool_calling/)
-   [Справочник API BroadNet Inference, модели (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-tool-calling-open-models&utm_content=sources#models)
