---
title: "Куда уходят токены ИИ-агента и как их сократить | BroadRouter"
description: "Системный промпт, схемы инструментов, чтение файлов, история и рассуждения: как цикл агента тратит токены, как измерить каждую часть по usage и что сокращать первым."
url: https://broadrouter.com/ru/blog/agent-token-budget/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/agent-token-budget/) (обновлён 2026-11-14).

# Бюджет токенов агента: куда уходят токены в цикле агента

Команда BroadNet Inference · 5 мин чтения · Опубликовано 2026-11-14

Цикл агента при каждом вызове заново отправляет весь контекст: системный промпт, описания инструментов, историю переписки, содержимое файлов и вывод инструментов, плюс новый шаг. Вход обычно во много раз больше выхода. Записывайте prompt\_tokens, cached\_tokens и completion\_tokens по каждому вызову, найдите самый крупный повторяющийся блок, затем сократите инструменты, ограничьте их вывод и перезапускайте длинные сессии.

## Главное

-   Каждый вызов модели заново отправляет весь контекст. Задача из 40 шагов по 30 000 токенов на вызов читает 1,2 млн входных токенов.
-   Пять корзин: системный промпт, схемы инструментов, история, чтение файлов и вывод инструментов, а также выход вместе с рассуждениями.
-   Измеряйте каждый вызов по блоку usage: prompt\_tokens, prompt\_tokens\_details.cached\_tokens и completion\_tokens.
-   Cursor сообщил, что системный промпт и описания инструментов стали одним из крупнейших источников расходов, которые компания полностью контролирует.
-   Сокращайте в таком порядке: неиспользуемые инструменты, раздутый вывод инструментов, устаревшая история, затем системный промпт. Неизменный префикс держите одинаковым, чтобы он оставался в кэше.

**На этой странице**

1.  Почему агент отправляет всё заново?
2.  Куда уходят токены?
3.  Как это измерить?
4.  Что сокращать первым?
5.  Зачем держать префикс неизменным?
6.  Как выглядит расчётный бюджет агента?
7.  Место BroadNet Inference

Чат стоит столько, сколько вы напечатали, плюс то, что написала модель. Агент стоит намного больше, потому что обращается к модели десятки раз и каждый раз заново отправляет почти всё. Если вы хотите сократить эти расходы или просто перестать упираться в [контекстное окно](https://broadrouter.com/ru/glossary/context-window/), нужно знать, какая часть каждого запроса большая. В этой статье цикл агента разложен на пять корзин, показано, как измерить каждую по данным usage самого API, и перечислено, что сокращать первым.

## Почему агент отправляет всё заново?

API chat completions не хранят состояние. Модель ничего не помнит между вызовами, поэтому агент на каждом шаге отправляет весь контекст. Задача из 40 шагов, где каждый вызов несёт 30 000 токенов, читает **1,2 млн входных токенов**, чтобы выдать, допустим, 40 000 выходных. Именно из-за соотношения 30 к 1 в счетах агентов доминируют [входные токены](https://broadrouter.com/ru/glossary/input-and-output-tokens/) и их цена из кэша.

## Куда уходят токены?

| Корзина | Что это | Повторяется в каждом вызове? | Что обычно раздувает |
| --- | --- | --- | --- |
| Системный промпт | Инструкции агента, файлы правил, заметки о проекте | Да | Длинные файлы правил |
| Схемы инструментов | Имя, описание и JSON Schema каждого инструмента | Да | Встроенные инструменты плюс каждый MCP-сервер |
| История | Прошлые сообщения, вызовы инструментов и результаты | Да, и растёт | Длинные сессии |
| Чтение файлов и вывод инструментов | Содержимое файлов, логи тестов, результаты поиска | Да, пока не удалены | Чтение файлов целиком, многословные команды |
| Выход | Видимый ответ, вызовы инструментов и рассуждения | Нет | Усилие рассуждений, переписывание файлов целиком |

Первые две корзины — постоянные накладные расходы. Cursor в сентябре 2026 г. написал, что системный промпт и описания инструментов “had become one of the largest sources of spend that we fully control” (перевод: «стали одним из крупнейших источников расходов, которые мы полностью контролируем»), а чтение файлов назвал “another large source of token spend” (перевод: «ещё одним крупным источником расхода токенов»). Его изменения, включая сокращение системного промпта примерно на две трети и загрузку инструментов, используемых менее чем в 20% разговоров, только по необходимости, снизили расходы пользователей на токены на 7%. Команда VS Code в GitHub назвала для Copilot те же две статьи расходов: повторяющийся префикс промпта и накладные расходы на описания инструментов.

## Как это измерить?

Продукт для трассировки не нужен. Достаточно блока usage в каждом ответе.

1.  **Включите usage.** При стриминге добавьте `stream_options: {"include_usage": true}`; usage придёт в последнем чанке. См. [стриминг](https://broadrouter.com/ru/guides/streaming-chat-completions/).
2.  **Записывайте по каждому вызову:** номер шага, `prompt_tokens`, `prompt_tokens_details.cached_tokens`, `completion_tokens` и, если сообщается, `completion_tokens_details.reasoning_tokens`.
3.  **Измерьте постоянные накладные расходы один раз.** Отправьте один запрос только с системным промптом, инструментами и словом «hi». Его `prompt_tokens` — ваш минимальный уровень.
4.  **Измерьте вывод инструмента.** Считайте символы каждого результата инструмента до того, как добавить его в контекст. Деление на четыре даёт грубую оценку числа токенов для английского текста; чтобы получить точное число для токенизатора вашей модели, вставьте образец в бесплатный [счётчик токенов](https://broadrouter.com/tools/token-counter/).

```python
r = client.chat.completions.create(model=MODEL, messages=msgs, tools=tools)
u = r.usage
cached = getattr(u.prompt_tokens_details, "cached_tokens", 0) or 0
log.info("step=%d prompt=%d cached=%d out=%d", step, u.prompt_tokens, cached, u.completion_tokens)
```

Постройте график `prompt_tokens` по шагам. Ровный наклон означает, что растёт история. Резкий скачок — что в контекст попал большой файл или лог. Высокий минимальный уровень — что инструментов слишком много.

В Aider команда `/tokens` показывает, что сейчас в контексте, а `/drop` удаляет из него файлы.

## Что сокращать первым?

Упорядочивайте по размеру, умноженному на число повторов, а не по тому, что проще:

1.  **Неиспользуемые инструменты.** Схема каждого инструмента едет с каждым вызовом. В руководстве OpenAI сказано, что описания функций “are billed as input tokens” (перевод: «тарифицируются как входные токены»), и в качестве мягкого правила рекомендуется меньше 20 функций в начале хода. Отключайте MCP-серверы, которые не нужны в этой задаче; документация opencode прямо говорит, что инструменты MCP расходуют контекст модели.
2.  **Вывод инструментов.** Ограничивайте вывод команд (последние 200 строк лога тестов, а не 20 000). Возвращайте результаты поиска как пути и номера строк, а затем читайте только нужное.
3.  **Чтение файлов.** Читайте функцию, а не файл. Карта репозитория Aider использует бюджет по умолчанию 1 тыс. токенов (`--map-tokens`) вместо файлов целиком.
4.  **История.** Начинайте новую задачу на каждое изменение. Если сессию нужно продолжить, замените старые шаги короткой сводкой.
5.  **Системный промпт.** Уберите правила, которым модель и так следует. Остальное держите неизменным.
6.  **Выход.** Просите диффы, а не файлы целиком. Для рутинных шагов задавайте `reasoning_effort` равным `low`. [Токены рассуждений](https://broadrouter.com/ru/glossary/reasoning-tokens/) оплачиваются как выход.

## Зачем держать префикс неизменным?

Провайдеры кэшируют повторяющийся префикс и тарифицируют его по сниженной ставке. В BroadNet Inference [DeepSeek V4.1 Flash](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) тарифицирует [вход из кэша](https://broadrouter.com/ru/glossary/cached-input-tokens/) по $0.0055 за 1 млн токенов, а новый вход — по $0.175. [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) берёт $0.173 против $0.78. Метка времени в системном промпте или инструменты в разном порядке при каждом вызове ломают кэш с этого места. Ставьте неизменные части первыми, в фиксированном порядке, а меняющиеся — в конец. Подробнее — в статье [о кэшированных входных токенах](https://broadrouter.com/ru/blog/cached-input-tokens-explained/); [калькулятор кэширования промптов](https://broadrouter.com/tools/prompt-caching-calculator/) показывает, сколько экономит заданная доля попаданий.

Кэширование снижает цену префикса, но не его размер. Токены из кэша всё равно занимают контекстное окно и всё равно требуют времени на обработку.

## Как выглядит расчётный бюджет агента?

Возьмём ту же задачу из 40 шагов, где 80% входа попадает в кэш:

| Часть | Токенов | Тарифицируется по |
| --- | --- | --- |
| Новый вход | 240 000 | Цене входа |
| Вход из кэша | 960 000 | Цене входа из кэша |
| Выход, включая рассуждения | 40 000 | Цене выхода |

Если убрать из каждого вызова 5 000 токенов схем неиспользуемых инструментов, из этой задачи уходит 200 000 входных токенов, примерно шестая часть всего объёма, без каких-либо изменений в поведении агента. Рычаги экономии помимо сокращения, такие как выбор модели, кэширование и фиксированные тарифы, описаны в статье [10 способов снизить расходы агента для программирования на LLM](https://broadrouter.com/ru/blog/cut-coding-agent-llm-costs/). Для мультиагентных систем умножайте на число агентов; см. [сколько стоят мультиагентные системы](https://broadrouter.com/ru/blog/multi-agent-cost/). Чтобы смоделировать свой цикл шаг за шагом, используйте [калькулятор стоимости запуска агента](https://broadrouter.com/tools/agent-run-cost-estimator/).

## Место BroadNet Inference

BroadNet Inference возвращает в блоке usage входные и выходные токены, а также токены из кэша и токены рассуждений, если модель их сообщает, поэтому описанное выше измерение работает как есть. Низкая цена входа из кэша на DeepSeek V4.1 Flash вознаграждает неизменный префикс. Если сокращать контекст вам не стоит времени, безлимитные тарифы убирают счётчик токенов для DeepSeek V4.1 Flash за $60 в месяц за сессию; контекстное окно по-прежнему действует, а компактный контекст по-прежнему обрабатывается быстрее. Тарифы — на [inference.broadnet.ai/plans](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-agent-token-budget&utm_content=body).

Бесплатные инструменты по теме (на английском)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Входные и выходные токены (input and output tokens)](https://broadrouter.com/ru/glossary/input-and-output-tokens/)

Входные токены — это токены, которые языковая модель читает в запросе: системный промпт, история диалога, описания инструментов и изображения. Выходные токены — это токены, которые она генерирует в ответ, включая рассуждения. LLM API обычно тарифицируют их по отдельности, и выход, как правило, дороже.

[ИИ-агент (AI agent)](https://broadrouter.com/ru/glossary/agent/)

ИИ-агент — это система, в которой языковая модель сама направляет свои шаги к цели: решает, какие инструменты вызвать, читает результаты и повторяет, пока не выдаст итоговый ответ или не упрётся в лимит. Фиксированный сценарий, который вызывает модель в заранее заданных местах, обычно называют не агентом, а workflow.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Мультиагентная система (multi-agent system)](https://broadrouter.com/ru/glossary/multi-agent-system/)

Мультиагентная система — это LLM-приложение, в котором несколько агентов, каждый со своим промптом, инструментами и контекстом, решают части одной задачи. Распространённая схема — оркестратор и исполнители: ведущий агент планирует, параллельно запускает агентов-исполнителей и объединяет их результаты.

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

[JSON Schema (JSON-схема)](https://broadrouter.com/ru/glossary/json-schema/)

JSON Schema — это словарь, записанный на самом JSON, для описания и валидации структуры JSON-данных: типов, обязательных полей, допустимых значений и вложенности. Текущая версия — 2020-12. API языковых моделей используют его, чтобы задать параметры инструментов и точную форму структурированного вывода.

## Вопросы и ответы

### Почему мой агент для программирования тратит так много входных токенов?

Потому что API не хранит состояние. Каждый вызов заново отправляет системный промпт, все описания инструментов, всю переписку и содержимое всех файлов, которые ещё в контексте. Длинная сессия умножает это на число шагов.

### Как посмотреть, сколько токенов тратит каждый шаг агента?

Читайте блок usage в каждом ответе. При стриминге задайте stream\_options include\_usage равным true и читайте последний чанк. Записывайте prompt\_tokens, prompt\_tokens\_details.cached\_tokens и completion\_tokens вместе с номером шага.

### Считаются ли описания инструментов входными токенами?

Да. Список инструментов — часть промпта и отправляется при каждом вызове. MCP-серверы добавляют в этот список свои инструменты, поэтому документация opencode советует подключать только нужные серверы.

### Решает ли проблему кэширование промптов?

Оно снижает цену повторяющегося префикса, но не его размер. Вход из кэша по-прежнему занимает контекстное окно. В BroadNet DeepSeek V4.1 Flash тарифицирует вход из кэша по $0.0055 за 1 млн токенов против $0.175 за новый вход.

### Входят ли токены рассуждений в бюджет?

Да, на стороне выхода. Модели с рассуждениями засчитывают размышления в max\_tokens и при оплате по факту тарифицируют их как выход. Для рутинных шагов задавайте reasoning\_effort равным low.

## Читайте также

-   [OpenClaw и Hermes Agent на дешёвой модели: настройка и расчёт токенов](https://broadrouter.com/ru/blog/openclaw-hermes-agent-cheap-model/)
-   [Кэшированные входные токены: как снизить счёт за LLM API](https://broadrouter.com/ru/blog/cached-input-tokens-explained/)
-   [Сколько на самом деле стоят мультиагентные системы: токены или сессии](https://broadrouter.com/ru/blog/multi-agent-cost/)
-   [Лучшая открытая модель для агентов программирования: как выбрать](https://broadrouter.com/ru/blog/best-open-model-for-coding-agents/)
-   [Фиксированный тариф или оплата за токены в LLM API: когда выгоднее](https://broadrouter.com/ru/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Сокращаем токены промпта: замеры для инструкций, инструментов, данных](https://broadrouter.com/ru/blog/reduce-prompt-tokens/)
-   [Сколько стоит один запуск ИИ-агента для кода: шаги, контекст, кэш](https://broadrouter.com/ru/blog/ai-coding-agent-run-cost/)
-   [Claude Code на открытых моделях: прокси, нативные эндпоинты, лимиты](https://broadrouter.com/ru/blog/claude-code-with-openai-compatible-models/)
-   [Руководство: Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/)
-   [Руководство: Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Руководство: Aider на безлимитной DeepSeek V4.1 Flash](https://broadrouter.com/ru/guides/aider-unlimited-deepseek/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-agent-token-budget&utm_content=page-cta) ·

**Источники**

-   [Cursor, повышение эффективности использования токенов (23 сентября 2026 г.; проверено 2026-11-14)](https://cursor.com/blog/improved-token-efficiency)
-   [Блог VS Code, повышение эффективности токенов в GitHub Copilot (проверено 2026-11-14)](https://code.visualstudio.com/blogs/2026/06/17/improving-token-efficiency-in-github-copilot)
-   [OpenAI, руководство по вызову функций, меньше 20 функций (проверено 2026-11-14)](https://developers.openai.com/api/docs/guides/function-calling)
-   [Документация opencode, MCP-серверы и расход контекста (проверено 2026-11-14)](https://opencode.ai/docs/mcp-servers/)
-   [Документация Aider, карта репозитория и команды в чате (проверено 2026-11-14)](https://aider.chat/docs/repomap.html)
-   [Справочник API BroadNet Inference, usage и кэшированные токены (проверено 2026-11-14) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-agent-token-budget&utm_content=sources)
