BroadRouter

Как снизить расходы агента для программирования на LLM: 10 способов

Команда BroadNet Inference · 6 мин чтения · Опубликовано

Основная часть расходов — вход, который агент заново отправляет на каждом шаге. Держите начало промпта неизменным, чтобы оно кэшировалось, называйте файлы, обрезайте вывод инструментов, снижайте усилие рассуждений, ограничивайте циклы и повторы, а простые шаги отдавайте более дешёвым моделям. У DeepSeek V4.1 Flash вход из кэша стоит около 3% от нового входа. Выше примерно 917 млн входных токенов в месяц тариф за $60 дешевле.

Счёт агента для программирования растёт не так, как счёт за чат. На каждом шаге агент заново отправляет системный промпт, список инструментов, прочитанные файлы и всю переписку. К 30-му шагу один запрос может нести сотни тысяч входных токенов, и большая часть из них — повторы. Десять приёмов ниже бьют туда, куда уходят эти токены. Для каждого приведена оценка экономии с расчётом по ценам BroadNet Inference, синхронизированным 2026-11-14. Ваши цифры будут другими, поэтому измеряйте до и после.

Куда уходят деньги агента для программирования?

Три счётчика, для большинства агентов в порядке убывания:

  1. Вход, который отправляется заново на каждом шаге. В основном кэшируется.
  2. Выход, включая токены рассуждений, которых вы не видите.
  3. Потери: повторы запросов, циклы без прогресса и контекст, который никому не был нужен.

Прежде чем что-то менять, соберите prompt_tokens, prompt_tokens_details.cached_tokens и completion_tokens за день реальной работы. Как их разложить, показано в статье Куда уходят токены в цикле агента.

Какие приёмы экономят больше всего?

№ Приём Что сокращает Оценка экономии
1 Неизменное начало промпта Новый вход Счёт за вход вдвое меньше или ещё ниже
2 Называть файлы, а не давать агенту искать Шаги на поиск Меньше шагов и повторных отправок
3 Обрезать вывод инструментов Вход на каждом следующем шаге Растёт с размером логов
4 Снизить усилие рассуждений на рутинных шагах Скрытый выход Зависит от набора задач
5 Лимит шагов на задачу Неуправляемые циклы Ставит потолок худшему случаю
6 Лимит и журнал повторов Дублирующиеся запросы Каждый несостоявшийся повтор — целый запрос
7 Новая сессия на каждую задачу Устаревшая история Короче контекст на каждом шаге
8 Отдавать простые шаги более дешёвой модели Цена за токен Большая на перенаправленных шагах
9 Сжимать редко, дописывать часто Промахи кэша Сохраняет работу приёма 1
10 Перейти на фиксированный тариф после точки окупаемости Счётчик токенов $5.40 в месяц в нашем примере

1. Держите начало промпта неизменным, чтобы оно кэшировалось

Вход из кэша у DeepSeek V4.1 Flash стоит $0.0055 за 1 млн токенов; новый вход — $0.175, примерно в 32 раза дороже. Стройте промпт в порядке: системный промпт, инструменты, файлы, история, новое сообщение. Никогда не ставьте метку времени в начало. Cursor в сентябре 2026 г. сообщил, что изменения в обвязке агента, включая системный промпт примерно на две трети короче и загрузку инструментов только по необходимости, снизили расходы пользователей на токены на 7%. Как построить промпт, чтобы начало кэшировалось.

Оценка экономии. Возьмём 1 000 млн входных токенов в месяц. При 50% попаданий в кэш вы платите цену нового входа за 500 млн, при 80% — за 200 млн. С учётом кэшированной части счёт за вход падает примерно на 56%. Как повысить долю кэша; свои цифры можно проверить в калькуляторе кэширования промптов.

2. Скажите агенту, какие файлы важны

Расплывчатая задача («почини баг со входом») отправляет агента на поиски: он выводит списки каталогов, открывает файлы и читает их в контекст. Каждый открытый файл потом заново отправляется на каждом следующем шаге. Называйте файлы и ожидаемое изменение. Держите в репозитории короткую карту проекта, которую агент читает первой.

Оценка экономии. Если файл на 40 000 токенов прочитан на 3-м шаге задачи из 30 шагов, он отправляется повторно около 27 раз: больше миллиона входных токенов на один файл. Если его не читать, вся эта сумма сэкономлена.

3. Обрезайте вывод инструментов до того, как он попадёт в контекст

Тест-раннеры, логи сборки и git diff могут возвращать десятки тысяч токенов. Показывайте агенту последние 100 строк лога или только упавшие тесты. В большинстве агентов для команд можно задать лимит вывода.

Оценка экономии. Тот же расчёт, что в приёме 2: каждый обрезанный токен экономится один раз на каждом оставшемся шаге.

4. Снижайте усилие рассуждений на рутинных шагах

DeepSeek V4.1 Flash и GLM 5.3 думают, прежде чем ответить, и эти размышления оплачиваются как выход. Для переименований, форматирования и мелких правок задавайте reasoning_effort: "low". Оставляйте max_tokens достаточно большим, чтобы ответ успел завершиться, иначе вы заплатите за размышления и получите пустой ответ. Сколько стоят токены рассуждений.

Оценка экономии. Измерьте completion_tokens_details.reasoning_tokens до и после на одних и тех же 20 задачах. Экономия — это снижение, умноженное на цену выхода ($0.52 за 1 млн).

5. Ограничьте число шагов на задачу

Агент, который не может починить тест, способен крутиться 100 шагов, и каждый следующий больше предыдущего. Задайте максимальное число шагов на задачу и останавливайтесь, когда один и тот же вызов инструмента повторяется трижды. Лимит шагов превращает неограниченные расходы в ограниченные.

6. Ограничивайте и журналируйте повторы

Повторный запрос — это новый инференс, который на ключе с оплатой за токены снова тарифицируется. Повторяйте 429 и 5xx с экспоненциальной задержкой и фиксированным лимитом; другие ошибки 4xx, такие как 400 или 422, не повторяйте. Ошибки и повторные попытки.

7. Начинайте новую сессию для каждой задачи

История прошлой задачи — мёртвый груз для следующей. Новая сессия на каждую задачу держит контекст маленьким. С кэшированием это не конфликтует: системный промпт и инструменты по-прежнему образуют общий кэшируемый префикс.

8. Отдавайте простые шаги более дешёвой модели

Не каждому шагу нужна одна и та же модель. Сообщения коммитов, строки чейнджлога и простую классификацию можно отдать Gemma 4 VL 26B за $0.10 вход и $0.22 выход за 1 млн. Если для шагов с активным использованием инструментов вы берёте GLM 5.3, остальное отправляйте на DeepSeek V4.1 Flash: выход GLM 5.3 стоит примерно в 6,7 раза дороже. GLM 5.3 или DeepSeek V4.1 Flash.

Осторожно. Считайте стоимость законченной задачи. Более дешёвая модель, которой нужно вдвое больше шагов, может обойтись дороже.

9. Сжимайте историю редко, остальное дописывайте

Когда агент сжимает свою историю, он переписывает промпт, и кэш начинается заново. Сжимайте только когда контекст близок к лимиту, одним крупным шагом, а дальше снова дописывайте. Так приём 1 продолжает работать.

10. Переходите на фиксированный тариф после точки окупаемости

Оплата за токены выгодна при малом использовании. Агент, работающий полный день, к малому не относится. В расчётном примере BroadNet агент для программирования на полный день (1 000 млн входных токенов при 80% кэша, 50 млн выходных) стоит $65.40 в месяц при оплате за токены; круглосуточный агент — $196.20. Сессия Full Moon стоит $60 в месяц без счётчика токенов, один запрос за раз. С этого момента приёмы 1–9 по-прежнему экономят время, но уже не деньги. Проверьте свои объёмы в калькуляторе фиксированного тарифа и оплаты за токены или прочитайте расчёт точки окупаемости и статью о параллельных агентах на фиксированном тарифе.

Как понять, что приём сработал?

  1. Выберите 20 типичных задач из бэклога.
  2. Выполните их на текущей конфигурации и запишите токены по каждой задаче.
  3. Применяйте приёмы по одному и запускайте заново.
  4. Сравнивайте стоимость законченной задачи, а не стоимость запроса.

Для приложений, которые не являются агентами для программирования, те же рычаги в общем порядке собраны в статье Как снизить расходы на LLM API.

Инструкции по настройке популярных агентов: Aider, Cline, Zoo Code, форк закрытого Roo Code и OpenCode.

Место BroadNet Inference

BroadNet даёт агентам для программирования дешёвый вход из кэша на DeepSeek V4.1 Flash, а для интенсивного использования — безлимитные сессии от $60 в месяц, на OpenAI-совместимом эндпоинте, который эти агенты уже поддерживают. Закрытые фронтирные модели она не запускает, поэтому если такая модель нужна вашему агенту для самых сложных шагов, оставьте её у её поставщика, а основную массу шагов отправляйте сюда. Смотреть тарифы.

Вопросы и ответы

Почему агенты для программирования так дорого обходятся?

На каждом шаге они заново отправляют системный промпт, описания инструментов, содержимое файлов и историю, поэтому число входных токенов растёт с каждым шагом. Сверху добавляются рассуждения — скрытый выход.

Какой самый действенный способ снизить расходы агента для программирования?

Оставляйте начало промпта одинаковым от шага к шагу, чтобы оно тарифицировалось как вход из кэша. У DeepSeek V4.1 Flash вход из кэша стоит $0.0055 за 1 млн токенов против $0.175.

Более дешёвая модель всегда выгоднее для агента?

Нет. Более слабая модель, которой нужно больше шагов или которая ошибается и повторяет попытки, в сумме может обойтись дороже. Считайте стоимость законченной задачи, а не токена.

Когда агенту для программирования выгоднее тариф с фиксированной ценой?

Для DeepSeek V4.1 Flash — примерно от 917 млн входных и 46 млн выходных токенов в месяц при 80% попаданий в кэш. Агент, работающий полный день, обычно переходит эту черту.

Как не дать агенту зациклиться и сжигать токены?

Ограничьте число шагов на задачу, останавливайте агента, когда один и тот же вызов инструмента повторяется трижды, и ограничьте повторы при ошибках 429 и 5xx. Лимит шагов превращает неограниченные расходы в ограниченные.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity