---
title: "Длинный контекст или RAG: цена, задержка и полнота | BroadRouter"
description: "Когда контекстное окно на 1 млн токенов заменяет векторную базу данных, а когда RAG всё ещё выигрывает: сравнение по цене запроса, задержке, полноте и поддержке."
url: https://broadrouter.com/ru/blog/long-context-vs-rag/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/long-context-vs-rag/) (обновлён 2026-11-16).

# Длинный контекст или RAG: когда 1 млн токенов заменяет векторную БД

Команда BroadNet Inference · 5 мин чтения · Опубликовано 2026-11-14 · Обновлено 2026-11-16

Длинный контекст заменяет RAG, когда корпус помещается в окно, редко меняется, а вопросы требуют сразу многих его частей; кэширование делает повторные запросы дешёвыми. RAG по-прежнему выигрывает, когда корпус больше окна, постоянно обновляется, требует прав доступа на уровне пользователя или ответ нужен за секунду-две. Многие системы находят документы через RAG, а рассуждают над ними в длинном контексте.

## Главное

-   Размер корпуса — первый фильтр: если он не помещается в окно с запасом на ответ, вам нужен тот или иной поиск.
-   На каждый запрос длинный контекст отправляет весь корпус, а RAG — несколько тысяч токенов. Кэширование префикса сокращает разрыв в цене, только если корпус стабилен.
-   Длинные промпты увеличивают время до первого токена. RAG держит промпты короткими и быстрыми.
-   Полнота в длинном контексте не идеальна: факты в начале и конце промпта модели находят надёжнее, чем в середине.
-   RAG ломается иначе: если поиск пропустил фрагмент, модель его просто не увидит. Измеряйте оба подхода на своих вопросах.

**На этой странице**

1.  Когда длинный контекст заменяет RAG?
2.  Как соотносится цена одного запроса?
3.  Как соотносится задержка?
4.  У чего полнота лучше?
5.  А что с поддержкой?
6.  Гибрид, к которому приходит большинство команд
7.  Место BroadNet Inference

[Руководство по контекстному окну на 1 млн токенов](https://broadrouter.com/ru/blog/million-token-context-window-guide/) рассказывает, что помещается в миллион токенов и сколько стоит один запрос. Эта статья отвечает на более узкий вопрос, который всплывает на каждом архитектурном ревью: **можно ли удалить [векторную базу данных](https://broadrouter.com/ru/glossary/vector-database/) и [RAG](https://broadrouter.com/ru/glossary/rag/)\-конвейер вокруг неё?** Иногда — да. Вот как решить, по четырём осям: цена, задержка, полнота и поддержка.

## Когда длинный контекст заменяет RAG?

Должны выполняться все четыре условия:

1.  **Корпус помещается.** Промпт, ответ и рассуждения укладываются в [контекстное окно](https://broadrouter.com/ru/glossary/context-window/) с запасом. У [DeepSeek V4.1 Flash](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) и [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) это окно — 1 048 576 токенов ([сравнение двух моделей](https://broadrouter.com/compare/deepseek-v4.1-flash-vs-glm-5.3/)). [Калькулятор контекстного окна](https://broadrouter.com/tools/context-window-calculator/) проверит, помещаются ли ваши документы.
2.  **Он редко меняется.** Руководство, которое обновляется раз в месяц, подходит. Очередь тикетов, которая обновляется каждую минуту, — нет.
3.  **Всем можно видеть всё.** Один общий корпус, без прав доступа по пользователям, которые нужно фильтровать.
4.  **Вопросы охватывают весь корпус.** Для вопроса «Какие договоры противоречат новой политике?» нужно видеть всё; для вопроса «Какой срок возврата?» — нет.

Если хоть одно условие не выполняется, оставьте поиск или используйте гибрид.

## Как соотносится цена одного запроса?

Возьмём набор документов на 400 000 токенов и вопрос с ответом на 500 токенов. RAG находит, скажем, 8000 токенов фрагментов. Ключ с [оплатой по факту](https://broadrouter.com/ru/glossary/pay-as-you-go/), модель DeepSeek V4.1 Flash:

| Подход | Вход на запрос | Стоимость входа на запрос |
| --- | --- | --- |
| Длинный контекст, первый запрос | 400 000 новых | 0,4 × $0.175 |
| Длинный контекст, повторный запрос, префикс в кэше | около 400 000 из кэша | около 0,4 × $0.0055 |
| RAG | 8000 новых | 0,008 × $0.175 |

Выход во всех случаях одинаков: 500 токенов × $0.52 за 1 млн. (Каждый множитель — это миллионы токенов, умноженные на цену за 1 млн.)

Отсюда три вывода. Без кэширования длинный контекст обходится по входу в 50 раз дороже RAG на запрос, потому что отправляет в 50 раз больше токенов. Когда корпус в кэше, разрыв сильно сокращается: вход из кэша на этой модели стоит несколько процентов от нового входа. Но кэш держится, только пока префикс остаётся побайтово идентичным, поэтому корпус должен идти первым и не меняться; см. [структура промпта для кэширования](https://broadrouter.com/ru/blog/prompt-structure-for-caching/). У RAG есть свои расходы, которых нет в таблице: эмбеддинги корпуса, работа векторного хранилища и время инженеров на настройку разбиения на фрагменты. Часть с эмбеддингами считает [калькулятор стоимости эмбеддингов](https://broadrouter.com/tools/embedding-cost-calculator/). Сторону запросов — фрагменты, токены на запрос и месячный счёт за LLM — считает [калькулятор чанкинга для RAG](https://broadrouter.com/tools/rag-chunking-calculator/).

Чтобы понять, сколько стоит ваша доля попаданий в кэш, попробуйте [калькулятор кэширования промптов](https://broadrouter.com/tools/prompt-caching-calculator/). На тарифе с фиксированной ценой столбец входа исчезает: Full Moon стоит $60 в месяц за сессию без счётчика токенов, так что промпт на 400 000 токенов стоит столько же, сколько короткий.

## Как соотносится задержка?

Модель читает весь промпт, прежде чем написать первый токен. Время до первого токена растёт с длиной промпта, и промпту длиной в сотни тысяч токенов нужно заметно больше времени на старт, чем промпту на 8000. Во многих системах обслуживания помогает кэширование префиксов. Сам векторный поиск обычно добавляет немного: вызов поиска мал по сравнению с генерацией.

Поэтому для интерактивного ассистента, который должен ответить за секунду-две, RAG — более надёжный выбор по умолчанию. Для аналитика, который задаёт один глубокий вопрос и ждёт ответа, длинный контекст вполне подходит. [Измерьте TTFT на своих промптах](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/) того размера, который планируете отправлять.

## У чего полнота лучше?

Ни один подход не идеален, и ломаются они по-разному.

**Длинный контекст** может терять факты в середине ([lost in the middle](https://broadrouter.com/ru/glossary/lost-in-the-middle/)). Исследование _Lost in the Middle_ показало, что модели лучше всего используют информацию в начале или в конце входа и хуже — посередине. Бенчмарк RULER показал, что модели, почти идеально проходящие простые тесты «иголка в стоге сена», на более сложных задачах с ростом входа деградируют, и из моделей, заявляющих контекст 32K токенов и больше, “only half of them” (перевод: «только половина из них») сохранили удовлетворительное качество на 32K. Новые модели справляются лучше, но заявленное окно — не то же самое, что окно, в котором качество держится.

**RAG** ломается ещё до того, как модель начнёт работу: если поиск пропустил фрагмент, модель его никогда не увидит. Вопросы, требующие многих фрагментов или сформулированные иными словами, чем источник, — классические промахи.

| Вид сбоя | Длинный контекст | RAG |
| --- | --- | --- |
| Факт спрятан в середине промпта | Риск растёт с длиной | Низкий, промпт короткий |
| Для ответа нужно 20 разрозненных фрагментов | Сильная сторона | Слабо, если top-k не велик |
| Формулировка запроса отличается от источника | Сильная сторона | Зависит от эмбеддингов и реранкинга |
| Корпус больше окна | Невозможно | Сильная сторона |

Два способа снизить риски длинного контекста: ставьте вопрос в конце, после документов, и просите модель цитировать строки, на которые она опирается.

## А что с поддержкой?

RAG — это система: разбиение на фрагменты, эмбеддинги, индекс, переиндексация при изменениях, фильтры прав доступа, оценка качества поиска. Длинный контекст — это промпт: склейте файлы с понятными метками и отправьте. Для небольшой команды с корпусом, который помещается в окно, удаление конвейера снимает реальную работу. Для большого, меняющегося корпуса с правами доступа конвейер делает работу, которую длинный контекст сделать не может.

## Гибрид, к которому приходит большинство команд

1.  Находите документы с запасом: не пять фрагментов, а целые документы, вплоть до нескольких сотен тысяч [токенов](https://broadrouter.com/ru/glossary/token/).
2.  Упорядочивайте их стабильно (по ID документа, а не по релевантности), чтобы префикс кэшировался между связанными вопросами.
3.  Ставьте вопрос в конец и отправляйте модели с длинным контекстом.
4.  Просите ссылаться на метки документов и выборочно проверяйте эти ссылки.

Так сохраняется охват огромного корпуса, который даёт RAG, и способность длинного контекста рассуждать по многим источникам. Заодно это прощает более слабый поиск: документ, оказавшийся чуть ниже порога, всё равно попадает в промпт.

## Место BroadNet Inference

BroadNet Inference предлагает две модели с окном 1 млн токенов, DeepSeek V4.1 Flash и GLM 5.3, и не обрезает ваш контекст, так что слишком большой запрос завершится ошибкой, а не тихой потерей документов. Вход из кэша на ключе с оплатой за токены тарифицируется по пониженной ставке для кэша, а безлимитные тарифы полностью убирают счётчик токенов для DeepSeek V4.1 Flash. В справочнике API указаны chat completions и распознавание речи, но не эндпоинт эмбеддингов и не векторное хранилище, так что для RAG-части нужен свой стек. Оставляйте в окне место для [токенов рассуждений](https://broadrouter.com/ru/glossary/reasoning-tokens/); почему — объясняет [руководство по рассуждениям](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/). Цены — на [странице цен](https://broadrouter.com/ru/pricing/).

Бесплатные инструменты по теме (на английском)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[RAG (генерация, дополненная поиском)](https://broadrouter.com/ru/glossary/rag/)

RAG (retrieval-augmented generation, генерация, дополненная поиском) — это подход, при котором приложение сначала находит во внешнем хранилище, например поисковом или векторном индексе, фрагменты, относящиеся к вопросу, а затем добавляет их в промпт, чтобы языковая модель отвечала по этому тексту, а не только по памяти.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Потеря в середине (lost in the middle)](https://broadrouter.com/ru/glossary/lost-in-the-middle/)

Lost in the middle («потеря в середине») — это наблюдаемая склонность языковых моделей лучше всего использовать нужную информацию, когда она стоит ближе к началу или концу длинного ввода, и хуже всего — когда она находится в середине. Название эффекту дало исследование Liu и соавторов 2023 года.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Векторная база данных (vector database)](https://broadrouter.com/ru/glossary/vector-database/)

Векторная база данных — это хранилище, которое держит векторы эмбеддингов, часто вместе с исходным текстом и метаданными, и отвечает на запросы ближайших соседей: по вектору запроса возвращает самые похожие сохранённые векторы, обычно по косинусному расстоянию, евклидову расстоянию или скалярному произведению.

[Время до первого токена (TTFT)](https://broadrouter.com/ru/glossary/time-to-first-token/)

Время до первого токена (TTFT) — это время от отправки запроса языковой модели до прихода первого выходного токена. Оно включает сетевое время, очередь на сервере и prefill — этап, на котором модель читает весь промпт, поэтому растёт с длиной промпта и нагрузкой.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

## Вопросы и ответы

### RAG больше не нужен, раз у моделей окно в 1 млн токенов?

Нужен. Длинный контекст избавляет от поиска, когда весь корпус помещается в окно и стабилен. Большинство корпоративных баз знаний больше миллиона токенов, меняются ежедневно и требуют прав доступа — это по-прежнему территория RAG.

### Длинный контекст точнее, чем RAG?

Зависит от вопроса. Длинный контекст лучше, когда для ответа нужно свести много фрагментов. RAG может быть лучше при поиске одного факта в огромном корпусе, потому что короткий промпт помогает модели не отвлекаться. Тестируйте оба подхода на реальных вопросах.

### Сколько слов помещается в контекстное окно на 1 млн токенов?

Около 810,000 слов обычного английского текста в окне DeepSeek V4.1 Flash на 1 048 576 токенов, если считать по 1,290 токенов на 1000 слов — столько показали замеры пяти токенизаторов в датасете BroadRouter. Технический английский, код, таблицы и арабский текст требуют больше токенов на слово, поэтому их помещается меньше. Оставьте место для ответа и рассуждений.

### Можно ли сочетать RAG и длинный контекст?

Да, и часто это лучший вариант. Находите документы с запасом, например 100 000–200 000 токенов кандидатов, а затем дайте модели с длинным контекстом рассуждать над всеми ними, а не над пятью лучшими фрагментами.

## Читайте также

-   [Когда контекстное окно на 1 млн токенов оправдано (а когда нет)](https://broadrouter.com/ru/blog/million-token-context-window-guide/)
-   [Как структурировать промпты, чтобы префикс кэшировался](https://broadrouter.com/ru/blog/prompt-structure-for-caching/)
-   [Кэшированные входные токены: как снизить счёт за LLM API](https://broadrouter.com/ru/blog/cached-input-tokens-explained/)
-   [Задержка LLM: TTFT, токены в секунду и полное время ответа](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/)
-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [Руководство: Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-long-context-vs-rag&utm_content=page-cta) ·

**Источники**

-   [Liu и др., Lost in the Middle — как языковые модели используют длинный контекст (arXiv 2307.03172)](https://arxiv.org/abs/2307.03172)
-   [Hsieh и др., RULER — каков реальный размер контекста ваших моделей с длинным контекстом? (arXiv 2404.06654)](https://arxiv.org/abs/2404.06654)
-   [Машиночитаемые цены и длины контекста BroadNet Inference (pricing.json) (на английском)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-long-context-vs-rag&utm_content=sources)
-   [Справочник API BroadNet Inference (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-long-context-vs-rag&utm_content=sources)
