BroadRouter

Своя LLM на GPU или API: реальная стоимость и точка окупаемости

Команда BroadNet Inference · 5 мин чтения · Опубликовано · Обновлено

Арендованный GPU стоит одинаково за час, занят он или простаивает, поэтому своя LLM выгоднее API только при высокой и стабильной загрузке. Разделите почасовую цену на число токенов, которое сервер реально выдаёт за час, добавьте время инженеров и дежурств и сравните с ценой API за 1 млн токенов. При скачкообразном или умеренном трафике API почти всегда выигрывает.

«Мы бы сэкономили, если бы запускали всё сами» — одно из самых частых утверждений при планировании расходов на LLM и одно из самых редко проверяемых. Математика несложная. В ней есть одна переменная, которую угадывают неправильно (загрузка), и одна статья расходов, которую забывают (люди). В этой статье — формула, реальные цены аренды и способ посчитать всё на своих цифрах.

Сколько сейчас стоит аренда GPU?

Почасовые цены с официальных страниц цен, дата обращения 2026-11-14 (RunPod) и 2026-11-16 (Lambda). Месяц здесь — 730 часов.

GPU Провайдер и уровень (проверено 2026-11-14) За GPU-час В месяц, без выключения
H100 SXM RunPod Secure Cloud USD 4,39 около USD 3 205
H100 SXM RunPod Community Cloud USD 2,69 около USD 1 964
H100 PCIe RunPod Secure Cloud USD 2,89 около USD 2 110
H200 RunPod Secure Cloud USD 5,29 около USD 3 862
A100 80GB SXM RunPod Secure Cloud USD 2,19 около USD 1 599
L40S RunPod Secure Cloud USD 1,09 около USD 796
H100 SXM Lambda on-demand, от 1 до 8 GPU (действуют с 2026-11-16; проверено 2026-11-16) от USD 4,59 до 4,89 около USD 3 351–3 570

На странице Lambda (проверено 2026-11-16) сказано, что эти цены вступают в силу 2026-11-16 в 00:00 UTC; ставка за GPU снижается с ростом узла, до USD 4,59 на узле из 8 GPU. Ставки RunPod Community Cloud — это цены «от», которые зависят от хоста. Secure и Community Cloud — разные уровни хостинга, поэтому, если у вас есть правила обращения с данными, прочитайте условия уровня. Многим моделям нужно больше одного GPU: узел из 8 H100 по ставке Secure Cloud стоит около USD 25 638 в месяц.

Как посчитать стоимость миллиона токенов на своём GPU?

GPU выдаёт токены с некоторой суммарной скоростью по всем запросам, которые он обрабатывает пакетом. Ваша стоимость токена — это почасовая цена, распределённая по токенам, которые он действительно выдаёт:

стоимость 1 млн токенов = почасовая цена ÷ (суммарные токены в секунду × 3 600 ÷ 1 000 000) ÷ загрузка

Загрузка — доля часов, когда GPU делает полезную работу с этой скоростью. Пример расчёта на условных цифрах (это не бенчмарк: измеряйте свою модель):

  • GPU: один H100 SXM в Community Cloud, USD 2,69 в час.
  • Условная суммарная скорость выхода: 1 500 токенов в секунду при хорошем батчинге.
  • Токенов в час при полной нагрузке: 1 500 × 3 600 = 5,4 млн.
Загрузка Фактически токенов в час Стоимость 1 млн выходных токенов
100% (всегда загружен полностью) 5,4 млн USD 0,50
50% 2,7 млн USD 1,00
25% (занят только в рабочие часы) 1,35 млн USD 1,99
10% (скачкообразный трафик продукта) 0,54 млн USD 4,98

Теперь сравните с ценой API за 1 млн выходных токенов. Таблица цен на LLM API показывает, сколько десятки хостеров берут за одни и те же открытые веса; в BroadNet Inference DeepSeek V4.1 Flash стоит $0.52 за 1 млн выходных токенов, а Gemma 4 VL 26B — $0.22. Найдите строку, где стоимость на своём GPU опускается ниже цены API: это ваша загрузка окупаемости. Пример не учитывает входные токены, которые тоже занимают время GPU (prefill), поэтому реальная стоимость своего хостинга выше, чем в таблице.

Сколько токенов в месяц нужно, чтобы выйти на окупаемость?

Переверните задачу. Работающий GPU стоит свою месячную цену в любом случае. API стоит токены × цена. Объём окупаемости:

токенов в месяц для окупаемости = месячная стоимость GPU ÷ цена API за 1 млн токенов × 1 000 000

Для одного H100 в Community Cloud (около USD 1 964 в месяц) при цене выхода $0.52 за 1 млн разделите 1 964 на эту цену — получите, сколько миллионов выходных токенов в месяц нужно заменить, прежде чем GPU окупится. Сделайте то же со средневзвешенной ценой входа и выхода, если ваша нагрузка в основном входная, как обычно у агентов; как их смешивать, показано в статье фиксированный тариф или оплата за токены.

И этот GPU должен действительно справляться с обслуживанием модели. Если модели нужно четыре GPU, умножьте месячную стоимость на четыре, прежде чем делить.

Какие расходы забывают?

Расход Что включает Как считать
Инженерная настройка Движок обслуживания, выбор квантования, автомасштабирование, нагрузочные тесты Разовые часы × ваша ставка
Текущая эксплуатация Обновления, апдейты драйверов и движка, смена версий модели Часы в месяц × ваша ставка
Дежурства Кто-то просыпается, когда узел падает Ваша политика дежурств
Резервирование Второй узел, чтобы один отказ не означал простой Удваивает строку GPU
Запас на простой Мощность для пиков, которую нужно держать прогретой Снижает загрузку
Оценка Проверка новой версии модели перед переключением Часы на каждый релиз

Сильнее всего ответ меняет резервирование. Один GPU — единая точка отказа. Два GPU в одночасье вдвое снижают загрузку. О работе по оценке, которую приносит каждое обновление, см. статью оценка модели перед переключением.

Когда своя LLM — правильный выбор?

  • Стабильный большой объём. Пакетные конвейеры, которые круглосуточно держат GPU загруженными.
  • Данные должны оставаться внутри вашей сети. Это жёсткое требование, а не довод о стоимости. Сначала проверьте, не удовлетворяет ли вашим правилам API с нулевым хранением данных.
  • Модель, которую не обслуживает ни один API. Ваша собственная дообученная модель или нишевая модель с открытыми весами.
  • Гарантированная мощность. Вам нужна пропускная способность, которую не дадут лимиты запросов API.

Во всех остальных случаях, особенно при скачкообразном трафике, на ранних продуктах и для агентов, которые работают всплесками, API дешевле и не требует графика дежурств.

Есть ли варианты с фиксированной ценой между GPU и оплатой за токены?

Между арендой GPU и оплатой за токены есть промежуточный вариант. BroadNet продаёт почасовой ключ для Gemma 4 VL 26B за $0.50 в час (один стрим, 120 запросов в минуту, 300,000 токенов в минуту), что составит $360.00, если держать его весь месяц. Она также продаёт сессии безлимитного тарифа для DeepSeek V4.1 Flash за $60 в месяц; каждая выполняет один запрос за раз со скоростью около 100 токенов в секунду. Это даёт предсказуемый счёт, как у арендованного GPU, без настройки и эксплуатации, но с фиксированной параллельностью на ключ или сессию вместо пакетной мощности целого GPU.

Какое место здесь занимает BroadNet Inference

BroadNet Inference — сторона API в этом сравнении: цены за токены, тарифы с фиксированной ценой и почасовые ключи для моделей с открытыми весами, часть из которых размещена у партнёров по инференсу в США, за OpenAI-совместимым API. Она подходит командам, чей трафик оставлял бы арендованный GPU простаивать большую часть дня, или тем, кто не хочет поддерживать инфраструктуру инференса. Она не подходит, если нужно обслуживать собственную дообученную модель, развернуть всё у себя (on-premises) или выполнять сотни параллельных запросов на одном ключе. Посчитайте свои цифры в калькуляторе стоимости LLM API и сравните с таблицей выше. Если вы ещё выбираете между открытыми и закрытыми моделями, статья стоимость API моделей с открытыми весами и закрытых моделей сравнивает цены за токены по страницам самих провайдеров. Калькулятор «свой хостинг или API» рассчитывает всю окупаемость по вашей измеренной пропускной способности и этим ценам на GPU.

Вопросы и ответы

Дешевле ли развернуть свою LLM, чем пользоваться API?

Только при большом и стабильном объёме. Арендованный GPU тарифицируется каждый час, а API — только за использованные токены. Если ваш GPU большую часть дня простаивал бы, API дешевле ещё до того, как вы посчитаете время инженеров.

Сколько стоит аренда H100 в час?

На странице цен RunPod 2026-11-14 H100 SXM стоил USD 4,39 в час в Secure Cloud и от USD 2,69 в Community Cloud. Lambda указывает для H100 SXM on-demand от USD 4,59 до 4,89 за GPU-час в зависимости от размера узла, по ценам, действующим с 2026-11-16. Актуальные ставки смотрите на этих страницах.

Сколько GPU нужно, чтобы развернуть большую модель у себя?

Как минимум столько памяти, чтобы вместить веса плюс KV-кэш для ваших одновременных запросов. Большим моделям типа mixture-of-experts обычно нужен узел с несколькими GPU. Число параметров и рекомендованную конфигурацию смотрите в карточке модели.

Когда своя LLM оправдана, даже если она дороже?

Когда данные не могут покидать вашу сеть, когда нужна дообученная или собственная модель, которую не обслуживает ни один API, или когда нужна гарантированная мощность. Это доводы о контроле, а не о стоимости.

Как измерить реальную пропускную способность моего GPU?

Прогоните свои реальные промпты при своей реальной параллельности на движке обслуживания вроде vLLM или SGLang и запишите суммарное число выходных токенов в секунду по всем запросам. Пиковые цифры производителей предполагают идеальный батчинг.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity