Каждая команда, строящая продукт на LLM, делает этот выбор, часто не замечая этого: закрытые модели, доступные только через API одного поставщика, или модели с открытыми весами, которые может скачать и запустить кто угодно. Выбор влияет на ваш счёт, путь ваших данных, стабильность продукта и то, насколько трудно будет уйти.
Что на самом деле значит «открытые веса»?
Модель с открытыми весами публикует свои обученные параметры. Запустить её можете вы или любой провайдер. Это уже, чем open source: обучающие данные и полный конвейер обучения обычно не публикуются.
Лицензии бывают разными. Некоторые разрешительные: например, OpenAI выпускает код и веса Whisper под лицензией MIT. Другие ограничивают коммерческое использование, число пользователей или сферы применения. Читайте лицензию каждой модели, прежде чем строить на ней продукт.
Веса закрытой модели остаются у поставщика. Вы арендуете доступ через его API или через облака, которым поставщик выдал лицензию.
Сравнение моделей с открытыми весами и закрытых
| Фактор | Открытые веса | Закрытые |
|---|---|---|
| Качество на верхнем уровне | Отстаёт от переднего края на месяцы | Обычно лидирует на самых сложных задачах |
| Цена за токен | Часто ниже; хостинги конкурируют на одной и той же модели | Устанавливает один поставщик |
| Где работает | Ваши серверы, арендованный GPU или любой хостинг | API поставщика или облака по лицензии |
| Варианты приватности | Свой хостинг или хостинг с нулевым хранением данных | Условия и уровни поставщика |
| Стабильность версий | Фиксируйте точные веса сколько угодно | Поставщик выводит версии по своему графику |
| Настройка | Дообучение или квантизация своими силами | Только то, что предлагает поставщик |
| Привязка к поставщику | Слабая: одни и те же веса обслуживают несколько хостингов | Сильная: один поставщик на модель |
| Эксплуатация | Ваша, если хостите сами | Поставщика |
Насколько велик разрыв в качестве?
Меньше, чем раньше, но он есть. AI Index 2025 Стэнфорда сообщил, что отрыв лучшей закрытой модели от лучшей модели с открытыми весами в рейтинге Chatbot Arena сократился с 8,04% в начале января 2024 года до 1,70% к февралю 2025 года. Epoch AI 29 мая 2026 года оценила, что «the most capable open-weight models have lagged frontier closed models by an average of four months» (перевод: «самые способные модели с открытыми весами отставали от передовых закрытых моделей в среднем на четыре месяца») по её индексу Epoch Capabilities Index.
На практике:
- Классификация, извлечение данных, сводки, перевод, рутинный чат: модели с открытыми весами обычно справляются и стоят дешевле.
- Агенты для программирования и длинные документы: сильные открытые варианты есть; тестируйте на своих репозиториях. См. статью лучшая открытая модель для агентов-программистов.
- Самые сложные рассуждения и новейшие возможности: закрытые модели часто приходят туда первыми.
Рейтинги — это средние значения. Бенчмарк, который имеет значение, — ваши 50 реальных тестовых случаев.
Какие есть три способа запустить модель с открытыми весами?
| Вариант | Лучше всего, когда | Обратите внимание на |
|---|---|---|
| Свой хостинг на собственных GPU | Данные не должны покидать вашу сеть; GPU постоянно загружены | Оборудование, драйверы, масштабирование, безопасность, обновления |
| Аренда выделенного GPU | Ровная нагрузка, собственные веса | Вы платите и за часы простоя |
| Хостируемый API с открытыми моделями | Неравномерный или растущий трафик; быстрый старт | Вы доверяете хранению данных и аптайму хостинга |
Собственный хостинг выглядит бесплатным в пересчёте на токен, но GPU стоит одинаково, обслуживает он один запрос в час или тысячу. Он окупается при высокой и ровной загрузке. Ниже неё API с оплатой за токены или тариф с фиксированной ценой обычно дешевле.
Сколько стоит модель с открытыми весами в месяц?
Цены за токены у хостируемых открытых моделей посчитать легко. Для 100 млн входных и 10 млн выходных токенов в месяц на DeepSeek V4.1 Flash через BroadNet:
100 x $0.175 + 10 x $0.52 в месяц, без учёта скидки на кэш.
Проделайте тот же расчёт с опубликованными ценами за миллион токенов вашего закрытого поставщика и реальным числом ваших токенов или начните с нашего сравнения стоимости API открытых и закрытых моделей, где одна нагрузка посчитана на GPT, Claude, Gemini, Grok и пяти открытых моделях. Кэшированный вход сильно меняет результат: вход из кэша на этой модели стоит $0.0055 за миллион токенов. Калькулятор стоимости LLM API считает это для каждой модели BroadNet, а таблица цен на LLM API показывает, сколько берут другие хостинги за те же открытые веса.
Почему привязка к поставщику важнее, чем кажется?
Когда закрытый поставщик поднимает цены, меняет условия обработки данных или выводит модель, под которую настроены ваши промпты, вариантов два: смириться или переписывать. С моделью с открытыми весами вы можете перенести те же веса к другому хостингу или к себе и сохранить то же поведение.
Чтобы эта возможность была реальной:
- Вызывайте модели через OpenAI-совместимый SDK, держа базовый URL и ID модели в конфигурации.
- Держите набор регрессионных тестов и прогоняйте его при каждой смене провайдера.
- При желании поставьте перед моделями маршрутизатор, например LiteLLM, чтобы переключение сводилось к изменению конфигурации.
Как компании сочетают открытые и закрытые модели?
Большинство компаний в итоге используют оба типа:
- Массовые, чётко определённые задачи (извлечение данных, сортировка обращений, сводки, рутинные шаги агентов) отправляйте модели с открытыми весами.
- Редкие сложные задачи — закрытой передовой модели.
- Перепроверяйте каждый квартал. С учётом разрыва, который измеряет Epoch, задачи со временем переходят из второго списка в первый.
Где здесь BroadNet Inference
BroadNet Inference — хостируемый API с открытыми моделями: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B и сборка Gemma 4 от Google в версии BroadNet, плюс две модели распознавания речи, всё через OpenAI-совместимый эндпоинт. Её заявление о конфиденциальности говорит, что она не хранит промпты и ответы и не использует данные инференса для обучения, дообучения или оценки моделей. DeepSeek V4.1 Flash также доступна на фиксированных тарифах — от $1 в час до $60 в месяц за сессию.
Закрытые модели BroadNet не обслуживает. Если задаче нужны GPT, Claude или Gemini, используйте для этого маршрута их поставщиков, а остальное держите на открытых весах. Чтобы сравнить BroadNet с другими провайдерами, воспользуйтесь чек-листом из 20 пунктов для выбора провайдера.
