Jan и BroadNet Inference: свой OpenAI-совместимый провайдер
Обновлено
В Jan откройте Settings, затем Model Providers, и нажмите Add Provider. Выберите OpenAI-compatible, назовите провайдер BroadNet, укажите Base URL https://inference.broadnet.ai/v1 и вставьте ключ BroadNet. Затем добавьте чат-модели вручную кнопкой +, например broadnet/glm-5.3, и включите Tools или поддержку изображений для каждой модели в её возможностях.
Jan — open-source десктопное приложение для чата, которое запускает локальные модели и подключается к облачным API. Любой сервис, говорящий в формате OpenAI, можно добавить как пользовательский провайдер (custom provider). BroadNet Inference отдаёт стандартные chat completions по адресу https://inference.broadnet.ai/v1. BroadRouter — собственный сайт BroadNet. Шаги ниже повторяют страницу Custom Endpoints в документации Jan для Jan 0.8.8.
Настройка
Получите ключ. Создайте ключ с оплатой по факту в консоли BroadNet или купите почасовой ключ либо тариф.
Откройте диалог. Перейдите в Settings > Model Providers и нажмите кнопку Add Provider рядом со списком.
Выберите формат API. Выберите OpenAI-compatible — это вариант по умолчанию.
Заполните поля:
Поле
Значение
Provider name
BroadNet
Base URL
https://inference.broadnet.ai/v1
API key
ваш ключ BroadNet
Нажмите Create.
Добавьте модели вручную. В разделе Models провайдера нажмите + и введите ID каждой чат-модели точно, например broadnet/glm-5.3.
Задайте возможности. Нажмите на значок карандаша рядом с каждой моделью и включите то, что она поддерживает (см. таблицу ниже). Для пользовательских провайдеров Jan не может определить это сам.
Проверьте. Начните новый чат, выберите модель BroadNet в списке моделей и отправьте короткое сообщение.
При сохранении Jan запрашивает https://inference.broadnet.ai/v1/models. Документация BroadNet описывает этот эндпоинт как метаданные каталога для мониторинга, и когда мы проверяли его 15 ноября 2026 г., он перечислял только две модели транскрибации. Общаться они не умеют; если они появились, удалите их.
ID моделей и возможности
Модель
ID
Tools
Изображения
Контекст
GLM 5.3
broadnet/glm-5.3
Вкл.
Выкл.
1 048 576
Qwen3.8 27B
broadnet/qwen3.8-27b
Вкл.
Вкл.
262 144
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
Выкл. (BroadNet не указывает)
Вкл.
1 048 576
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
Выкл.
Вкл.
32 768
broadnet/gemma-4-26b-a4b — единственная чат-модель, которая работает на стартовом гранте $5, и именно она стоит за почасовым ключом BroadNet ($0.50 за один час, один поток). Для остальных нужно пополнить баланс, а для DeepSeek V4.1 Flash подойдёт и безлимитный тариф.
Какие настройки стоит изменить
Лимит на выход. Три из этих моделей рассуждают перед ответом, а рассуждения учитываются в max_tokens. Если задаёте лимит на выход для модели BroadNet, держите его не ниже 1000 токенов.
Сэмплеры. Для пользовательских провайдеров Jan показывает полный набор параметров сэмплирования, но его документация предупреждает, что пользовательские эндпоинты могут молча игнорировать неподдерживаемые сэмплеры. Если настройка вроде min-P ни на что не влияет, причина в этом.
Резервные ключи. Jan может хранить несколько ключей для одного провайдера и при 401, 403 или 429 повторяет запрос со следующим. Политика допустимого использования BroadNet запрещает обходить ограничения на частоту запросов и параллельность, поэтому используйте дополнительные ключи для отказоустойчивости, а не для умножения лимитов.
Решение проблем
404 на каждый запрос. В Base URL не хватает /v1. Документация Jan называет это самой частой ошибкой.
401 или 403. Ключ неверен, истёк или исчерпал лимит. Успешный результат Test keys не доказывает, что ключ рабочий, потому что /v1/models у BroadNet при нашей проверке отвечал без ключа.
Модель не найдена. Проверьте ID вместе с префиксом broadnet/. Для платных моделей нужно пополнить баланс.
429. Ключ с оплатой по факту допускает 30 запросов в минуту и не больше 4 одновременно; почасовой ключ работает с одним потоком. См. ошибки и повторные запросы.
Вопросы и ответы
Почему после добавления BroadNet Jan показывает только модели транскрибации?
При сохранении Jan запрашивает https://inference.broadnet.ai/v1/models. Когда мы проверяли 15 ноября 2026 г., публичный /v1/models у BroadNet перечислял только две модели транскрибации, а в чате они не работают. Удалите их и добавьте ID чат-моделей вручную.
Кнопка Test keys в Jan говорит OK. Значит, ключ рабочий?
Не обязательно. Jan проверяет ключи вызовом /models, а /v1/models у BroadNet при нашей проверке отвечал и без ключа. Чтобы убедиться, что ключ рабочий, отправьте сообщение в чат.
Можно ли использовать почасовой ключ BroadNet в Jan?
Да. Почасовой ключ работает с BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, и допускает один поток за раз — этого хватает для одного окна чата.
Определяет ли Jan, поддерживает ли модель BroadNet изображения или инструменты?
Нет. Документация Jan говорит, что для пользовательских провайдеров возможности не определяются. Включите ввод изображений для DeepSeek V4.1 Flash, Qwen3.8 27B и Gemma 4 VL 26B, а Tools — для GLM 5.3 и Qwen3.8 27B.