BroadRouter

BroadNet Inference в goose: пользовательский провайдер

Обновлено

Добавьте в goose пользовательский провайдер типа OpenAI Compatible с API URL https://inference.broadnet.ai/v1/chat/completions, ключом BroadNet и моделями, например broadnet/glm-5.3. Сделать это можно кнопкой Add Custom Provider в goose Desktop, командой goose configure в терминале или JSON-файлом в ~/.config/goose/custom_providers/. goose опирается на вызов инструментов, поэтому начните с GLM 5.3 или Qwen3.8 27B.

goose — open-source ИИ-агент с десктопным приложением и CLI. Сервисы, которых нет среди встроенных, добавляются как пользовательские провайдеры (custom providers), и goose поддерживает OpenAI-совместимые. BroadNet Inference отдаёт стандартные chat completions, поэтому подключается именно так. BroadRouter — собственный сайт BroadNet. Шаги ниже повторяют документацию goose по провайдерам для версии goose 1.59.

Документация goose предупреждает, что он “extensively uses tool calling” (перевод: «активно использует вызов инструментов»), а модели без этой возможности могут только общаться, и то при отключении всех расширений. BroadNet указывает вызов инструментов для GLM 5.3 и Qwen3.8 27B, поэтому для работы агента берите одну из них.

Вариант 1: goose Desktop

  1. Откройте боковую панель, нажмите Settings, затем вкладку Models.

  2. Нажмите Configure providers, затем Add Custom Provider внизу.

  3. Заполните поля:

    Поле Значение
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key ваш ключ BroadNet
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support включено
  4. Нажмите Create Provider, затем выберите этот провайдер и модель.

Вариант 2: goose CLI

Запустите goose configure, выберите Custom Providers, затем Add A Custom Provider и ответьте на вопросы теми же значениями: тип API OpenAI Compatible, API URL из таблицы выше, аутентификация Yes со статическим API-ключом, список моделей через запятую и включённый стриминг.

Вариант 3: JSON-файл

Создайте ~/.config/goose/custom_providers/broadnet.json (в Windows — в %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Затем запустите сессию с этим провайдером:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

Файл можно положить в репозиторий для всей команды: ключ остаётся в переменной окружения.

Проверка

Начните с простого вопроса, например «что ты умеешь?». Если пришёл ответ, подключение работает. Затем попросите о чём-нибудь, для чего нужно одно из включённых расширений. Если goose вызвал инструмент, вызов инструментов тоже работает. Если он отвечает только текстом и никогда не вызывает инструменты, переключитесь на broadnet/glm-5.3.

Цены в goose

goose умеет оценивать расходы, если у каждой модели в JSON-файле заданы input_token_cost и output_token_cost в USD за токен. Возьмите цифры на странице цен BroadNet и разделите цену за 1 млн токенов на 1 000 000. Если хотя бы одного из этих полей нет, goose берёт цены из собственного каталога, а они могут не совпадать с ценами BroadNet.

Решение проблем

  • 401. Ключ неверен, истёк или исчерпал лимит, либо BROADNET_API_KEY не задана в оболочке, из которой запускается goose.
  • 404. Проверьте API URL: он должен быть https://inference.broadnet.ai/v1/chat/completions. Проверьте, что ID модели точно совпадает с ID BroadNet. Для платных моделей нужно пополнить баланс; стартовый грант $5 покрывает только broadnet/gemma-4-26b-a4b, а её контекст в 32 768 токенов маловат для работы агента.
  • Пустые ответы. У DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждения учитываются в лимите на выход. Почему ответы приходят пустыми.
  • 429. Ключ с оплатой по факту допускает 30 запросов в минуту и не больше 4 одновременно. Две сессии goose на одной сессии тарифа встают в очередь, потому что сессия тарифа обрабатывает один запрос за раз. См. ошибки и повторные запросы.

Вопросы и ответы

API URL в goose должен заканчиваться на /v1 или на /v1/chat/completions?

В примере пользовательского провайдера из документации goose указан полный URL chat completions, поэтому используйте https://inference.broadnet.ai/v1/chat/completions. Так goose будет работать через chat completions — именно этот формат отдаёт BroadNet.

Какая модель BroadNet лучше всего работает с goose?

GLM 5.3 (broadnet/glm-5.3). Документация goose говорит, что он активно использует вызов инструментов, а BroadNet указывает инструменты только для GLM 5.3 и Qwen3.8 27B.

Можно ли использовать goose на безлимитном тарифе BroadNet?

Тарифы покрывают только DeepSeek V4.1 Flash, а документация BroadNet не указывает для неё вызов инструментов. По словам goose, модели без вызова инструментов могут только общаться, и то с отключёнными расширениями, так что проверьте её, прежде чем брать месяц.

Где goose хранит API-ключ?

В системной связке ключей (keychain) или в secrets.yaml, если keyring отключён. При настройке через JSON-файл goose вместо этого читает переменную, указанную в api_key_env.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity