BroadRouter
始める

LibreChat に BroadNet Inference をカスタムエンドポイントとして追加する

更新日

librechat.yaml の endpoints.custom に、name を BroadNet、apiKey を BROADNET_API_KEY などの環境変数の参照、baseURL を https://inference.broadnet.ai/v1、models.default に broadnet/glm-5.3 などの BroadNet の ID を並べたエントリーを追加します。キーは .env に書き、Docker ではファイルをコンテナにマウントして LibreChat を再起動します。/chat/completions は LibreChat がベース URL に自動で付けます。

LibreChat は、OpenAI 互換のサービスをカスタムエンドポイント(custom endpoints)として使えるオープンソースのチャットアプリです。エンドポイントは librechat.yaml で定義し、キーは .env に置き、Docker の場合は YAML ファイルをコンテナにマウントします。BroadRouter は BroadNet 自身のサイトです。手順は LibreChat のカスタムエンドポイントガイドに沿っています。

設定手順

  1. librechat.yaml をマウントします(Docker のみ)。 docker-compose.override.yml.example を docker-compose.override.yml にコピーし、volume が有効になっていることを確認します。
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. プロジェクトのルートにある librechat.yaml の endpoints.custom に、エンドポイントを追加します。
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

version など、ファイルにすでにあるトップレベルのキーは残してください。

  1. .env にキーを設定します。
BROADNET_API_KEY=your-broadnet-key
  1. LibreChat を再起動します。 Docker なら docker compose down && docker compose up -d、ローカルにインストールした場合は npm run backend で再起動します。これで BroadNet がエンドポイントのセレクターに表示されます。

フィールドの補足

  • baseURL。 /chat/completions は LibreChat が自分で付けるので、上のように /v1 までのルートを指定します。directEndpoint: true は設定しないでください。これは baseURL がすでに completions の完全な URL になっている場合のオプションです。
  • fetch: false。 これは LibreChat のデフォルト値ですが、選択を明示するために書いています。BroadNet のドキュメントでは GET /v1/models は監視ツール向けの公開カタログのメタデータと説明されているため、default にモデルを列挙するほうが確実です。
  • titleModel。 LibreChat は、チャットごとに追加のリクエストを送ってタイトルを付けます。推論をしない小さく安いモデルなら、この呼び出しを短く済ませられます。BroadNet のドキュメントでは Gemma 4 VL 26B に推論は記載されていません。
  • user_provided。 各ユーザーに UI で自分の BroadNet キーを入力させたい場合は、apiKey: 'user_provided' を設定します。LibreChat はユーザーごとのキーを暗号化して保存し、初めてそのエンドポイントを選んだときに入力を求めます。
  • 一意な名前。 大文字小文字を無視して同じ名前のエンドポイントが 2 つあると、2 つ目が 1 つ目を黙って置き換えます。すでに BroadNet という名前のエントリーがある場合は、どちらかの名前を変えてください。
  • キーを直接書かない。 LibreChat のドキュメントは、キーを librechat.yaml に直接書くよりも ${VAR} 形式の参照を推奨しています。直接書くと、キーが平文のままファイルに残ります。

モデルの選び方

用途 モデル
通常のチャット、ツール、JSON GLM 5.3
画像とアラビア語 Qwen3.8 27B
長い文書、1M コンテキスト DeepSeek V4.1 Flash
タイトルと短い返答 BroadNet Gemma 4 VL 26B

これらのモデルのうち $5 の初回クレジットで動かせるのは Gemma 4 VL 26B だけです。このクレジットは 2 つの Transcribe モデルにも使えます。料金は料金ページで比較できます。

トラブルシューティング

  • エンドポイントが表示されない。 name、baseURL、apiKey、models.default の綴りが正しく、endpoints.custom の内側にインデントされているか確認してください。LibreChat は不完全なエントリーをログも出さずに無視します。Docker の場合は、docker-compose.override.yml の bind mount のコメントが外れているか確認してください。
  • 「Missing API Key for BroadNet」(訳:BroadNet の API キーがありません)。 BROADNET_API_KEY が .env にないか、LibreChat を再起動していません。エンドポイントは表示されたままで、エラーはメッセージを送ったときにだけ出ます。
  • プロバイダーから 401 が返る。 キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。
  • モデルのエラー。 各 ID は broadnet/ プレフィックスを含めて BroadNet の ID と完全に一致させてください。GLM 5.3、Qwen3.8 27B、DeepSeek V4.1 Flash にはチャージが必要です。
  • 返答が空になる。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は先に推論し、推論も max_tokens に含まれます。LibreChat のパラメーターで最大出力を小さく設定している場合は上げてください。回答が空で返ってくる理由。
  • ユーザーが多いと 429 になる。 従量課金のキー 1 つで 1 分あたり 30 リクエスト、同時に 4 個までで、これをエンドポイントの全ユーザーで共有します。タイトル生成のリクエストも数に入ります。user_provided のキーにすると負荷を分散できます。エラーとリトライを参照してください。
  • プランのキー。 無制限プランのセッションは一度に 1 つのリクエストしか処理せず、共有もできないため、複数ユーザーで使う LibreChat には向きません。

よくある質問

LibreChat に BroadNet のエンドポイントが表示されないのはなぜですか?

name、baseURL、apiKey、models.default のどれかが欠けているか綴りが間違っていると、LibreChat はエラーもログも出さずにそのカスタムエンドポイントを無視します。Docker の場合は、librechat.yaml が /app/librechat.yaml にマウントされているか、再起動したかも確認してください。

ユーザーごとに自分の BroadNet キーを使わせられますか?

できます。apiKey を user_provided にすると、各ユーザーが初めてそのエンドポイントを選んだときに LibreChat がキーの入力を求め、暗号化して保存します。

LibreChat に「Missing API Key for BroadNet」と表示されるのはなぜですか?

apiKey で参照している変数が .env に設定されていません。エンドポイント自体はセレクターに表示され、エラーはメッセージを送ったときにだけ出ます。変数を追加して LibreChat を再起動してください。

LibreChat の baseURL に /chat/completions を含めるべきですか?

いいえ。LibreChat はデフォルトで baseURL に /chat/completions を付け足します。https://inference.broadnet.ai/v1 を使ってください。directEndpoint を true にするのは、入力した URL がすでに completions エンドポイントの完全な URL である場合だけです。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く