LibreChat は、OpenAI 互換のサービスをカスタムエンドポイント(custom endpoints)として使えるオープンソースのチャットアプリです。エンドポイントは librechat.yaml で定義し、キーは .env に置き、Docker の場合は YAML ファイルをコンテナにマウントします。BroadRouter は BroadNet 自身のサイトです。手順は LibreChat のカスタムエンドポイントガイドに沿っています。
設定手順
- librechat.yaml をマウントします(Docker のみ)。
docker-compose.override.yml.exampleをdocker-compose.override.ymlにコピーし、volume が有効になっていることを確認します。
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- プロジェクトのルートにある
librechat.yamlのendpoints.customに、エンドポイントを追加します。
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
version など、ファイルにすでにあるトップレベルのキーは残してください。
.envにキーを設定します。
BROADNET_API_KEY=your-broadnet-key
- LibreChat を再起動します。 Docker なら
docker compose down && docker compose up -d、ローカルにインストールした場合はnpm run backendで再起動します。これで BroadNet がエンドポイントのセレクターに表示されます。
フィールドの補足
- baseURL。
/chat/completionsは LibreChat が自分で付けるので、上のように/v1までのルートを指定します。directEndpoint: trueは設定しないでください。これは baseURL がすでに completions の完全な URL になっている場合のオプションです。 - fetch: false。 これは LibreChat のデフォルト値ですが、選択を明示するために書いています。BroadNet のドキュメントでは
GET /v1/modelsは監視ツール向けの公開カタログのメタデータと説明されているため、defaultにモデルを列挙するほうが確実です。 - titleModel。 LibreChat は、チャットごとに追加のリクエストを送ってタイトルを付けます。推論をしない小さく安いモデルなら、この呼び出しを短く済ませられます。BroadNet のドキュメントでは Gemma 4 VL 26B に推論は記載されていません。
- user_provided。 各ユーザーに UI で自分の BroadNet キーを入力させたい場合は、
apiKey: 'user_provided'を設定します。LibreChat はユーザーごとのキーを暗号化して保存し、初めてそのエンドポイントを選んだときに入力を求めます。 - 一意な名前。 大文字小文字を無視して同じ名前のエンドポイントが 2 つあると、2 つ目が 1 つ目を黙って置き換えます。すでに BroadNet という名前のエントリーがある場合は、どちらかの名前を変えてください。
- キーを直接書かない。 LibreChat のドキュメントは、キーを
librechat.yamlに直接書くよりも${VAR}形式の参照を推奨しています。直接書くと、キーが平文のままファイルに残ります。
モデルの選び方
| 用途 | モデル |
|---|---|
| 通常のチャット、ツール、JSON | GLM 5.3 |
| 画像とアラビア語 | Qwen3.8 27B |
| 長い文書、1M コンテキスト | DeepSeek V4.1 Flash |
| タイトルと短い返答 | BroadNet Gemma 4 VL 26B |
これらのモデルのうち $5 の初回クレジットで動かせるのは Gemma 4 VL 26B だけです。このクレジットは 2 つの Transcribe モデルにも使えます。料金は料金ページで比較できます。
トラブルシューティング
- エンドポイントが表示されない。
name、baseURL、apiKey、models.defaultの綴りが正しく、endpoints.customの内側にインデントされているか確認してください。LibreChat は不完全なエントリーをログも出さずに無視します。Docker の場合は、docker-compose.override.ymlの bind mount のコメントが外れているか確認してください。 - 「Missing API Key for BroadNet」(訳:BroadNet の API キーがありません)。
BROADNET_API_KEYが.envにないか、LibreChat を再起動していません。エンドポイントは表示されたままで、エラーはメッセージを送ったときにだけ出ます。 - プロバイダーから 401 が返る。 キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。
- モデルのエラー。 各 ID は
broadnet/プレフィックスを含めて BroadNet の ID と完全に一致させてください。GLM 5.3、Qwen3.8 27B、DeepSeek V4.1 Flash にはチャージが必要です。 - 返答が空になる。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は先に推論し、推論も
max_tokensに含まれます。LibreChat のパラメーターで最大出力を小さく設定している場合は上げてください。回答が空で返ってくる理由。 - ユーザーが多いと 429 になる。 従量課金のキー 1 つで 1 分あたり 30 リクエスト、同時に 4 個までで、これをエンドポイントの全ユーザーで共有します。タイトル生成のリクエストも数に入ります。
user_providedのキーにすると負荷を分散できます。エラーとリトライを参照してください。 - プランのキー。 無制限プランのセッションは一度に 1 つのリクエストしか処理せず、共有もできないため、複数ユーザーで使う LibreChat には向きません。
