BroadRouter

SillyTavern を BroadNet Inference に接続する(Custom OpenAI 互換)

更新日

SillyTavern の API Connections パネルで Chat Completion を選び、Chat Completion Source を Custom (OpenAI-compatible) にします。Custom Endpoint に https://inference.broadnet.ai/v1 を入れ、BroadNet のキーを貼り付け、Enter a Model ID に broadnet/qwen3.8-27b などのモデル ID を入力して Connect、続けて Test Message をクリックします。Max Response Length は 1,000 トークン以上にします。

SillyTavern は、キャラクターチャットやロールプレイで人気のオープンソースのチャットフロントエンドです。Custom (OpenAI-compatible) ソースを使うと、Chat Completion の API タイプを一般的な OpenAI スキーマに対応した任意のサーバーに接続できます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準の chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。手順は SillyTavern のドキュメントと 1.19.0 リリースに基づいています。

設定手順

  1. キーを取得します。 BroadNet のコンソールで従量課金のキーを作成するか、時間単位のキーを購入するか、無制限プランを購入します。

  2. API Connections パネルを開きます。

  3. API を Chat Completion にします。

  4. Chat Completion Source を Custom (OpenAI-compatible) にします。

  5. カスタムのフォームに入力します。

    フィールド 値
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key BroadNet のキー
    Enter a Model ID broadnet/qwen3.8-27b
  6. Connect をクリックします。

  7. テストします。 Test Message をクリックします。SillyTavern がモデルに簡単なプロンプトを送り、応答が返れば接続は正常です。

URL に /chat/completions を付けないでください。SillyTavern のフォームには、このサフィックスは自動で追加されると書かれています。

モデルは Available Models から選ばず、ID を入力してください。この一覧は /v1/models から取得されますが、BroadNet のドキュメントではこのエンドポイントをモニター向けのカタログメタデータと説明しています。2026 年 11 月 15 日に確認したときは、チャットに使えない 2 つの文字起こしモデルしか載っていませんでした。

モデルの選び方

モデル ID コンテキスト 備考
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1,048,576 長いチャット。無制限プランのモデル
Qwen3.8 27B broadnet/qwen3.8-27b 262,144 画像対応。BroadNet がアラビア語でテスト済み
GLM 5.3 broadnet/glm-5.3 1,048,576 テキストのみ。ツール対応
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32,768 $5 の無料クレジットと時間単位のキーで使える

無制限プランはトークンごとに支払わないので、長時間のセッションに向いています。Meteor の 1 時間は $1、Orbit の 1 週間は $15、Full Moon の 1 か月は $60 です。各プランのセッションは同時に 1 リクエストを処理します。

変更したほうがよい設定

  • Max Response Length (tokens)。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、推論はこの上限に含まれます。1,000 以上にしないと、空の応答が返ることがあります。
  • Context Size (tokens)。 表にあるモデルの値に合わせてください。SillyTavern は BroadNet からこの値を読み取れません。
  • Prompt Post-Processing。 system メッセージが複数ある、あるいはロールの順序が原因でモデルがプロンプトを拒否する場合は、まず Merge consecutive roles、次に Semi-strict を試してください。SillyTavern のドキュメントによると、「with tools」の付いたバリエーションを選ばない限り、これらのオプションはツール呼び出しを取り除きます。
  • Bypass status check。 SillyTavern が API が動いていないと警告するのに Test Message は成功する場合は、これにチェックを入れます。

トラブルシューティング

  • 401。 キーが間違っているか、期限切れか、利用枠を使い切っています。キーを貼り直して Connect をクリックしてください。
  • 404 または「model not found」。 URL は /v1 で終わり、ID には broadnet/ プレフィックスが必要です。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは broadnet/gemma-4-26b-a4b と 2 つの Transcribe モデルだけです。
  • 応答が空。 応答の長さを上げてください。回答が空で返ってくる理由。
  • 429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。時間単位のキーとプランのセッションでは、ストリームは 1 本ずつです。エラーとリトライを参照してください。

よくある質問

BroadNet に接続すると Available Models の一覧がおかしい、または空なのはなぜですか?

SillyTavern はこの一覧を /v1/models から取得します。2026 年 11 月 15 日に確認したところ、BroadNet の公開 /v1/models には 2 つの文字起こしモデルしか載っていませんでした。代わりに Enter a Model ID にチャットモデルの ID を入力してください。

長いロールプレイのチャットに向いている BroadNet のモデルは?

DeepSeek V4.1 Flash はコンテキストが 1,048,576 トークンあり、BroadNet の定額の無制限プランのモデルです。Qwen3.8 27B は、BroadNet が湾岸方言やエジプト方言を含むアラビア語でテストしたモデルです。

SillyTavern で応答が空になるのはなぜですか?

Gemma 4 VL 26B 以外の BroadNet のチャットモデルは回答の前に推論し、推論は max_tokens に含まれます。SillyTavern の Max Response Length がこの上限なので、1,000 トークン以上に上げてください。

コンテンツに関するルールはありますか?

あります。BroadNet の利用規定は API で送られるすべての内容に適用され、未成年者が関わる性的コンテンツの禁止には、フィクションや合成されたコンテンツも含まれると明記されています。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く