ホーム ガイド SillyTavern を BroadNet Inference に接続する(Custom OpenAI 互換) SillyTavern を BroadNet Inference に接続する(Custom OpenAI 互換) 更新日 2026-11-16
SillyTavern の API Connections パネルで Chat Completion を選び、Chat Completion Source を Custom (OpenAI-compatible) にします。Custom Endpoint に https://inference.broadnet.ai/v1 を入れ、BroadNet のキーを貼り付け、Enter a Model ID に broadnet/qwen3.8-27b などのモデル ID を入力して Connect、続けて Test Message をクリックします。Max Response Length は 1,000 トークン以上にします。
SillyTavern は、キャラクターチャットやロールプレイで人気のオープンソースのチャットフロントエンドです。Custom (OpenAI-compatible) ソースを使うと、Chat Completion の API タイプを一般的な OpenAI スキーマに対応した任意のサーバーに接続できます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準の chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。手順は SillyTavern のドキュメント と 1.19.0 リリースに基づいています。
設定手順
キーを取得します。 BroadNet のコンソールで従量課金のキーを作成するか、時間単位のキーを購入するか、無制限プラン を購入します。
API Connections パネルを開きます。
API を Chat Completion にします。
Chat Completion Source を Custom (OpenAI-compatible) にします。
カスタムのフォームに入力します。
フィールド
値
Custom Endpoint (Base URL)
https://inference.broadnet.ai/v1
Custom API Key
BroadNet のキー
Enter a Model ID
broadnet/qwen3.8-27b
Connect をクリックします。
テストします。 Test Message をクリックします。SillyTavern がモデルに簡単なプロンプトを送り、応答が返れば接続は正常です。
URL に /chat/completions を付けないでください。SillyTavern のフォームには、このサフィックスは自動で追加されると書かれています。
モデルは Available Models から選ばず、ID を入力してください。この一覧は /v1/models から取得されますが、BroadNet のドキュメントではこのエンドポイントをモニター向けのカタログメタデータと説明しています。2026 年 11 月 15 日に確認したときは、チャットに使えない 2 つの文字起こしモデルしか載っていませんでした。
モデルの選び方
モデル
ID
コンテキスト
備考
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
1,048,576
長いチャット。無制限プランのモデル
Qwen3.8 27B
broadnet/qwen3.8-27b
262,144
画像対応。BroadNet がアラビア語でテスト済み
GLM 5.3
broadnet/glm-5.3
1,048,576
テキストのみ。ツール対応
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
32,768
$5 の無料クレジットと時間単位のキーで使える
無制限プランはトークンごとに支払わないので、長時間のセッションに向いています。Meteor の 1 時間は $1、Orbit の 1 週間は $15、Full Moon の 1 か月は $60 です。各プランのセッションは同時に 1 リクエストを処理します。
変更したほうがよい設定
Max Response Length (tokens)。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、推論はこの上限に含まれます。1,000 以上にしないと、空の応答が返ることがあります。
Context Size (tokens)。 表にあるモデルの値に合わせてください。SillyTavern は BroadNet からこの値を読み取れません。
Prompt Post-Processing。 system メッセージが複数ある、あるいはロールの順序が原因でモデルがプロンプトを拒否する場合は、まず Merge consecutive roles 、次に Semi-strict を試してください。SillyTavern のドキュメントによると、「with tools」の付いたバリエーションを選ばない限り、これらのオプションはツール呼び出しを取り除きます。
Bypass status check。 SillyTavern が API が動いていないと警告するのに Test Message は成功する場合は、これにチェックを入れます。
トラブルシューティング
401。 キーが間違っているか、期限切れか、利用枠を使い切っています。キーを貼り直して Connect をクリックしてください。
404 または「model not found」。 URL は /v1 で終わり、ID には broadnet/ プレフィックスが必要です。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは broadnet/gemma-4-26b-a4b と 2 つの Transcribe モデルだけです。
応答が空。 応答の長さを上げてください。回答が空で返ってくる理由 。
429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。時間単位のキーとプランのセッションでは、ストリームは 1 本ずつです。エラーとリトライ を参照してください。
このガイドの用語 トークン(token) トークンとは、言語モデルが読み書きするテキストの単位です。モデルのトークナイザーが作る単語、単語の一部、句読点、バイト列のいずれかにあたります。LLM API は利用量をトークンで数え、上限を設け、通常はトークン単位で課金します。 ベース URL(base URL) ベース URL とは、https://api.example.com/v1 のような API の固定のルートアドレスで、クライアントが /chat/completions などのエンドポイントパスの前に付けます。OpenAI 互換の SDK では、API キーとモデル ID と一緒にベース URL を変えるだけで、同じコードを別のプロバイダーに向けられます。 従量課金(pay-as-you-go) 従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。 API キー(API key) API キーとは、API を呼び出すクライアントを識別し、認可するための秘密の文字列です。LLM API では通常 Authorization: Bearer ヘッダーで送り、キーを持つ人は誰でも、そのキーの所有アカウントに課金されるリクエストを送れます。 Chat Completions API(チャット補完 API) Chat Completions API とは、OpenAI の HTTP エンドポイント POST /v1/chat/completions で、モデル名とロール付きメッセージのリストを受け取り、モデルの次のメッセージを返します。そのリクエストと応答の形は、OpenAI 互換のプロバイダーや SDK が使う共通形式になりました。 コンテキストウィンドウ(context window) コンテキストウィンドウとは、言語モデルが 1 回のリクエストで扱えるトークン数の上限です。プロンプト、会話履歴、ツール定義、画像、推論トークンを含む出力がすべて入ります。収まらない部分は削るか要約するか、複数のリクエストに分けます。 ツール呼び出し(Function Calling、tool calling) ツール呼び出し(Function Calling とも呼ばれます)とは、開発者が定義した関数の実行を求める構造化されたリクエストを、モデルが JSON の引数付きで返す LLM API の機能です。関数を実行して結果を返すのはアプリケーションで、モデル自身がコードを実行することはありません。 プリペイドクレジット(prepaid credit) プリペイドクレジットとは、使用前に API アカウントに入金しておくお金です。リクエストごとに費用が残高から差し引かれ、残高がなくなると、チャージするまで従量課金のリクエストは止まります。支出は支払った額までに抑えられます。 よくある質問 BroadNet に接続すると Available Models の一覧がおかしい、または空なのはなぜですか? SillyTavern はこの一覧を /v1/models から取得します。2026 年 11 月 15 日に確認したところ、BroadNet の公開 /v1/models には 2 つの文字起こしモデルしか載っていませんでした。代わりに Enter a Model ID にチャットモデルの ID を入力してください。
長いロールプレイのチャットに向いている BroadNet のモデルは? DeepSeek V4.1 Flash はコンテキストが 1,048,576 トークンあり、BroadNet の定額の無制限プランのモデルです。Qwen3.8 27B は、BroadNet が湾岸方言やエジプト方言を含むアラビア語でテストしたモデルです。
SillyTavern で応答が空になるのはなぜですか? Gemma 4 VL 26B 以外の BroadNet のチャットモデルは回答の前に推論し、推論は max_tokens に含まれます。SillyTavern の Max Response Length がこの上限なので、1,000 トークン以上に上げてください。
コンテンツに関するルールはありますか? あります。BroadNet の利用規定は API で送られるすべての内容に適用され、未成年者が関わる性的コンテンツの禁止には、フィクションや合成されたコンテンツも含まれると明記されています。
関連ガイド Markdown で読む ChatGPT に聞く Claude に聞く Perplexity に聞く