---
title: "LLM ルーターとは？アグリゲーター、AI ゲートウェイ、ルーティング | BroadRouter"
description: "LLM ルーターは、リクエストごとにどのモデルやプロバイダーが処理するかを決めます。ホスト型アグリゲーター、セルフホストのゲートウェイ、モデル選択型ルーターの仕組みとトレードオフを解説します。"
url: https://broadrouter.com/ja/glossary/llm-router/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/glossary/llm-router/)（2026-11-16 更新）。

# LLM ルーター（LLM router）

更新日 2026-11-16

LLM ルーターとは、アプリと 1 つ以上の言語モデル API の間に入り、コスト、レイテンシ、可用性、タスクの種類などのルールに基づいて、リクエストごとにどのモデルやプロバイダーが処理するかを決めるソフトウェアまたはサービスです。

別名： LLM ルーター、モデルルーター、AI ゲートウェイ、LLM ゲートウェイ、LLM アグリゲーター、LLM router、AI gateway、LLM gateway、model router、LLM aggregator

1 つのモデルとだけやり取りするアプリにルーターは不要です。ルーターが登場するのは、チームが複数のモデルやプロバイダーを使い、どれを使うかを 1 か所で決めたいときです。

## 仕組み

アプリは OpenAI 形式のリクエストをルーターに送ります。ルーターはルールを適用してバックエンドに転送し、同じ形式で回答を返します。よくある種類は 3 つです。

-   **ホスト型アグリゲーター。** たとえば OpenRouter は `https://openrouter.ai/api/v1` で “hundreds of AI models through a single API endpoint”（訳：単一の API エンドポイントで数百の AI モデル）を提供し、自動フォールバックも備えています。利用者が持つのはキー 1 つと請求書 1 通で、各プロバイダーのアカウントはアグリゲーターが持ちます。
-   **セルフホストのゲートウェイ。** LiteLLM Router は自社のインフラで動きます。トラフィックを複数のデプロイメントに分散し（デフォルトは単純なシャッフル、ほかにレイテンシ、使用量、コストに基づく方式）、レート制限エラーを指数バックオフでリトライし、429 や高い失敗率の後はデプロイメントをクールダウンさせます。
-   **モデル選択型ルーター。** RouteLLM などの研究では分類器を学習させ、簡単なプロンプトは安いモデルに、難しいものは強いモデルに送って、品質を落とさずにコストを下げます。

セルフホストのゲートウェイは、バックエンドのリストとして設定します。次の LiteLLM のエントリは、[OpenAI 互換](https://broadrouter.com/ja/glossary/openai-compatible-api/)のプロバイダーを 1 つ追加するものです。

```yaml
model_list:
  - model_name: flash
    litellm_params:
      model: openai/broadnet/deepseek-v4.1-flash
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
```

## なぜ重要か

-   **信頼性。** あるプロバイダーが 429 や 5xx を返したとき、ルーターは別のプロバイダーに切り替えられます。[レート制限](https://broadrouter.com/ja/glossary/rate-limit/)を参照してください。
-   **コスト。** 単純なプロンプトを安いモデルに送れば、請求額を下げられます。
-   **統合が 1 つで済む。** コードは 1 つの[ベース URL](https://broadrouter.com/ja/glossary/base-url/) と 1 つのキー形式だけを扱います。

トレードオフも現実にあります。ルーターはネットワークホップを 1 つ増やします。ホスト型ルーターはプロンプトを見る第三者がもう 1 つ増えることを意味し、データ保持はルーターと、ルーターが選んだプロバイダーの両方に左右されます。モデルごとにトークナイザー、推論（reasoning）の挙動、対応パラメータも違うため、黙って行われるフォールバックで回答が変わることがあります。

## BroadNet Inference の場合

BroadNet Inference はルーターではありません。`https://inference.broadnet.ai/v1` で短い[モデル一覧](https://broadrouter.com/ja/models/)を提供する単一のプロバイダーで、BroadNet の利用規約によると、モデルは BroadNet が所有またはリースする米国のハードウェア、あるいは米国の推論パートナーのもとで動いています。プロバイダーをまたいだ自動ルーティングやフォールバックはありません。モデルはリクエストごとに、たとえば `broadnet/deepseek-v4.1-flash` や `broadnet/glm-5.3` のように自分で選びます。

API が OpenAI 互換なので、ルーターの背後に 1 つのバックエンドとして置けます。設定方法は [LiteLLM プロキシのガイド](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/)にあります。ルーターと定額プロバイダーの比較は、[エージェント向けの OpenRouter の代替](https://broadrouter.com/ja/blog/openrouter-alternative-flat-rate/)を読んでください。BroadNet はプロンプトや出力を保持しません。前段にホスト型ルーターを加える場合は、そちらの[データ保持](https://broadrouter.com/ja/glossary/zero-data-retention/)も確認してください。

## よくある間違い

-   401 や 403 を別のプロバイダーでリトライする。これはキーやポリシーのエラーなので、先に原因を直してください。[エラーコードとリトライ](https://broadrouter.com/ja/guides/errors-and-retries/)を参照してください。
-   モデル名を交換可能なものとして扱う。フォールバック先のモデルは、それぞれ自分のプロンプトでテストしてください。

## よくある質問

### LLM ルーターはロードバランサーと同じですか？

ロードバランサーはルーターの一部です。ルーターはさらに、タスクに応じて別のモデルを選んだり、エラー後に別のプロバイダーへフォールバックしたり、API 形式を変換したりできます。単純なロードバランサーは、同一のサーバー間でトラフィックを分散するだけです。

### ルーターを挟むとレイテンシは増えますか？

通常は少し増えます。リクエストのネットワークホップが 1 つ増え、ルーターが中身を検査することもあるからです。フォールバックでは、リトライの前に失敗した試行が入るため、さらに増えることがあります。ルーターの有無で最初のトークンまでの時間を測ってください。

### BroadNet Inference は LLM ルーターですか？

いいえ。このサイトの名前とは異なり、BroadNet Inference は単一のプロバイダーです。BroadNet の利用規約によると、モデルは BroadNet が所有またはリースする米国のハードウェア、あるいは米国の推論パートナーのもとで動いています。モデルはリクエストごとに自分で選びます。ルーターの背後に、プロバイダーの 1 つとして置くことはできます。

## 関連項目

-   [OpenAI 互換 API（OpenAI-compatible API）](https://broadrouter.com/ja/glossary/openai-compatible-api/)（用語）
-   [ベース URL（base URL）](https://broadrouter.com/ja/glossary/base-url/)（用語）
-   [レート制限（rate limit）](https://broadrouter.com/ja/glossary/rate-limit/)（用語）
-   [ゼロデータ保持（ZDR）](https://broadrouter.com/ja/glossary/zero-data-retention/)（用語）
-   [推論プロバイダー（inference provider）](https://broadrouter.com/ja/glossary/inference-provider/)（用語）
-   [モデルフォールバック（model fallback）](https://broadrouter.com/ja/glossary/model-fallback/)（用語）
-   [LiteLLM から BroadNet Inference にルーティングする（SDK とプロキシ）](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/)（ガイド）
-   [BroadNet Inference のエラーコードとリトライすべき場合](https://broadrouter.com/ja/guides/errors-and-retries/)（ガイド）
-   [AI エージェントには OpenRouter か定額プランか：安いのはどちら？](https://broadrouter.com/ja/blog/openrouter-alternative-flat-rate/)（記事）
-   [OpenAI 互換 API への移行チェックリスト](https://broadrouter.com/ja/blog/openai-compatible-api-migration-checklist/)（記事）

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-llm-router&utm_content=page-cta) ·

**出典**

-   [OpenRouter クイックスタート（1 つのエンドポイントで多数のモデル）](https://openrouter.ai/docs/quickstart)
-   [LiteLLM Router ドキュメント、負荷分散、フォールバック、クールダウン](https://docs.litellm.ai/docs/routing)
-   [RouteLLM: Learning to Route LLMs with Preference Data（arXiv:2406.18665）](https://arxiv.org/abs/2406.18665)
-   [BroadNet Inference API リファレンス（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-llm-router&utm_content=sources)
-   [BroadNet 利用規約、§2 ホスティング（2026-11-16 確認）（英語）](https://www.broadnet.ai/terms)
