---
title: "推論プロバイダーとは？LLM ホスティングの仕組みを解説 | BroadRouter"
description: "推論プロバイダーは、AI モデルを自社または借りた GPU で動かし、API で利用を販売する事業者です。モデル開発元やルーターとの違いと、確認すべき点を解説します。"
url: https://broadrouter.com/ja/glossary/inference-provider/
lang: ja
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。 [英語の原文を読む](https://broadrouter.com/glossary/inference-provider/) (2026-11-15 更新).

# 推論プロバイダー（inference provider）

更新日 2026-11-15

推論プロバイダーとは、機械学習モデル（多くはオープンウェイトの LLM）を、所有、リース、レンタルした GPU で動かし、API 経由で利用を販売する企業です。料金は通常、トークン、リクエスト、時間単位です。サービングやスケーリング、ハードウェアも担います。

別名： LLM 推論プロバイダー、LLM API プロバイダー、モデルホスティング、AI 推論サービス、inference provider、LLM inference provider、LLM API provider、model hosting provider、AI inference provider

オープンウェイトのモデルが公開されても、誰かがそれを動かさなければなりません。それを担うのが推論プロバイダーです。

## 仕組み

プロバイダーはモデルの重みを GPU に読み込み、リクエストをバッチ処理してメモリを管理するサービング用ソフトウェアを動かし、その前に API を置きます。多くは [OpenAI 互換 API](https://broadrouter.com/ja/glossary/openai-compatible-api/) を提供しているため、ベース URL、キー、モデル ID を変えるだけでプロバイダーを乗り換えられます。

この言葉は、いくつかの事業形態を指します。

-   自社のモデルを提供する**モデル開発元**。
-   多くの開発元のオープンウェイトモデルを提供する**独立系のホスト**。
-   GPU やマネージドエンドポイントを貸し出す**クラウド**。[GPU 時間](https://broadrouter.com/ja/glossary/gpu-hour/)単位で課金されることもあります。
-   **アグリゲーター。** Hugging Face の Inference Providers は、1 つのトークンで “hundreds of machine learning models, powered by world-class inference providers”（訳：世界トップクラスの推論プロバイダーが動かす、数百の機械学習モデル）にアクセスできます。[LLM ルーター](https://broadrouter.com/ja/glossary/llm-router/)も同じ仕組みです。

API の形が共通なので、同じコードがどのプロバイダーでも動きます。変わるのは 3 つの値だけです。

```python
import os
from openai import OpenAI

msgs = [{"role": "user", "content": "Hello"}]
client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",          # the provider
    api_key=os.environ["BROADNET_API_KEY"],  # its key
)
client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=msgs)  # its model ID
```

コード中のコメントは、それぞれプロバイダー、そのキー、そのモデル ID を指しています。料金の形も異なり、トークン単位、音声 1 分単位、時間単位、セッションごとの定額があります。

## なぜ重要か

プロバイダー選びは、モデル名からは見えないトレードオフを選ぶことでもあります。

-   **データの扱い。** 保持、ログ記録、学習への利用はさまざまです。文書化された[ゼロデータ保持](https://broadrouter.com/ja/glossary/zero-data-retention/)の方針があるかを確認してください。
-   **動かす場所。** リージョンと再委託先は、コンプライアンスに関わります。
-   **上限。** 同時実行数、レート制限、コンテキスト長が、モデル本来の最大値より低いことがあります。
-   **サービングの選択。** 精度やサービングの設定は、速度に、場合によっては出力にも影響します。
-   **料金の形。** 最適な形はトラフィックによって決まります。[プロバイダーの料金比較](https://broadrouter.com/ja/blog/llm-inference-provider-pricing-compared/)を参照してください。
-   **料金の水準。** 同じオープンモデルでも、プロバイダーによって何倍も料金が違うことがあります。[同じモデル、異なるホスト](https://broadrouter.com/ja/blog/same-llm-different-host-prices/)を参照してください。

## BroadNet Inference の場合

BroadNet Inference は推論プロバイダーです。同社のプライバシー声明によると、自社モデルと自社でホストするオープンウェイトモデルは “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup”（訳：BroadNet が所有またはリースする米国内のハードウェアで動き、パートナーのキャパシティを予備とする）とされ、パートナーが提供するモデルは、米国の推論パートナーとのゼロデータ保持の条件のもとで動きます。リクエストとレスポンスの内容は保持されません。

[DeepSeek V4.1 Flash](https://broadrouter.com/ja/models/deepseek-v4.1-flash/) や GLM 5.3 などのチャットモデルと、2 つの音声認識モデルを、`https://inference.broadnet.ai/v1` の OpenAI 互換 API で提供しています。課金は、トークン単位または音声 1 分単位の従量課金、時間制キー、DeepSeek V4.1 Flash の定額プランです。自社の基準でほかのプロバイダーと比べるには、[プロバイダー選びのチェックリスト](https://broadrouter.com/ja/blog/choose-llm-api-provider-checklist/)を使ってください。

## よくある質問

### 推論プロバイダーと LLM ルーターの違いは何ですか？

プロバイダーは、所有、リース、レンタルしたハードウェアで自らモデルを動かします。ルーターは、1 つの API と 1 つの請求書で、リクエストを複数のプロバイダーのいずれかに転送します。両方を手がける企業もあります。

### 同じオープンモデルなら、どのプロバイダーでも同じ回答になりますか？

必ずしもそうではありません。精度、コンテキストの上限、既定の設定、サービングのソフトウェアが異なることがあり、出力も変わりえます。乗り換える前に、自分のプロンプトでテストしてください。

### 推論プロバイダーを乗り換えるにはどうすればいいですか？

OpenAI 互換 API なら、ベース URL、API キー、モデル ID の 3 つの値を変えます。そのうえで評価をやり直してください。同じモデルでも、プロバイダーが変わると挙動が変わることがあるからです。

## 関連項目

-   [LLM ルーター（LLM router）](https://broadrouter.com/ja/glossary/llm-router/) (用語)
-   [オープンウェイトモデル（open-weight model）](https://broadrouter.com/ja/glossary/open-weight-model/) (用語)
-   [OpenAI 互換 API（OpenAI-compatible API）](https://broadrouter.com/ja/glossary/openai-compatible-api/) (用語)
-   [サーバーレス推論（serverless inference）](https://broadrouter.com/ja/glossary/serverless-inference/) (用語)
-   [ゼロデータ保持（ZDR）](https://broadrouter.com/ja/glossary/zero-data-retention/) (用語)
-   [SLA（サービスレベルアグリーメント）](https://broadrouter.com/ja/glossary/sla/) (用語)
-   [モデルの非推奨化（model deprecation）](https://broadrouter.com/ja/glossary/model-deprecation/) (用語)
-   [curl で BroadNet Inference に最初のリクエストを送る](https://broadrouter.com/ja/guides/curl-quickstart/) (ガイド)
-   [LiteLLM から BroadNet Inference にルーティングする（SDK とプロキシ）](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/) (ガイド)
-   [LLM API プロバイダーの選び方：20 項目のチェックリスト](https://broadrouter.com/ja/blog/choose-llm-api-provider-checklist/) (記事)
-   [推論プロバイダーはオープンモデルをどう価格設定しているか：6 社比較](https://broadrouter.com/ja/blog/llm-inference-provider-pricing-compared/) (記事)
-   [同じモデルでもホストで違う：LLM API の価格差はどれくらいか](https://broadrouter.com/ja/blog/same-llm-different-host-prices/) (記事)

実際のワークロードで試してください。 新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-inference-provider&utm_content=page-cta) ·

**出典**

-   [Hugging Face、Inference Providers のドキュメント](https://huggingface.co/docs/inference-providers/index)
-   [BroadNet、推論 API のプライバシーとデータ保持に関する声明（モデルが動く場所） （英語）](https://www.broadnet.ai/inference-privacy)
-   [BroadNet Inference API リファレンス （英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-inference-provider&utm_content=sources)
