---
title: "LlamaIndex の OpenAILike でカスタム api_base を使う | BroadRouter"
description: "OpenAILike クラスで LlamaIndex を BroadNet Inference に接続し、api_base、context_window、is_chat_model、is_function_calling_model を正しく設定する方法です。"
url: https://broadrouter.com/ja/guides/llamaindex-openailike/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/guides/llamaindex-openailike/)（2026-11-16 更新）。

# LlamaIndex で OpenAILike を使って BroadNet Inference に接続する

更新日 2026-11-16

llama-index-llms-openai-like をインストールし、OpenAILike を作成します。model に broadnet/glm-5.3 などの BroadNet の ID、api\_base に https://inference.broadnet.ai/v1、BroadNet のキー、context\_window にモデルの実際のコンテキスト長を指定し、is\_chat\_model=True とします。is\_function\_calling\_model=True は GLM 5.3 か Qwen3.8 27B のときだけです。Settings.llm に設定すればアプリ全体で使えます。

LlamaIndex は、RAG とエージェントのための Python フレームワークです。OpenAI 本体ではない OpenAI 互換 API 向けに、`OpenAILike` クラスが用意されています。BroadNet Inference は `https://inference.broadnet.ai/v1` で標準的な chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。この記事は `llama-index-llms-openai-like` 0.9.0 の LlamaIndex API リファレンスに基づいています。

## インストール

```bash
pip install llama-index-llms-openai-like
export BROADNET_API_KEY='your-broadnet-key'
```

## 接続してテストする

```python
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    context_window=1048576,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.complete("Name three uses for a vector index."))
```

回答が表示されれば、キー、URL、モデル ID は正しく設定されています。

## 重要な 4 つの設定

| パラメーター | 設定値 | 指定しない場合のデフォルト |
| --- | --- | --- |
| `is_chat_model` | `True` | `False`。従来の completions エンドポイントを使うが、BroadNet が提供するのは chat completions |
| `context_window` | モデルの実際のコンテキスト長 | 3,900 トークン |
| `is_function_calling_model` | GLM 5.3 か Qwen3.8 27B のときだけ `True` | `False` |
| `max_tokens` | 1,000 以上 | None（送信されないので、サーバーが決める） |

最も重要なのは `is_chat_model` です。API リファレンスには「controls whether the model uses the chat or completion endpoint」（訳：モデルが chat エンドポイントと completion エンドポイントのどちらを使うかを制御する）とあり、デフォルトは false です。BroadNet のドキュメントに記載されているのは `/v1/chat/completions` で、従来の completions エンドポイントではありません。

## アプリ全体で使う

```python
from llama_index.core import Settings

Settings.llm = llm
```

これでクエリエンジン、チャットエンジン、エージェントが BroadNet を使います。埋め込みは別です。BroadNet の API リファレンスには embeddings エンドポイントが記載されていないので、インデックス作成には別の埋め込みモデルを使い続けてください。

## コンテキストウィンドウ

| モデル | ID | `context_window` | ツール |
| --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 1048576 | あり |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1048576 | 記載なし |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262144 | あり |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32768 | 記載なし |

1M トークンのコンテキストがあれば、クエリエンジンは 1 回の呼び出しでずっと多くの検索チャンクを渡せます。ただし、それが常に良いとは限りません。[ロングコンテキストと RAG の比較](https://broadrouter.com/ja/blog/long-context-vs-rag/)を参照してください。

## トラブルシューティング

-   **401。** キーが間違っている、期限切れ、または利用枠を使い切っています。
-   **404。** `api_base` は `/v1` で終わり、`is_chat_model` は `True` である必要があります。そのうえでモデル ID を確認してください。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは `broadnet/gemma-4-26b-a4b` と 2 つの Transcribe モデルだけです。
-   **回答が空になる。** 出力の上限を推論で使い切っています。`max_tokens` を上げてください。[回答が空で返ってくる理由](https://broadrouter.com/ja/guides/reasoning-tokens-empty-response/)。
-   **エージェントがツールを呼ばない。** `is_function_calling_model=True` を設定し、`broadnet/glm-5.3` か `broadnet/qwen3.8-27b` を使ってください。
-   **取り込みやバッチクエリの最中に 429 になる。** 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。OpenAILike はデフォルトで 3 回リトライします（`max_retries`）。[エラーとリトライ](https://broadrouter.com/ja/guides/errors-and-retries/)を参照してください。

## このガイドの用語

[エンベディング（埋め込み、embeddings）](https://broadrouter.com/ja/glossary/embeddings/)

エンベディング（埋め込み）とは、テキストや画像などの入力を表すためにモデルが出力する浮動小数点数のリスト（ベクトル）です。意味の近い入力ほどベクトルも近いので、その距離で検索結果の順位付け、文書の分類、関連項目の発見ができます。

[AI エージェント（AI agent）](https://broadrouter.com/ja/glossary/agent/)

AI エージェントとは、言語モデルが目標に向けて自分で手順を決めるシステムです。どのツールを呼ぶかを決め、結果を読み、最終回答を出すか上限に達するまで繰り返します。決まった箇所でモデルを呼ぶ固定のスクリプトは、ふつうワークフローと呼ばれます。

[Chat Completions API（チャット補完 API）](https://broadrouter.com/ja/glossary/chat-completions-api/)

Chat Completions API とは、OpenAI の HTTP エンドポイント POST /v1/chat/completions で、モデル名とロール付きメッセージのリストを受け取り、モデルの次のメッセージを返します。そのリクエストと応答の形は、OpenAI 互換のプロバイダーや SDK が使う共通形式になりました。

[OpenAI 互換 API（OpenAI-compatible API）](https://broadrouter.com/ja/glossary/openai-compatible-api/)

OpenAI 互換 API とは、POST /v1/chat/completions など OpenAI API と同じリクエスト形式とレスポンス形式を受け付ける HTTP API です。OpenAI の SDK やツールは、ベース URL、API キー、モデル名を変えるだけで利用できます。

[トークン（token）](https://broadrouter.com/ja/glossary/token/)

トークンとは、言語モデルが読み書きするテキストの単位です。モデルのトークナイザーが作る単語、単語の一部、句読点、バイト列のいずれかにあたります。LLM API は利用量をトークンで数え、上限を設け、通常はトークン単位で課金します。

[従量課金（pay-as-you-go）](https://broadrouter.com/ja/glossary/pay-as-you-go/)

従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。

[max\_tokens（最大出力トークン数）](https://broadrouter.com/ja/glossary/max-tokens/)

max\_tokens とは、モデルが 1 回の応答で生成できるトークン数の上限を決める LLM API のパラメーターです。生成が上限に達すると止まり、応答は途中で打ち切られたものとして、たとえば finish\_reason が "length" になります。

[コンテキストウィンドウ（context window）](https://broadrouter.com/ja/glossary/context-window/)

コンテキストウィンドウとは、言語モデルが 1 回のリクエストで扱えるトークン数の上限です。プロンプト、会話履歴、ツール定義、画像、推論トークンを含む出力がすべて入ります。収まらない部分は削るか要約するか、複数のリクエストに分けます。

## よくある質問

### LlamaIndex の OpenAI クラスで api\_base だけ変えるのではだめですか？

LlamaIndex 自身の OpenAI のページでは、公式の OpenAI API ではない OpenAI 互換 API には OpenAILike インテグレーションを使うよう案内しています。OpenAILike なら、コンテキストウィンドウやツール対応を自分で宣言することもできます。

### context\_window を省略するとどうなりますか？

OpenAILike のデフォルトは 3,900 トークンなので、LlamaIndex はプロンプトや検索したチャンクを、BroadNet のモデルが受け付ける長さよりはるかに短く切り詰めてしまいます。GLM 5.3 と DeepSeek V4.1 Flash は 1048576、Qwen3.8 27B は 262144 に設定してください。

### LlamaIndex の FunctionAgent で BroadNet を使えますか？

使えます。BroadNet がツールを記載しているモデル（GLM 5.3 か Qwen3.8 27B）で is\_function\_calling\_model=True にしてください。DeepSeek V4.1 Flash では、BroadNet のドキュメントにツール呼び出しの記載がないため False のままにします。

### BroadNet は LlamaIndex のインデックス用に埋め込みを提供していますか？

BroadNet の API リファレンスに記載されているのは chat completions と音声の文字起こしで、埋め込み（embeddings）はありません。インデックスには別の埋め込みモデルを使い、LLM に BroadNet を使ってください。

## 関連ガイド

-   [LangChain で BroadNet Inference を使う](https://broadrouter.com/ja/guides/langchain-openai-base-url/)
-   [Pydantic AI を BroadNet Inference で使う（OpenAICompatibleProvider）](https://broadrouter.com/ja/guides/pydantic-ai-openai-compatible/)
-   [OpenAI Python SDK を BroadNet Inference で使う](https://broadrouter.com/ja/guides/openai-python-sdk/)
-   [推論モデルが空の回答を返す理由](https://broadrouter.com/ja/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference で使えるすべてのツール（英語）](https://broadrouter.com/integrations/)：SDK、コーディングエージェント、チャット UI、自動化ツールと、それぞれの正確な設定

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-guides-llamaindex-openailike&utm_content=page-cta) ·

**出典**

-   [LlamaIndex API リファレンス、OpenAILike（2026-11-15 確認）](https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/)
-   [LlamaIndex ドキュメント、OpenAILike の例（Grok インテグレーションのページ）（2026-11-15 確認）](https://developers.llamaindex.ai/python/framework/integrations/llm/grok/)
-   [LlamaIndex ドキュメント、OpenAI LLM のページ（互換 API には OpenAILike を案内）（2026-11-15 確認）](https://developers.llamaindex.ai/python/framework/integrations/llm/openai/)
-   [PyPI、llama-index-llms-openai-like 0.9.0、Python 3.11 以上（2026-11-15 確認）](https://pypi.org/project/llama-index-llms-openai-like/)
-   [LlamaIndex のソースコード、OpenAI LLM の max\_tokens のデフォルトとペイロード（2026-11-16 確認）](https://github.com/run-llama/llama_index/blob/main/llama-index-integrations/llms/llama-index-llms-openai/llama_index/llms/openai/base.py)
-   [BroadNet Inference API リファレンス（2026-11-15 確認）（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-guides-llamaindex-openailike&utm_content=sources)
