BroadRouter

LLM API のコストを削減する方法:順番どおりに進める 10 ステップ

BroadNet Inference チーム · 約 8 分で読めます · 公開日

LLM API のコスト削減は、リクエストごとのトークン数を記録してから、次の順に進めます。プレフィックスの固定によるキャッシュ、プロンプトの削減、出力と推論の上限設定、テストに通る最小モデルの選択、待てる処理のバッチ化や時間移動、回答のキャッシュ、リトライの制限、損益分岐点を超えたら定額プランへの移行です。

「LLM の請求を 70% 削減」といったリストの多くは、良いアドバイスと誰も計測していない数字が混ざっています。このチェックリストは「何から先にやるか」の順に並べ、すべての数字を料金ファイルかプロバイダー自身のドキュメントから取っています。本サイトに詳しい記事があるステップには、リンクを付けています。以下の BroadNet の料金は料金ファイルから取得したもので、2026-11-14 に同期しています。

LLM API の請求額は何で決まるのか?

ほとんどの請求額は 4 つの数字で決まります。

  1. **新規入力トークン。**プロンプトのうち、キャッシュから読まれなかった部分です。
  2. **キャッシュ入力トークン。**繰り返されるプレフィックスで、低い単価で課金されます。
  3. **出力トークン。**回答そのものに加え、思考するモデルでは推論トークンも含まれます。
  4. **リクエスト数。**各呼び出しは、リトライも含めて 1 回ずつ課金されます。

いちばん高い単位は出力です。BroadNet のチャットモデルの料金(100 万トークンあたり)は次のとおりです。

モデル 入力 キャッシュ入力 出力
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 非公開 $0.22

つまり、使えるレバーは「新規トークンを減らす」「キャッシュからの読み込みを増やす」「生成量を減らす」「呼び出し回数を減らす」の 4 つです。各単位の詳細は LLM API 料金の仕組みで解説しています。

チェックリストの全体像

ステップ 変えるもの 削減対象 手間
1. 計測する ログのみ まだ何も削らない。どこを削るべきかがわかる 小
2. プレフィックスをキャッシュする プロンプトの順序 入力単価 小
3. プロンプトを削る プロンプトの内容 入力トークン 中
4. 出力と推論に上限を設ける リクエストの設定 出力トークン 小
5. モデルを適正化する モデルの選択 すべての単価 中
6. バッチ化・時間をずらす スケジューリング トークン単価(提供がある場合) 中
7. 回答をキャッシュする アプリのコード リクエストそのもの 中
8. リトライとループを制限する アプリのコード 無駄なリクエスト 小
9. 支出上限を設ける アカウントとキー 暴走する請求 小
10. 定額の損益分岐点を確認する 課金モデル 大量利用時の総額 小

1. なぜ削る前に計測するのか?

請求書には原因が書かれていないからです。同じように見える 2 つのリクエストでも、トークン数が 10 倍違うことがあります。すべての chat completion は usage ブロックを返し、そこには prompt_tokens、completion_tokens、そしてプロバイダーが報告する場合はキャッシュトークン数が含まれます。プロンプトの本文は記録せずに、これらを機能ごと・ユーザーごとに記録してください。1 週間もすれば、どの機能がいちばんお金を使っているのか、それが入力なのか、キャッシュミスなのか、出力なのかがわかります。

PII を伏せた使用量ログでログのスキーマを紹介しています。リリース前に機能の規模を見積もるには、LLM API コスト計算ツールか、リリース前のコスト見積もりの手法を使ってください。

2. プロンプトキャッシュでなぜコストが下がるのか?

プロバイダーは、完全に一致して繰り返されるプロンプトの先頭部分をキャッシュします。次の呼び出しでは、そのプレフィックスをキャッシュ単価で読み込みます。OpenAI は対応モデルで 1,024 トークンからキャッシュをデフォルトで有効にしており、キャッシュ入力は “discounted up to 95%”(訳:最大 95% 割引)だとしています(2026-11-15 確認)。BroadNet では、DeepSeek V4.1 Flash のキャッシュ入力は 100 万トークンあたり $0.0055、新規入力は $0.175 です。

ルールは「固定の内容を先に、変わる内容を最後に」です。システムプロンプト、ツールのスキーマ、共有ドキュメント、履歴、そして新しい質問の順に並べます。先頭にタイムスタンプを入れたり、ツール一覧の順番が入れ替わったりすると、それ以降のすべてがキャッシュされなくなります。

3. どのプロンプト削減なら安全か?

モデルが使っていない部分を削ります。よくある効果的なポイントは、文章で長々と書かれたシステムプロンプト、タスクに必要な数を超える few-shot の例、そのステップで呼ばれないツールのスキーマ、コンパクトな表で済むのに冗長な JSON、要約で済むのに全文を送っている会話履歴です。検索結果も膨らみがちです。2 チャンクで答えられるのに 10 チャンク送るのは、コストと品質の両方の問題です。

削るたびに固定の入力セットでテストし、安くなったプロンプトがひそかに回答を壊していないか確認してください。プロンプトトークンの削減では、これらそれぞれの削減効果を計測しています。言語も影響します。ほとんどのトークナイザーで、アラビア語は英語より 1 語あたりのトークン数が多くなります。アラビア語と英語の 1 語あたりのトークン数を参照してください。

4. 出力と推論にどう上限を設けるか?

求める量を減らし、上限をかけます。散文ではなく JSON のフィールドを、「説明して」ではなく文字数の上限を求め、質問の言い直しもさせないようにします。そのうえで max_tokens を設定し、暴走した回答を止めます。

思考するモデルには注意が必要です。BroadNet のドキュメントによると推論は max_tokens に含まれるため、上限が低すぎると空の回答が返ることがあります。1,000 トークン以上を確保し、単純なステップでは reasoning_effort を low にしてください。トークン課金のキーでは、推論は出力として課金されます。推論トークン:見えている以上に料金を払う理由と空の回答への対処法で、それぞれの側面を解説しています。

5. 品質を落とさずに安いモデルを選ぶには?

トークン単価ではなく、成功したタスクあたりのコストで比べます。期待される出力付きの実際の入力を 50〜100 件用意し、候補モデルごとに実行して、支出を合格数で割ります。トークン単価が安くても 3 回に 1 回失敗するモデルは、リトライや人手による確認を含めると、かえって高くつくことがあります。

まず機能を確認してください。BroadNet でツール呼び出しと構造化出力がドキュメントに記載されているのは、GLM 5.3 と Qwen3.8 27B だけです。Gemma 4 VL 26B は BroadNet の小さめのテキスト・画像モデルで、単純なタスク向けに上の表で料金を確認してください。多くのアプリは、簡単なステップには小さいモデルを、難しいステップには大きいモデルを使っています。モデルは自分のコードの中で選びます。乗り換え前の LLM の評価方法でテスト計画を紹介しています。

今使っているモデルが値下がりするのを待つのはやめましょう。プロバイダーが既存モデルの価格を下げることはまれで、節約はたいてい新しいバージョンとともにやってきます。OpenAI・Anthropic・Google の API 価格の推移とLLM API の大幅値下げを参照してください。

6. 待てる処理はバッチ化や時間帯の変更ができるか?

プロバイダーが提供していれば可能で、割引幅も大きいです。いずれも 2026-11-15 に確認しました。

プロバイダー 割引 注意点
OpenAI Batch API 同期呼び出しより 50% 安い 24 時間以内に完了。レート制限は別枠
Anthropic Message Batches API 50% 非同期。ほとんどのバッチは 1 時間以内に完了
DeepSeek API(オフピーク) オフピーク料金はピーク時の半額 ピークは月曜〜金曜の UTC 01:00〜04:00 と 06:00〜10:00

BroadNet Inference には Batch API もオフピーク料金もありません。BroadNet で夜間ジョブを実行するときは、キーの制限内で、通常のエンドポイントに対して再開可能なランナーを使ってください。Batch API なしでの LLM バッチ処理にコードがあります。ジョブが何時間も続くなら、定額セッションのほうがトークン課金より安くなる場合があります(ステップ 10)。

7. 回答そのものをキャッシュすべきなのはいつか?

同じ質問が同じ入力で再び届くときです。FAQ ボット、繰り返し現れる項目の分類、クラッシュ後のパイプラインの再実行は、いずれも同じ処理を繰り返しています。モデル、プロンプト、設定をキーにした完全一致キャッシュなら、保存済みの回答を返して呼び出しを省けます。回答が古くならないよう、有効期限を設定してください。Python で LLM のレスポンスをキャッシュするで小さな実装例を紹介しています。

8. リトライとループはどうお金を無駄にするか?

リトライしたリクエストは新しい推論なので、トークン課金のキーでは再度課金されます。リトライは 429 と 5xx エラーのときだけにし、ジッター付きの指数バックオフを使い、試行回数に上限を設けてください。400 は決してリトライしないでください。同じ不正なリクエストは同じように失敗します。

エージェントにはもう 1 つのリスクがあります。モデルを呼び続けるループです。タスクあたりのステップ数に上限を設け、同じツール呼び出しが繰り返されたら停止してください。429 エラーへの対処とコーディングエージェントのコストを下げる 10 の方法で、それぞれを解説しています。

9. 請求の暴走をどう防ぐか?

アラートは事後に知らせるだけです。止めるのは上限です。プリペイド残高を使い、アプリごとにキーを分けて 1 つを無効にしても他が止まらないようにし、サーバー用のキーには IP 許可リストを設定します。コードでは、ジョブごとに予算を決めて、使い切ったら止めます。LLM API の支出管理で、アカウントからリクエストまでの各層を説明しています。

10. 定額プランがトークン課金に勝つのはいつか?

エージェントが 1 日の大半動いているときです。BroadNet は DeepSeek V4.1 Flash をトークン単位でもセッション単位でも販売しています。Full Moon は月 $60、Orbit は週 $15、Meteor は 1 時間 $1 で、トークンメーターはありません。1 セッションで同時に実行できるのは 1 リクエストです。

BroadNet によるトークン課金の試算例:

ワークロード トークン課金での月額 安いほうの選択肢
個人の副業プロジェクト $14.23 従量課金
日常のアシスタント $42.67 従量課金
フルタイムのコーディングエージェント $65.40 Full Moon
常時稼働のエージェント $196.20 Full Moon

キャッシュヒット率 80%、出力 1 トークンあたり入力 20 トークンの場合、損益分岐点は月に約 9.17億 の入力トークンと 4,600万 の出力トークンです。軽い利用ならトークン課金のほうが安いままです。損益分岐点の詳しい計算を読むか、定額とトークン課金の比較計算ツールで自分の使用量を試してください。

飛ばしたほうがよいステップは?

よく見かけるアドバイスの中には、節約額よりコストのほうが大きいものもあります。

  • **壊れるまでプロンプトを圧縮する。**回答の品質が落ちてユーザーがやり直せば、入力の節約分は消えてしまいます。
  • **毎ターン履歴を要約する。**要約するたびに追加の呼び出しが発生し、プレフィックスも変わるのでキャッシュがヒットしなくなります。要約はたまにして、残りは追記してください。
  • **トークン単価の安さだけを追いかける。**レート制限、足りない機能、失敗率のどれもがコストを押し上げます。
  • **小さなワークロードのためにセルフホストする。**GPU は忙しくても暇でも時間単位で課金されます。セルフホストと API のコスト比較で損益分岐点を示しています。

BroadNet Inference が向いているケース

BroadRouter は BroadNet 自身のウェブサイトです。この節はその点を踏まえてお読みください。BroadNet Inference は OpenAI 互換の API で、トークン課金のチャットモデルが 4 つあり、そのうち 3 つはキャッシュ入力に対応しています。さらに、安定して動くエージェント向けに DeepSeek V4.1 Flash の定額プランがあります。Batch API やオフピーク料金はないため、待てる大規模ジョブでは、OpenAI や Anthropic のバッチ割引、あるいは DeepSeek のオフピーク時間帯のほうが安くなる場合があります。新規アカウントには $5 の初回クレジットが付き、Gemma 4 VL 26B、2 つの Transcribe モデル、Gemma の時間制キーに使えます。DeepSeek、GLM、Qwen を使うにはチャージが必要です。セルフサービスには SLA がありません。料金を見るか、プランを比較してください。

よくある質問

LLM API のコストをいちばん手早く下げる方法は何ですか?

プロンプトキャッシュから始めてください。システムプロンプト、ツールのスキーマ、共有ドキュメントを先頭に置き、呼び出し間でバイト単位まで同一に保ちます。キャッシュ入力は新規入力のごく一部の単価で課金され、モデルも機能も変える必要がありません。次に出力に上限を設けます。出力トークンは入力トークンより高いからです。

Batch API で本当に料金は半分になりますか?

OpenAI と Anthropic ではそうです。OpenAI の Batch API は 24 時間の完了期限付きで 50% 割引、Anthropic の Message Batches API はコストを 50% 削減します(いずれも 2026-11-15 確認)。BroadNet Inference には Batch API がないため、通常のエンドポイントに対して再開可能なランナーでジョブを実行してください。

推論トークンも請求に含まれますか?

はい、トークン課金のキーでは含まれます。推論は completion tokens として報告され、出力単価で課金されます。単純なステップでは reasoning_effort を low にしますが、回答が途中で切れないよう max_tokens は 1,000 以上にしてください。

小さいモデルのほうが必ず安いですか?

トークン単価なら、たいていはそうです。タスク単位では必ずしもそうではありません。リトライが 2 回必要だったり、長いプロンプトが必要だったりする小さいモデルは、一度で正解する大きいモデルより高くつくことがあります。自分のテストセットで、成功したタスクあたりのコストを比べてください。

定額プランがトークン課金より安くなるのはいつですか?

使用量が多く安定しているときです。BroadNet では、DeepSeek V4.1 Flash の Full Moon セッションが月 $60 です。キャッシュヒット率 80% の場合、損益分岐点は月に約 9.17億 の入力トークンと 4,600万 の出力トークンです。それより少なければトークン課金のほうが安くなります。

リトライにも料金はかかりますか?

かかります。リトライしたリクエストは新しい推論なので、トークン課金のキーでは再度課金されます。リトライは 429 と 5xx エラーのときだけにし、バックオフを入れ、試行回数に上限を設けてください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く