BroadRouter

機能リリース前に LLM API のコストを見積もる方法

BroadNet Inference チーム · 約 6 分で読めます · 公開日 · 更新日

LLM API のコストは、API 呼び出し 1 回ではなくユーザーの操作 1 回を単位に見積もります。操作ごとの呼び出し回数を数え、実際のサンプルで呼び出しごとの入力・キャッシュ・出力トークンを計測し、ユーザー数と月間の操作数を掛けます。推論とリトライを加え、低・想定・高の 3 シナリオで試算します。DeepSeek V4.1 Flash の例では月 $42.67 です。

リリース前に LLM API のコストを見積もるには、API 呼び出し 1 回ではなく、ユーザーの操作 1 回に値段を付けます。その背後にある呼び出しを数え、20〜50 件の実際のサンプルで新規入力・キャッシュ入力・出力のトークンを計測し、月間の操作数を掛けてから、推論とリトライを加えます。DeepSeek V4.1 Flash でサポート返信を作成する例では、月 $42.67 になります。

これは 1 つの機能についてのリリース前の予測です。有料ユーザーが付いた後のマージンや料金プランについては、SaaS のユーザーあたり LLM コストで解説しています。

LLM API のコストを求める式は?

monthly cost = actions per month × calls per action
             × ( new input tokens × input price
               + cached input tokens × cached price
               + output tokens × output price ) / 1,000,000

出力トークンには推論が含まれます。キャッシュトークンは、プロバイダーが安い単価で再利用する入力です。残りはすべて計測の問題です。無料の LLM API コスト計算ツールは、この式を任意のモデルの定価に当てはめて計算します。

コストモデルはどのような手順で作りますか?

  1. 作業の単位に名前を付けます。 「サポートの返信を下書きする」「通話を要約する」「失敗しているテストを直す」。「1 リクエスト」ではなく、これに値段を付けます。
  2. 操作ごとの呼び出し回数を数えます。 検索して回答するだけなら 1 回のこともあります。計画し、編集し、確認するエージェントなら 10 回かもしれません。リトライの割合も加えます。タイムアウトしてリトライした呼び出しは、再度課金されます。
  3. 実際のサンプルで呼び出しごとのトークン数を計測します。 きれいなデモではなく、現実的な入力を 20〜50 件用意します。API を呼ぶ前のおおまかな見積もりなら、トークンカウンターに貼り付けて数えられます。各レスポンスから usage.prompt_tokens、usage.prompt_tokens_details.cached_tokens、usage.completion_tokens を読み取ります。ストリーミングでは stream_options: {"include_usage": true} を設定してください。どこに現れるかはストリーミングのガイドで説明しています。
  4. 新規入力とキャッシュ入力を分けます。 システムプロンプト、ツールの一覧、共有文書は、先頭に置いて内容を変えなければキャッシュできます。ユーザーのテキストはキャッシュできません。
  5. 推論を出力に含めます。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に考えます。その推論トークンは出力として課金され、目に見える返信より多いこともよくあります。推論のコストが見た目より高い理由をご覧ください。
  6. 利用量を見積もります。 アクティブユーザー数 × ユーザーあたり 1 日の操作数 × 30。
  7. 掛け合わせて合計します。 トークンの合計を 100 万単位に換算し、100 万あたりの単価を掛けます。
  8. 3 つのシナリオで試算します。 低・想定・高です。リリース時のトラフィックは不確実で、プロンプトは時間とともに長くなります。
  9. お金だけでなく制限も確認します。 ピーク時の毎分リクエスト数と同時実行中のリクエスト数が、キーのレート制限に収まる必要があります。
  10. 課金方式を決めます。 波があり、ユーザー主導のトラフィックならトークン課金、常時稼働のエージェントなら定額プランです。

試算はどのようになりますか? サポート返信の下書き機能の例

ヘルプデスクのアプリに「返信を下書き」を追加するとします。以下の数字は説明のための仮定です。1 つずつ自社の計測値に置き換えてください。

項目 値 根拠
この機能を使うサポート担当者(社員) 500 プロダクト計画
担当者 1 人あたり 1 日の下書き数 4 パイロット運用での利用量
1 か月の日数 30
月間の操作数 60,000 500 × 4 × 30
操作あたりの呼び出し数 1 検索した記事を含めた 1 回の呼び出し
呼び出しあたりの入力トークン 5,000 システムプロンプト、チケットのスレッド、ヘルプ記事 3 本
入力のうちキャッシュの割合 50% 変わらないシステムプロンプトと記事のプレフィックス
呼び出しあたりの出力トークン 500 見える部分が約 200、推論が 300
モデル DeepSeek V4.1 Flash 100 万あたり $0.175 / $0.0055 / $0.52

合計は次のとおりです。

項目 月間トークン数 100 万あたりの単価
新規入力 1.5 億 $0.175
キャッシュ入力 1.5 億 $0.0055
出力(推論を含む) 3,000 万 $0.52
想定月額コスト $42.67

入力 3 億トークンと出力 3,000 万トークン、つまり 60,000 × 5,000 と 60,000 × 500 です。

低シナリオと高シナリオの幅はどれくらいにすべきですか?

シナリオ 月間の操作数 入力 / 出力トークン 月額コスト
低:普及が遅い 20,000 1 億 / 1,000 万 $14.23
想定 60,000 3 億 / 3,000 万 $42.67
高:普及が 3 倍 180,000 9 億 / 9,000 万 3 × $42.67

3 つのシナリオとも、キャッシュの割合は 50% のままです。キャッシュの割合が下がると請求額は上がります。このモデルでは、新規入力が 100 万あたり $0.175 なのに対し、キャッシュは $0.0055 です。キャッシュの割合を高く保つ方法をご覧ください。

見積もりを最も大きく動かすものは何ですか?

  • コンテキストの長さ。 検索で記事を 3 本ではなく 10 本取ってくると、入力が倍になることがあります。プロンプトを変えるたびにトークンを計測し直してください。
  • 推論。 単純な下書きで reasoning_effort を low にすれば、隠れた出力が減ります。推論と max_tokens を参照してください。
  • リトライとループ。 リトライ率 5% なら、すべての行が 5% 増えます。ステップ数に上限のないエージェントのループには、上限そのものがありません。LLM API の支出管理をご覧ください。
  • モデルの選択。 Gemma 4 VL 26B は 100 万あたり入力 $0.10、出力 $0.22 ですが、コンテキストは 32,768 トークンで、BroadNet は推論機能を掲載していません。コスト削減のために切り替える前に、品質をテストしてください。
  • 言語。 同じ内容でも、アラビア語やヒンディー語では英語よりはるかに多くのトークンが必要になることがあり、その差はトークナイザーによって変わります。言語別の実コストのデータセットで、言語ごと・モデルとプロバイダーごとの 100 万文字あたりの料金を確認できます。
  • プロンプトの肥大化。 リリース後、エッジケースに対応するたびにプロンプトは長くなりがちです。リリースのたびに計測し直してください。
  • 料金の変更。 定価が変わることはまれですが、値上がりすることもあります。11 社のアーカイブされた料金ページでは、2024 年から 2026 年 11 月までに、同じモデルの以前の価格と比べた定価の値上げを 52 回記録しました(値下げは 100 回)。値上げ幅の中央値は、混合価格で 40% でした。LLM API の値上げに備えた予算の立て方をご覧ください。

見積もりが高すぎる場合は、機能を変える前に LLM API コストを削減する 10 ステップのチェックリストを順に確認してください。

利用量はレート制限に収まりますか?

月 60,000 回の操作は、1 日あたり約 2,000 回です。1 日の下書きの 10 分の 1 が最も忙しい 1 時間に集中すると、1 時間に 200 回、つまり毎分約 3 回です。BroadNet の従量課金キーは毎分 30 リクエスト、同時実行 4 までなので、キー 1 つに収まります。高シナリオも確認するか、自社のピーク値をレート制限計算ツールで計算してください。レートと同時実行中のリクエスト数の関係は同時実行数で説明しています。429 が出たら、バックオフしてリトライしてください。

この機能を定額プランで動かすべきですか?

おそらく向いていません。Full Moon のセッションは月 $60 ですが、1 セッションは同時に 1 リクエストしか実行せず、多くのユーザーが同時に「下書き」を押すと並列リクエストが必要になります。定額プランが向いているのは、コーディングエージェントのように継続的に動くエージェントです。損益分岐の計算では、フルタイムのコーディングエージェントはトークン課金で月 $65.40 となり、プラン料金を上回ります。

見積もりをどう予算に落とし込みますか?

  1. 想定の数字を計画に、高シナリオの数字をアラートのしきい値に入れます。
  2. 本番環境で操作ごとのトークン数を記録し、毎週モデルと比べます。
  3. コードでハードリミットを設定します。max_tokens、ステップ数の上限、リトライ回数の上限です。
  4. モデル、プロンプト、検索の設定を変えるたびに、見積もりをやり直します。

自社の数字を使ったトークン課金の計算は LLM API コスト計算ツールで、プランとトークン課金の比較は料金ページで行えます。

BroadNet Inference が向いている用途

BroadNet Inference は、提供しているすべてのチャットモデルと文字起こしモデルのトークン単価を 1 つの料金ファイルで公開しているので、上の見積もりをコードで管理し続けられます。新規アカウントには $5 のスタートクレジットがあり、Gemma 4 VL 26B と 2 つの文字起こしモデルで使えるので、Gemma でサンプルを計測できます。DeepSeek、GLM、Qwen にはチャージが必要です。機能にクローズドなフロンティアモデルが必要なら、その部分については BroadNet は適したプロバイダーではありません。

よくある質問

ユーザーがまだいない段階で、トークン数はどう見積もればよいですか?

現実的な入力を 20〜50 件用意し、使う予定のモデルで処理して、usage ブロックの prompt_tokens、cached_tokens、completion_tokens を読み取ります。それを呼び出しごとに平均します。

一般的なチャットのリクエストは何トークンくらいですか?

大きく異なります。短いチャットの 1 ターンなら数百トークンですが、検索した文書や長い履歴を含むリクエストは数万トークンになることもあります。自社のプロンプトで計測してください。

LLM のコスト見積もりには余裕を持たせるべきですか?

はい。想定の 2〜3 倍の利用量で高シナリオを試算し、リトライや、機能の成長に伴って長くなるプロンプトの分も予算に入れてください。そのうえで、バグがあってもそれを超えないようにハードリミットを設定します。

代わりに定額プランを検討すべきなのはどんなときですか?

1 つのエージェントやワーカーが、1 日の大半を 1 つのモデルで動いているときです。BroadNet の DeepSeek V4.1 Flash なら、Full Moon のセッションは月 $60 で、トークン計量はなく、同時に 1 リクエストです。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く