BroadRouter

Chat Completions API(チャット補完 API)

更新日

Chat Completions API とは、OpenAI の HTTP エンドポイント POST /v1/chat/completions で、モデル名とロール付きメッセージのリストを受け取り、モデルの次のメッセージを返します。そのリクエストと応答の形は、OpenAI 互換のプロバイダーや SDK が使う共通形式になりました。

別名: チャット補完 API、チャット API、chat completions エンドポイント、Chat Completions、chat completions endpoint、/v1/chat/completions、chat.completions.create

世の中の LLM コードの大半は、同じ「方言」で話しています。メッセージのリストを入れると、メッセージが 1 つ返ってくる。その方言が Chat Completions API です。

しくみ

/v1/chat/completions に、model と messages 配列を含む JSON を POST します。各メッセージには role(system、user、assistant、tool)と content があります。応答には choices 配列があり、各 choice は message と、生成が終わった理由を示す finish_reason を持ちます。さらにトークン数を記録した usage ブロックが付きます。

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b",
       "messages":[{"role":"system","content":"Answer in one line."},
                   {"role":"user","content":"What is a token?"}]}'

OpenAI Python SDK では、同じ呼び出しは client.chat.completions.create(...) です。max_tokens、temperature、stream、tools、response_format などの任意フィールドで出力を調整します。

この API はステートレスです。OpenAI の移行ガイドによると、Chat Completions では「conversation state must be managed manually」(訳:会話の状態は手動で管理する必要がある)ので、コード側で履歴を保持し、毎ターン送り直します。OpenAI の新しい Responses API は型付きのアイテムを使い、状態をサーバー側で保持できます。OpenAI は自社プラットフォームでの新規プロジェクトにこちらを勧めていますが、Chat Completions は「remains supported」(訳:引き続きサポートされる)としています。

なぜ重要か

  • 移植性。 OpenAI 互換 API といえば、通常はこのエンドポイントのことです。プロバイダーの切り替えは、多くの場合ベース URL、キー、モデル名を変えるだけで済みます。
  • コスト。 履歴全体を毎回送り直すので、入力トークンはターンごとに増えていきます。長いチャットは削るか要約してください。
  • フィールドの差異。 互換プロバイダーが OpenAI のフィールドをすべて受け付けるとは限りません。未知のフィールドは無視されることも拒否されることもあるので、依存しているフィールドは試してください。

BroadNet Inference の場合

BroadNet は https://inference.broadnet.ai/v1 の POST /v1/chat/completions でチャットを提供しており、対象は DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B、Gemma 4 VL 26B です。ストリーミングは stream=true を使い、data: [DONE] で終わります。ツール呼び出しと構造化出力が記載されているのは GLM 5.3 と Qwen3.8 27B だけです。BroadNet の API リファレンスには Responses エンドポイントの記載がないので、Chat Completions を使ってください。まずは curl クイックスタートか Python SDK のガイドから始めましょう。

よくある間違い

  • 最新のユーザーメッセージだけを送り、モデルがそれまでのチャットを覚えていると期待すること。
  • 相手のリファレンスを確認せずに、OpenAI 固有のフィールドを別のプロバイダーにそのまま持ち込むこと。

よくある質問

Chat Completions API は非推奨になったのですか?

いいえ。OpenAI の移行ガイドには「Chat Completions remains supported」(訳:Chat Completions は引き続きサポートされる)とあり、そのうえで OpenAI での新規プロジェクトには新しい Responses API を勧めています。

Chat Completions API は以前のメッセージを覚えていますか?

いいえ。ステートレスです。OpenAI のガイドによると、会話の状態は「must be managed manually」(訳:手動で管理する必要がある)ため、リクエストのたびにメッセージ履歴全体を送ります。

BroadNet Inference のチャットはどのエンドポイントを使いますか?

ベース URL https://inference.broadnet.ai/v1 の POST /v1/chat/completions です。BroadNet は Responses API のエンドポイントを記載していません。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く