世の中の LLM コードの大半は、同じ「方言」で話しています。メッセージのリストを入れると、メッセージが 1 つ返ってくる。その方言が Chat Completions API です。
しくみ
/v1/chat/completions に、model と messages 配列を含む JSON を POST します。各メッセージには role(system、user、assistant、tool)と content があります。応答には choices 配列があり、各 choice は message と、生成が終わった理由を示す finish_reason を持ちます。さらにトークン数を記録した usage ブロックが付きます。
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b",
"messages":[{"role":"system","content":"Answer in one line."},
{"role":"user","content":"What is a token?"}]}'
OpenAI Python SDK では、同じ呼び出しは client.chat.completions.create(...) です。max_tokens、temperature、stream、tools、response_format などの任意フィールドで出力を調整します。
この API はステートレスです。OpenAI の移行ガイドによると、Chat Completions では「conversation state must be managed manually」(訳:会話の状態は手動で管理する必要がある)ので、コード側で履歴を保持し、毎ターン送り直します。OpenAI の新しい Responses API は型付きのアイテムを使い、状態をサーバー側で保持できます。OpenAI は自社プラットフォームでの新規プロジェクトにこちらを勧めていますが、Chat Completions は「remains supported」(訳:引き続きサポートされる)としています。
なぜ重要か
- 移植性。 OpenAI 互換 API といえば、通常はこのエンドポイントのことです。プロバイダーの切り替えは、多くの場合ベース URL、キー、モデル名を変えるだけで済みます。
- コスト。 履歴全体を毎回送り直すので、入力トークンはターンごとに増えていきます。長いチャットは削るか要約してください。
- フィールドの差異。 互換プロバイダーが OpenAI のフィールドをすべて受け付けるとは限りません。未知のフィールドは無視されることも拒否されることもあるので、依存しているフィールドは試してください。
BroadNet Inference の場合
BroadNet は https://inference.broadnet.ai/v1 の POST /v1/chat/completions でチャットを提供しており、対象は DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B、Gemma 4 VL 26B です。ストリーミングは stream=true を使い、data: [DONE] で終わります。ツール呼び出しと構造化出力が記載されているのは GLM 5.3 と Qwen3.8 27B だけです。BroadNet の API リファレンスには Responses エンドポイントの記載がないので、Chat Completions を使ってください。まずは curl クイックスタートか Python SDK のガイドから始めましょう。
よくある間違い
- 最新のユーザーメッセージだけを送り、モデルがそれまでのチャットを覚えていると期待すること。
- 相手のリファレンスを確認せずに、OpenAI 固有のフィールドを別のプロバイダーにそのまま持ち込むこと。