BroadRouter

finish_reason(終了理由)

更新日

finish_reason とは、チャット補完の応答で各 choice に付くフィールドで、モデルが生成を止めた理由を示します。OpenAI 形式の値は stop、length、tool_calls、content_filter と、非推奨の function_call です。Anthropic の Messages API では同じ考え方を stop_reason で返します。

別名: 終了理由、停止理由、finish reason、stop reason、stop_reason

完結しているように見える応答が、本当に完結しているとは限りません。finish_reason は、モデルが自分の意思で書き終えたかどうかを教えてくれる唯一のフィールドです。

しくみ

choices の各要素には finish_reason が付きます。OpenAI のリファレンスには次の値が載っています。

値 意味(OpenAI)
stop 自然な停止点、または指定した停止シーケンスに一致
length 「The maximum number of tokens specified in the request was reached」(訳:リクエストで指定した最大トークン数に達した)
tool_calls モデルがツールを呼び出した
content_filter 「Content was omitted due to a flag from our content filters」(訳:コンテンツフィルターのフラグによりコンテンツが省略された)
function_call 旧式で非推奨の関数呼び出し

Anthropic の Messages API は stop_reason を使い、end_turn、max_tokens、stop_sequence、tool_use、pause_turn、refusal、model_context_window_exceeded などの独自の値を返します。停止シーケンスで止まった場合は、どのシーケンスだったかも stop_sequence で返します。

choice = r.choices[0]
if choice.finish_reason == "length":
    raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
    run_tools(choice.message.tool_calls)

なぜ重要か

  • 途中で切れた JSON。 length の応答は不完全です。括弧を閉じればパースは通りますが、データは失われています。不正な JSON の記事で詳しく扱っています。
  • エージェントのループ。 tool_calls は「ツールを実行してからもう一度呼んで」という意味で、「完了」ではありません。
  • キャッシュ。 キャッシュするのは stop で終わった応答だけにしてください。途中で切れた回答を 1 週間キャッシュすると、モデルのバグのように見えます。

BroadNet Inference の場合

BroadNet の API リファレンスには finish_reason の値が記載されていないので、頼る前に実際に返ってくる値をログに残してください。一方で、length が予想外に出る主な原因は記載されています。DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、その推論トークンは max_tokens に含まれます。BroadNet によると、上限が小さいと「the reasoning can use the whole budget and the answer comes back empty.」(訳:推論が予算をすべて使い切り、回答が空で返ってくることがある)とのことです。1,000 トークン以上の余裕を持たせるか、reasoning_effort を low に設定してください。空の応答ガイドで対処法を順に説明しています。

よくある間違い

  • finish_reason を確認せずに message.content を読むこと。
  • 推論が予算を使い切っただけなのに、空の回答をモデルの不具合と見なすこと。

よくある質問

finish_reason が「length」とはどういう意味ですか?

応答が指定したトークン上限に達し、途中で切れたということです。OpenAI は「the maximum number of tokens specified in the request was reached」(訳:リクエストで指定した最大トークン数に達した)と説明しています。max_tokens を上げるか、求める量を減らしてください。切れたテキストを修復しようとしないでください。

停止シーケンスを設定したのに finish_reason が「stop」になるのはなぜですか?

OpenAI 形式では、stop は自然な終了と停止シーケンスへの一致の両方を表します。Anthropic はこれを end_turn と stop_sequence に分けています。

BroadNet は finish_reason の値をドキュメントに記載していますか?

いいえ。BroadNet の API リファレンスには finish_reason の値の一覧がありません。ご自身のリクエストでこのフィールドをログに残し、分岐処理に使う前に試してください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く