BroadRouter
Mulakan

finish_reason

Dikemas kini

finish_reason ialah medan pada setiap choice dalam respons chat completion yang menyatakan sebab model berhenti menjana. Dalam format OpenAI, nilainya ialah stop, length, tool_calls, content_filter dan function_call yang sudah lapuk. Messages API Anthropic melaporkan idea yang sama sebagai stop_reason.

Juga dikenali sebagai: sebab tamat, sebab jawapan terpotong, finish reason, stop reason, stop_reason

Jawapan yang kelihatan lengkap mungkin tidak lengkap. finish_reason ialah satu-satunya medan yang memberitahu anda sama ada model berhenti atas kehendaknya sendiri.

Cara ia berfungsi

Setiap item dalam choices membawa finish_reason. Rujukan OpenAI menyenaraikan nilai berikut:

Nilai Maksud (OpenAI)
stop Titik henti semula jadi, atau jujukan henti yang diberikan telah dicapai
length “The maximum number of tokens specified in the request was reached” (bilangan maksimum token yang ditetapkan dalam permintaan telah dicapai)
tool_calls Model memanggil alat
content_filter “Content was omitted due to a flag from our content filters” (kandungan ditinggalkan kerana dibenderakan oleh penapis kandungan kami)
function_call Bentuk panggilan fungsi yang lebih lama dan sudah lapuk

Messages API Anthropic menggunakan stop_reason dengan nilainya sendiri, termasuk end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal dan model_context_window_exceeded. Apabila jujukan henti tercetus, Anthropic juga memulangkan jujukan yang mana dalam stop_sequence.

choice = r.choices[0]
if choice.finish_reason == "length":
    raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
    run_tools(choice.message.tool_calls)

Mengapa ia penting

  • JSON yang terpotong. Jawapan length tidak lengkap. Menutup kurungan membuatkannya boleh dihurai tetapi data hilang. Artikel JSON tidak sah membincangkan perkara ini.
  • Gelung ejen. tool_calls bermaksud “jalankan alat dan panggil saya semula”, bukan “selesai”.
  • Caching. Hanya cache jawapan yang tamat dengan stop. Jawapan terpotong yang di-cache selama seminggu kelihatan seperti pepijat model.

Di BroadNet Inference

Rujukan API BroadNet tidak mendokumenkan nilai finish_reason, jadi log apa yang anda terima sebelum bergantung padanya. Namun ia mendokumenkan punca utama length yang mengejutkan: DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan token penaakulan dikira dalam max_tokens. BroadNet menyatakan bahawa dengan had yang kecil, “the reasoning can use the whole budget and the answer comes back empty.” (Terjemahan BroadRouter: “penaakulan boleh menggunakan seluruh bajet dan jawapan dipulangkan kosong.”) Tinggalkan 1,000 token atau lebih, atau tetapkan reasoning_effort kepada low. Panduan respons kosong menunjukkan cara membetulkannya.

Kesilapan biasa

  • Membaca message.content tanpa menyemak finish_reason terlebih dahulu.
  • Menganggap jawapan kosong sebagai kegagalan model sedangkan penaakulan telah menggunakan seluruh bajet.

Soalan lazim

Apakah maksud finish_reason "length"?

Jawapan mencapai had token yang anda tetapkan dan terpotong. OpenAI menerangkannya sebagai "the maximum number of tokens specified in the request was reached" (bilangan maksimum token yang ditetapkan dalam permintaan telah dicapai). Naikkan max_tokens atau minta kurang; jangan baiki teks yang terpotong.

Mengapa finish_reason ialah "stop" apabila saya menetapkan jujukan henti?

Dalam format OpenAI, stop merangkumi penamat semula jadi dan jujukan henti yang sepadan. Anthropic memisahkannya kepada end_turn dan stop_sequence.

Adakah BroadNet mendokumenkan nilai finish_reason?

Tidak. Rujukan API BroadNet tidak menyenaraikan nilai finish_reason. Log medan itu pada permintaan anda sendiri dan uji sebelum membuat cabang logik berdasarkannya.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity