Jawapan yang kelihatan lengkap mungkin tidak lengkap. finish_reason ialah satu-satunya medan yang memberitahu anda sama ada model berhenti atas kehendaknya sendiri.
Cara ia berfungsi
Setiap item dalam choices membawa finish_reason. Rujukan OpenAI menyenaraikan nilai berikut:
| Nilai | Maksud (OpenAI) |
|---|---|
stop |
Titik henti semula jadi, atau jujukan henti yang diberikan telah dicapai |
length |
“The maximum number of tokens specified in the request was reached” (bilangan maksimum token yang ditetapkan dalam permintaan telah dicapai) |
tool_calls |
Model memanggil alat |
content_filter |
“Content was omitted due to a flag from our content filters” (kandungan ditinggalkan kerana dibenderakan oleh penapis kandungan kami) |
function_call |
Bentuk panggilan fungsi yang lebih lama dan sudah lapuk |
Messages API Anthropic menggunakan stop_reason dengan nilainya sendiri, termasuk end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal dan model_context_window_exceeded. Apabila jujukan henti tercetus, Anthropic juga memulangkan jujukan yang mana dalam stop_sequence.
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
Mengapa ia penting
- JSON yang terpotong. Jawapan
lengthtidak lengkap. Menutup kurungan membuatkannya boleh dihurai tetapi data hilang. Artikel JSON tidak sah membincangkan perkara ini. - Gelung ejen.
tool_callsbermaksud “jalankan alat dan panggil saya semula”, bukan “selesai”. - Caching. Hanya cache jawapan yang tamat dengan
stop. Jawapan terpotong yang di-cache selama seminggu kelihatan seperti pepijat model.
Di BroadNet Inference
Rujukan API BroadNet tidak mendokumenkan nilai finish_reason, jadi log apa yang anda terima sebelum bergantung padanya. Namun ia mendokumenkan punca utama length yang mengejutkan: DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan token penaakulan dikira dalam max_tokens. BroadNet menyatakan bahawa dengan had yang kecil, “the reasoning can use the whole budget and the answer comes back empty.” (Terjemahan BroadRouter: “penaakulan boleh menggunakan seluruh bajet dan jawapan dipulangkan kosong.”) Tinggalkan 1,000 token atau lebih, atau tetapkan reasoning_effort kepada low. Panduan respons kosong menunjukkan cara membetulkannya.
Kesilapan biasa
- Membaca
message.contenttanpa menyemak finish_reason terlebih dahulu. - Menganggap jawapan kosong sebagai kegagalan model sedangkan penaakulan telah menggunakan seluruh bajet.