جو جواب مکمل لگتا ہے، ضروری نہیں کہ مکمل ہو۔ finish_reason ہی وہ فیلڈ ہے جو بتاتا ہے کہ ماڈل اپنی مرضی سے رکا یا نہیں۔
یہ کیسے کام کرتا ہے
choices کے ہر آئٹم میں ایک finish_reason ہوتا ہے۔ OpenAI کا ریفرنس یہ قدریں بتاتا ہے:
| قدر | مطلب (OpenAI) |
|---|---|
stop |
فطری رکنے کی جگہ، یا دیا گیا اسٹاپ سیکوئنس مل گیا |
length |
“The maximum number of tokens specified in the request was reached” (ترجمہ: درخواست میں بتائی گئی زیادہ سے زیادہ ٹوکن تعداد پوری ہو گئی) |
tool_calls |
ماڈل نے کوئی ٹول کال کیا |
content_filter |
“Content was omitted due to a flag from our content filters” (ترجمہ: ہمارے کانٹینٹ فلٹرز کے فلیگ کی وجہ سے مواد ہٹا دیا گیا) |
function_call |
فنکشن کال کی پرانی، متروک شکل |
Anthropic کا Messages API اپنی قدروں کے ساتھ stop_reason استعمال کرتا ہے، جن میں end_turn، max_tokens، stop_sequence، tool_use، pause_turn، refusal اور model_context_window_exceeded شامل ہیں۔ اسٹاپ سیکوئنس لگنے پر Anthropic stop_sequence میں یہ بھی بتاتا ہے کہ کون سا لگا۔
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
یہ کیوں اہم ہے
- کٹا ہوا JSON۔
lengthوالا جواب نامکمل ہوتا ہے۔ بریکٹس بند کر دینے سے وہ پارس تو ہو جاتا ہے لیکن ڈیٹا ضائع ہو جاتا ہے۔ غلط JSON والی پوسٹ یہ سمجھاتی ہے۔ - ایجنٹ لوپس۔
tool_callsکا مطلب ہے “ٹولز چلاؤ اور مجھے پھر کال کرو”، نہ کہ “کام ختم”۔ - کیشنگ۔ صرف وہی جوابات کیش کریں جو
stopپر ختم ہوئے۔ ہفتے بھر کے لیے کیش ہوا کٹا جواب ماڈل کا بگ لگتا ہے۔
BroadNet Inference پر
BroadNet کا API ریفرنس finish_reason کی قدریں دستاویز نہیں کرتا، اس لیے ان پر انحصار سے پہلے جو ملتا ہے اسے لاگ کریں۔ البتہ یہ length والی اچانک مشکلات کی بڑی وجہ ضرور بتاتا ہے: DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب سے پہلے ریزننگ کرتے ہیں، اور ریزننگ ٹوکن max_tokens میں شمار ہوتے ہیں۔ BroadNet کہتا ہے کہ چھوٹی حد پر “the reasoning can use the whole budget and the answer comes back empty.” (ترجمہ: ریزننگ پورا بجٹ خرچ کر سکتی ہے اور جواب خالی لوٹتا ہے۔) 1,000 یا اس سے زیادہ ٹوکن کی گنجائش چھوڑیں، یا reasoning_effort کو low پر سیٹ کریں۔ خالی جواب والی گائیڈ اس کا حل قدم بہ قدم بتاتی ہے۔
عام غلطیاں
- پہلے finish_reason دیکھے بغیر
message.contentپڑھنا۔ - جب ریزننگ نے پورا بجٹ خرچ کر دیا ہو، تب خالی جواب کو ماڈل کی ناکامی سمجھ لینا۔