Chain-of-thought ایک پرامپٹ ٹرک کے طور پر شروع ہوا اور ماڈل کا فیچر بن گیا۔
یہ کیسے کام کرتا ہے
Wei اور ساتھیوں نے یہ طریقہ 2022 میں شائع کیا۔ صرف سوال اور جواب دکھانے والی few-shot مثالوں کے بجائے انہوں نے ایسی مثالیں لکھیں جو درمیانی مراحل دکھاتی تھیں۔ ایسی آٹھ مثالوں کے ساتھ 540 ارب پیرامیٹر والے ایک ماڈل نے GSM8K پر، جو اسکول کی سطح کے ریاضی کے لفظی سوالات کا سیٹ ہے، state-of-the-art درستی حاصل کی، اور verifier والے fine-tuned GPT-3 سے آگے نکلا۔ انہوں نے حساب، عام فہم (commonsense) اور symbolic ریزننگ آزمائی۔
پرامپٹ میں chain-of-thought کی ایک مثال:
Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.
مراحل لکھنے سے ماڈل کو جواب طے کرنے سے پہلے حساب کے لیے زیادہ ٹوکن ملتے ہیں، اور ہر قدم اگلے کی سمت طے کرتا ہے۔ یہ few-shot پرامپٹنگ کی ایک شکل ہے، جس میں مثالیں صرف فارمیٹ نہیں، طریقہ سکھاتی ہیں۔
ریزننگ ماڈلز نے اسے اندر کیسے سمو لیا
ریزننگ ماڈلز یہ قدم بہ قدم متن خود بنانے کے لیے تربیت یافتہ ہوتے ہیں۔ OpenAI کی گائیڈ کہتی ہے کہ وہ “use internal reasoning tokens before producing a response” (ترجمہ: جواب بنانے سے پہلے اندرونی ریزننگ ٹوکن استعمال کرتے ہیں)، اور یہ ٹوکن اس کے API میں نظر نہیں آتے، پھر بھی کانٹیکسٹ لیتے ہیں اور آؤٹ پٹ کے طور پر بل ہوتے ہیں۔ کچھ اوپن ماڈل ریزننگ کو ایک الگ فیلڈ میں لوٹاتے ہیں۔ یہ کیسے گنے جاتے ہیں، اس کے لیے ریزننگ ٹوکن دیکھیں۔
یہ کیوں اہم ہے
- درستی۔ ریاضی، منصوبہ بندی اور کوڈ کی درستی جیسے کئی مرحلوں والے کاموں کو سب سے زیادہ فائدہ ہوتا ہے۔ سیدھے لک اپ کو کم۔
- لاگت اور latency۔ ہر قدم ایک آؤٹ پٹ ٹوکن ہے۔ لمبی چین جواب سے زیادہ مہنگی پڑ سکتی ہے۔
- ثبوت نہیں۔ لکھے ہوئے مراحل درست لگ سکتے ہیں اور پھر بھی غلط ہو سکتے ہیں، اس لیے یہ ہیلوسینیشن نہیں روکتے۔
BroadNet Inference پر
BroadNet کی دستاویزات کہتی ہیں کہ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب سے پہلے ریزن کرتے ہیں، اور ریزننگ max_tokens میں گنی جاتی ہے۔ 1,000 یا اس سے زیادہ ٹوکن چھوڑیں، یا reasoning_effort کو low کریں؛ چھوٹی حد پر جواب خالی آ سکتا ہے۔ جب رپورٹ ہو تو usage.completion_tokens_details.reasoning_tokens بتاتا ہے کہ کتنے استعمال ہوئے۔ دستاویزات BroadNet Gemma 4 VL 26B کو ریزننگ ماڈل کے طور پر درج نہیں کرتیں، اس لیے اس سے مراحل مانگنے کا طریقہ کلاسیکی chain-of-thought پرامپٹنگ ہے۔ خالی جواب گائیڈ اور ریزننگ ٹوکن کی لاگت والی پوسٹ بجٹ بنانا سمجھاتی ہیں۔