BroadRouter
شروع کریں

ہیلوسینیشن (hallucination)

اپ ڈیٹ

ہیلوسینیشن، لینگویج ماڈل کا ایسا آؤٹ پٹ ہے جو سننے میں درست لگتا ہے مگر غلط، گھڑا ہوا یا دیے گئے ان پٹ سے غیر ثابت شدہ ہوتا ہے، جیسے جعلی حوالہ، غلط عدد یا من گھڑت API۔ یہ اس لیے ہوتا ہے کہ ماڈل حقائق جانچنے کے بجائے ممکنہ متن کی پیش گوئی کرتا ہے۔

دوسرے نام: ہیلوسینیشن، AI ہیلوسینیشن، من گھڑت جواب، AI hallucination kya hai، hallucination kya hoti hai، hallucination، AI hallucination، LLM hallucination، confabulation

ہیلوسینیشن بالکل درست جواب کی طرح پڑھی جاتی ہے۔ یہی اسے مہنگا بناتا ہے۔

یہ کیسے ہوتی ہے

لینگویج ماڈل اپنی ٹریننگ اور پرامپٹ کی بنیاد پر سب سے ممکنہ اگلے ٹوکن لکھتا ہے۔ اس لوپ میں کوئی چیز کسی حقیقت کو اصل دنیا سے نہیں ملاتی۔ جب ماڈل کے پاس جواب نہیں ہوتا، تب بھی ایک درست سا دکھنے والا جواب دستیاب رہتا ہے۔

Kalai اور ساتھی 2025 کے ایک مقالے میں مؤقف اختیار کرتے ہیں کہ ہیلوسینیشن اس لیے برقرار رہتی ہے کہ “training and evaluation procedures reward guessing over acknowledging uncertainty” (ترجمہ: ٹریننگ اور جانچ کے طریقے غیر یقینی تسلیم کرنے کے بجائے اندازہ لگانے کو انعام دیتے ہیں)۔ زیادہ تر بینچ مارکس درست اندازے پر نمبر دیتے ہیں اور جواب نہ دینے پر کچھ نہیں، اس لیے ماڈلز اچھے امتحان دہندہ بننے کے لیے ٹیون ہوتے ہیں۔ وہ ان غلطیوں کی جڑ ایک شماریاتی وجہ میں بھی دیکھتے ہیں: اگر ماڈل درست اور غلط بیانات میں قابلِ اعتماد فرق نہیں کر پاتا تو پری ٹریننگ غلط بیانات بھی پیدا کرے گی۔

API کے کام میں عام شکلیں:

  • گھڑے ہوئے حوالے، URLs یا اقتباسات
  • درست دستاویز کے خلاصے میں غلط اعداد
  • ایسے API میتھڈز یا پیرامیٹرز جو موجود ہی نہیں
  • ایسے سوالات کے جواب جن کا دیا گیا کانٹیکسٹ احاطہ نہیں کرتا

یہ کیوں اہم ہے

نقصان آگے جا کر ہوتا ہے: ریفنڈ پالیسی گھڑنے والا سپورٹ بوٹ، غلط کل والی رپورٹ، غیر موجود فنکشن کو کال کرنے والا کوڈ۔ اس کے مقابلے میں حل سستے ہیں:

  • جواب کو بنیاد دیں۔ ماخذ کا متن پرامپٹ میں رکھیں یا RAG سے نکالیں۔ Lewis اور ساتھیوں نے retrieval-augmented generation کو صرف پیرامیٹرک بیس لائن سے زیادہ “factual” (ترجمہ: حقائق پر مبنی) پایا۔ grounding دیکھیں۔
  • “مجھے نہیں معلوم” کی اجازت دیں۔ Anthropic غیر یقینی تسلیم کرنے کی واضح اجازت کو ایک بنیادی قدم بتاتا ہے۔
  • اقتباس مانگیں، پھر جانچیں۔ ماڈل سے ہر دعوے کے لیے تائید کرنے والا اقتباس مانگیں اور بغیر اقتباس والے دعوے ہٹا دیں۔
  • پیمائش کریں۔ ایسے سوالات والا eval بنائیں جن کا جواب کانٹیکسٹ میں نہیں، اور دیکھیں کہ ماڈل کتنی بار جواب گھڑتا ہے۔ جہاں API logprobs لوٹاتا ہے وہاں یہ کم اعتماد والے جوابات کی نشاندہی کر سکتے ہیں۔
  • کوڈ میں جانچیں۔ کل، تاریخیں اور IDs ماڈل کے بغیر جانچے جا سکتے ہیں۔

temperature کم کرنے سے لمبے متن میں بھٹکاؤ کم ہوتا ہے، پراعتماد غلطیاں نہیں۔

BroadNet Inference پر

BroadNet کی دستاویزات اپنے ماڈلز کی ہیلوسینیشن کی شرح شائع نہیں کرتیں اور کوئی guardrails یا فیکٹ چیکنگ سہولت درج نہیں کرتیں، اس لیے یہ کنٹرولز آپ کی ایپلیکیشن میں رہتے ہیں۔ بڑا کانٹیکسٹ جواب کو بنیاد دینے میں مدد کرتا ہے: DeepSeek V4.1 Flash اور GLM 5.3 فی درخواست 1,048,576 ٹوکن لیتے ہیں، جو پوری ماخذ دستاویزات شامل کرنے کے لیے کافی ہے۔ عربی retrieval پائپ لائنز کے لیے عربی RAG دیکھیں؛ نکالے گئے فیلڈز کو تصویر سے ملانے کے لیے انوائس گائیڈ دیکھیں۔

عام سوالات

LLMs ہیلوسینیٹ کیوں کرتے ہیں؟

انہیں ممکنہ متن بنانے کے لیے ٹرین کیا جاتا ہے، اور Kalai اور ساتھیوں کا مؤقف ہے کہ ٹریننگ اور بینچ مارکس غیر یقینی تسلیم کرنے کے بجائے پراعتماد اندازے کو انعام دیتے ہیں۔ اندازے سے نمبر مل سکتے ہیں؛ "مجھے نہیں معلوم" سے کوئی نمبر نہیں ملتا۔

کیا ہیلوسینیشن مکمل طور پر ختم کی جا سکتی ہے؟

کوئی طریقہ اسے مکمل طور پر نہیں ہٹاتا۔ دستاویزات پر مبنی جوابات، "مجھے نہیں معلوم" کہنے کی اجازت، حوالے اور کوڈ میں جانچ اسے کم کرتے ہیں۔ Anthropic کی گائیڈ کہتی ہے کہ یہ تکنیکیں ہیلوسینیشن کم کرتی ہیں مگر ختم نہیں کرتیں۔

کیا کم temperature سے ہیلوسینیشن رک جاتی ہے؟

اس سے رینڈم الفاظ کا انتخاب کم ہوتا ہے، پراعتماد غلطیاں نہیں۔ temperature 0 پر ماڈل ہر بار وہی غلط جواب دے سکتا ہے۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں