الهلوسة تُقرأ تمامًا كأنها إجابة صحيحة، وهذا ما يجعلها مكلفة.
كيف تحدث
يكتب النموذج اللغوي الرموز التالية الأكثر معقولية بناءً على تدريبه والأمر، ولا شيء في هذه الحلقة يتحقق من حقيقة ما في العالم. وحين لا يعرف النموذج الإجابة، تظل هناك إجابة تبدو معقولة متاحة له.
يرى Kalai وزملاؤه، في ورقة نُشرت عام 2025، أن الهلوسة تستمر لأن “training and evaluation procedures reward guessing over acknowledging uncertainty” (ترجمة: إجراءات التدريب والتقييم تكافئ التخمين على الإقرار بعدم اليقين). فمعظم معايير القياس تمنح درجة للتخمين الصحيح ولا شيء للامتناع، فتُضبط النماذج لتكون بارعة في الاختبارات. ويردّون الأخطاء أيضًا إلى مصدر إحصائي: فإن لم يستطع النموذج التمييز بموثوقية بين العبارات الصحيحة والخاطئة، فسينتج التدريب المسبق عبارات خاطئة.
أشكالها الشائعة في العمل مع واجهات API:
- مراجع أو روابط أو اقتباسات مخترعة
- أرقام خاطئة في ملخص لمستند صحيح
- دوال أو معاملات API لا وجود لها
- إجابات عن أسئلة لا يغطيها السياق المقدَّم
لماذا تهم
التكلفة تظهر لاحقًا: روبوت دعم يخترع سياسة استرداد، وتقرير بمجموع خاطئ، وشيفرة تستدعي دالة غير موجودة. ومقارنةً بذلك، فالحلول رخيصة:
- أسند الإجابة إلى مصدر. ضع النص المصدر في الأمر، أو استرجعه عبر RAG. وقد وجد Lewis وزملاؤه أن التوليد المعزّز بالاسترجاع أكثر “factual” (ترجمة: التزامًا بالحقائق) من نموذج أساس يعتمد على الأوزان وحدها. راجع الإسناد إلى المصادر.
- اسمح بقول «لا أعرف». تذكر Anthropic الإذن الصريح بالإقرار بعدم اليقين خطوةً أساسية.
- اطلب اقتباسات ثم تحقّق منها. اجعل النموذج يستشهد باقتباس داعم لكل ادعاء، واحذف الادعاءات التي لا اقتباس لها.
- قِس. ابنِ مجموعة تقييم فيها أسئلة لا جواب لها في السياق، وتتبّع كم مرة يخترع النموذج جوابًا. ويمكن أن تكشف logprobs الإجابات منخفضة الثقة حيث تُرجعها الواجهة.
- افحص في الشيفرة. يمكن التحقق من المجاميع والتواريخ والمعرّفات دون نموذج.
خفض درجة الحرارة يساعد على الحد من الانجراف في النصوص الطويلة، لا من الأخطاء الواثقة.
في BroadNet Inference
لا ينشر توثيق BroadNet معدلات الهلوسة لنماذجها، ولا يُدرج ضوابط حماية أو ميزات للتحقق من الحقائق، لذا تقع هذه الضوابط في تطبيقك. والسياق الكبير يساعد على الإسناد: إذ يقبل نموذجا DeepSeek V4.1 Flash وGLM 5.3 1,048,576 رمزًا في الطلب الواحد، وهذا يكفي لتضمين المستندات المصدر كاملة. ولخطوط استرجاع النصوص العربية، راجع RAG للعربية؛ وللتحقق من الحقول المستخرجة مقابل الصورة، راجع دليل الفواتير.