Bir halüsinasyon, doğru bir yanıtla tıpatıp aynı görünür. Onu pahalı kılan da budur.
Nasıl çalışır
Bir dil modeli, eğitimine ve isteme göre en makul sonraki token’ları yazar. Bu döngüde hiçbir şey bir olguyu dünyaya karşı kontrol etmez. Modelin yanıtı bilmediği durumda bile makul görünen bir yanıt yine de elindedir.
Kalai ve arkadaşları 2025 tarihli bir makalede halüsinasyonların sürmesinin nedeninin “training and evaluation procedures reward guessing over acknowledging uncertainty” (çeviri: eğitim ve değerlendirme prosedürlerinin belirsizliği kabul etmek yerine tahmin yürütmeyi ödüllendirmesi) olduğunu savunur. Çoğu kıyaslama doğru bir tahmine puan verir, yanıt vermemeye hiç vermez; bu yüzden modeller iyi sınav çözücü olacak şekilde ayarlanır. Yazarlar hataları istatistiksel bir kaynağa da bağlar: bir model doğru ifadeleri yanlışlardan güvenilir biçimde ayıramıyorsa ön eğitim yanlış ifadeler üretecektir.
API işlerinde sık görülen biçimler:
- uydurma kaynaklar, URL’ler veya alıntılar
- doğru bir belgenin özetinde yanlış rakamlar
- var olmayan API metotları veya parametreleri
- verilen bağlamın kapsamadığı sorulara verilen yanıtlar
Neden önemli
Maliyet sonradan ortaya çıkar: iade politikası uyduran bir destek botu, toplamı yanlış bir rapor, olmayan bir fonksiyonu çağıran kod. Buna kıyasla çözümler ucuzdur:
- Yanıtı dayandırın. Kaynak metni isteme koyun ya da RAG ile getirin. Lewis ve arkadaşları, erişimle artırılmış üretimi yalnızca parametrik bir temel modelden daha “factual” (çeviri: olgulara dayalı) bulmuştur. Dayandırma (grounding) maddesine bakın.
- “Bilmiyorum” demeye izin verin. Anthropic, belirsizliği kabul etmek için açık izin vermeyi temel bir adım olarak listeler.
- Alıntı isteyin, sonra doğrulayın. Modelden her iddia için destekleyici bir alıntı vermesini isteyin; alıntısı olmayan iddiaları atın.
- Ölçün. Bağlamda yanıtı olmayan sorular içeren bir eval oluşturun ve modelin ne sıklıkla yanıt uydurduğunu izleyin. API döndürüyorsa logprobs düşük güvenli yanıtları işaretleyebilir.
- Kodda kontrol edin. Toplamlar, tarihler ve kimlikler bir model olmadan doğrulanabilir.
Sıcaklığı düşürmek uzun metindeki kaymaya yardımcı olur, kendinden emin hatalara değil.
BroadNet Inference’ta
BroadNet’in belgeleri modelleri için halüsinasyon oranları yayımlamaz ve korkuluk (guardrail) veya doğruluk kontrolü özellikleri listelemez; bu yüzden bu kontroller uygulamanızda yer alır. Büyük bir bağlam dayandırmaya yardımcı olur: DeepSeek V4.1 Flash ve GLM 5.3 istek başına 1.048.576 token kabul eder; bu, kaynak belgelerin tamamını eklemeye yeter. Arapça erişim işlem hatları için Arapça RAG yazısına, çıkarılan alanları görsele karşı kontrol etmek için fatura rehberine bakın.