BroadRouter
Commencer

Hallucination (IA)

Mis à jour

Une hallucination est une sortie d’un modèle de langage qui paraît plausible mais qui est fausse, inventée ou non étayée par l’entrée fournie : une référence inventée, un chiffre erroné ou une API qui n’existe pas. Elle vient du fait que le modèle prédit un texte probable au lieu de vérifier des faits.

Aussi appelé : hallucination, hallucination d’IA, hallucination de LLM, hallucinations IA, confabulation, AI hallucination, LLM hallucination

Une hallucination se lit exactement comme une bonne réponse. C’est ce qui la rend coûteuse.

Comment ça marche

Un modèle de langage écrit les tokens suivants les plus plausibles compte tenu de son entraînement et du prompt. Rien dans cette boucle ne confronte un fait au monde réel. Quand le modèle ne connaît pas la réponse, une réponse d’apparence plausible reste disponible.

Dans un article de 2025, Kalai et ses coauteurs soutiennent que les hallucinations persistent parce que « training and evaluation procedures reward guessing over acknowledging uncertainty » (traduction : « les procédures d’entraînement et d’évaluation récompensent le fait de deviner plutôt que de reconnaître l’incertitude »). La plupart des benchmarks donnent des points pour une bonne réponse devinée et rien pour une abstention : les modèles sont donc optimisés pour bien passer les examens. Les auteurs rattachent aussi ces erreurs à une cause statistique : si un modèle ne sait pas distinguer de façon fiable les affirmations vraies des fausses, le pré-entraînement produira des affirmations fausses.

Formes courantes dans le travail avec une API :

  • références, URL ou citations inventées
  • chiffres erronés dans le résumé d’un document correct
  • méthodes ou paramètres d’API qui n’existent pas
  • réponses à des questions que le contexte fourni ne couvre pas

Pourquoi c’est important

Le coût apparaît en aval : un bot de support qui invente une politique de remboursement, un rapport avec un total faux, du code qui appelle une fonction inexistante. Les remèdes sont bon marché en comparaison :

  • Ancrer la réponse. Placez le texte source dans le prompt ou récupérez-le avec le RAG. Lewis et ses coauteurs ont trouvé la génération augmentée par récupération plus « factual » (traduction : « factuelle ») qu’une référence purement paramétrique. Voir ancrage.
  • Autoriser « je ne sais pas ». Anthropic présente l’autorisation explicite d’admettre l’incertitude comme une étape de base.
  • Demander des citations, puis vérifier. Faites citer au modèle un extrait à l’appui de chaque affirmation et supprimez les affirmations sans extrait.
  • Mesurer. Construisez une évaluation avec des questions dont la réponse ne figure pas dans le contexte, et suivez la fréquence à laquelle le modèle en invente une. Les logprobs peuvent signaler les réponses peu sûres quand l’API les renvoie.
  • Vérifier dans le code. Les totaux, les dates et les identifiants se vérifient sans modèle.

Baisser la température aide contre la dérive dans les textes longs, pas contre les erreurs commises avec assurance.

Sur BroadNet Inference

La documentation de BroadNet ne publie pas de taux d’hallucination pour ses modèles et ne mentionne ni garde-fous ni fonctions de vérification des faits : ces contrôles se trouvent donc dans votre application. Un grand contexte aide l’ancrage : DeepSeek V4.1 Flash et GLM 5.3 acceptent 1 048 576 tokens par requête, de quoi inclure des documents sources complets. Pour les pipelines de récupération en arabe, voir le RAG en arabe ; pour vérifier des champs extraits par rapport à l’image, voir le guide des factures.

Questions fréquentes

Pourquoi les LLM hallucinent-ils ?

Ils sont entraînés à produire un texte probable, et Kalai et ses coauteurs soutiennent que l’entraînement et les benchmarks récompensent une réponse devinée avec assurance plutôt que l’aveu d’incertitude. Deviner peut rapporter des points ; « je ne sais pas » n’en rapporte aucun.

Peut-on éliminer les hallucinations ?

Aucune méthode ne les supprime complètement. L’ancrage dans des documents, l’autorisation de répondre « je ne sais pas », les citations et les vérifications dans le code les réduisent. Le guide d’Anthropic précise que ces techniques réduisent les hallucinations sans les éliminer.

Une température plus basse arrête-t-elle les hallucinations ?

Elle réduit les choix de mots aléatoires, pas les erreurs commises avec assurance. Un modèle peut donner la même mauvaise réponse à chaque fois avec une température de 0.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity