Une hallucination se lit exactement comme une bonne réponse. C’est ce qui la rend coûteuse.
Comment ça marche
Un modèle de langage écrit les tokens suivants les plus plausibles compte tenu de son entraînement et du prompt. Rien dans cette boucle ne confronte un fait au monde réel. Quand le modèle ne connaît pas la réponse, une réponse d’apparence plausible reste disponible.
Dans un article de 2025, Kalai et ses coauteurs soutiennent que les hallucinations persistent parce que « training and evaluation procedures reward guessing over acknowledging uncertainty » (traduction : « les procédures d’entraînement et d’évaluation récompensent le fait de deviner plutôt que de reconnaître l’incertitude »). La plupart des benchmarks donnent des points pour une bonne réponse devinée et rien pour une abstention : les modèles sont donc optimisés pour bien passer les examens. Les auteurs rattachent aussi ces erreurs à une cause statistique : si un modèle ne sait pas distinguer de façon fiable les affirmations vraies des fausses, le pré-entraînement produira des affirmations fausses.
Formes courantes dans le travail avec une API :
- références, URL ou citations inventées
- chiffres erronés dans le résumé d’un document correct
- méthodes ou paramètres d’API qui n’existent pas
- réponses à des questions que le contexte fourni ne couvre pas
Pourquoi c’est important
Le coût apparaît en aval : un bot de support qui invente une politique de remboursement, un rapport avec un total faux, du code qui appelle une fonction inexistante. Les remèdes sont bon marché en comparaison :
- Ancrer la réponse. Placez le texte source dans le prompt ou récupérez-le avec le RAG. Lewis et ses coauteurs ont trouvé la génération augmentée par récupération plus « factual » (traduction : « factuelle ») qu’une référence purement paramétrique. Voir ancrage.
- Autoriser « je ne sais pas ». Anthropic présente l’autorisation explicite d’admettre l’incertitude comme une étape de base.
- Demander des citations, puis vérifier. Faites citer au modèle un extrait à l’appui de chaque affirmation et supprimez les affirmations sans extrait.
- Mesurer. Construisez une évaluation avec des questions dont la réponse ne figure pas dans le contexte, et suivez la fréquence à laquelle le modèle en invente une. Les logprobs peuvent signaler les réponses peu sûres quand l’API les renvoie.
- Vérifier dans le code. Les totaux, les dates et les identifiants se vérifient sans modèle.
Baisser la température aide contre la dérive dans les textes longs, pas contre les erreurs commises avec assurance.
Sur BroadNet Inference
La documentation de BroadNet ne publie pas de taux d’hallucination pour ses modèles et ne mentionne ni garde-fous ni fonctions de vérification des faits : ces contrôles se trouvent donc dans votre application. Un grand contexte aide l’ancrage : DeepSeek V4.1 Flash et GLM 5.3 acceptent 1 048 576 tokens par requête, de quoi inclure des documents sources complets. Pour les pipelines de récupération en arabe, voir le RAG en arabe ; pour vérifier des champs extraits par rapport à l’image, voir le guide des factures.