---
title: "Contexte long ou RAG : coût, latence et rappel comparés"
description: "Quand une fenêtre de contexte de 1M de tokens peut remplacer une base vectorielle, et quand le RAG l’emporte : coût par requête, latence, rappel et maintenance."
url: https://broadrouter.com/fr/blog/long-context-vs-rag/
lang: fr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/blog/long-context-vs-rag/) (mis à jour le 2026-11-16).

# Contexte long ou RAG : quand 1M de tokens remplace la base vectorielle

Par l’équipe BroadNet Inference · 5 min de lecture · Publié 2026-11-14 · Mis à jour 2026-11-16

Le contexte long remplace le RAG quand le corpus tient dans la fenêtre, change rarement et que les questions en mobilisent de nombreuses parties à la fois ; le cache garde les requêtes répétées bon marché. Le RAG l’emporte encore quand le corpus dépasse la fenêtre, change sans cesse, exige des permissions par utilisateur ou doit répondre en une ou deux secondes. Beaucoup de systèmes récupèrent avec le RAG et raisonnent en contexte long.

## À retenir

-   La taille du corpus est le premier filtre : s’il ne tient pas dans la fenêtre avec de la place pour la réponse, il vous faut une forme de recherche.
-   Par requête, le contexte long envoie tout le corpus ; le RAG envoie quelques milliers de tokens. Le cache de préfixe ne réduit l’écart de coût que si le corpus est stable.
-   Les prompts longs augmentent le temps jusqu’au premier token. Le RAG garde des prompts courts et rapides.
-   Le rappel en contexte long n’est pas parfait : les modèles retrouvent plus fiablement les faits placés au début et à la fin d’un prompt qu’au milieu.
-   Le RAG échoue autrement : si la recherche manque le passage, le modèle ne le voit jamais. Mesurez les deux sur vos propres questions.

**Sur cette page**

1.  Quand le contexte long remplace-t-il le RAG ?
2.  Comment se comparent les coûts par requête ?
3.  Comment se compare la latence ?
4.  Lequel a le meilleur rappel ?
5.  Et la maintenance ?
6.  L’approche hybride à laquelle aboutissent la plupart des équipes
7.  La place de BroadNet Inference

Le [guide de la fenêtre de contexte de 1M de tokens](https://broadrouter.com/fr/blog/million-token-context-window-guide/) explique ce qui tient dans un million de tokens et ce que coûte une requête. Cet article répond à une question plus précise, qui revient dans chaque revue d’architecture : **peut-on supprimer la [base vectorielle](https://broadrouter.com/fr/glossary/vector-database/) et le pipeline [RAG](https://broadrouter.com/fr/glossary/rag/) qui l’entoure ?** Parfois, oui. Voici comment trancher, selon quatre axes : coût, latence, rappel et maintenance.

## Quand le contexte long remplace-t-il le RAG ?

Les quatre conditions suivantes doivent être réunies :

1.  **Le corpus tient.** Prompt, réponse et raisonnement restent dans la [fenêtre de contexte](https://broadrouter.com/fr/glossary/context-window/) avec une marge. Sur [DeepSeek V4.1 Flash](https://broadrouter.com/fr/models/deepseek-v4.1-flash/) et [GLM 5.3](https://broadrouter.com/fr/models/glm-5.3/), cette fenêtre fait 1 048 576 tokens ([les deux comparés](https://broadrouter.com/compare/deepseek-v4.1-flash-vs-glm-5.3/)). Le [calculateur de fenêtre de contexte](https://broadrouter.com/tools/context-window-calculator/) vérifie si vos documents tiennent.
2.  **Il change rarement.** Un manuel mis à jour chaque mois, ça va. Une file de tickets mise à jour chaque minute, non.
3.  **Tout le monde peut tout voir.** Un seul corpus partagé, aucune permission par utilisateur à filtrer.
4.  **Les questions couvrent l’ensemble du corpus.** « Quels contrats contredisent la nouvelle politique ? » exige de tout avoir sous les yeux ; « quel est le délai de remboursement ? », non.

Si une condition n’est pas remplie, gardez la recherche, ou passez à une approche hybride.

## Comment se comparent les coûts par requête ?

Prenons un ensemble de documents de 400 000 tokens et une question dont la réponse fait 500 tokens. Le RAG récupère, disons, 8 000 tokens de chunks. Avec une clé en [paiement à l’usage](https://broadrouter.com/fr/glossary/pay-as-you-go/) et DeepSeek V4.1 Flash :

| Approche | Entrée par requête | Coût d’entrée par requête |
| --- | --- | --- |
| Contexte long, première requête | 400 000 nouveaux | 0,4 × $0.175 |
| Contexte long, requête répétée, préfixe en cache | environ 400 000 en cache | environ 0,4 × $0.0055 |
| RAG | 8 000 nouveaux | 0,008 × $0.175 |

La sortie est identique dans chaque cas : 500 tokens × $0.52 par million. (Chaque multiplicateur correspond au nombre de tokens en millions multiplié par le prix par million.)

Trois conséquences. Sans cache, le contexte long coûte 50 fois le RAG par requête en entrée, puisqu’il envoie 50 fois plus de tokens. Avec le corpus en cache, l’écart se réduit nettement, car l’entrée en cache coûte sur ce modèle quelques pour cent de l’entrée nouvelle. Mais le cache ne tient que tant que le préfixe reste identique à l’octet près : le corpus doit donc venir en premier et rester stable ; voir [structurer son prompt pour le cache](https://broadrouter.com/fr/blog/prompt-structure-for-caching/). Le RAG a ses propres coûts, que ce tableau omet : l’embedding du corpus, l’exploitation du stockage vectoriel et le temps d’ingénierie pour régler le découpage. Le [calculateur de coût d’embedding](https://broadrouter.com/tools/embedding-cost-calculator/) chiffre la partie embedding. Le [calculateur de découpage RAG](https://broadrouter.com/tools/rag-chunking-calculator/) chiffre le côté requêtes : chunks, tokens par requête et facture LLM mensuelle.

Pour voir ce que vaut votre propre taux de cache, essayez le [calculateur de prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/). Avec un forfait, la colonne d’entrée disparaît : Full Moon coûte $60 par mois et par session sans compteur de tokens, donc un prompt de 400 000 tokens coûte autant qu’un prompt court.

## Comment se compare la latence ?

Un modèle lit tout le prompt avant d’écrire le premier token. Le temps jusqu’au premier token augmente avec la longueur du prompt, et un prompt de plusieurs centaines de milliers de tokens met nettement plus de temps à démarrer qu’un prompt de 8 000. Les préfixes en cache aident dans de nombreux systèmes de service. La recherche vectorielle elle-même ajoute en général peu ; l’appel de recherche est léger à côté de la génération.

Pour un assistant interactif qui doit répondre en une ou deux secondes, le RAG est donc le choix par défaut le plus sûr. Pour un analyste qui pose une question de fond et attend la réponse, le contexte long convient. [Mesurez le TTFT sur vos propres prompts](https://broadrouter.com/fr/blog/llm-latency-ttft-throughput/) à la taille que vous prévoyez d’envoyer.

## Lequel a le meilleur rappel ?

Aucun n’est parfait, et ils échouent de manières différentes.

**Le contexte long** peut perdre des faits au milieu ([lost in the middle](https://broadrouter.com/fr/glossary/lost-in-the-middle/)). L’étude _Lost in the Middle_ a constaté que les modèles exploitaient mieux l’information placée au début ou à la fin de l’entrée, et moins bien entre les deux. Le benchmark RULER a montré que des modèles quasi parfaits sur de simples tests « aiguille dans une botte de foin » se dégradaient sur des tâches plus difficiles à mesure que l’entrée grandissait, et que, parmi les modèles annonçant 32K tokens ou plus, « only half of them » (traduction : « seule la moitié d’entre eux ») gardaient des performances satisfaisantes à 32K. Les modèles récents font mieux, mais la fenêtre annoncée n’est pas la fenêtre où la qualité tient.

**Le RAG** échoue avant même que le modèle ne commence : si le retriever manque le passage, le modèle ne le voit jamais. Les questions qui exigent de nombreux passages, ou formulées avec d’autres mots que la source, sont les ratés classiques.

| Mode d’échec | Contexte long | RAG |
| --- | --- | --- |
| Fait enfoui au milieu du prompt | Le risque croît avec la longueur | Faible, le prompt est court |
| La réponse exige 20 passages épars | Fort | Faible, sauf avec un top-k élevé |
| La formulation de la requête diffère de la source | Fort | Dépend des embeddings et du reranking |
| Corpus plus grand que la fenêtre | Impossible | Fort |

Deux parades pour le contexte long : placez la question à la fin, après les documents, et demandez au modèle de citer les lignes sur lesquelles il s’appuie.

## Et la maintenance ?

Le RAG est un système : découpage, embeddings, index, réindexation à chaque modification, filtres de permissions, évaluation de la qualité de la recherche. Le contexte long est un prompt : concaténer des fichiers avec des étiquettes claires, puis envoyer. Pour une petite équipe dont le corpus tient dans la fenêtre, supprimer le pipeline retire un vrai travail. Pour un corpus vaste, changeant et soumis à des permissions, le pipeline fait un travail que le contexte long ne peut pas faire.

## L’approche hybride à laquelle aboutissent la plupart des équipes

1.  Récupérez largement : pas cinq chunks, mais des documents entiers, jusqu’à quelques centaines de milliers de [tokens](https://broadrouter.com/fr/glossary/token/).
2.  Ordonnez-les de façon stable (par identifiant de document, pas par score) pour que le préfixe soit mis en cache d’une question à l’autre.
3.  Placez la question en dernier et envoyez le tout à un modèle à contexte long.
4.  Demandez des citations renvoyant aux étiquettes des documents, et vérifiez-en quelques-unes.

Vous gardez ainsi la portée du RAG sur un corpus énorme et la capacité du contexte long à raisonner sur de nombreuses sources. L’approche tolère aussi un retriever moins bon, car un document presque pertinent reste dans le prompt.

## La place de BroadNet Inference

BroadNet Inference propose deux modèles à 1M de tokens, DeepSeek V4.1 Flash et GLM 5.3, et ne tronque pas votre contexte : une requête trop grande échoue au lieu de perdre des documents en silence. Avec une clé facturée au token, l’entrée en cache est facturée au tarif réduit du cache, et les forfaits illimités suppriment complètement le compteur de tokens pour DeepSeek V4.1 Flash. Sa référence d’API liste les chat completions et la transcription, mais ni endpoint d’embeddings ni stockage vectoriel : pour la moitié RAG, vous apportez vos propres briques. Laissez de la place aux [tokens de raisonnement](https://broadrouter.com/fr/glossary/reasoning-tokens/) dans la fenêtre ; le [guide du raisonnement](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/) explique pourquoi. Les prix figurent sur la [page des prix](https://broadrouter.com/fr/pricing/).

Outils gratuits sur ce sujet (en anglais)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Outils gratuits (en anglais)](https://broadrouter.com/tools/)

## Termes de cet article

[Token](https://broadrouter.com/fr/glossary/token/)

Un token est l’unité de texte qu’un modèle de langage lit et écrit : un mot, une partie de mot, un signe de ponctuation ou une suite d’octets produite par le tokenizer du modèle. Les API LLM comptent, limitent et facturent généralement l’usage en tokens.

[RAG (génération augmentée par récupération)](https://broadrouter.com/fr/glossary/rag/)

Le RAG (retrieval-augmented generation, génération augmentée par récupération) est une approche dans laquelle une application récupère d’abord, dans une source externe comme un index de recherche ou un index vectoriel, les passages pertinents pour une question, puis les ajoute au prompt pour qu’un modèle de langage réponde à partir de ce texte et pas seulement de sa mémoire.

[Embeddings (plongements vectoriels)](https://broadrouter.com/fr/glossary/embeddings/)

Les embeddings sont des listes de nombres à virgule flottante (des vecteurs) qu’un modèle produit pour représenter un texte, une image ou une autre entrée. Des entrées de sens proche obtiennent des vecteurs voisins : la distance entre vecteurs permet de classer des résultats de recherche, de regrouper des documents ou de trouver des éléments apparentés.

[Appel d’outils (tool calling, function calling)](https://broadrouter.com/fr/glossary/tool-calling/)

L’appel d’outils, aussi appelé function calling, est une fonctionnalité des API LLM dans laquelle le modèle renvoie une demande structurée d’exécution d’une fonction définie par le développeur, avec des arguments JSON. L’application exécute la fonction et renvoie le résultat ; le modèle n’exécute jamais de code lui-même.

[Lost in the middle (perdu au milieu)](https://broadrouter.com/fr/glossary/lost-in-the-middle/)

Lost in the middle désigne la tendance observée des modèles de langage à mieux exploiter une information pertinente lorsqu’elle se trouve près du début ou de la fin d’une longue entrée, et moins bien lorsqu’elle se situe au milieu. Le phénomène a été nommé dans une étude de Liu et al. en 2023.

[Fenêtre de contexte (context window)](https://broadrouter.com/fr/glossary/context-window/)

La fenêtre de contexte est le nombre maximal de tokens qu’un modèle de langage peut traiter dans une seule requête. Elle couvre le prompt, l’historique de conversation, les définitions d’outils, les images et la sortie générée, tokens de raisonnement compris. Ce qui ne tient pas doit être coupé, résumé ou réparti sur plusieurs requêtes.

[Paiement à l’usage (pay-as-you-go)](https://broadrouter.com/fr/glossary/pay-as-you-go/)

Le paiement à l’usage (pay-as-you-go) est un modèle tarifaire où vous ne payez que ce que vous consommez, mesuré par unité, comme les tokens, les requêtes ou les minutes d’audio, sans abonnement ni engagement minimal. La plupart des API LLM facturent ainsi, à partir d’un solde prépayé ou d’une facture périodique.

[Tokens d’entrée en cache (cached input tokens)](https://broadrouter.com/fr/glossary/cached-input-tokens/)

Les tokens d’entrée en cache sont des tokens de prompt qu’un fournisseur de LLM a traités récemment et peut réutiliser depuis un cache au lieu de les recalculer, en général un préfixe répété comme un prompt système ou un document. Les fournisseurs les facturent moins cher que les nouveaux tokens d’entrée.

## Questions fréquentes

### Le RAG est-il mort maintenant que les modèles ont des fenêtres de contexte de 1M de tokens ?

Non. Le contexte long rend la recherche inutile quand tout le corpus tient dans la fenêtre et reste stable. La plupart des bases de connaissances d’entreprise dépassent le million de tokens, changent chaque jour et exigent des permissions : c’est toujours le terrain du RAG.

### Le contexte long est-il plus précis que le RAG ?

Cela dépend de la question. Le contexte long fait mieux quand la réponse exige de combiner de nombreux passages. Le RAG peut faire mieux pour retrouver un fait isolé dans un corpus énorme, car un prompt court garde le modèle concentré. Testez les deux sur de vraies questions.

### Combien de mots tiennent dans une fenêtre de contexte de 1 million de tokens ?

Environ 810,000 mots de prose anglaise simple dans la fenêtre de 1 048 576 tokens de DeepSeek V4.1 Flash, sur la base de 1,290 tokens pour 1 000 mots mesurés sur cinq tokenizers dans le jeu de données de BroadRouter. L’anglais technique, le code, les tableaux et l’arabe demandent plus de tokens par mot, donc moins de contenu tient. Laissez de la place pour la réponse et le raisonnement.

### Puis-je combiner RAG et contexte long ?

Oui, et c’est souvent la meilleure option. Récupérez largement, par exemple 100 000 à 200 000 tokens de documents candidats, puis laissez un modèle à contexte long raisonner sur l’ensemble au lieu des cinq meilleurs chunks.

## À lire ensuite

-   [Quand une fenêtre de contexte de 1M de tokens vaut le coup (ou pas)](https://broadrouter.com/fr/blog/million-token-context-window-guide/)
-   [Structurer ses prompts pour que le préfixe soit mis en cache](https://broadrouter.com/fr/blog/prompt-structure-for-caching/)
-   [Tokens d’entrée en cache : réduire la facture d’une API LLM](https://broadrouter.com/fr/blog/cached-input-tokens-explained/)
-   [Latence LLM : TTFT, tokens par seconde et temps de bout en bout](https://broadrouter.com/fr/blog/llm-latency-ttft-throughput/)
-   [Matériel GPU et serving de BroadNet, tels que BroadNet les décrit](https://broadrouter.com/fr/blog/broadnet-gpu-fleet-and-serving/)
-   [Mettre en cache les réponses d’API LLM : un cache exact en Python](https://broadrouter.com/fr/blog/cache-llm-responses-cut-cost/)
-   [Guide : Pourquoi un modèle de raisonnement renvoie une réponse vide](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-long-context-vs-rag&utm_content=page-cta) ·

**Sources**

-   [Liu et al., Lost in the Middle - How Language Models Use Long Contexts (arXiv 2307.03172)](https://arxiv.org/abs/2307.03172)
-   [Hsieh et al., RULER - What's the Real Context Size of Your Long-Context Language Models? (arXiv 2404.06654)](https://arxiv.org/abs/2404.06654)
-   [Prix et longueurs de contexte de BroadNet Inference au format lisible par machine (pricing.json) (en anglais)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-long-context-vs-rag&utm_content=sources)
-   [Référence de l’API de BroadNet Inference (en anglais)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-long-context-vs-rag&utm_content=sources)
