---
title: "Gestion du contexte pour agents LLM longue durée | BroadRouter"
description: "Des sessions d’agent longues, précises et abordables avec une fenêtre de 1M tokens : historique en ajout seul, prompts compatibles cache, compactage."
url: https://broadrouter.com/fr/blog/long-running-agent-context-management/
lang: fr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/blog/long-running-agent-context-management/) (mis à jour le 2026-11-16).

# Gérer le contexte des agents longue durée avec une fenêtre de 1M

Par l’équipe BroadNet Inference · 6 min de lecture · Publié 2026-11-14 · Mis à jour 2026-11-16

Traitez le contexte comme un journal en ajout seul : d’abord un prompt système et une liste d’outils fixes, puis un historique qui ne fait que grandir, pour que chaque tour réutilise le préfixe en cache. Avec une fenêtre de 1 048 576 tokens, comme sur DeepSeek V4.1 Flash, compactez rarement et par grandes étapes, coupez d’abord les sorties d’outils volumineuses et gardez les faits durables dans un court fichier de notes que l’agent relit.

## À retenir

-   Une grande fenêtre repousse les problèmes de contexte, elle ne les supprime pas. Prévoyez ce qui se passe près de la limite.
-   Un historique en ajout seul garde le préfixe du prompt stable, et l’entrée en cache reste bon marché.
-   Chaque réécriture de l’historique antérieur casse le cache à partir de ce point.
-   Coupez les sorties d’outils volumineuses (logs, dumps de fichiers) avant le raisonnement et les décisions.
-   Compactez rarement et par grandes étapes, et tenez un court fichier de notes avec les faits durables.

**Sur cette page**

1.  Qu’apporte une fenêtre de 1M tokens à un agent longue durée ?
2.  Règle 1 : pourquoi l’historique doit-il être en ajout seul ?
3.  Règle 2 : comment mesurer le taux de cache ?
4.  Règle 3 : que couper en premier quand le contexte grandit ?
5.  Règle 4 : quand un agent doit-il compacter son historique ?
6.  Règle 5 : que mettre dans un fichier de notes ?
7.  Comment les tokens de raisonnement pèsent-ils sur le budget ?
8.  Est-ce que cela compte avec un forfait ?
9.  Liste de contrôle pour la gestion du contexte

Un agent de code qui travaille tout un après-midi accumule beaucoup d’historique : fichiers lus, commandes exécutées, sorties de tests, plans, corrections. À chaque tour, tout cela repart vers le modèle. La façon dont vous gérez ce contexte qui grandit décide de trois choses à la fois : ce que coûte chaque tour, la vitesse de la réponse, et si l’agent se souvient encore de ce qu’il était en train de faire.

Une fenêtre de 1M tokens déplace les compromis. Elle ne les fait pas disparaître.

## Qu’apporte une fenêtre de 1M tokens à un agent longue durée ?

Sur BroadNet Inference, [DeepSeek V4.1 Flash](https://broadrouter.com/fr/models/deepseek-v4.1-flash/) et [GLM 5.3](https://broadrouter.com/fr/models/glm-5.3/) acceptent jusqu’à 1 048 576 tokens par requête, prompt et réponse compris. [Qwen3.8 27B](https://broadrouter.com/fr/models/qwen3.8-27b/) en accepte 262 144. Avec des fenêtres plus petites, un agent doit résumer après une heure ou deux de travail. Avec un million de tokens, il peut généralement garder l’historique brut d’une session entière et ne compacter qu’en fin de très longue exécution.

C’est un vrai avantage : les résumés sont avec perte, et chaque résumé est une occasion d’oublier le seul détail qui comptait. Mais trois coûts grandissent toujours avec le prompt :

-   **L’argent**, avec une clé facturée au token, car chaque tour renvoie le prompt entier.
-   **La latence**, car le serveur doit traiter chaque token d’entrée avant le premier token de sortie.
-   **L’attention.** La qualité peut baisser quand les entrées grandissent, un effet appelé [context rot](https://broadrouter.com/fr/glossary/context-rot/). L’article [« Lost in the Middle »](https://arxiv.org/abs/2307.03172) a montré que les modèles exploitent plus fiablement l’information placée au début et à la fin d’une longue entrée que celle du milieu. Les modèles récents font mieux, mais l’habitude de garder les faits importants près des bords reste payante.

## Règle 1 : pourquoi l’historique doit-il être en ajout seul ?

Le cache de prompt compare à partir du début du prompt. Si les 300 000 premiers tokens de ce tour sont identiques à ceux du tour précédent, ils peuvent être servis depuis le cache ; le premier token modifié met fin à la correspondance. L’API de BroadNet l’indique dans `usage.prompt_tokens_details.cached_tokens` quand le modèle le signale, et facture l’entrée en cache à un tarif plus bas : $0.0055 par million de tokens sur DeepSeek V4.1 Flash, contre $0.175 pour une nouvelle entrée.

Construisez donc chaque requête dans le même ordre et n’ajoutez jamais qu’à la fin :

```text
[ system prompt ]        never changes during a session
[ tool definitions ]     fixed order, never changes
[ project notes ]        changes rarely, and only by appending
[ turn 1 ... turn N ]    grows at the end
[ new message ]
```

Les casseurs de préfixe habituels sont un horodatage dans le prompt système, des définitions d’outils dans un ordre instable et le re-rendu d’anciens résultats d’outils. Pour les agents, ajoutez-en un : la coupe en « fenêtre glissante » qui retire le plus ancien tour à chaque fois et décale tout ce qui suit. Chacun de ces défauts transforme un prompt en cache en prompt neuf ; [structurer ses prompts pour le cache](https://broadrouter.com/fr/blog/prompt-structure-for-caching/) liste les autres, avec un test qui prouve que le préfixe est en cache. Sur une longue session, la différence est grande : la majeure partie du prompt peut être de l’entrée en cache plutôt que de l’entrée nouvelle. [Comment l’entrée en cache est facturée](https://broadrouter.com/fr/blog/cached-input-tokens-explained/).

## Règle 2 : comment mesurer le taux de cache ?

Journalisez-le à chaque requête. Avec le SDK OpenAI, trois lignes après l’appel suffisent :

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

resp = client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=history, max_tokens=8000)
u = resp.usage
cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
print(f"turn prompt={u.prompt_tokens:,} cached={cached:,} ({cached / max(1, u.prompt_tokens):.0%})")
```

Un agent sain en ajout seul affiche une part en cache élevée à chaque tour après le premier. Une chute soudaine vers zéro signifie que quelque chose a changé tôt dans le prompt. Trouvez-le et figez-le. Le [calculateur de cache de prompt](https://broadrouter.com/tools/prompt-caching-calculator/) convertit un taux de cache en argent par session.

## Règle 3 : que couper en premier quand le contexte grandit ?

Quand le contexte doit vraiment rétrécir, ce que vous retirez compte. Dans la plupart des transcriptions d’agents, l’essentiel du volume vient des sorties d’outils : un log de tests de 4 000 lignes, un fichier entier lu pour trouver une fonction, un listing de répertoire. La partie précieuse est petite : le plan, les décisions et leurs raisons, les erreurs corrigées.

Ordre de coupe, du premier au dernier :

1.  **Les sorties d’outils périmées.** Remplacez le corps des anciens résultats d’outils par un résumé d’une ligne : « pytest exécuté : 3 échecs dans test\_api.py (corrigés au tour 14) ».
2.  **Les contenus de fichiers dépassés.** Si l’agent a lu `api.py`, l’a modifié, puis l’a relu, la première lecture est un poids mort.
3.  **Les explorations sans issue.** Recherches et lectures qui n’ont mené à aucune modification.
4.  **Le raisonnement et les plans.** Gardez-les le plus longtemps. Ils expliquent pourquoi le code a cette forme.

Tronquer la sortie d’un outil au moment où elle est produite est encore mieux. Plafonnez chaque résultat d’outil (par exemple les 200 dernières lignes d’un log plus un nombre de lignes) et laissez l’agent en demander plus s’il en a besoin. L’historique reste ainsi en ajout seul et compact.

## Règle 4 : quand un agent doit-il compacter son historique ?

Le compactage (résumer l’historique ancien en un bloc plus court) est l’outil lourd. Il réécrit le préfixe : le tour qui suit un compactage paie donc le plein tarif d’entrée pour tout ce qui suit le prompt système. Compacter un peu tous les quelques tours, c’est payer ce prix encore et encore.

Mieux vaut :

-   **Choisir un seuil élevé.** Avec une fenêtre de 1M, compacter à, disons, 60–70 % de remplissage laisse de la place pour le tour de résumé et une longue suite de nouveau travail.
-   **Garder la fin récente mot pour mot.** Résumez la partie ancienne et gardez intacts les derniers tours. La [documentation de compactage](https://opencode.ai/docs/compaction/) d’opencode décrit exactement cela : il résume la conversation et garde la partie la plus récente, environ 15 000 tokens par défaut.
-   **Résumer avec le prompt complet.** Envoyer toute la conversation à la requête de résumé lui permet de réutiliser le cache du tour précédent.
-   **Compacter une fois, puis recommencer à ajouter.** Après un compactage, le nouveau préfixe est stable et le cache reprend à partir de là.

## Règle 5 : que mettre dans un fichier de notes ?

Certains faits doivent survivre à un nombre quelconque de compactages : l’objectif, les contraintes, les décisions prises, les commandes qui construisent et testent le projet. Gardez-les dans un court fichier de notes (un `NOTES.md` ou un fichier de tâche) auquel l’agent ajoute et qu’il relit. Il se trouve près du haut du prompt, change rarement, et c’est la première chose qu’une nouvelle session lit si l’exécution redémarre.

C’est aussi la forme de mémoire la moins chère : quelques milliers de tokens qui évitent à l’agent de redécouvrir les mêmes faits après chaque résumé.

## Comment les tokens de raisonnement pèsent-ils sur le budget ?

DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et le raisonnement compte dans `max_tokens`. Une longue session n’y change rien, mais les gros prompts poussent à baisser `max_tokens` pour « gagner de la place ». Ne le faites pas. Un budget de sortie serré produit des réponses vides, que l’agent relance ensuite. [Pourquoi les réponses reviennent vides](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/).

Rappelez-vous aussi que la fenêtre compte le prompt et la réponse ensemble. Près de 1 048 576 tokens de prompt, il ne reste plus de place pour répondre. Compactez avant d’y arriver ; le [calculateur de fenêtre de contexte](https://broadrouter.com/tools/context-window-calculator/) montre combien de place laisse un prompt donné.

## Est-ce que cela compte avec un forfait ?

Sur une session de forfait BroadNet, DeepSeek V4.1 Flash n’a pas de compteur de tokens : une session Full Moon coûte $60 par mois, quelle que soit la longueur des prompts. L’argument financier du cache disparaît. Les deux autres restent. Un préfixe en cache est généralement plus rapide à traiter dans de nombreux systèmes de service, et un contexte bien géré donne de meilleures réponses. Les habitudes sont les mêmes ; seule la raison change. [Comment fonctionnent les sessions de forfait](https://broadrouter.com/fr/guides/unlimited-llm-api-sessions/).

## Liste de contrôle pour la gestion du contexte

-   Prompt système et liste d’outils fixes pour toute la session.
-   Historique uniquement complété ; anciens tours jamais reformatés.
-   Taux de cache journalisé à chaque requête.
-   Sorties d’outils plafonnées à la production ; sorties périmées remplacées plus tard par un résumé.
-   Compactage à un seuil élevé, en gardant la fin récente mot pour mot.
-   Un fichier de notes avec objectif, contraintes et décisions.
-   Budget de sortie assez grand pour le raisonnement.

Pour savoir quand une fenêtre d’un million de tokens vaut vraiment la peine, voir le [guide de la fenêtre de contexte de 1M](https://broadrouter.com/fr/blog/million-token-context-window-guide/). Pour arrêter les sessions qui grossissent sans avancer, voir [maîtriser le coût des boucles d’agent](https://broadrouter.com/fr/blog/cut-coding-agent-llm-costs/).

Outils gratuits sur ce sujet (en anglais)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Outils gratuits (en anglais)](https://broadrouter.com/tools/)

## Termes de cet article

[Token](https://broadrouter.com/fr/glossary/token/)

Un token est l’unité de texte qu’un modèle de langage lit et écrit : un mot, une partie de mot, un signe de ponctuation ou une suite d’octets produite par le tokenizer du modèle. Les API LLM comptent, limitent et facturent généralement l’usage en tokens.

[Appel d’outils (tool calling, function calling)](https://broadrouter.com/fr/glossary/tool-calling/)

L’appel d’outils, aussi appelé function calling, est une fonctionnalité des API LLM dans laquelle le modèle renvoie une demande structurée d’exécution d’une fonction définie par le développeur, avec des arguments JSON. L’application exécute la fonction et renvoie le résultat ; le modèle n’exécute jamais de code lui-même.

[Prompt système (system prompt)](https://broadrouter.com/fr/glossary/system-prompt/)

Le prompt système est le texte d’instructions qu’une application envoie à un modèle de langage avant la conversation, généralement sous forme de message au rôle system ou developer. Il fixe le rôle, les règles, le ton et le format de sortie du modèle, qui est censé le suivre même face à des messages contradictoires de l’utilisateur.

[Tokens d’entrée en cache (cached input tokens)](https://broadrouter.com/fr/glossary/cached-input-tokens/)

Les tokens d’entrée en cache sont des tokens de prompt qu’un fournisseur de LLM a traités récemment et peut réutiliser depuis un cache au lieu de les recalculer, en général un préfixe répété comme un prompt système ou un document. Les fournisseurs les facturent moins cher que les nouveaux tokens d’entrée.

[Context rot (dégradation du contexte)](https://broadrouter.com/fr/glossary/context-rot/)

Le context rot est la perte progressive de précision et de fiabilité que montrent les modèles de langage quand leur entrée s’allonge, même si la tâche reste la même et que l’entrée tient largement dans la fenêtre de contexte. Le terme a été popularisé par un rapport technique de Chroma de 2025 qui a testé 18 modèles.

[Fenêtre de contexte (context window)](https://broadrouter.com/fr/glossary/context-window/)

La fenêtre de contexte est le nombre maximal de tokens qu’un modèle de langage peut traiter dans une seule requête. Elle couvre le prompt, l’historique de conversation, les définitions d’outils, les images et la sortie générée, tokens de raisonnement compris. Ce qui ne tient pas doit être coupé, résumé ou réparti sur plusieurs requêtes.

[Lost in the middle (perdu au milieu)](https://broadrouter.com/fr/glossary/lost-in-the-middle/)

Lost in the middle désigne la tendance observée des modèles de langage à mieux exploiter une information pertinente lorsqu’elle se trouve près du début ou de la fin d’une longue entrée, et moins bien lorsqu’elle se situe au milieu. Le phénomène a été nommé dans une étude de Liu et al. en 2023.

[Agent de code IA (AI coding agent)](https://broadrouter.com/fr/glossary/coding-agent/)

Un agent de code IA est un outil logiciel dans lequel un modèle de langage travaille en boucle sur une base de code : il lit des fichiers, les modifie, lance des commandes comme les tests, lit la sortie et décide de l’étape suivante jusqu’à ce que la tâche soit terminée ou qu’une limite soit atteinte.

## Questions fréquentes

### Si le modèle a une fenêtre de 1M, pourquoi gérer le contexte ?

Parce que le coût, la latence et la précision changent quand le prompt grandit. Les longs prompts prennent plus de temps à traiter, coûtent plus cher à chaque tour avec une clé facturée au token, et la recherche montre que les modèles exploitent moins fiablement l’information placée au milieu de longues entrées.

### Comment savoir si mon agent touche le cache ?

Quand le modèle le signale, le bloc usage contient prompt\_tokens\_details.cached\_tokens. Divisez-le par prompt\_tokens pour chaque requête et journalisez le taux.

### Le compactage compte-t-il avec un forfait ?

Pas pour la facture, puisqu’une session de forfait n’a pas de compteur de tokens. Il compte toujours pour la vitesse et pour la qualité des réponses sur de très longues sessions.

## À lire ensuite

-   [Quand une fenêtre de contexte de 1M de tokens vaut le coup (ou pas)](https://broadrouter.com/fr/blog/million-token-context-window-guide/)
-   [Tokens d’entrée en cache : réduire la facture d’une API LLM](https://broadrouter.com/fr/blog/cached-input-tokens-explained/)
-   [Réduire le coût LLM d’un agent de code : 10 leviers chiffrés](https://broadrouter.com/fr/blog/cut-coding-agent-llm-costs/)
-   [Laisser tourner des agents de code toute la nuit, en toute sécurité](https://broadrouter.com/fr/blog/overnight-coding-agent-runs/)
-   [Coût d’une exécution d’agent de code IA : étapes, contexte, cache](https://broadrouter.com/fr/blog/ai-coding-agent-run-cost/)
-   [Claude Code et modèles ouverts : proxys, endpoints natifs, limites](https://broadrouter.com/fr/blog/claude-code-with-openai-compatible-models/)
-   [Guide : Streamer des chat completions et gérer les connexions coupées](https://broadrouter.com/fr/guides/streaming-chat-completions/)
-   [Guide : Pourquoi un modèle de raisonnement renvoie une réponse vide](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/)
-   [Guide : Comment fonctionnent les forfaits API LLM illimités pour agents](https://broadrouter.com/fr/guides/unlimited-llm-api-sessions/)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-long-running-agent-context-management&utm_content=page-cta) ·

**Sources**

-   [Référence de l’API BroadNet Inference, tokens de raisonnement et en cache (en anglais)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-long-running-agent-context-management&utm_content=sources)
-   [Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv)](https://arxiv.org/abs/2307.03172)
-   [Documentation opencode, compactage](https://opencode.ai/docs/compaction/)
