---
title: "Context rot là gì? Vì sao LLM kém đi khi input dài | BroadRouter"
description: "Context rot là hiện tượng độ chính xác của LLM giảm khi input dài ra, từ rất lâu trước khi context window đầy. Chroma đo được gì trên 18 model và cách hạn chế."
url: https://broadrouter.com/vi/glossary/context-rot/
lang: vi
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/glossary/context-rot/) (cập nhật ngày 2026-11-14).

# Context rot (suy giảm khi context dài)

Cập nhật 2026-11-14

Context rot là sự suy giảm dần về độ chính xác và độ tin cậy của model ngôn ngữ khi input dài ra, ngay cả khi tác vụ không đổi và input vẫn nằm gọn trong context window. Thuật ngữ này phổ biến nhờ một báo cáo kỹ thuật năm 2025 của Chroma thử nghiệm 18 model.

Còn gọi là: context rot là gì, suy giảm ngữ cảnh, suy giảm context dài, LLM kém khi context dài, context degradation, long-context degradation, context decay, context window degradation

Một model nhận được một triệu token không dùng token thứ một triệu tốt bằng một nghìn token đầu tiên. Khoảng chênh lệch đó là context rot.

## Cách hoạt động

Báo cáo của Chroma (Hong, Troynikov và Huber, tháng 7 năm 2025) thử 18 model, gồm GPT-4.1, Claude 4, Gemini 2.5 và Qwen3, trên các tác vụ giữ nguyên độ khó trong khi input dài ra. Phát hiện chính: “model performance consistently degrades with increasing input length.” (Bản dịch: hiệu năng model giảm một cách nhất quán khi độ dài input tăng.)

Có ba hiệu ứng nổi bật:

-   **Khớp yếu bị ảnh hưởng nặng nhất.** Khi câu hỏi và đoạn liên quan có ít từ chung, độ chính xác giảm nhanh hơn khi độ dài tăng.
-   **Đoạn gây nhiễu có hại.** “Even a single distractor reduces performance relative to the baseline” (Bản dịch: chỉ một đoạn gây nhiễu cũng làm hiệu năng giảm so với mức cơ sở), và bốn đoạn thì tệ hơn nữa. Đoạn gây nhiễu (distractor) là đoạn cùng chủ đề nhưng không trả lời câu hỏi.
-   **Cấu trúc có ảnh hưởng, theo cách lạ.** Văn bản đệm mạch lạc gây hại nhiều hơn chính các câu đó khi bị xáo trộn. Các tác giả thấy “structural coherence consistently hurts model performance.” (Bản dịch: tính mạch lạc về cấu trúc luôn làm giảm hiệu năng model.)

Kết quả này nối tiếp các nghiên cứu trước như [lost in the middle](https://broadrouter.com/vi/glossary/lost-in-the-middle/), vốn chỉ ra hiệu ứng vị trí. Context rot mở rộng luận điểm: bản thân độ dài, chứ không chỉ vị trí, đã làm mất độ chính xác.

## Vì sao quan trọng

-   **Agent.** Một [agent](https://broadrouter.com/vi/glossary/agent/) lập trình hay nghiên cứu tích lũy các lần đọc file, log và kết quả tool cũ. Mỗi thứ đều có thể là đoạn gây nhiễu. Độ chính xác có thể tụt từ rất lâu trước khi [context window](https://broadrouter.com/vi/glossary/context-window/) đầy.
-   **Chi phí và độ trễ.** Prompt dài hơn cũng tốn nhiều token input hơn và xử lý lâu hơn, nên cắt gọn có lợi ở cả ba mặt cùng lúc.
-   **Context dài so với truy xuất.** Gửi cả kho tài liệu thì đơn giản, nhưng [RAG](https://broadrouter.com/vi/glossary/rag/) chỉ gửi các chunk liên quan nên giữ được đoạn gây nhiễu ở ngoài.

## Trên BroadNet Inference

DeepSeek V4.1 Flash và GLM 5.3 của BroadNet nhận tới 1.048.576 token, còn Qwen3.8 27B nhận tới 262.144. BroadNet không cắt context của bạn, nên bạn gửi gì thì model đọc nấy. Hãy coi giới hạn là trần, không phải mục tiêu. [Hướng dẫn context window 1 triệu token](https://broadrouter.com/vi/blog/million-token-context-window-guide/) bàn về khi nào dùng đầy window là đáng, và [quản lý context cho agent chạy lâu](https://broadrouter.com/vi/blog/long-running-agent-context-management/) trình bày các mẫu tóm tắt và cắt tỉa. [Công cụ tính context window](https://broadrouter.com/tools/context-window-calculator/) giúp ước lượng kích thước prompt trước khi gửi.

## Lỗi thường gặp

-   Dán mọi file vào “cho chắc”. Văn bản có liên quan nhưng không cần thiết chính là thứ mà các bài test đoạn gây nhiễu của Chroma sử dụng.
-   Test bằng một “cây kim” (needle) khớp từng chữ với câu hỏi. Câu hỏi thật hiếm khi như vậy.

## Câu hỏi thường gặp

### Context rot có giống lost in the middle không?

Hai khái niệm có liên quan. Lost in the middle nói về vị trí của dữ kiện then chốt trong prompt. Context rot nói về việc tổng độ dài input, các đoạn gây nhiễu và cấu trúc làm giảm độ chính xác nói chung.

### Context window lớn hơn có khắc phục được context rot không?

Không. Window lớn hơn cho phép gửi nhiều hơn, nhưng Chroma thấy hiệu năng giảm khi input dài ra ở mọi model họ thử. Hãy gửi thứ tác vụ cần, đừng gửi mọi thứ vừa được.

### Agent tránh context rot bằng cách nào?

Bằng cách giữ context làm việc ngắn: tóm tắt các lượt cũ, bỏ đầu ra tool đã cũ, và nạp file khi cần thay vì nạp hết một lúc.

## Xem thêm

-   [Context window (cửa sổ ngữ cảnh)](https://broadrouter.com/vi/glossary/context-window/) (thuật ngữ)
-   [Lost in the middle (lạc ở giữa)](https://broadrouter.com/vi/glossary/lost-in-the-middle/) (thuật ngữ)
-   [RAG (tạo sinh tăng cường truy xuất)](https://broadrouter.com/vi/glossary/rag/) (thuật ngữ)
-   [AI agent (tác tử AI)](https://broadrouter.com/vi/glossary/agent/) (thuật ngữ)
-   [Token đầu vào từ cache (cached input tokens)](https://broadrouter.com/vi/glossary/cached-input-tokens/) (thuật ngữ)
-   [Context engineering (kỹ thuật quản lý context)](https://broadrouter.com/vi/glossary/context-engineering/) (thuật ngữ)
-   [Context compaction (nén context)](https://broadrouter.com/vi/glossary/context-compaction/) (thuật ngữ)
-   [Khi nào context window 1M token đáng dùng (và khi nào không)](https://broadrouter.com/vi/blog/million-token-context-window-guide/) (bài viết)
-   [Quản lý context cho agent chạy dài với cửa sổ 1M token](https://broadrouter.com/vi/blog/long-running-agent-context-management/) (bài viết)
-   [Long context và RAG: khi 1M token thay được vector DB](https://broadrouter.com/vi/blog/long-context-vs-rag/) (bài viết)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-context-rot&utm_content=page-cta) ·

**Nguồn**

-   [Hong, Troynikov và Huber, Context Rot: How Increasing Input Tokens Impacts LLM Performance (báo cáo kỹ thuật của Chroma, 2025)](https://www.trychroma.com/research/context-rot)
-   [Liu và cộng sự, Lost in the Middle: How Language Models Use Long Contexts (arXiv)](https://arxiv.org/abs/2307.03172)
-   [Tài liệu tham chiếu API BroadNet Inference, model ID và context (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-context-rot&utm_content=sources#models)
