Phần lớn các danh sách kiểu “cắt 70% hóa đơn LLM” trộn lời khuyên tốt với những con số chẳng ai đo. Checklist này sắp theo thứ tự việc cần làm trước, và mọi con số đều lấy từ một file giá hoặc tài liệu của chính nhà cung cấp. Bước nào có bài viết chuyên sâu trên trang này thì có liên kết tới đó. Giá BroadNet bên dưới lấy từ file giá của họ, đồng bộ ngày 2026-11-14.
Điều gì quyết định hóa đơn API LLM?
Gần như mọi hóa đơn đều do bốn con số quyết định:
- Token đầu vào mới. Prompt, trừ đi phần đọc từ cache.
- Token đầu vào từ cache. Phần đầu lặp lại, tính theo giá thấp hơn.
- Token đầu ra. Câu trả lời, cộng thêm token suy luận ở các model có suy nghĩ.
- Số request. Mỗi lần gọi, kể cả mỗi lần retry, đều bị tính riêng.
Đầu ra là đơn vị đắt nhất. Trên các model chat của BroadNet, giá cho 1 triệu token:
| Model | Đầu vào | Đầu vào từ cache | Đầu ra |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | không công bố | $0.22 |
Vậy các đòn bẩy là: gửi ít token mới hơn, đọc từ cache nhiều hơn, sinh ít hơn và gọi ít hơn. Bài giá API LLM hoạt động thế nào giải thích chi tiết từng đơn vị.
Tóm tắt checklist
| Bước | Thay đổi gì | Giảm được gì | Công sức |
|---|---|---|---|
| 1. Đo lường | Chỉ ghi log | Chưa giảm gì; cho thấy nên cắt ở đâu | Thấp |
| 2. Cache phần đầu prompt | Thứ tự prompt | Giá đầu vào | Thấp |
| 3. Rút gọn prompt | Nội dung prompt | Token đầu vào | Trung bình |
| 4. Giới hạn đầu ra và suy luận | Cài đặt request | Token đầu ra | Thấp |
| 5. Chọn model vừa đủ | Lựa chọn model | Mọi mức giá | Trung bình |
| 6. Batch hoặc dời việc | Lịch chạy | Giá mỗi token, nếu nhà cung cấp hỗ trợ | Trung bình |
| 7. Cache câu trả lời | Code ứng dụng | Toàn bộ request | Trung bình |
| 8. Giới hạn retry và vòng lặp | Code ứng dụng | Request lãng phí | Thấp |
| 9. Đặt hạn mức chi tiêu | Tài khoản và key | Hóa đơn mất kiểm soát | Thấp |
| 10. Kiểm tra điểm hòa vốn của gói cố định | Mô hình tính phí | Tổng hóa đơn khi dùng nhiều | Thấp |
1. Vì sao phải đo trước khi cắt bất cứ thứ gì?
Vì hóa đơn che giấu nguyên nhân. Hai request trông giống nhau có thể chênh nhau gấp mười lần về token. Mỗi chat completion trả về một khối usage với prompt_tokens, completion_tokens và, nếu nhà cung cấp có báo cáo, số token cache. Hãy ghi log các giá trị này theo tính năng và theo người dùng, không kèm nội dung prompt. Sau một tuần, bạn sẽ biết tính năng nào tốn nhất và nguyên nhân là đầu vào, cache miss hay đầu ra.
Bài ghi log mức dùng có che thông tin cá nhân có sẵn một schema log. Để ước lượng một tính năng trước khi ra mắt, hãy dùng công cụ tính chi phí API LLM hoặc phương pháp trong bài ước tính chi phí trước khi ra mắt.
2. Prompt caching giảm chi phí như thế nào?
Nhà cung cấp cache phần đầu của prompt được lặp lại y hệt. Lần gọi tiếp theo đọc phần đầu đó với giá cache. OpenAI bật cache mặc định cho các model được hỗ trợ, từ 1.024 token, và cho biết đầu vào từ cache được “discounted up to 95%” (bản dịch: giảm tới 95%) (kiểm tra ngày 2026-11-15). Trên BroadNet, DeepSeek V4.1 Flash tính đầu vào từ cache $0.0055 cho 1 triệu token, so với $0.175 cho đầu vào mới.
Quy tắc là: nội dung tĩnh đặt trước, nội dung thay đổi đặt sau. System prompt, rồi schema công cụ, rồi tài liệu dùng chung, rồi lịch sử, rồi câu hỏi mới. Một timestamp hay một danh sách công cụ bị xáo trộn ở đầu sẽ làm hỏng cache cho mọi thứ phía sau.
- Giải thích token đầu vào từ cache, kèm cách đọc chúng trong phản hồi.
- Cách cấu trúc prompt để phần đầu được cache.
- Mô phỏng tỷ lệ cache hit của bạn bằng công cụ tính prompt caching.
3. Cắt prompt ở đâu thì an toàn?
Hãy cắt những gì model không dùng. Những chỗ thường cắt được: system prompt dài viết như văn xuôi, nhiều ví dụ few-shot hơn mức tác vụ cần, schema của những công cụ mà bước đó không bao giờ gọi, JSON dài dòng trong khi một bảng gọn là đủ, và toàn bộ lịch sử chat trong khi một bản tóm tắt là đủ. Phần truy xuất (retrieval) cũng dễ phình ra: gửi mười đoạn (chunk) trong khi hai đoạn đã trả lời được câu hỏi vừa là vấn đề chi phí, vừa là vấn đề chất lượng.
Hãy test mỗi lần cắt trên một bộ đầu vào cố định, để prompt rẻ hơn không âm thầm làm hỏng câu trả lời. Bài giảm token prompt có số liệu đo được cho từng cách cắt này. Ngôn ngữ cũng ảnh hưởng: với phần lớn tokenizer, văn bản tiếng Ả Rập tốn nhiều token mỗi từ hơn tiếng Anh; xem số token mỗi từ của tiếng Ả Rập so với tiếng Anh.
4. Làm sao giới hạn đầu ra và suy luận?
Yêu cầu ít hơn, và đặt giới hạn. Hãy yêu cầu các trường JSON thay vì văn xuôi, giới hạn số từ thay vì “giải thích”, và không lặp lại câu hỏi. Sau đó đặt max_tokens để một câu trả lời chạy mãi sẽ dừng lại.
Model có suy nghĩ cần cẩn thận hơn. Tài liệu của BroadNet cho biết phần suy luận được tính vào max_tokens, nên giới hạn thấp có thể trả về câu trả lời rỗng. Hãy giữ từ 1.000 token trở lên, và đặt reasoning_effort là low cho các bước đơn giản. Trên key tính theo token, phần suy luận được tính như đầu ra. Bài token suy luận: vì sao bạn trả nhiều hơn những gì bạn thấy và cách sửa lỗi câu trả lời rỗng nói về cả hai mặt.
5. Làm sao chọn model rẻ hơn mà không mất chất lượng?
Hãy so sánh chi phí trên mỗi tác vụ thành công, không phải giá mỗi token. Chuẩn bị 50 đến 100 đầu vào thực tế kèm đầu ra mong đợi, chạy từng model ứng viên, rồi chia tổng chi phí cho số lần đạt. Một model rẻ hơn tính theo token nhưng hỏng một phần ba số lần có thể tốn hơn khi bạn tính cả retry và công người kiểm tra.
Hãy kiểm tra tính năng trước. Trên BroadNet, công cụ và đầu ra có cấu trúc chỉ được ghi trong tài liệu cho GLM 5.3 và Qwen3.8 27B. Gemma 4 VL 26B là model văn bản và hình ảnh nhỏ hơn của BroadNet; hãy xem giá của nó trong bảng trên cho các tác vụ đơn giản. Nhiều ứng dụng dùng model nhỏ cho bước dễ và model lớn hơn cho bước khó; bạn chọn model ngay trong code của mình. Bài cách đánh giá LLM trước khi chuyển đổi có sẵn kế hoạch test.
Đừng chờ model hiện tại giảm giá. Nhà cung cấp hiếm khi giảm giá một model đang có; khoản tiết kiệm thường đến cùng phiên bản mới. Xem lịch sử giá API của OpenAI, Anthropic và Google và những lần giảm giá API LLM lớn nhất.
6. Có thể batch hoặc dời những việc chưa gấp không?
Nếu nhà cung cấp hỗ trợ thì có, và mức giảm khá lớn. Tất cả kiểm tra ngày 2026-11-15:
| Nhà cung cấp | Mức giảm | Điều kiện |
|---|---|---|
| OpenAI Batch API | 50% so với gọi đồng bộ | Hoàn thành trong vòng 24 giờ; giới hạn tốc độ riêng |
| Anthropic Message Batches API | 50% | Bất đồng bộ; phần lớn batch xong trong chưa đầy một giờ |
| DeepSeek API, giờ thấp điểm | Giá giờ thấp điểm bằng một nửa giờ cao điểm | Giờ cao điểm là 01:00 đến 04:00 và 06:00 đến 10:00 UTC, thứ Hai đến thứ Sáu |
BroadNet Inference không có Batch API và không có giá giờ thấp điểm. Với job chạy qua đêm trên BroadNet, hãy chạy qua một trình chạy có thể tiếp tục trên endpoint thông thường, trong giới hạn của key. Bài xử lý batch LLM khi không có Batch API có sẵn code. Nếu job chạy nhiều giờ, một phiên giá cố định có thể rẻ hơn tiền token (bước 10).
7. Khi nào nên cache toàn bộ câu trả lời?
Khi cùng một câu hỏi với cùng đầu vào quay lại. Bot FAQ, phân loại các mục lặp lại và chạy lại pipeline sau sự cố đều lặp lại công việc. Một cache khớp chính xác, dùng model, prompt và cài đặt làm khóa, sẽ trả về câu trả lời đã lưu và bỏ qua lần gọi. Hãy đặt thời hạn hết hiệu lực để câu trả lời không bị cũ. Bài cache phản hồi LLM bằng Python có một bản cài đặt nhỏ.
8. Retry và vòng lặp lãng phí tiền như thế nào?
Một request được retry là một lần inference mới và bị tính phí lại trên key tính theo token. Chỉ retry với lỗi 429 và 5xx, dùng exponential backoff có jitter, và giới hạn số lần thử. Đừng bao giờ retry lỗi 400: cùng một request sai sẽ thất bại y như cũ.
Agent có thêm rủi ro thứ hai: một vòng lặp cứ gọi model mãi. Hãy giới hạn số bước mỗi tác vụ và dừng lại khi cùng một lệnh gọi công cụ bị lặp lại. Bài xử lý lỗi 429 và 10 cách giảm chi phí coding agent nói về cả hai.
9. Làm sao ngăn hóa đơn mất kiểm soát?
Cảnh báo chỉ báo cho bạn khi chuyện đã xảy ra. Hạn mức mới ngăn được nó. Hãy dùng số dư trả trước, mỗi ứng dụng một key để có thể thu hồi một key mà không dừng các ứng dụng khác, và danh sách IP cho phép trên key phía server. Trong code, hãy đặt ngân sách cho mỗi job và dừng khi tiêu hết. Bài kiểm soát chi tiêu API LLM trình bày các lớp kiểm soát, từ tài khoản đến từng request.
10. Khi nào gói giá cố định có lợi hơn tính phí theo token?
Khi một agent chạy gần như cả ngày. BroadNet bán DeepSeek V4.1 Flash theo token hoặc theo phiên: Full Moon $60 mỗi tháng, Orbit $15 mỗi tuần hoặc Meteor $1 mỗi giờ, không đo token. Mỗi phiên chạy một request tại một thời điểm.
Các kịch bản mẫu của BroadNet khi tính phí theo token:
| Khối lượng công việc | Chi phí theo token mỗi tháng | Lựa chọn rẻ hơn |
|---|---|---|
| Dự án phụ | $14.23 | trả theo mức dùng |
| Trợ lý dùng hằng ngày | $42.67 | trả theo mức dùng |
| Coding agent toàn thời gian | $65.40 | Full Moon |
| Agent chạy liên tục | $196.20 | Full Moon |
Với tỷ lệ cache hit 80% và 20 token đầu vào cho mỗi token đầu ra, điểm hòa vốn là khoảng 917 triệu token đầu vào và 46 triệu token đầu ra mỗi tháng. Dùng nhẹ thì trả theo token vẫn rẻ hơn. Xem phép tính hòa vốn đầy đủ, hoặc thử khối lượng của bạn trong công cụ so sánh giá cố định và giá theo token.
Nên bỏ qua những bước nào?
Một số lời khuyên phổ biến tốn nhiều hơn số tiền chúng tiết kiệm:
- Nén prompt đến mức hỏng. Khoản tiết kiệm ở đầu vào sẽ mất nếu chất lượng câu trả lời giảm và người dùng phải hỏi lại.
- Tóm tắt lịch sử ở mỗi lượt. Mỗi bản tóm tắt là một lần gọi thêm, và nó làm thay đổi phần đầu prompt nên cache bị miss. Hãy tóm tắt thưa thôi và nối phần còn lại vào sau.
- Chỉ chạy theo giá mỗi token thấp nhất. Giới hạn tốc độ, tính năng còn thiếu và tỷ lệ lỗi đều làm tăng chi phí.
- Tự host cho khối lượng nhỏ. GPU tính tiền theo giờ dù bận hay rảnh. Bài tự host so với chi phí API cho thấy điểm hòa vốn nằm ở đâu.
BroadNet Inference phù hợp ở đâu?
BroadRouter là website của chính BroadNet, nên hãy cân nhắc phần này với điều đó trong đầu. BroadNet Inference là API tương thích OpenAI với bốn model chat tính giá theo token, ba trong số đó có giá đầu vào từ cache, cùng một gói DeepSeek V4.1 Flash giá cố định cho agent dùng đều đặn. Dịch vụ không có Batch API hay giá giờ thấp điểm, nên với các job lớn có thể chờ, mức giảm batch của OpenAI hoặc Anthropic, hay giờ thấp điểm của DeepSeek, có thể rẻ hơn. Tài khoản mới nhận $5 tín dụng ban đầu, dùng được cho Gemma 4 VL 26B, cả hai model Transcribe và key Gemma theo giờ; DeepSeek, GLM và Qwen cần nạp tiền. Gói tự phục vụ không có SLA. Xem bảng giá hoặc so sánh các gói.
