BroadRouter
Bắt đầu

Dùng model mở trong coding agent: Aider, Cline, opencode, Codex

Đội ngũ BroadNet Inference · 4 phút đọc · Đăng ngày · Cập nhật

Mọi coding agent lớn đều nhận ba giá trị cho model tùy chỉnh: base URL, API key và model ID. Aider dùng OPENAI_API_BASE, Cline và Roo Code dùng provider OpenAI Compatible, opencode dùng provider tùy chỉnh, Continue dùng apiBase. Codex CLI giờ chỉ dùng Responses API, nên endpoint chat completions cần một proxy chuyển đổi như LiteLLM.

A developer working at a laptop with code on screen, at dusk.

Coding agent được xây cho một hai nhà cung cấp lớn, nhưng giờ gần như tất cả đều nhận endpoint tùy chỉnh tương thích OpenAI. Nhờ vậy bạn có thể chạy chúng bằng model mở: rẻ hơn cho mỗi tác vụ, thường có context lớn hơn, và trên hạ tầng do bạn chọn. Trang này là tấm bản đồ. Nó đưa ra tên thiết lập chính xác cho từng agent và dẫn tới hướng dẫn từng bước đầy đủ khi chúng tôi có.

Bạn cần gì từ nhà cung cấp?

Mọi agent dưới đây đều cần cùng ba giá trị:

Giá trị BroadNet Inference
Base URL https://inference.broadnet.ai/v1
API key Key trả theo mức dùng hoặc key của gói
Model ID broadnet/glm-5.3, broadnet/deepseek-v4.1-flash hoặc broadnet/qwen3.8-27b

Có thêm hai thiết lập quan trọng với mọi agent: context window và số token đầu ra tối đa. Agent không tự phát hiện được chúng với model ID tùy chỉnh, nên sẽ đoán. Hãy đặt theo trang model.

Từng agent: các thiết lập chính xác

Agent Đặt ở đâu Field base URL Field model Hướng dẫn đầy đủ
Aider Biến môi trường OPENAI_API_BASE --model openai/<id> Hướng dẫn Aider
Cline Settings, API Provider: OpenAI Compatible Base URL Model Hướng dẫn Cline
Roo Code / Zoo Code Settings, API Provider: OpenAI Compatible Base URL Model Hướng dẫn Roo Code
opencode opencode.jsonc, providers settings.baseURL models.<key>.modelID Hướng dẫn opencode
Continue config.yaml, provider: openai apiBase model Hướng dẫn Continue
Codex CLI config.toml, [model_providers.<id>] base_url model Xem bên dưới

Aider

export OPENAI_API_BASE=https://inference.broadnet.ai/v1
export OPENAI_API_KEY=your-key
aider --model openai/broadnet/deepseek-v4.1-flash

Tiền tố openai/ báo cho Aider dùng đường tương thích OpenAI. Aider có thể cảnh báo rằng nó không biết kích thước context của model; điều này bình thường với model nằm ngoài danh sách của nó.

Cline

Chọn OpenAI Compatible làm API Provider, rồi điền Base URL, API Key và Model. Mở Model Configuration và đặt context window cùng số token đầu ra tối đa. Cline có thể dùng model khác nhau cho chế độ Plan và Act, một cách rẻ để dành model đắt hơn cho việc lập kế hoạch.

Roo Code và Zoo Code

Repository của Roo Code được lưu trữ ngày 15 tháng 5 năm 2026, và README nói extension đã ngừng hoạt động. README hướng sang Zoo Code, bản fork do cộng đồng Roo Code khởi xướng để tiếp tục phát triển, và sang Cline. Các bản Roo Code đã cài dùng cùng các field OpenAI Compatible như Cline, và changelog của Roo cho thấy cách gọi tool kiểu XML cũ đã bị gỡ bỏ, nên hãy chọn model có ghi hỗ trợ tool calling gốc (native). Với Zoo Code, hãy làm theo tài liệu riêng của nó.

opencode

opencode thêm provider trong opencode.jsonc dưới providers, với package tương thích OpenAI và settings.baseURL. ID của BroadNet đã chứa dấu gạch chéo, nên hãy dùng một key ngắn như glm-5.3 và đặt ID đầy đủ vào modelID. Hãy tự đặt capabilities và limit; nếu không opencode sẽ dùng giá trị giả định.

Continue

models:
  - name: GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-key
    capabilities: [tool_use]
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000

Continue cần tool_use cho chế độ Agent. Hãy bỏ nó với model không có tool calling.

Codex CLI

Codex định nghĩa provider trong config.toml với base_url và env_key. Tham chiếu cấu hình hiện tại nói responses là giá trị wire_api duy nhất được hỗ trợ, và Codex giờ từ chối wire_api = "chat" bằng một lỗi. BroadNet Inference phục vụ /v1/chat/completions, nên Codex không gọi trực tiếp được. Cách xử lý là một proxy chuyển đổi. Tài liệu LiteLLM nói proxy của họ cung cấp /v1/responses và có thể nối nó qua chat completions:

  1. Chạy proxy LiteLLM với BroadNet làm backend tương thích OpenAI, và bật cầu nối chat completions như trang Responses API của LiteLLM mô tả.
  2. Trỏ base_url của Codex tới proxy.
  3. Test một tác vụ ngắn. Cầu nối có thể làm mất các tính năng chỉ có ở Responses, nên hãy kiểm tra tool call chạy trọn vẹn từ đầu đến cuối.

Nếu thấy quá nhiều khâu nối, opencode và Aider là các agent chạy trên terminal giao tiếp trực tiếp bằng chat completions.

Test endpoint trước khi test agent thế nào?

Khi agent lỗi, khó biết lỗi nằm ở agent hay endpoint. Hãy kiểm tra riêng endpoint trước, bằng một request có cung cấp một tool:

curl -s https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" -H "Content-Type: application/json" \
  -d '{"model":"broadnet/glm-5.3","max_tokens":2000,
       "messages":[{"role":"user","content":"Read the file README.md"}],
       "tools":[{"type":"function","function":{"name":"read_file",
         "parameters":{"type":"object","properties":{"path":{"type":"string"}},"required":["path"]}}}]}'

Nếu phản hồi có finish_reason: "tool_calls" và một lời gọi read_file, model và key đều ổn, và vấn đề còn lại nằm ở thiết lập của agent. Nếu model trả lời bằng văn bản thường, hãy chọn model khác cho agent dựa trên tool. Công cụ dựng request API viết sẵn request này cho bạn bằng curl, Python hoặc Node.

Thứ gì hay hỏng nhất?

  1. Sai model ID. Hãy sao chép chính xác, kể cả tiền tố broadnet/.
  2. Câu trả lời rỗng. Cả ba model lớn đều suy luận trước khi trả lời, và suy luận được tính vào giới hạn đầu ra. Hãy tăng giới hạn. Vì sao câu trả lời trả về rỗng.
  3. Lỗi tool call. Hãy dùng model có ghi hỗ trợ tool calling. BroadNet ghi hỗ trợ tool cho GLM 5.3 và Qwen3.8 27B, không ghi cho DeepSeek V4.1 Flash. Xem thêm ở tool calling với model mở.
  4. Lỗi 429. Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang chạy cùng lúc. Hai cửa sổ editor dùng chung một key sẽ cộng dồn. Xem lỗi và retry.
  5. Responses API là mặc định. Một số công cụ mặc định dùng API mới hơn của OpenAI. Hãy chuyển sang chat completions ở chỗ công cụ cho phép.

Nên chọn model nào cho từng agent được bàn trong model mở tốt nhất cho coding agent. Ba agent phổ biến nhất khác nhau thế nào có trong Cline vs Roo Code vs Aider.

BroadNet Inference phù hợp ở đâu

BroadNet Inference cho mọi agent ở trên một endpoint tương thích OpenAI cho GLM 5.3, DeepSeek V4.1 Flash và Qwen3.8 27B, với chính sách không lưu giữ dữ liệu. Các gói không giới hạn biến DeepSeek V4.1 Flash thành mức giá cố định $60 mỗi tháng cho mỗi phiên, hợp với Aider và các agent chạy cả ngày. BroadNet không thay thế trực tiếp được cho Codex CLI nếu không có proxy, và không host các tool phía nhà cung cấp như tìm kiếm web. Hãy bắt đầu với một key tại inference.broadnet.ai.

Câu hỏi thường gặp

Có dùng Codex CLI với API tương thích OpenAI được không?

Chỉ khi endpoint hỗ trợ Responses API. Tham chiếu cấu hình của Codex chỉ liệt kê responses là giá trị wire_api được hỗ trợ. Với nhà cung cấp chỉ có chat completions, hãy đặt một proxy như LiteLLM phía trước; tài liệu của LiteLLM mô tả cách nối /v1/responses qua /v1/chat/completions.

Roo Code còn được bảo trì không?

Không. Repository GitHub của nó được lưu trữ ngày 15 tháng 5 năm 2026 và README nói extension đã ngừng hoạt động. README hướng người dùng sang Zoo Code, mà README gọi là bản fork do cộng đồng Roo Code khởi xướng, và sang Cline.

Vì sao agent báo không tìm thấy model?

Model ID phải khớp chính xác với ID của nhà cung cấp. ID của BroadNet có tiền tố, ví dụ broadnet/glm-5.3. Trong Aider, bạn còn phải thêm tiền tố openai/ phía trước.

Vì sao agent trả về câu trả lời rỗng khi dùng model mở?

Model suy luận dùng một phần ngân sách đầu ra để suy nghĩ. Nếu số token đầu ra tối đa nhỏ, câu trả lời hiển thị không bao giờ bắt đầu. Hãy tăng lên vài nghìn token.

Nên dùng model mở nào cho coding agent?

Với agent làm việc qua tool call, hãy dùng model có ghi hỗ trợ tool calling, như GLM 5.3. Với Aider, DeepSeek V4.1 Flash chạy tốt và nằm trong các gói không giới hạn của BroadNet.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity