BroadRouter

Dùng MCP server với model tương thích OpenAI (mọi nhà cung cấp)

Đội ngũ BroadNet Inference · 4 phút đọc · Đăng ngày · Cập nhật

MCP không phụ thuộc model. MCP client trong ứng dụng liệt kê công cụ của từng server, đưa chúng cho model như công cụ function calling thông thường, và chạy tools/call khi model yêu cầu. Mọi model tương thích OpenAI có tool calling ổn định đều dùng được MCP server. Hãy cấu hình trong Cline, Continue, opencode hoặc n8n, hoặc nối bằng khoảng 40 dòng Python.

Model Context Protocol (MCP) cho agent một cách chuẩn để tiếp cận công cụ: GitHub, cơ sở dữ liệu, hệ thống file, trình duyệt. Nhiều hướng dẫn MCP mặc định bạn dùng Claude hoặc GPT. Bạn không cần cái nào cả. Bài này giải thích vì sao MCP chạy được với mọi model tương thích OpenAI có hỗ trợ tool calling, cách thiết lập trong các client mà lập trình viên thực sự dùng, và cách nối MCP với model mở trong code của chính bạn.

Vì sao MCP chạy được với mọi model?

MCP nằm giữa ứng dụng của bạn và các tool server, không phải giữa ứng dụng và model. Tài liệu kiến trúc MCP mô tả ba vai trò:

  • Host: ứng dụng AI, như một extension của trình soạn thảo hoặc script của bạn.
  • Client: một kết nối mà host duy trì tới mỗi MCP server.
  • Server: một chương trình cung cấp công cụ, tài nguyên và prompt, chạy cục bộ qua stdio hoặc từ xa qua Streamable HTTP.

Tài liệu nói rõ: MCP “does not dictate how AI applications use LLMs or manage the provided context.” (bản dịch: không quy định cách ứng dụng AI dùng LLM hay quản lý context được cung cấp.) Host liệt kê công cụ của từng server bằng tools/list, gộp chúng vào một registry mà model nhìn thấy được, và khi model yêu cầu một công cụ, host gửi tools/call tới đúng server.

Trên API tương thích OpenAI, “model nhìn thấy được” nghĩa là các công cụ được đưa vào mảng tools thông thường. Một công cụ MCP vốn đã có tên, mô tả và inputSchema, ánh xạ một-một sang định nghĩa hàm. Model không hề biết có MCP tham gia. Tất cả những gì nó cần là tool calling ổn định.

Nên dùng model nào cho MCP?

Model trên BroadNet Có liệt kê tool calling Context Mức phù hợp với MCP
GLM 5.3 Có 1.048.576 Lựa chọn mặc định tốt khi có nhiều server
Qwen3.8 27B Có 262.144 Tốt, có thêm đầu vào ảnh
DeepSeek V4.1 Flash Không liệt kê 1.048.576 Hãy test trước; có đầu vào ảnh
Gemma 4 VL 26B Không liệt kê 32.768 Không khuyến nghị

Để xem hai model hỗ trợ công cụ đặt cạnh nhau, xem GLM 5.3 và Qwen3.8 27B. Context quan trọng hơn nhiều người nghĩ. Mọi schema công cụ MCP đi kèm trong mỗi lần gọi. Tài liệu opencode viết: “MCP tools consume model context, so add only the servers you need.” (bản dịch: Công cụ MCP tiêu tốn context của model, vì vậy chỉ thêm các server bạn cần.) Bài ngân sách token của agent chỉ cách đo lượng này.

Thiết lập MCP trong các client phổ biến thế nào?

Client Nơi khai báo MCP server Transport Ghi chú
Cline Bảng MCP Servers, JSON mcpServers stdio, Streamable HTTP, SSE kiểu cũ Kiểu remote là "streamableHttp"
Continue mcpServers trong config.yaml hoặc .continue/mcpServers/ stdio, sse, streamable-http Chỉ ở chế độ Agent
opencode mcp.servers trong opencode.jsonc local, remote Dùng {env:NAME} cho bí mật
n8n Node MCP Client Tool gắn vào AI Agent Endpoint server từ xa (tài liệu mô tả một endpoint SSE) Chọn công cụ All, Selected hoặc All Except
OpenAI Agents SDK mcp_servers=[...] trên Agent stdio, Streamable HTTP, SSE Không dùng HostedMCPTool

Sau đó, trỏ model của client tới nhà cung cấp của bạn: các hướng dẫn Cline, Continue và opencode trình bày phần model cho BroadNet. Trong Continue, hãy nhớ khai báo capability tool_use, nếu không chế độ Agent sẽ không khả dụng.

Một ví dụ cho Continue, lấy từ tài liệu của nó:

mcpServers:
  - name: SQLite MCP
    type: stdio
    command: npx
    args: ["-y", "mcp-sqlite", "/path/to/your/database.db"]

Nối MCP với model mở bằng Python thế nào?

Nếu bạn tự xây agent, phần nối khá ngắn. Đoạn code này dùng Client của MCP Python SDK (phiên bản 2.0 trở lên; pip install "mcp>=2"), lớp này khởi chạy một stdio server khi nhận StdioServerParameters, cùng OpenAI SDK trỏ tới BroadNet:

import asyncio, json, os
from mcp import Client, StdioServerParameters
from mcp.types import TextContent
from openai import OpenAI

llm = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
server = StdioServerParameters(command="npx",
    args=["-y", "@modelcontextprotocol/server-filesystem", "."])

async def main(question):
    async with Client(server) as mcp:
        listed = await mcp.list_tools()
        tools = [{"type": "function", "function": {
                    "name": t.name, "description": t.description or "",
                    "parameters": t.input_schema}} for t in listed.tools]
        messages = [{"role": "user", "content": question}]
        for _ in range(8):
            r = llm.chat.completions.create(model="broadnet/glm-5.3",
                    messages=messages, tools=tools, max_tokens=4000)
            msg = r.choices[0].message
            messages.append(msg.model_dump(exclude_none=True))
            if not msg.tool_calls:
                return msg.content
            for call in msg.tool_calls:
                try:
                    res = await mcp.call_tool(call.function.name,
                                              json.loads(call.function.arguments or "{}"))
                    text = "\n".join(b.text for b in res.content if isinstance(b, TextContent))
                    out = f"Error: {text}" if res.is_error else text
                except Exception as e:
                    out = f"Error: {e}"
                messages.append({"role": "tool", "tool_call_id": call.id, "content": out})

print(asyncio.run(main("List the Markdown files here and summarize the README.")))

Với mcp 1.x thì không có lớp Client: hãy mở server bằng stdio_client(...), bọc nó trong một ClientSession, gọi initialize(), và đọc các trường camelCase inputSchema và isError. Có ba chi tiết quan trọng:

  1. Lỗi trở thành kết quả công cụ. MCP SDK báo lỗi công cụ bằng is_error thay vì gây exception. Hãy chuyển chúng lại cho model để nó điều chỉnh. Bài về tool calling của chúng tôi trình bày validate và retry.
  2. Giới hạn vòng lặp. Ở đây là tám bước. MCP server trả về kết quả lớn sẽ lấp đầy context rất nhanh.
  3. Lọc công cụ. Chỉ đưa ra những công cụ mà tác vụ cần. OpenAI Agents SDK có tool_filter cho việc này, còn n8n có Selected và All Except.

Bạn dùng OpenAI Agents SDK? Các lớp MCPServerStdio và MCPServerStreamableHttp của nó chạy trong tiến trình của bạn. Hãy kết hợp chúng với một custom provider như trong hướng dẫn Agents SDK. HostedMCPTool của nó chạy bên trong Responses API của OpenAI và chỉ hoạt động với model của OpenAI.

MCP trên model mở thường gặp lỗi gì?

  • Quá nhiều công cụ. Model chọn sai công cụ hoặc bỏ qua công cụ. Hãy giữ tập công cụ đang bật nhỏ gọn. Với công cụ của riêng bạn, công cụ tạo JSON schema tạo ra schema parameters gọn và phẳng.
  • Kết quả công cụ quá lớn. Một server trả về cả bảng cơ sở dữ liệu có thể vượt quá context window. Hãy giới hạn hoặc phân trang.
  • Phản hồi rỗng hoặc bị cắt. GLM 5.3 và Qwen3.8 27B suy luận trước, và phần suy luận được tính vào max_tokens. Hãy tăng giới hạn này.
  • Độ tin cậy. MCP server chạy code trên máy của bạn hoặc gọi dịch vụ bằng thông tin xác thực của bạn. Hãy cài các server bạn tin tưởng, và xác nhận các thao tác có ghi dữ liệu hoặc tiêu tiền.

BroadNet Inference phù hợp ở đâu?

BroadNet Inference cung cấp phía model: GLM 5.3 và Qwen3.8 27B có liệt kê tool calling, qua định dạng chat completions chuẩn mà mọi MCP client ở trên đều dùng được, và không lưu giữ dữ liệu (zero data retention) với prompt và đầu ra. Dịch vụ không chạy MCP server hay công cụ hosted cho bạn; client của bạn làm việc đó. Giá mỗi token của cả hai model có trên trang giá, còn key có tại inference.broadnet.ai.

Câu hỏi thường gặp

Có dùng MCP với model không phải Claude hay GPT được không?

Được. MCP là giao thức giữa ứng dụng của bạn và các tool server. Ứng dụng đưa công cụ cho bất kỳ model nào nó dùng, qua định dạng tool calling của model đó. Mọi model tương thích OpenAI có tool call hoạt động tốt đều dùng được công cụ MCP.

Model có cần hỗ trợ MCP không?

Không. Model chỉ cần function calling. MCP client trong ứng dụng của bạn lo phần giao thức, tức là liệt kê và gọi công cụ.

Coding agent nào hỗ trợ MCP với model tương thích OpenAI tùy chỉnh?

Cline, Continue ở chế độ Agent và opencode đều cho phép cấu hình MCP server và một model tương thích OpenAI tùy chỉnh. Zoo Code, dự án kế tục Roo Code, cũng ghi có hỗ trợ MCP.

Vì sao thêm MCP server khiến agent chậm và tốn kém hơn?

Định nghĩa công cụ của mỗi server được thêm vào prompt ở mỗi lần gọi model. Mười server, mỗi server chục công cụ, có thể thêm hàng nghìn token đầu vào mỗi bước. Chỉ bật những server mà tác vụ cần, hoặc lọc công cụ.

Công cụ MCP dạng hosted có dùng được với nhà cung cấp khác không?

Loại do OpenAI host thì không. Tài liệu OpenAI Agents SDK cho biết HostedMCPTool hoạt động với các model OpenAI hỗ trợ tích hợp MCP hosted của Responses API. Với nhà cung cấp khác, hãy dùng các lớp MCP server cục bộ của SDK.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity