BroadRouter

Memakai server MCP dengan model kompatibel OpenAI (penyedia apa pun)

Oleh tim BroadNet Inference · 4 menit baca · Dipublikasikan · Diperbarui

MCP tidak bergantung pada model. Client MCP di aplikasi Anda mendaftar tool setiap server, meneruskannya ke model sebagai tool function calling biasa, dan menjalankan tools/call saat model memintanya. Model kompatibel OpenAI apa pun dengan tool calling yang andal bisa memakai server MCP. Konfigurasikan di Cline, Continue, opencode, atau n8n, atau jembatani dengan sekitar 40 baris Python.

Model Context Protocol (MCP) memberi agen cara standar untuk menjangkau tool: GitHub, database, file system, browser. Banyak tutorial MCP mengasumsikan Anda memakai Claude atau GPT. Anda tidak memerlukan keduanya. Artikel ini menjelaskan kenapa MCP bekerja dengan model kompatibel OpenAI apa pun yang mendukung tool calling, cara menyiapkannya di client yang benar-benar dipakai developer, dan cara menjembatani MCP ke model terbuka di kode Anda sendiri.

Kenapa MCP bisa bekerja dengan model apa pun?

MCP berada di antara aplikasi Anda dan server tool, bukan di antara aplikasi Anda dan model. Dokumentasi arsitektur MCP menjelaskan tiga peran:

  • Host: aplikasi AI, seperti ekstensi editor atau skrip Anda.
  • Client: satu koneksi yang dijaga host ke setiap server MCP.
  • Server: program yang menyediakan tool, resource, dan prompt, secara lokal lewat stdio atau secara remote lewat Streamable HTTP.

Dokumentasinya tegas: MCP “does not dictate how AI applications use LLMs or manage the provided context.” (Terjemahan BroadRouter: tidak mengatur bagaimana aplikasi AI memakai LLM atau mengelola konteks yang diberikan.) Host mendaftar tool setiap server dengan tools/list, menggabungkannya ke satu registry yang bisa dilihat model, dan ketika model meminta sebuah tool, host mengirim tools/call ke server yang tepat.

Di API yang kompatibel dengan OpenAI, “bisa dilihat model” berarti tool-tool itu masuk ke array tools biasa. Tool MCP sudah punya nama, deskripsi, dan inputSchema, yang dipetakan satu-satu ke definisi fungsi. Model tidak pernah tahu bahwa MCP terlibat. Yang dibutuhkannya hanyalah tool calling yang andal.

Model mana yang sebaiknya dipakai untuk MCP?

Model di BroadNet Tool calling tercantum Konteks Kecocokan untuk MCP
GLM 5.3 Ya 1.048.576 Pilihan default yang baik untuk banyak server
Qwen3.8 27B Ya 262.144 Baik, plus input gambar
DeepSeek V4.1 Flash Tidak tercantum 1.048.576 Uji dulu; input gambar
Gemma 4 VL 26B Tidak tercantum 32.768 Tidak direkomendasikan

Untuk perbandingan dua model yang mendukung tool, lihat GLM 5.3 vs Qwen3.8 27B. Konteks lebih penting daripada yang orang kira. Setiap skema tool MCP ikut terkirim di setiap panggilan. Dokumentasi opencode menyebut “MCP tools consume model context, so add only the servers you need.” (Terjemahan BroadRouter: tool MCP memakan konteks model, jadi tambahkan hanya server yang Anda perlukan.) Artikel anggaran token agen menunjukkan cara mengukurnya.

Bagaimana menyiapkan MCP di client yang umum?

Client Tempat server MCP Transport Catatan
Cline Panel MCP Servers, JSON mcpServers stdio, Streamable HTTP, SSE lama Tipe remote "streamableHttp"
Continue mcpServers di config.yaml atau .continue/mcpServers/ stdio, sse, streamable-http Hanya mode Agent
opencode mcp.servers di opencode.jsonc local, remote Pakai {env:NAME} untuk secret
n8n Node MCP Client Tool pada AI Agent Endpoint server remote (dokumentasinya menjelaskan endpoint SSE) Pilih tool All, Selected, atau All Except
OpenAI Agents SDK mcp_servers=[...] pada Agent stdio, Streamable HTTP, SSE Bukan HostedMCPTool

Lalu arahkan model di client ke penyedia Anda: panduan Cline, Continue, dan opencode membahas sisi model untuk BroadNet. Di Continue, jangan lupa capability tool_use, kalau tidak mode Agent tidak akan tersedia.

Contoh Continue, dari dokumentasinya:

mcpServers:
  - name: SQLite MCP
    type: stdio
    command: npx
    args: ["-y", "mcp-sqlite", "/path/to/your/database.db"]

Bagaimana menjembatani MCP ke model terbuka di Python?

Jika Anda membangun agen sendiri, jembatannya pendek. Contoh ini memakai Client dari MCP Python SDK (versi 2.0 atau lebih baru; pip install "mcp>=2"), yang menjalankan server stdio jika diberi StdioServerParameters, dan OpenAI SDK yang diarahkan ke BroadNet:

import asyncio, json, os
from mcp import Client, StdioServerParameters
from mcp.types import TextContent
from openai import OpenAI

llm = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
server = StdioServerParameters(command="npx",
    args=["-y", "@modelcontextprotocol/server-filesystem", "."])

async def main(question):
    async with Client(server) as mcp:
        listed = await mcp.list_tools()
        tools = [{"type": "function", "function": {
                    "name": t.name, "description": t.description or "",
                    "parameters": t.input_schema}} for t in listed.tools]
        messages = [{"role": "user", "content": question}]
        for _ in range(8):
            r = llm.chat.completions.create(model="broadnet/glm-5.3",
                    messages=messages, tools=tools, max_tokens=4000)
            msg = r.choices[0].message
            messages.append(msg.model_dump(exclude_none=True))
            if not msg.tool_calls:
                return msg.content
            for call in msg.tool_calls:
                try:
                    res = await mcp.call_tool(call.function.name,
                                              json.loads(call.function.arguments or "{}"))
                    text = "\n".join(b.text for b in res.content if isinstance(b, TextContent))
                    out = f"Error: {text}" if res.is_error else text
                except Exception as e:
                    out = f"Error: {e}"
                messages.append({"role": "tool", "tool_call_id": call.id, "content": out})

print(asyncio.run(main("List the Markdown files here and summarize the README.")))

Di mcp 1.x tidak ada kelas Client: buka server dengan stdio_client(...), bungkus dengan ClientSession, panggil initialize(), dan baca field camelCase inputSchema dan isError. Tiga detail penting:

  1. Error menjadi hasil tool. MCP SDK melaporkan kegagalan tool lewat is_error, bukan dengan memunculkan exception. Teruskan kembali agar model bisa menyesuaikan diri. Panduan tool calling kami membahas validasi dan retry.
  2. Batasi loop-nya. Delapan langkah di sini. Server MCP yang mengembalikan hasil besar cepat memenuhi konteks.
  3. Filter tool. Sediakan hanya tool yang dibutuhkan tugas tersebut. OpenAI Agents SDK menyediakan tool_filter untuk ini, dan n8n punya opsi Selected dan All Except.

Memakai OpenAI Agents SDK? Kelas MCPServerStdio dan MCPServerStreamableHttp miliknya berjalan di proses Anda. Gabungkan dengan penyedia kustom seperti di panduan Agents SDK kami. HostedMCPTool-nya berjalan di dalam Responses API OpenAI dan hanya bekerja dengan model OpenAI.

Apa yang sering salah dengan MCP pada model terbuka?

  • Terlalu banyak tool. Model memilih tool yang salah atau mengabaikan tool. Jaga agar set tool aktif tetap kecil. Untuk tool Anda sendiri, generator JSON schema menghasilkan skema parameters yang bersih dan datar.
  • Hasil tool yang besar. Server yang mengembalikan seluruh tabel database bisa melampaui context window. Batasi atau pakai paginasi.
  • Balasan kosong atau terpotong. GLM 5.3 dan Qwen3.8 27B bernalar dulu, dan penalaran dihitung ke dalam max_tokens. Naikkan batasnya.
  • Kepercayaan. Server MCP menjalankan kode di mesin Anda atau memanggil layanan dengan kredensial Anda. Pasang server yang Anda percayai, dan konfirmasi aksi yang menulis data atau mengeluarkan biaya.

Posisi BroadNet Inference

BroadNet Inference menyediakan sisi model: GLM 5.3 dan Qwen3.8 27B dengan tool calling tercantum, lewat format chat-completions standar yang bisa dipakai setiap client MCP di atas, dengan zero data retention untuk prompt dan output. BroadNet tidak menjalankan server MCP atau tool ter-hosting untuk Anda; itu tugas client Anda. Harga per token untuk kedua model ada di halaman harga, dan kunci API tersedia di inference.broadnet.ai.

Pertanyaan umum

Bisakah saya memakai MCP dengan model selain Claude atau GPT?

Bisa. MCP adalah protokol antara aplikasi Anda dan server tool. Aplikasi meneruskan tool ke model apa pun yang dipakainya lewat format tool calling model tersebut. Model kompatibel OpenAI apa pun yang tool call-nya berfungsi bisa memakai tool MCP.

Apakah modelnya harus mendukung MCP?

Tidak. Model hanya perlu mendukung function calling. Client MCP di aplikasi Anda yang mengerjakan urusan protokolnya, yaitu mendaftar tool dan memanggilnya.

Agen coding mana yang mendukung MCP dengan model kustom yang kompatibel OpenAI?

Cline, Continue dalam mode Agent, dan opencode semuanya memungkinkan Anda mengonfigurasi server MCP dan model kustom yang kompatibel OpenAI. Zoo Code, kelanjutan dari Roo Code, juga mencantumkan dukungan MCP.

Kenapa menambah server MCP membuat agen saya lebih lambat dan lebih mahal?

Definisi tool dari setiap server ditambahkan ke prompt di setiap panggilan model. Sepuluh server dengan masing-masing selusin tool bisa menambah ribuan token input per langkah. Aktifkan hanya server yang dibutuhkan tugas itu, atau filter tool-nya.

Apakah tool MCP ter-hosting bekerja dengan penyedia lain?

Tidak untuk yang di-hosting OpenAI. Dokumentasi OpenAI Agents SDK menyebut HostedMCPTool bekerja dengan model OpenAI yang mendukung integrasi MCP ter-hosting di Responses API. Pakai kelas server MCP lokal milik SDK untuk penyedia lain.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity