BroadRouter
Mulai

Base URL API kompatibel OpenAI: 14 penyedia, sudah dicek

Oleh tim BroadNet Inference · 6 menit baca · Dipublikasikan

API yang kompatibel dengan OpenAI memungkinkan Anda tetap memakai SDK OpenAI dan hanya mengganti dua hal: base_url dan kunci API. Base URL berbeda di setiap penyedia, misalnya https://api.groq.com/openai/v1 untuk Groq, https://openrouter.ai/api/v1 untuk OpenRouter, dan https://inference.broadnet.ai/v1 untuk BroadNet Inference. Path, ID model, dan parameter yang didukung tetap berbeda, jadi uji satu permintaan sebelum pindah.

API yang kompatibel dengan OpenAI menerima bentuk permintaan yang sama dengan API OpenAI, sehingga SDK OpenAI resmi tetap berfungsi setelah Anda mengganti base_url dan kunci API. Bagian sulitnya, setiap penyedia meletakkan endpoint-nya di tempat yang sedikit berbeda. Tabel di bawah mencantumkan 14 penyedia, masing-masing dibaca dari dokumentasi resmi penyedia pada 15 November 2026.

Apa base URL setiap penyedia yang kompatibel dengan OpenAI?

Penyedia Base URL Yang tercantum di dokumentasi kompatibilitas OpenAI-nya Perbedaan yang disebut dokumentasi
OpenAI https://api.openai.com/v1 Semuanya; ini acuannya Default SDK jika tidak ada yang diatur
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (Terjemahan BroadRouter: “terutama ditujukan untuk menguji dan membandingkan kemampuan model”); strict diabaikan; input audio dan file mengembalikan 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions, embeddings, pembuatan gambar, models, batch Dukungan library OpenAI “still in beta” (Terjemahan BroadRouter: “masih beta”); Responses API tidak tercantum
DeepSeek https://api.deepseek.com Chat completions Tanpa path versi; URL terpisah berformat Anthropic di /anthropic
Groq https://api.groq.com/openai/v1 Chat completions, Responses API; catatan tentang transkripsi audio logprobs, logit_bias, top_logprobs, messages[].name mengembalikan 400; n harus 1; tidak ada transkrip srt atau vtt
Together AI https://api.together.ai/v1 Chat, completions, gambar, speech, transkripsi, models, Responses Inferensi khusus AS di https://us-api.together.ai/v1; embeddings hanya di endpoint khusus (dedicated)
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions ID model seperti accounts/fireworks/models/…; menurunkan max_tokens agar muat di konteks alih-alih mengembalikan error, kecuali diminta lain
DeepInfra https://api.deepinfra.com/v1/openai Chat completions; klien Responses memakai base yang sama Embeddings, gambar, dan speech didokumentasikan di halaman terpisah
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions Referensi API-nya tidak menyebut dirinya kompatibel dengan OpenAI; uji sebelum mengandalkannya
OpenRouter https://openrouter.ai/api/v1 Chat completions Header opsional HTTP-Referer dan X-OpenRouter-Title untuk peringkatnya
xAI https://api.x.ai/v1 Responses API Panduannya menyebut “The Responses API is the preferred way of interacting with our models” (Terjemahan BroadRouter: “Responses API adalah cara yang disarankan untuk berinteraksi dengan model kami”)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions Path v4, bukan v1
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapura) Chat completions ID workspace ada di host; kunci hanya berlaku di region tempat kunci dibuat, selain itu 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions, audio transcriptions ID model diawali broadnet/; lihat di bawah

Alibaba juga mencantumkan endpoint AS (Virginia) di us-east-1. Baris Beijing di halaman yang sama menampilkan host Singapura, sementara teks lain di halaman itu menyebut cn-beijing, jadi pastikan endpoint Tiongkok di konsol. Tabel ini adalah snapshot. Endpoint bisa berpindah: dokumentasi Anthropic dan Google sama-sama dialihkan ke alamat baru saat kami mengeceknya.

Untuk harga di seluruh penyedia ini, lihat halaman harga API LLM per penyedia.

Bagaimana cara mengatur base URL di kode?

Di Python, berikan base_url ke klien:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

Di Node, nama opsinya baseURL:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

Atau atur sekali untuk semua tool yang memakai SDK resmi. Kode sumber SDK Node mengisi default baseURL dari process.env['OPENAI_BASE_URL'], lalu https://api.openai.com/v1; README Python mendokumentasikan variabel yang sama:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

Panduan lengkap: OpenAI Python SDK, OpenAI Node SDK. Apa itu base URL dan kenapa tool memintanya, lihat glosarium.

Bagaimana cara menguji base URL baru dengan curl?

Kirim satu permintaan kecil sebelum mengubah kode aplikasi apa pun:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

Ganti base URL, kunci, dan model sesuai penyedia yang Anda uji. Respons 200 dengan array choices berarti path, kunci, dan ID model sudah benar. 404 biasanya berarti path salah; 401 berarti kunci atau region salah; 400 sering menyebut parameter yang ditolak penyedia. Panduan cepat curl berisi contoh lain, dan pembuat permintaan API menuliskan versi curl, Python, dan Node untuk Anda.

Apa kesalahan umum saat mengganti base_url?

  • Menempelkan endpoint lengkap. SDK menambahkan /chat/completions. Base URL yang sudah diakhiri path itu menghasilkan /chat/completions/chat/completions dan 404.
  • Menambah atau menghapus /v1 karena kebiasaan. Base DeepSeek yang terdokumentasi tidak memakai /v1, base Z.ai diakhiri /v4/, dan base Gemini diakhiri /v1beta/openai/. Salin string persis dari penyedia.
  • Tetap memakai nama model OpenAI. Nama gpt-… gagal di tempat lain. Setiap penyedia punya formatnya sendiri: deepseek-ai/DeepSeek-V4-Flash-0731 di DeepInfra, accounts/fireworks/models/… di Fireworks, broadnet/deepseek-v4.1-flash di BroadNet.
  • Mengirim parameter yang ditolak atau diabaikan penyedia. Groq mengembalikan 400 untuk logprobs; lapisan Anthropic diam-diam mengabaikan seed, logit_bias, dan reasoning_effort. Parameter yang diabaikan diam-diam lebih buruk daripada error, karena tidak ada yang memberi tahu Anda.
  • Menganggap field respons sama. Lapisan Anthropic mengembalikan prompt_tokens_details kosong, sehingga laporan token cache tidak ada. Fireworks menaruh usage streaming di chunk terakhir, yang mungkin tidak dideklarasikan di tipe SDK.
  • Menganggap semua endpoint tersedia. “Kompatibel dengan OpenAI” biasanya berarti chat completions. Embeddings, audio, pembuatan gambar, dan Responses API adalah soal terpisah, seperti terlihat di tabel.
  • Mencampur region. Kunci Alibaba terikat pada satu region, dan Together menyediakan host terpisah khusus AS. Kunci yang valid di host yang salah tetap gagal.

Daftar lengkap sebelum pindah ada di checklist migrasi API kompatibel OpenAI.

Endpoint apa saja yang didukung BroadNet Inference?

Referensi API BroadNet mendokumentasikan dua endpoint model di https://inference.broadnet.ai/v1, ditambah GET /v1/models untuk metadata katalog:

Endpoint Model
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 bahasa)

Artinya dalam praktik:

  • Tidak ada embeddings, pembuatan gambar, atau Responses API yang didokumentasikan. Tool yang memerlukan salah satunya butuh penyedia kedua untuk bagian itu.
  • Tool calling dan output terstruktur didokumentasikan untuk GLM 5.3 dan Qwen3.8 27B.
  • Gambar dikirim sebagai URL data: di dalam bagian konten image_url, pada DeepSeek V4.1 Flash, Qwen3.8 27B, dan Gemma 4 VL 26B.
  • Model penalaran (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menghitung penalaran dalam max_tokens. Sisakan 1.000 token atau lebih, atau atur reasoning_effort ke low, seperti saran dokumentasinya; lihat kenapa model penalaran mengembalikan jawaban kosong.
  • Daftar model memang menjawab saat kami memanggil GET /v1/models pada 15 November 2026, tetapi endpoint itu tidak ada di daftar endpoint yang terdokumentasi, jadi jangan membangun sesuatu di atasnya.
  • Batas pada kunci bayar sesuai pemakaian adalah 30 permintaan per menit dan 4 permintaan bersamaan.

Harga per 1 juta token: DeepSeek V4.1 Flash $0.175 input dan $0.52 output, Gemma 4 VL 26B $0.10 dan $0.22. DeepSeek V4.1 Flash juga dijual sebagai paket harga tetap seharga $60 per bulan per sesi, satu permintaan dalam satu waktu.

Perlukah Anda menyalurkan beberapa penyedia lewat satu base URL?

Jika aplikasi Anda memanggil beberapa penyedia ini, proxy seperti LiteLLM memberi kode Anda satu base URL dan memetakan nama model ke setiap upstream. Anda yang menentukan pemetaannya; tidak ada yang berpindah penyedia untuk Anda kecuali Anda sendiri mengatur fallback. Failover API LLM menunjukkan caranya, di klien atau di LiteLLM. Panduan proxy LiteLLM menunjukkan entri BroadNet. Untuk latar belakang istilahnya, lihat API kompatibel OpenAI.

Posisi BroadNet Inference

BroadNet cocok jika kode Anda sudah memakai chat completions dan Anda menginginkan model terbuka, speech-to-text bahasa Arab dan multibahasa, atau sesi DeepSeek harga tetap dalam satu kunci. Tidak cocok jika Anda membutuhkan embeddings, Responses API, atau pembuatan gambar dari penyedia yang sama; Together AI dan Gemini mendokumentasikan lebih banyak bagian dari permukaan API OpenAI. Cocokkan tabel kami dengan dokumentasi setiap penyedia sebelum rilis, karena URL dan daftar endpoint ini bisa berubah.

Pertanyaan umum

Apa base URL API OpenAI?

https://api.openai.com/v1. SDK Node resmi memakainya jika Anda tidak mengatur baseURL maupun variabel lingkungan OPENAI_BASE_URL.

Apakah base_url harus diakhiri /v1 atau /chat/completions?

Akhiri sesuai dokumentasi penyedia, biasanya /v1. SDK menambahkan /chat/completions sendiri, jadi base URL yang sudah diakhiri /chat/completions akan menghasilkan 404.

Bisakah saya mengatur base URL lewat variabel lingkungan?

Bisa. Kedua SDK OpenAI resmi membaca OPENAI_BASE_URL, begitu juga banyak tool yang dibangun di atasnya. Atur OPENAI_API_KEY bersamaan, dan cek dokumentasi setiap tool, karena sebagian memakai nama variabelnya sendiri.

Apakah API Claude kompatibel dengan OpenAI?

Sebagian. Anthropic menyediakan https://api.anthropic.com/v1/ untuk SDK OpenAI, tetapi menyebut lapisan itu terutama untuk menguji dan membandingkan model, bukan jalur produksi jangka panjang. Lapisan ini mengabaikan strict pada tools dan menolak input audio serta file.

Endpoint apa saja yang didukung BroadNet Inference?

Dokumentasinya mencantumkan POST /v1/chat/completions dan POST /v1/audio/transcriptions. Embeddings, pembuatan gambar, dan Responses API tidak tercantum.

Kenapa permintaan saya berhasil di OpenAI tetapi gagal di penyedia lain?

Biasanya karena format ID model salah, atau ada parameter yang ditolak penyedia. Groq, misalnya, mengembalikan 400 untuk logprobs, logit_bias, top_logprobs, dan messages[].name. Hapus parameter opsional lalu coba lagi dengan ID model persis dari penyedia.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity