BroadRouter
Mulakan

Base URL API serasi OpenAI: 14 penyedia, telah disemak

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan

API serasi OpenAI membolehkan anda mengekalkan SDK OpenAI dan menukar dua perkara sahaja: base_url dan kunci API. Base URL berbeza mengikut penyedia, contohnya https://api.groq.com/openai/v1 untuk Groq, https://openrouter.ai/api/v1 untuk OpenRouter dan https://inference.broadnet.ai/v1 untuk BroadNet Inference. Laluan, ID model dan parameter yang disokong masih berbeza, jadi uji satu permintaan sebelum bertukar.

API serasi OpenAI menerima bentuk permintaan yang sama seperti API OpenAI, jadi SDK rasmi OpenAI berfungsi selepas anda menukar base_url dan kunci API. Bahagian yang sukar ialah setiap penyedia meletakkan endpointnya di tempat yang sedikit berbeza. Jadual di bawah menyenaraikan 14, setiap satu dibaca daripada dokumentasi penyedia sendiri pada 15 November 2026.

Apakah base URL bagi setiap penyedia serasi OpenAI?

Penyedia Base URL Apa yang disenaraikan oleh dokumentasi keserasian OpenAI Keanehan yang dinyatakan dokumentasi
OpenAI https://api.openai.com/v1 Semuanya; ia rujukannya Lalai SDK apabila tiada yang ditetapkan
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (Terjemahan: terutamanya bertujuan untuk menguji dan membandingkan keupayaan model); strict diabaikan; input audio dan fail memulangkan 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions, embeddings, penjanaan imej, models, batch Sokongan pustaka OpenAI “still in beta” (Terjemahan: masih dalam beta); tiada Responses API disenaraikan
DeepSeek https://api.deepseek.com Chat completions Tiada laluan versi; URL format Anthropic berasingan di /anthropic
Groq https://api.groq.com/openai/v1 Chat completions, Responses API; nota tentang transkripsi audio logprobs, logit_bias, top_logprobs, messages[].name memulangkan 400; n mesti 1; tiada transkrip srt atau vtt
Together AI https://api.together.ai/v1 Chat, completions, imej, speech, transkripsi, models, Responses Inferens AS sahaja di https://us-api.together.ai/v1; embeddings hanya pada endpoint khusus
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions ID model seperti accounts/fireworks/models/…; menurunkan max_tokens supaya muat dalam konteks dan bukannya memulangkan ralat, kecuali diarahkan sebaliknya
DeepInfra https://api.deepinfra.com/v1/openai Chat completions; klien Responses menggunakan base yang sama Embeddings, imej dan speech didokumenkan di halaman berasingan
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions Rujukan API-nya tidak menyebut dirinya serasi OpenAI; uji sebelum bergantung padanya
OpenRouter https://openrouter.ai/api/v1 Chat completions Header pilihan HTTP-Referer dan X-OpenRouter-Title untuk kedudukannya
xAI https://api.x.ai/v1 Responses API Panduannya menyatakan “The Responses API is the preferred way of interacting with our models” (Terjemahan: Responses API ialah cara pilihan untuk berinteraksi dengan model kami)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions Laluan v4, bukan v1
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapura) Chat completions ID workspace dalam hos; kunci hanya berfungsi di rantau tempat ia dicipta, jika tidak 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions, audio transcriptions ID model bermula dengan broadnet/; lihat di bawah

Alibaba juga menyenaraikan endpoint AS (Virginia) di us-east-1. Baris Beijing di halaman yang sama menunjukkan hos Singapura sedangkan teks lain di halaman itu menamakan cn-beijing, jadi sahkan endpoint China di konsol. Jadual ini ialah gambaran pada satu masa. Endpoint berpindah: dokumentasi Anthropic dan Google kedua-duanya mengubah hala ke alamat baharu semasa kami menyemaknya.

Untuk harga merentas penyedia ini, lihat halaman harga API LLM mengikut penyedia.

Bagaimanakah anda menetapkan base URL dalam kod?

Dalam Python, hantar base_url kepada klien:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

Dalam Node, pilihannya ialah baseURL:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

Atau tetapkannya sekali untuk setiap alat yang menggunakan SDK rasmi. Kod sumber SDK Node menetapkan baseURL secara lalai kepada process.env['OPENAI_BASE_URL'], kemudian kepada https://api.openai.com/v1; README Python mendokumenkan pembolehubah yang sama:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

Panduan penuh: SDK Python OpenAI, SDK Node OpenAI. Untuk maksud base URL dan sebab alat memintanya, lihat glosari.

Bagaimanakah anda menguji base URL baharu dengan curl?

Hantar satu permintaan kecil sebelum anda mengubah sebarang kod aplikasi:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

Tukar base URL, kunci dan model mengikut penyedia yang anda uji. Respons 200 dengan tatasusunan choices bermaksud laluan, kunci dan ID model betul. 404 biasanya bermaksud laluan salah; 401 bermaksud kunci atau rantau salah; 400 sering menamakan parameter yang ditolak oleh penyedia. Mula pantas curl mempunyai lebih banyak contoh, dan pembina permintaan API menulis versi curl, Python dan Node untuk anda.

Apakah kesilapan biasa semasa menukar base_url?

  • Menampal endpoint penuh. SDK menambah /chat/completions. Base URL yang sudah berakhir dengannya menjadi /chat/completions/chat/completions dan menghasilkan 404.
  • Menambah atau membuang /v1 kerana kebiasaan. Base yang didokumenkan DeepSeek tiada /v1, Z.ai berakhir dengan /v4/ dan Gemini dengan /v1beta/openai/. Salin rentetan tepat penyedia.
  • Mengekalkan nama model OpenAI. Nama gpt-… gagal di tempat lain. Setiap penyedia ada format sendiri: deepseek-ai/DeepSeek-V4-Flash-0731 di DeepInfra, accounts/fireworks/models/… di Fireworks, broadnet/deepseek-v4.1-flash di BroadNet.
  • Menghantar parameter yang ditolak atau diabaikan penyedia. Groq memulangkan 400 untuk logprobs; lapisan Anthropic mengabaikan seed, logit_bias dan reasoning_effort secara senyap. Parameter yang diabaikan secara senyap lebih teruk daripada ralat, kerana tiada apa yang memberitahu anda.
  • Menganggap medan respons yang sama. Lapisan Anthropic memulangkan prompt_tokens_details yang kosong, jadi laporan token cache tiada. Fireworks meletakkan usage streaming dalam chunk terakhir, yang mungkin tidak diisytiharkan oleh jenis SDK.
  • Menganggap setiap endpoint wujud. “Serasi OpenAI” biasanya bermaksud chat completions. Embeddings, audio, penjanaan imej dan Responses API ialah soalan berasingan, seperti yang ditunjukkan jadual.
  • Mencampurkan rantau. Kunci Alibaba terikat pada rantau, dan Together menawarkan hos berasingan untuk AS sahaja. Kunci yang sah pada hos yang salah tetap gagal.

Senarai penuh sebelum bertukar ada dalam senarai semak migrasi API serasi OpenAI.

Endpoint manakah yang disokong oleh BroadNet Inference?

Rujukan API BroadNet mendokumenkan dua endpoint model di https://inference.broadnet.ai/v1, serta GET /v1/models untuk metadata katalog:

Endpoint Model
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 bahasa)

Maksudnya dalam praktik:

  • Tiada embeddings, penjanaan imej atau Responses API yang didokumenkan. Alat yang memerlukan salah satu daripadanya memerlukan penyedia kedua untuk bahagian itu.
  • Panggilan tool dan output berstruktur didokumenkan untuk GLM 5.3 dan Qwen3.8 27B.
  • Imej dihantar sebagai URL data: dalam bahagian kandungan image_url, pada DeepSeek V4.1 Flash, Qwen3.8 27B dan Gemma 4 VL 26B.
  • Model penaakulan (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) mengira penaakulan dalam max_tokens. Biarkan 1,000 token atau lebih, atau tetapkan reasoning_effort kepada low, seperti yang dinasihatkan dokumentasi; lihat mengapa model penaakulan memulangkan jawapan kosong.
  • Senarai model memberi respons apabila kami memanggil GET /v1/models pada 15 November 2026, tetapi ia tiada dalam senarai endpoint yang didokumenkan, jadi jangan bina di atasnya.
  • Had pada kunci bayar ikut guna ialah 30 permintaan seminit dan 4 serentak.

Harga bagi setiap 1M token: DeepSeek V4.1 Flash $0.175 input dan $0.52 output, Gemma 4 VL 26B $0.10 dan $0.22. DeepSeek V4.1 Flash juga dijual sebagai pelan harga tetap pada $60 sebulan setiap sesi, satu permintaan pada satu masa.

Patutkah anda menghalakan beberapa penyedia melalui satu base URL?

Jika aplikasi anda memanggil beberapa penyedia ini, proksi seperti LiteLLM memberi kod anda satu base URL dan memetakan nama model kepada setiap upstream. Anda yang memilih pemetaan; tiada apa yang menukar penyedia untuk anda melainkan anda sendiri mengkonfigurasi fallback. Failover API LLM menunjukkan caranya, dalam klien atau dalam LiteLLM. Panduan proksi LiteLLM menunjukkan entri BroadNet. Untuk latar belakang istilah ini, lihat API serasi OpenAI.

Kedudukan BroadNet Inference

BroadNet sesuai jika kod anda sudah menggunakan chat completions dan anda mahukan model terbuka, speech-to-text bahasa Arab dan berbilang bahasa, atau sesi DeepSeek kadar tetap pada satu kunci. Ia tidak sesuai jika anda memerlukan embeddings, Responses API atau penjanaan imej daripada penyedia yang sama; Together AI dan Gemini mendokumenkan lebih banyak bahagian permukaan OpenAI. Semak jadual kami dengan dokumentasi setiap penyedia sebelum anda melancarkan, kerana URL dan senarai endpoint ini berubah.

Soalan lazim

Apakah base URL API OpenAI?

https://api.openai.com/v1. SDK Node rasmi menggunakannya apabila anda tidak menetapkan baseURL mahupun pembolehubah persekitaran OPENAI_BASE_URL.

Patutkah base_url berakhir dengan /v1 atau /chat/completions?

Akhirinya di tempat dokumentasi penyedia mengakhirinya, biasanya /v1. SDK menambah /chat/completions sendiri, jadi base URL yang sudah berakhir dengan /chat/completions akan menghasilkan 404.

Bolehkah saya menetapkan base URL dengan pembolehubah persekitaran?

Boleh. Kedua-dua SDK rasmi OpenAI membaca OPENAI_BASE_URL, dan banyak alat yang dibina di atasnya juga begitu. Tetapkan OPENAI_API_KEY bersamanya, dan semak dokumentasi setiap alat, kerana sesetengahnya menggunakan nama pembolehubah sendiri.

Adakah API Claude serasi OpenAI?

Sebahagiannya. Anthropic menawarkan https://api.anthropic.com/v1/ untuk SDK OpenAI tetapi menyatakan lapisan itu terutamanya untuk menguji dan membandingkan model, bukan laluan pengeluaran jangka panjang. Ia mengabaikan strict pada tools dan menolak input audio dan fail.

Endpoint manakah yang disokong oleh BroadNet Inference?

Dokumentasinya menyenaraikan POST /v1/chat/completions dan POST /v1/audio/transcriptions. Ia tidak menyenaraikan embeddings, penjanaan imej atau Responses API.

Mengapakah permintaan saya berfungsi dengan OpenAI tetapi gagal pada penyedia lain?

Biasanya ID model dalam format yang salah, atau parameter yang ditolak oleh penyedia. Groq, contohnya, memulangkan 400 untuk logprobs, logit_bias, top_logprobs dan messages[].name. Buang parameter pilihan dan cuba semula dengan ID model tepat penyedia.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity