Ang bawat request ng SDK ay ang base URL na dinugtungan ng isang path. Kapag tama ang base URL, gagana nang walang binabago ang natitirang bahagi ng client.
Paano ito gumagana
Pinagdurugtong ng client ang dalawang bahagi:
| Bahagi | Halimbawa |
|---|---|
| Base URL | https://inference.broadnet.ai/v1 |
| Endpoint path | /chat/completions |
| Buong request URL | https://inference.broadnet.ai/v1/chat/completions |
Sa code, depende sa library ang pangalan ng parameter:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Bumabalik ang dalawang opisyal na SDK sa OPENAI_BASE_URL environment variable, at sa sariling address ng OpenAI kapag walang naka-set. Ibang pangalan ang gamit ng ibang tool, gaya ng api_base o OPENAI_API_BASE.
Bakit ito mahalaga
Ang base URL ang dahilan kung bakit simpleng palit lang ang paglipat sa isang OpenAI-compatible API. Ito rin ang nagpapasya kung saan pupunta ang mga prompt mo at kung sino ang maniningil sa iyo. Kapag mali ang value, puwedeng mapunta ang traffic, pati ang API key mo, sa maling provider. Itago ito sa configuration katabi ng key, hindi naka-hard-code sa iba’t ibang lugar.
Ganito rin ang ideya sa mga router: itinuturo mo ang base URL sa router sa halip na sa isang model provider.
Sa BroadNet Inference
https://inference.broadnet.ai/v1 ang base URL para sa bawat model: chat, vision at speech-to-text. Pumupunta ang chat sa /chat/completions at ang transcription sa /audio/transcriptions. Ipinapakita ng curl quickstart ang unang request, at ipinapakita ng gabay sa LangChain kung saan makikita ang setting sa isang framework.
Mga karaniwang pagkakamali
- Walang
/v1. Nagdudulot ng 404 error mula sa SDK anghttps://inference.broadnet.aina walang/v1. - Dobleng path. Kapag ipinaste ang buong endpoint, gaya ng
.../v1/chat/completions, bilang base URL, tatawagin ng SDK ang.../chat/completions/chat/completions. - Naiwang environment variable. Nao-override ng lumang
OPENAI_BASE_URLsa shell mo ang inaasahan mo. I-print ito kapag sa maling lugar pumupunta ang mga request. - Plain HTTP. Laging gamitin ang
https://. Kailangang dumaan sa TLS ang mga bearer key. - Pinalitan ang URL pero hindi ang model. May sariling model ID ang bawat provider, gaya ng
broadnet/deepseek-v4.1-flash.
Ililipat mo ba ang buong app? Sundan ang migration checklist.