Mọi request mà SDK gửi đi đều là base URL cộng với một đường dẫn. Đặt đúng base URL thì phần còn lại của client chạy mà không cần sửa gì.
Cách hoạt động
Client ghép hai phần:
| Phần | Ví dụ |
|---|---|
| Base URL | https://inference.broadnet.ai/v1 |
| Đường dẫn endpoint | /chat/completions |
| URL request đầy đủ | https://inference.broadnet.ai/v1/chat/completions |
Trong code, tên tham số tùy thuộc vào thư viện:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Cả hai SDK chính thức đều dùng biến môi trường OPENAI_BASE_URL làm phương án dự phòng, và dùng địa chỉ của chính OpenAI khi không có gì được đặt. Các công cụ khác dùng những tên như api_base hoặc OPENAI_API_BASE.
Vì sao quan trọng
Base URL là thứ biến API tương thích OpenAI thành một thay đổi thay thế trực tiếp. Nó cũng quyết định prompt của bạn đi đâu và ai tính tiền bạn. Một giá trị sai có thể gửi traffic, cùng với API key của bạn, đến nhầm nhà cung cấp. Hãy để nó trong cấu hình cạnh key, đừng hard-code ở nhiều chỗ.
Router cũng dùng cùng ý tưởng này: bạn trỏ base URL đến router thay vì đến một nhà cung cấp model.
Trên BroadNet Inference
Base URL là https://inference.broadnet.ai/v1 cho mọi model: chat, vision và chuyển giọng nói thành văn bản. Chat gửi đến /chat/completions và chép lời gửi đến /audio/transcriptions. Hướng dẫn nhanh với curl trình bày request đầu tiên, và hướng dẫn LangChain cho thấy thiết lập này nằm ở đâu trong một framework.
Lỗi thường gặp
- Thiếu
/v1.https://inference.broadnet.aikhông có/v1khiến SDK gặp lỗi 404. - Lặp đường dẫn. Dán cả endpoint đầy đủ, như
.../v1/chat/completions, làm base URL sẽ khiến SDK gọi.../chat/completions/chat/completions. - Biến môi trường còn sót lại. Một
OPENAI_BASE_URLcũ trong shell sẽ ghi đè giá trị bạn mong đợi. Hãy in nó ra khi request đi nhầm chỗ. - HTTP thường. Luôn dùng
https://. Bearer key phải được truyền qua TLS. - Đổi URL nhưng không đổi model. Mỗi nhà cung cấp có model ID riêng, như
broadnet/deepseek-v4.1-flash.
Chuyển cả một ứng dụng? Hãy làm theo checklist chuyển đổi.