---
title: "LangChain ChatOpenAI dengan base_url tersuai | BroadRouter"
description: "Sambungkan ChatOpenAI LangChain ke BroadNet Inference dengan base_url dan api_key, dan ketahui apa yang disimpan dan dibuang LangChain daripada model penaakulan."
url: https://broadrouter.com/ms/guides/langchain-openai-base-url/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/langchain-openai-base-url/) (dikemas kini 2026-11-16).

# Cara guna LangChain dengan BroadNet Inference

Dikemas kini 2026-11-16

Pasang langchain-openai dan cipta ChatOpenAI dengan base\_url ditetapkan kepada https://inference.broadnet.ai/v1, api\_key kepada kunci BroadNet anda, dan ID model BroadNet seperti broadnet/glm-5.3. Rantaian invoke, stream dan tool calling kemudian berjalan melalui chat completions. Elakkan ciri yang hanya ada dalam Responses API, dan berikan ruang max\_tokens untuk penaakulan.

`ChatOpenAI` LangChain menerima sebarang endpoint melalui `base_url`. Ini berfungsi dengan BroadNet Inference kerana ia menggunakan bentuk chat completions yang standard. Jika anda memanggil API secara terus, lihat [panduan Python SDK](https://broadrouter.com/ms/guides/openai-python-sdk/).

## Pasang

Keluaran `langchain-openai` semasa (1.x) memerlukan Python 3.11 atau lebih baharu.

```bash
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
```

## Sambung

Dalam contoh di bawah, `max_tokens` ditetapkan kepada 2000; komen dalam kod mengingatkan bahawa penaakulan dikira dalam had ini.

```python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
```

`openai_api_base` ialah alias bagi `base_url`. Tanpa kedua-duanya, LangChain membaca `OPENAI_API_BASE`, dan kemudian klien `openai` di bawahnya membaca `OPENAI_BASE_URL`.

## Perkara yang perlu diketahui

-   **Teks penaakulan tidak disimpan.** Dokumentasi LangChain menyatakan `ChatOpenAI` mengikut spesifikasi rasmi OpenAI dan tidak menyimpan medan bukan standard seperti `reasoning_content`. Anda mendapat jawapan akhir, yang biasanya memang diperlukan oleh rantaian.
-   **Berikan ruang untuk penaakulan.** GLM 5.3, DeepSeek V4.1 Flash dan Qwen3.8 27B membuat penaakulan dahulu. `max_tokens` yang kecil boleh memulangkan jawapan kosong. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **Usage semasa penstriman.** Apabila anda mengkonfigurasi endpoint dengan `OPENAI_BASE_URL`, LangChain mematikan `stream_usage` secara lalai. Hantar `stream_usage=True` jika anda mahukan bilangan token semasa penstriman. Dokumentasi BroadNet menyatakan usage tiba dalam chunk terakhir apabila ia diminta.
-   **Kekal dengan chat completions.** BroadNet menyediakan `/v1/chat/completions`, bukan Responses API. Dokumentasi LangChain menyatakan `ChatOpenAI` bertukar kepada Responses API apabila anda menggunakan alatan terbina dalam OpenAI (web search, file search, code interpreter dan seumpamanya), keadaan perbualan (conversation state), atau parameter `reasoning`. Jangan gunakan semua itu, dan jangan tetapkan `use_responses_api=True`.
-   **Nama had token.** Dokumentasi LangChain menyatakan `max_tokens` ditukar kepada `max_completion_tokens` secara dalaman. Dokumentasi BroadNet menerangkan `max_tokens`. Jika had seolah-olah diabaikan, semak permintaan yang dihantar oleh aplikasi anda.

## Model mana untuk rantaian mana

| Rantaian | Model |
| --- | --- |
| Tool calling dan output berstruktur | `broadnet/glm-5.3` |
| Dokumen panjang dan ejen, pelan tanpa had | `broadnet/deepseek-v4.1-flash` |
| Teks atau imej bahasa Arab | `broadnet/qwen3.8-27b` |

[Lihat harga setiap model](https://broadrouter.com/ms/pricing/).

## Penyelesaian masalah

-   **401.** Kunci salah, tamat tempoh, atau elaun bayar ikut guna telah habis. Jika anda tidak menghantar `api_key`, LangChain menggunakan `OPENAI_API_KEY`, yang mungkin menyimpan kunci OpenAI.
-   **404 atau “not found”.** Pastikan `base_url` berakhir dengan `/v1` dan tiada apa-apa yang menghalakan panggilan ke Responses API (lihat di atas). Kemudian pastikan ID model sepadan tepat dengan ID BroadNet, termasuk awalan `broadnet/`. Model berbayar memerlukan tambah nilai; kredit $5 meliputi `broadnet/gemma-4-26b-a4b` dan dua model Transcribe.
-   **`content` kosong.** Penaakulan telah menggunakan bajet. Naikkan `max_tokens`. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **Panggilan alatan tidak pernah berlaku.** Gunakan `broadnet/glm-5.3` atau `broadnet/qwen3.8-27b`. Dokumentasi BroadNet menyenaraikan tools untuk dua model itu sahaja.
-   **429 dalam rantaian batch atau selari.** Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Tetapkan `max_concurrency` dalam konfigurasi runnable untuk `batch()`. Lihat [kod ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/)

Had kadar ialah had yang ditetapkan oleh API ke atas jumlah penggunaan klien dalam satu tempoh masa, seperti permintaan seminit atau token seminit. Permintaan yang melebihi had ditolak, biasanya dengan HTTP 429 Too Many Requests, sehingga penggunaan turun semula di bawahnya.

[Kredit prabayar (prepaid credit)](https://broadrouter.com/ms/glossary/prepaid-credit/)

Kredit prabayar ialah wang yang ditambah ke akaun API sebelum digunakan. Setiap permintaan menolak kosnya daripada baki, dan apabila baki habis, permintaan bermeter berhenti sehingga anda menambah nilai. Ia mengehadkan perbelanjaan kepada jumlah yang telah anda bayar.

[Output berstruktur (structured output)](https://broadrouter.com/ms/glossary/structured-output/)

Output berstruktur ialah ciri API LLM yang mengehadkan balasan model kepada format yang ditetapkan oleh pembangun, biasanya JSON Schema, supaya kod boleh menghuraikannya dengan boleh dipercayai. Ia lebih ketat daripada JSON mode, yang menjamin JSON yang sah tetapi bukan bentuk tertentu.

## Soalan lazim

### Patutkah saya menggunakan base\_url atau openai\_api\_base dalam ChatOpenAI?

Kedua-duanya boleh. openai\_api\_base ialah alias bagi base\_url. Jika kedua-duanya tidak dihantar, LangChain menyemak OPENAI\_API\_BASE, kemudian klien openai membaca OPENAI\_BASE\_URL.

### Bolehkah saya menetapkan endpoint BroadNet dengan pembolehubah persekitaran sahaja?

Boleh. Tetapkan OPENAI\_BASE\_URL kepada https://inference.broadnet.ai/v1 dan OPENAI\_API\_KEY kepada kunci BroadNet anda, kemudian cipta ChatOpenAI dengan ID model sahaja. Hantar stream\_usage=True jika anda mahukan bilangan token semasa penstriman.

### Mengapakah LangChain membuang reasoning\_content daripada respons BroadNet?

Dokumentasi LangChain menyatakan ChatOpenAI mengikut spesifikasi rasmi OpenAI dan tidak mengekstrak medan bukan standard seperti reasoning\_content. Anda masih mendapat jawapan akhir dalam content.

### Adakah ChatOpenAI dengan BroadNet menyokong tool calling?

Ya, melalui bind\_tools, pada model yang disenaraikan oleh BroadNet dengan tools. Gunakan broadnet/glm-5.3 atau broadnet/qwen3.8-27b untuk tool calling dan with\_structured\_output.

## Panduan berkaitan

-   [Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/)
-   [Jalankan OpenAI Agents SDK pada BroadNet Inference](https://broadrouter.com/ms/guides/openai-agents-sdk-custom-provider/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-langchain-openai-base-url&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi LangChain, integrasi ChatOpenAI (disemak 2026-11-14)](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI, pakej langchain-openai (1.8, Python 3.11+, disemak 2026-11-14)](https://pypi.org/project/langchain-openai/)
-   [Kod sumber langchain-openai, penentuan base URL ChatOpenAI (disemak 2026-11-16)](https://github.com/langchain-ai/langchain/blob/master/libs/partners/openai/langchain_openai/chat_models/base.py)
-   [Rujukan API BroadNet Inference (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-langchain-openai-base-url&utm_content=sources)
