---
title: "Penyedia openai:chat promptfoo dengan apiBaseUrl tersuai"
description: "Jalankan eval promptfoo dan ujian model sebelah-menyebelah pada BroadNet Inference dengan penyedia openai:chat, apiBaseUrl dan apiKeyEnvar, serta grader."
url: https://broadrouter.com/ms/guides/promptfoo-openai-compatible/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/promptfoo-openai-compatible/) (dikemas kini 2026-11-16).

# Nilai model BroadNet dengan promptfoo

Dikemas kini 2026-11-16

Dalam promptfooconfig.yaml, tambah penyedia dengan id openai:chat:broadnet/glm-5.3 dan config yang menetapkan apiBaseUrl kepada https://inference.broadnet.ai/v1 dan apiKeyEnvar kepada BROADNET\_API\_KEY. Gunakan awalan openai:chat supaya promptfoo sentiasa memanggil Chat Completions, endpoint yang disediakan oleh BroadNet. Tetapkan max\_tokens sendiri, kerana had output lalai promptfoo ialah 1,024 token.

promptfoo ialah CLI sumber terbuka untuk menguji prompt, membandingkan model dan red-teaming aplikasi LLM. Penyedia OpenAI-nya berfungsi dengan gateway serasi OpenAI melalui `apiBaseUrl`. BroadNet Inference menyediakan chat completions di `https://inference.broadnet.ai/v1`, jadi anda boleh membandingkan model BroadNet sesama sendiri, atau dengan model yang sudah anda gunakan, daripada satu fail YAML. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi penyedia OpenAI promptfoo setakat keluaran 0.125.1.

## Sediakan

```bash
npm install -g promptfoo     # or: npx promptfoo@latest
export BROADNET_API_KEY='your-broadnet-key'
```

## promptfooconfig.yaml

```yaml
description: BroadNet model comparison
prompts:
  - 'What is the capital of Saudi Arabia? Answer in one sentence.'
providers:
  - id: openai:chat:broadnet/glm-5.3
    label: GLM 5.3
    config:
      apiBaseUrl: https://inference.broadnet.ai/v1
      apiKeyEnvar: BROADNET_API_KEY
      max_tokens: 4000
  - id: openai:chat:broadnet/deepseek-v4.1-flash
    label: DeepSeek V4.1 Flash
    config:
      apiBaseUrl: https://inference.broadnet.ai/v1
      apiKeyEnvar: BROADNET_API_KEY
      omitDefaults: true
tests:
  - assert:
      - type: icontains
        value: Riyadh
```

Konfigurasi sebenar biasanya meletakkan input ujian dalam `tests.vars` dan merujuknya dalam prompt dengan sintaks templat kurungan kerinting berganda promptfoo. Kami kekalkan yang ini tetap supaya ia berjalan seperti yang ditulis.

Jalankannya:

```bash
promptfoo eval
promptfoo view   # side-by-side results in the browser
```

## Fungsi setiap tetapan

-   **`openai:chat:` serta ID BroadNet.** Semua yang selepas `openai:chat:` ialah ID model yang dihantar, jadi kekalkan awalan `broadnet/`. Bahagian `chat` yang eksplisit menyemat endpoint Chat Completions; BroadNet tidak menyediakan Responses API.
-   **`apiBaseUrl`** ialah base URL dengan `/v1`, tetapi tanpa `/chat/completions`. promptfoo menambah laluan itu.
-   **`apiKeyEnvar`** menamakan pemboleh ubah yang menyimpan kunci BroadNet anda. promptfoo tidak jatuh kembali kepada `OPENAI_API_KEY` jika ia tiada.
-   **`max_tokens`**. Lalai promptfoo untuk permintaan bukan penaakulan ialah `temperature: 0` dan had 1,024 token. Model DeepSeek, GLM dan Qwen BroadNet membuat penaakulan sebelum menjawab, jadi 1,024 boleh menghasilkan jawapan kosong. Tetapkan had yang lebih tinggi, seperti dalam penyedia pertama.
-   **`omitDefaults: true`** membuang temperature dan had lalai promptfoo, seperti dalam penyedia kedua. Permintaan itu kemudiannya tiada had output daripada promptfoo.

## Penegasan yang digred oleh model

Tetapan penyedia tidak terpakai pada grader seperti `llm-rubric`. Untuk menggred dengan model BroadNet, tambahkannya sekali lagi untuk grader:

```yaml
defaultTest:
  options:
    provider:
      id: openai:chat:broadnet/glm-5.3
      config:
        apiBaseUrl: https://inference.broadnet.ai/v1
        apiKeyEnvar: BROADNET_API_KEY
        max_tokens: 4000
```

## Model mana yang patut dibandingkan

| Model | Sesuai untuk |
| --- | --- |
| `broadnet/glm-5.3` | Ujian tool calling dan output berstruktur |
| `broadnet/qwen3.8-27b` | Ujian dengan imej, teks Arab atau tools |
| `broadnet/deepseek-v4.1-flash` | Ujian konteks panjang dan yang sensitif kos |
| `broadnet/gemma-4-26b-a4b` | Ujian percuma dengan kredit permulaan $5 |

Dokumentasi BroadNet menyenaraikan tools dan output berstruktur untuk GLM 5.3 dan Qwen3.8 27B sahaja. [Harga setiap model](https://broadrouter.com/ms/pricing/).

## Cara kami mengujinya

Pada 2026-11-15 kami memasang promptfoo 0.125.1 dengan Node 24 dan menjalankan `promptfoo eval` pada konfigurasi seperti di atas, dihalakan ke pelayan olok-olok tempatan yang mengikut bentuk chat completions BroadNet. Ujian lulus. Permintaan yang dilog pergi ke `/v1/chat/completions` dengan ID model BroadNet tidak berubah dan kunci Bearer. Penyedia pertama menghantar `max_tokens: 4000` dan `temperature: 0`; penyedia dengan `omitDefaults: true` hanya menghantar model dan messages. Apabila `BROADNET_API_KEY` tidak ditetapkan, promptfoo berhenti dengan “Missing BROADNET\_API\_KEY”. Kami tidak menguji grader, dan kami tiada kunci BroadNet, jadi kami tidak menguji output model sebenar.

## Penyelesaian masalah

-   **Output kosong atau terpotong.** Naikkan `max_tokens`. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **404.** Pastikan `apiBaseUrl` berakhir dengan `/v1` dan ID model selepas `openai:chat:` mengekalkan awalan `broadnet/`. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi `broadnet/gemma-4-26b-a4b` dan dua model Transcribe.
-   **429 semasa eval besar.** promptfoo menjalankan eval kami dengan concurrency 4. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak, jadi turunkannya dengan `promptfoo eval -j 1` untuk set ujian yang besar. Lihat [ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Eval (penilaian LLM)](https://broadrouter.com/ms/glossary/eval/)

Eval (singkatan bagi evaluation, penilaian) ialah ujian berulang bagi model bahasa atau prompt: satu set input tetap, penerangan tentang rupa output yang baik, dan penggred (kod, manusia atau model lain) yang memberi skor kepada setiap output supaya versi boleh dibandingkan.

[Output berstruktur (structured output)](https://broadrouter.com/ms/glossary/structured-output/)

Output berstruktur ialah ciri API LLM yang mengehadkan balasan model kepada format yang ditetapkan oleh pembangun, biasanya JSON Schema, supaya kod boleh menghuraikannya dengan boleh dipercayai. Ia lebih ketat daripada JSON mode, yang menjamin JSON yang sah tetapi bukan bentuk tertentu.

[Base URL (URL asas)](https://broadrouter.com/ms/glossary/base-url/)

Base URL ialah alamat akar tetap sesuatu API, seperti https://api.example.com/v1, yang diletakkan oleh klien di hadapan setiap laluan endpoint, seperti /chat/completions. Dalam SDK serasi OpenAI, menukar base URL, bersama kunci API dan ID model, menghalakan kod yang sama kepada penyedia lain.

[Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/)

Had kadar ialah had yang ditetapkan oleh API ke atas jumlah penggunaan klien dalam satu tempoh masa, seperti permintaan seminit atau token seminit. Permintaan yang melebihi had ditolak, biasanya dengan HTTP 429 Too Many Requests, sehingga penggunaan turun semula di bawahnya.

## Soalan lazim

### Patutkah saya guna openai:chat atau openai sebagai awalan penyedia promptfoo?

openai:chat. Dengan openai:chat:broadnet/glm-5.3, promptfoo memanggil /v1/chat/completions, iaitu apa yang disediakan oleh BroadNet. Dokumentasi promptfoo menyatakan nama model yang tidak dikenali selepas awalan openai biasa juga jatuh kembali kepada Chat Completions, tetapi awalan chat yang eksplisit tidak bergantung pada peraturan itu.

### Mengapakah jawapan BroadNet terpotong dalam promptfoo?

promptfoo menetapkan had output 1,024 token secara lalai untuk permintaan bukan penaakulan, dan model DeepSeek, GLM dan Qwen BroadNet menggunakan sebahagian bajet output untuk penaakulan. Tetapkan max\_tokens dalam config penyedia, atau tetapkan omitDefaults kepada true.

### Adakah apiKeyEnvar jatuh kembali kepada OPENAI\_API\_KEY?

Tidak. Dokumentasi promptfoo menyatakan jika pemboleh ubah yang dinamakan tiada, ia tidak jatuh kembali kepada OPENAI\_API\_KEY. Dalam ujian kami, ia berhenti dengan "Missing BROADNET\_API\_KEY".

### Bolehkah model BroadNet menggred penegasan llm-rubric?

Boleh, tetapi dokumentasi promptfoo menyatakan tetapan penyedia tidak terpakai pada grader. Tetapkan grader secara berasingan di bawah defaultTest.options.provider dengan id dan config yang sama.

## Panduan berkaitan

-   [Permintaan pertama ke BroadNet Inference dengan curl](https://broadrouter.com/ms/guides/curl-quickstart/)
-   [Cara guna OpenAI Node.js SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-node-sdk/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-promptfoo-openai-compatible&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi promptfoo, OpenAI provider (gateway serasi OpenAI) (disemak 2026-11-15)](https://www.promptfoo.dev/docs/providers/openai/)
-   [promptfoo di GitHub, keluaran 0.125.1, 2026-10-25 (disemak 2026-11-15)](https://github.com/promptfoo/promptfoo/releases/tag/0.125.1)
-   [Rujukan API BroadNet Inference (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-promptfoo-openai-compatible&utm_content=sources)
