---
title: "Vercel AI SDK createOpenAICompatible dengan base URL kustom"
description: "Panggil BroadNet Inference dari Vercel AI SDK dengan createOpenAICompatible dari @ai-sdk/openai-compatible: generateText, streamText, tools, dan reasoning effort."
url: https://broadrouter.com/id/guides/vercel-ai-sdk-openai-compatible/
lang: id
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (diperbarui 2026-11-16).

# Memakai Vercel AI SDK dengan BroadNet Inference

Diperbarui 2026-11-16

Instal ai dan @ai-sdk/openai-compatible, lalu panggil createOpenAICompatible dengan name broadnet, baseURL https://inference.broadnet.ai/v1, dan kunci BroadNet Anda sebagai apiKey. Berikan ID model BroadNet seperti broadnet/glm-5.3 ke provider, lalu gunakan generateText atau streamText seperti biasa. Simpan kunci di server, dan beri model penalaran maxOutputTokens yang longgar.

[AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) dari Vercel adalah toolkit TypeScript untuk aplikasi LLM. Paket `@ai-sdk/openai-compatible`\-nya membuat provider untuk API apa pun yang mengikuti format chat completions OpenAI. BroadNet Inference mengikutinya, jadi Anda hanya mengganti base URL, kunci, dan ID model. Jika ingin memakai klien OpenAI biasa, lihat [panduan Node SDK](https://broadrouter.com/id/guides/openai-node-sdk/).

## Penyiapan

1.  **Instal paketnya.** Saat tulisan ini dibuat, npm menyediakan `ai` 7.x dan `@ai-sdk/openai-compatible` 3.x.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Buat provider.**
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **Hasilkan teks.**
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **Streaming.** Ganti `generateText` dengan `streamText` dan baca `textStream`. [Panduan streaming](https://broadrouter.com/id/guides/streaming-chat-completions/) menjelaskan format data di baliknya.
    

`name` yang Anda berikan menjadi kunci untuk provider options dan provider metadata, jadi buat singkat dan jangan diubah-ubah. `provider('id')` dan `provider.chatModel('id')` sama-sama membuat model chat; tidak ada penyiapan terpisah per model. Simpan kunci di server. Jangan impor file ini ke kode yang berjalan di browser, karena kuncinya akan terkirim ke setiap pengunjung.

Dokumentasi provider mencantumkan pembuatan teks, streaming, tool calling, output terstruktur, konten penalaran, dan input gambar sebagai kemampuan yang didukung, dengan catatan bahwa sebagian bergantung pada penyedia. Di BroadNet, input gambar berfungsi dengan DeepSeek V4.1 Flash, Qwen3.8 27B, dan Gemma 4 VL 26B. GLM 5.3 hanya menerima teks.

## Opsi yang layak diatur

-   **reasoningEffort.** Kirim lewat `providerOptions`, dengan nama provider sebagai kuncinya. Menurut dokumentasi AI SDK, nilai yang tepat bergantung pada penyedia; dokumentasi BroadNet menunjukkan `low`.

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** AI SDK hanya mengirim JSON schema jika opsi ini bernilai `true` di provider. BroadNet mencantumkan output terstruktur untuk GLM 5.3 dan Qwen3.8 27B. Jika Anda mengaktifkannya, gunakan kedua model itu untuk output berbasis schema.
-   **maxRetries.** `generateText` mencoba ulang dua kali secara default. Sesuaikan dengan rate limit Anda.
-   **Output penalaran.** AI SDK membaca konten penalaran jika penyedia mengembalikannya. Field hasil `reasoningText` di tingkat atas kini ditandai deprecated dan digantikan `finalStep.reasoningText`. Jangan membangun logika yang bergantung pada keberadaan penalaran.

## Model mana yang dipilih

| Kebutuhan | Model | Konteks |
| --- | --- | --- |
| Tool calling, output terstruktur | [`broadnet/glm-5.3`](https://broadrouter.com/id/models/glm-5.3/) | 1.048.576 |
| Gambar plus tools, bahasa Arab | [`broadnet/qwen3.8-27b`](https://broadrouter.com/id/models/qwen3.8-27b/) | 262.144 |
| Konteks panjang, paket harga tetap | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/id/models/deepseek-v4.1-flash/) | 1.048.576 |
| Panggilan teks dan gambar yang murah | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/id/models/gemma-4-vl-26b/) | 32.768 |

Harga per token setiap model ada di [halaman harga](https://broadrouter.com/id/pricing/).

## Pemecahan masalah

-   **401.** `BROADNET_API_KEY` tidak ada di runtime (periksa pengaturan env di penyedia hosting Anda), salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis.
-   **providerOptions diabaikan.** Kuncinya harus sama dengan `name` provider dalam camelCase. Dengan `name: 'broadnet'`, gunakan `providerOptions.broadnet`.
-   **Error model.** ID harus sama persis dengan milik BroadNet, termasuk prefiks `broadnet/`. GLM 5.3, Qwen3.8 27B, dan DeepSeek V4.1 Flash memerlukan top up; kredit awal $5 hanya mencakup Gemma 4 VL 26B.
-   **Teks kosong, finishReason “length”.** Penalaran menghabiskan anggaran. Naikkan `maxOutputTokens` atau turunkan `reasoningEffort`. [Kenapa jawaban kembali kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).
-   **429 saat beban tinggi.** Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan. Fungsi serverless cepat bertambah banyak, jadi batasi konkurensi di aplikasi Anda. Lihat [panduan error dan percobaan ulang](https://broadrouter.com/id/guides/errors-and-retries/).
-   **Agen paralel dengan kunci paket.** Satu [sesi paket unlimited](https://broadrouter.com/id/guides/unlimited-llm-api-sessions/) menjalankan satu permintaan dalam satu waktu. Menjalankan `Promise.all` atas beberapa agen memerlukan satu sesi per agen; jika tidak, permintaan akan mengantre.

## Istilah dalam panduan ini

[Streaming (respons streaming)](https://broadrouter.com/id/glossary/streaming/)

Streaming adalah cara mengembalikan respons model bahasa dalam potongan-potongan kecil selagi masih dihasilkan, bukan sebagai satu balasan utuh di akhir. API yang kompatibel dengan OpenAI melakukan streaming lewat server-sent events jika permintaan mengatur stream ke true.

[Tool calling (function calling)](https://broadrouter.com/id/glossary/tool-calling/)

Tool calling, disebut juga function calling, adalah fitur API LLM di mana model mengembalikan permintaan terstruktur untuk menjalankan fungsi yang didefinisikan developer, lengkap dengan argumen JSON. Aplikasi yang menjalankan fungsi itu dan mengirim hasilnya kembali; model tidak pernah menjalankan kode sendiri.

[Bayar sesuai pemakaian (pay-as-you-go)](https://broadrouter.com/id/glossary/pay-as-you-go/)

Bayar sesuai pemakaian (pay-as-you-go) adalah model harga di mana Anda hanya membayar yang Anda pakai, dihitung per satuan seperti token, permintaan, atau menit audio, tanpa langganan atau komitmen minimum. Sebagian besar API LLM menagih dengan cara ini, dari saldo prabayar atau tagihan berkala.

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

[Konkurensi (concurrency)](https://broadrouter.com/id/glossary/concurrency/)

Konkurensi (concurrency) adalah jumlah permintaan yang sedang berjalan dari sebuah client pada saat yang sama. API LLM sering membatasinya per kunci atau per paket, terpisah dari batas permintaan per menit, karena setiap permintaan yang terbuka menahan kapasitas GPU sampai responsnya selesai.

[Output terstruktur (structured output)](https://broadrouter.com/id/glossary/structured-output/)

Output terstruktur adalah fitur API LLM yang membatasi balasan model pada format yang ditentukan developer, biasanya JSON Schema, agar kode bisa mem-parse-nya dengan andal. Fitur ini lebih ketat daripada JSON mode, yang menjamin JSON valid tetapi tidak menjamin bentuk tertentu.

[Base URL](https://broadrouter.com/id/glossary/base-url/)

Base URL adalah alamat root tetap sebuah API, seperti https://api.example.com/v1, yang ditempatkan client di depan setiap path endpoint, seperti /chat/completions. Di SDK yang kompatibel dengan OpenAI, mengganti base URL bersama kunci API dan ID model akan mengarahkan kode yang sama ke penyedia lain.

[Chat Completions API](https://broadrouter.com/id/glossary/chat-completions-api/)

Chat Completions API adalah endpoint HTTP milik OpenAI, POST /v1/chat/completions, yang menerima nama model dan daftar pesan bertanda peran lalu mengembalikan pesan berikutnya dari model. Bentuk request dan response-nya menjadi format umum yang dipakai ulang oleh penyedia dan SDK yang kompatibel dengan OpenAI.

## Pertanyaan umum

### Sebaiknya pakai @ai-sdk/openai atau @ai-sdk/openai-compatible?

Gunakan @ai-sdk/openai-compatible untuk API pihak ketiga yang kompatibel dengan OpenAI. Paket ini memanggil endpoint chat completions, yang memang dilayani BroadNet Inference.

### Kenapa teks yang dihasilkan kosong?

Di BroadNet, penalaran ikut dihitung dalam max\_tokens. Jika maxOutputTokens kecil, model bisa menghabiskannya sebelum jawaban dimulai. Naikkan nilainya atau atur reasoningEffort ke low.

### Bagaimana cara mendapatkan usage token saat streaming?

Atur includeUsage ke true saat membuat provider. Menurut dokumentasi AI SDK, opsi ini menambahkan data usage ke respons streaming. Default-nya false.

### Apakah setiap model BroadNet perlu penyiapan terpisah?

Tidak. Satu provider createOpenAICompatible mencakup semua model. Panggil broadnet('model-id') atau broadnet.chatModel('model-id') dengan ID model chat BroadNet mana pun.

## Panduan terkait

-   [Memakai OpenAI Node.js SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-node-sdk/)
-   [Streaming chat completions dan menangani koneksi terputus](https://broadrouter.com/id/guides/streaming-chat-completions/)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/)
-   [Menambahkan BroadNet Inference ke opencode sebagai custom provider](https://broadrouter.com/id/guides/opencode-custom-provider/)
-   [Semua alat yang bisa dipakai dengan BroadNet Inference (bahasa Inggris)](https://broadrouter.com/integrations/): SDK, agen coding, antarmuka chat, dan alat otomatisasi, lengkap dengan pengaturan persis untuk masing-masing

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi AI SDK, provider OpenAI Compatible (diperiksa 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [Dokumentasi AI SDK, referensi generateText (diperiksa 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, paket @ai-sdk/openai-compatible (3.x, diperiksa 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [Referensi API BroadNet Inference (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
