---
title: "smolagents OpenAIModel dengan api_base kustom | BroadRouter"
description: "Hubungkan smolagents dari Hugging Face ke BroadNet Inference lewat OpenAIModel dan api_base: CodeAgent di model apa pun, ToolCallingAgent di GLM 5.3 dan Qwen3.8 27B."
url: https://broadrouter.com/id/guides/smolagents-openai-compatible/
lang: id
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/guides/smolagents-openai-compatible/) (diperbarui 2026-11-16).

# Jalankan smolagents di BroadNet Inference dengan OpenAIModel

Diperbarui 2026-11-16

Buat OpenAIModel smolagents dengan model\_id berisi ID BroadNet seperti broadnet/glm-5.3, api\_base https://inference.broadnet.ai/v1, dan api\_key berisi kunci BroadNet Anda, lalu berikan ke CodeAgent atau ToolCallingAgent. CodeAgent menulis Python, bukan tool call native, jadi bisa berjalan di DeepSeek V4.1 Flash. ToolCallingAgent membutuhkan GLM 5.3 atau Qwen3.8 27B.

smolagents adalah library Python kecil dari Hugging Face untuk membuat agen. Kelas `OpenAIModel`\-nya “connects to an OpenAI-compatible API server” (terjemahan: terhubung ke server API yang kompatibel dengan OpenAI), dengan `api_base` untuk URL-nya. BroadNet Inference melayani chat completions di `https://inference.broadnet.ai/v1`, jadi langsung bisa dipakai. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti dokumentasi smolagents 1.26.0.

## Instalasi

```bash
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
```

## CodeAgent

```python
import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
```

`CodeAgent` meminta model menulis Python di antara tag `<code>` lalu menjalankannya secara lokal. Permintaannya berupa chat completion biasa dengan stop sequence seperti `</code>`, tanpa field `tools`. Artinya agen ini tidak bergantung pada tool calling native, sehingga bisa berjalan di `broadnet/deepseek-v4.1-flash`, model di [paket unlimited](https://broadrouter.com/id/guides/unlimited-llm-api-sessions/) BroadNet. Kualitas kode tetap berbeda antarmodel, jadi uji dengan tugas Anda sendiri.

CodeAgent menjalankan kode yang ditulis model. Baca panduan smolagents tentang eksekusi kode yang aman sebelum memberinya tools yang menyentuh file, jaringan, atau kredensial.

## ToolCallingAgent

```python
from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
```

`ToolCallingAgent` mengirim tools Anda, ditambah tool `final_answer` miliknya sendiri, sebagai skema fungsi dengan `tool_choice: "required"`. Pakai `broadnet/glm-5.3` atau `broadnet/qwen3.8-27b`; dokumentasi BroadNet hanya mencantumkan tools untuk kedua model ini.

## Model mana yang dipilih

| Agen | Model |
| --- | --- |
| `CodeAgent`, proses panjang dengan paket harga tetap | `broadnet/deepseek-v4.1-flash` |
| `ToolCallingAgent` | `broadnet/glm-5.3` |
| Agen mana pun dengan input gambar | `broadnet/qwen3.8-27b` |

Satu sesi paket menjalankan satu permintaan dalam satu waktu, dan agen mengirim langkah-langkahnya satu per satu, jadi satu sesi cukup untuk satu agen. [Harga semua model](https://broadrouter.com/id/pricing/).

## Cara kami mengujinya

Pada 2026-11-15 kami menginstal smolagents 1.26.0 di virtual environment yang bersih dan menjalankan kedua agen terhadap server mock lokal yang meniru format chat completions BroadNet. `CodeAgent` dengan ID DeepSeek menerima balasan berisi kode, menjalankannya, dan mengembalikan 42. Permintaannya memuat `max_tokens: 4000`, stop sequence, dan tanpa tools. Untuk `ToolCallingAgent`, kami memeriksa bentuk permintaannya: ID model dikirim tanpa diubah, dengan kedua skema tool dan `tool_choice: "required"`. smolagents mengirim hasil tool kembali sebagai pesan user. Mock kami tidak mengikuti format itu, jadi agen tersebut tidak kami jalankan sampai jawaban akhir. Kami tidak punya kunci BroadNet, jadi output model sungguhan tidak kami uji.

## Pemecahan masalah

-   **401.** Kuncinya salah, kedaluwarsa, atau kuotanya habis.
-   **404.** `api_base` harus diakhiri `/v1`. Periksa ID model. Model berbayar memerlukan top up; kredit $5 hanya mencakup `broadnet/gemma-4-26b-a4b`.
-   **“Make sure to provide correct code blobs”.** Balasan model tidak berisi blok kode. Naikkan `max_tokens`, karena penalaran ikut dihitung di dalamnya, atau coba model lain. [Kenapa jawaban kembali kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).
-   **ToolCallingAgent tidak pernah selesai.** Pindah ke `broadnet/glm-5.3` atau `broadnet/qwen3.8-27b`.
-   **429.** Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit. smolagents bisa membatasi lajunya sendiri dengan `requests_per_minute`. Lihat [error dan retry](https://broadrouter.com/id/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Tool calling (function calling)](https://broadrouter.com/id/glossary/tool-calling/)

Tool calling, disebut juga function calling, adalah fitur API LLM di mana model mengembalikan permintaan terstruktur untuk menjalankan fungsi yang didefinisikan developer, lengkap dengan argumen JSON. Aplikasi yang menjalankan fungsi itu dan mengirim hasilnya kembali; model tidak pernah menjalankan kode sendiri.

[API kompatibel OpenAI](https://broadrouter.com/id/glossary/openai-compatible-api/)

API kompatibel OpenAI adalah API HTTP yang menerima format permintaan dan respons yang sama dengan API OpenAI, seperti POST /v1/chat/completions, sehingga SDK dan tool OpenAI bisa memakainya hanya dengan mengganti base URL, kunci API, dan nama model.

[Bayar sesuai pemakaian (pay-as-you-go)](https://broadrouter.com/id/glossary/pay-as-you-go/)

Bayar sesuai pemakaian (pay-as-you-go) adalah model harga di mana Anda hanya membayar yang Anda pakai, dihitung per satuan seperti token, permintaan, atau menit audio, tanpa langganan atau komitmen minimum. Sebagian besar API LLM menagih dengan cara ini, dari saldo prabayar atau tagihan berkala.

[Chat Completions API](https://broadrouter.com/id/glossary/chat-completions-api/)

Chat Completions API adalah endpoint HTTP milik OpenAI, POST /v1/chat/completions, yang menerima nama model dan daftar pesan bertanda peran lalu mengembalikan pesan berikutnya dari model. Bentuk request dan response-nya menjadi format umum yang dipakai ulang oleh penyedia dan SDK yang kompatibel dengan OpenAI.

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

[Stop sequences (urutan henti)](https://broadrouter.com/id/glossary/stop-sequences/)

Stop sequence adalah string yang Anda kirim bersama permintaan agar model berhenti menghasilkan teks begitu ia menulis salah satunya. OpenAI menamai field-nya stop dan menerima hingga 4 urutan; Anthropic menamainya stop\_sequences. Teks yang cocok biasanya tidak disertakan dalam output yang dikembalikan.

[Kredit prabayar (prepaid credit)](https://broadrouter.com/id/glossary/prepaid-credit/)

Kredit prabayar adalah uang yang diisi ke akun API sebelum dipakai. Setiap request memotong biayanya dari saldo, dan saat saldo habis, request berbayar per pemakaian berhenti sampai Anda melakukan top up. Dengan begitu, pengeluaran dibatasi sebesar uang yang sudah Anda setor.

[Paket LLM harga tetap (flat-rate)](https://broadrouter.com/id/glossary/flat-rate-llm-plan/)

Paket LLM harga tetap menagih harga tetap untuk satu periode, misalnya sebulan, untuk akses ke API model bahasa, alih-alih menagih per token. Paket seperti ini biasanya membatasi hal lain, seperti konkurensi, kecepatan, model, atau jendela pemakaian, jadi batasnya sama pentingnya dengan harganya.

## Pertanyaan umum

### Yang benar OpenAIModel atau OpenAIServerModel?

smolagents 1.26 mendokumentasikan OpenAIModel untuk server apa pun yang kompatibel dengan OpenAI. OpenAIServerModel masih diekspor oleh paketnya, tetapi dokumentasi menjelaskan OpenAIModel.

### Bisakah smolagents jalan di paket unlimited BroadNet?

Paketnya mencakup DeepSeek V4.1 Flash. BroadNet tidak mencantumkan tool calling untuk model itu, tetapi CodeAgent tidak butuh tool call native; ia meminta model menulis kode Python. Dalam uji mock kami, CodeAgent dengan ID DeepSeek mengirim permintaan chat biasa tanpa field tools.

### Kenapa ToolCallingAgent butuh GLM 5.3 atau Qwen3.8 27B?

Agen ini mengirim tools sebagai skema fungsi OpenAI dengan tool\_choice bernilai required. Dokumentasi BroadNet hanya mencantumkan tools untuk GLM 5.3 dan Qwen3.8 27B.

### Bagaimana cara mengirim max\_tokens atau temperature?

Sebagai keyword argument ke OpenAIModel. Dokumentasi smolagents menyebut argumen tambahan diteruskan ke setiap panggilan completion. Dalam uji kami, max\_tokens=4000 terkirim di setiap permintaan.

## Panduan terkait

-   [Memakai OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-python-sdk/)
-   [Cara kerja paket API LLM unlimited untuk agen](https://broadrouter.com/id/guides/unlimited-llm-api-sessions/)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/)
-   [Kode error BroadNet Inference dan kapan harus mencoba ulang](https://broadrouter.com/id/guides/errors-and-retries/)
-   [Semua alat yang bisa dipakai dengan BroadNet Inference (bahasa Inggris)](https://broadrouter.com/integrations/): SDK, agen coding, antarmuka chat, dan alat otomatisasi, lengkap dengan pengaturan persis untuk masing-masing

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-smolagents-openai-compatible&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi smolagents v1.26.0, referensi Models (OpenAIModel) (diperiksa 2026-11-15)](https://huggingface.co/docs/smolagents/reference/models)
-   [PyPI, smolagents 1.26.0 (diperiksa 2026-11-15)](https://pypi.org/project/smolagents/)
-   [Referensi API BroadNet Inference (diperiksa 2026-11-15) (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-smolagents-openai-compatible&utm_content=sources)
