smolagents adalah library Python kecil dari Hugging Face untuk membuat agen. Kelas OpenAIModel-nya “connects to an OpenAI-compatible API server” (terjemahan: terhubung ke server API yang kompatibel dengan OpenAI), dengan api_base untuk URL-nya. BroadNet Inference melayani chat completions di https://inference.broadnet.ai/v1, jadi langsung bisa dipakai. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti dokumentasi smolagents 1.26.0.
Instalasi
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
CodeAgent
import os
from smolagents import OpenAIModel, CodeAgent
model = OpenAIModel(
model_id="broadnet/deepseek-v4.1-flash",
api_base="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_tokens=4000,
)
agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
CodeAgent meminta model menulis Python di antara tag <code> lalu menjalankannya secara lokal. Permintaannya berupa chat completion biasa dengan stop sequence seperti </code>, tanpa field tools. Artinya agen ini tidak bergantung pada tool calling native, sehingga bisa berjalan di broadnet/deepseek-v4.1-flash, model di paket unlimited BroadNet. Kualitas kode tetap berbeda antarmodel, jadi uji dengan tugas Anda sendiri.
CodeAgent menjalankan kode yang ditulis model. Baca panduan smolagents tentang eksekusi kode yang aman sebelum memberinya tools yang menyentuh file, jaringan, atau kredensial.
ToolCallingAgent
from smolagents import ToolCallingAgent, tool
@tool
def get_weather(city: str) -> str:
"""Get the weather for a city.
Args:
city: The city name.
"""
return f"21C in {city}"
model = OpenAIModel(
model_id="broadnet/glm-5.3",
api_base="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
ToolCallingAgent mengirim tools Anda, ditambah tool final_answer miliknya sendiri, sebagai skema fungsi dengan tool_choice: "required". Pakai broadnet/glm-5.3 atau broadnet/qwen3.8-27b; dokumentasi BroadNet hanya mencantumkan tools untuk kedua model ini.
Model mana yang dipilih
| Agen | Model |
|---|---|
CodeAgent, proses panjang dengan paket harga tetap |
broadnet/deepseek-v4.1-flash |
ToolCallingAgent |
broadnet/glm-5.3 |
| Agen mana pun dengan input gambar | broadnet/qwen3.8-27b |
Satu sesi paket menjalankan satu permintaan dalam satu waktu, dan agen mengirim langkah-langkahnya satu per satu, jadi satu sesi cukup untuk satu agen. Harga semua model.
Cara kami mengujinya
Pada 2026-11-15 kami menginstal smolagents 1.26.0 di virtual environment yang bersih dan menjalankan kedua agen terhadap server mock lokal yang meniru format chat completions BroadNet. CodeAgent dengan ID DeepSeek menerima balasan berisi kode, menjalankannya, dan mengembalikan 42. Permintaannya memuat max_tokens: 4000, stop sequence, dan tanpa tools. Untuk ToolCallingAgent, kami memeriksa bentuk permintaannya: ID model dikirim tanpa diubah, dengan kedua skema tool dan tool_choice: "required". smolagents mengirim hasil tool kembali sebagai pesan user. Mock kami tidak mengikuti format itu, jadi agen tersebut tidak kami jalankan sampai jawaban akhir. Kami tidak punya kunci BroadNet, jadi output model sungguhan tidak kami uji.
Pemecahan masalah
- 401. Kuncinya salah, kedaluwarsa, atau kuotanya habis.
- 404.
api_baseharus diakhiri/v1. Periksa ID model. Model berbayar memerlukan top up; kredit $5 hanya mencakupbroadnet/gemma-4-26b-a4b. - “Make sure to provide correct code blobs”. Balasan model tidak berisi blok kode. Naikkan
max_tokens, karena penalaran ikut dihitung di dalamnya, atau coba model lain. Kenapa jawaban kembali kosong. - ToolCallingAgent tidak pernah selesai. Pindah ke
broadnet/glm-5.3ataubroadnet/qwen3.8-27b. - 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit. smolagents bisa membatasi lajunya sendiri dengan
requests_per_minute. Lihat error dan retry.
