BroadRouter
Mulai

Pakai Semantic Kernel dengan BroadNet Inference

Diperbarui

Di Python, buat AsyncOpenAI dengan base_url https://inference.broadnet.ai/v1 dan kunci BroadNet Anda, lalu berikan sebagai async_client ke OpenAIChatCompletion dengan ai_model_id berisi ID BroadNet seperti broadnet/glm-5.3. Di C#, panggil AddOpenAIChatCompletion dengan endpoint Uri, yang ditandai Microsoft sebagai eksperimental (SKEXP0010). Pakai GLM 5.3 atau Qwen3.8 27B untuk plugin.

Semantic Kernel adalah SDK dari Microsoft untuk membangun aplikasi dan agen AI di C#, Python, dan Java. Konektor OpenAI-nya bisa dipakai dengan layanan lain yang kompatibel dengan OpenAI: Python menerima klien OpenAI milik Anda sendiri, dan C# menerima endpoint kustom. BroadNet Inference melayani chat completions standar di https://inference.broadnet.ai/v1, jadi kedua cara itu berfungsi. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti dokumentasi Semantic Kernel dari Microsoft dan kode sumber Python 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id dikirim apa adanya, jadi pertahankan prefiks broadnet/. Argumen api_key pada OpenAIChatCompletion tidak diperlukan jika Anda memberikan klien.

Plugin dan function calling

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel mengirim plugin sebagai tool bernama weather-get_weather, menjalankannya saat model memintanya, lalu mengirim hasilnya kembali. Pakai broadnet/glm-5.3 atau broadnet/qwen3.8-27b; dokumentasi BroadNet hanya mencantumkan tools untuk kedua model ini.

Agen

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

Dokumentasi Microsoft memberikan pola ini untuk “other AI service providers that support the OpenAI chat completion API” (terjemahan: penyedia layanan AI lain yang mendukung API chat completion OpenAI). Versi C# tidak kami jalankan.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Instal konektornya dengan dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Model mana yang dipilih

Kegunaan Model
Plugin, function calling, agen broadnet/glm-5.3
Plugin plus input gambar atau teks Arab broadnet/qwen3.8-27b
Chat dan ringkasan tanpa tools, paket harga tetap broadnet/deepseek-v4.1-flash

Harga semua model.

Cara kami mengujinya

Pada 2026-11-15 kami menginstal semantic-kernel 1.47.0 untuk Python di virtual environment yang bersih, lalu menjalankan chat biasa, streaming, automatic function calling, dan sebuah ChatCompletionAgent terhadap server mock lokal yang meniru format chat completions BroadNet. Kami membaca permintaan yang tercatat. Semuanya menuju /v1/chat/completions dengan ID model BroadNet tanpa diubah dan kunci Bearer. max_tokens dikirim dengan nama itu, streaming menambahkan stream_options.include_usage, dan function calling mengirim tool_choice: "auto". Kami tidak punya kunci BroadNet, jadi output model sungguhan tidak kami uji. Potongan C# berasal dari dokumentasi Microsoft dan tidak dijalankan.

Pemecahan masalah

  • 401. Kuncinya salah, kedaluwarsa, atau kuotanya habis.
  • 404. base_url klien harus diakhiri /v1. Periksa ID model. Model berbayar memerlukan top up; kredit $5 hanya mencakup broadnet/gemma-4-26b-a4b.
  • Balasan kosong. Penalaran ikut dihitung dalam max_tokens pada DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B. Naikkan nilainya. Kenapa jawaban kembali kosong.
  • Model reasoning dan role. Dokumentasi Microsoft menyarankan instruction_role="developer" untuk model reasoning OpenAI. Referensi API BroadNet tidak menyebut role developer, jadi biarkan instruction_role pada nilai default-nya. Uji agen kami mengirim instruksi dalam pesan system.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 yang berjalan bersamaan. Lihat error dan retry.

Pertanyaan umum

Bagaimana cara mengatur base URL kustom di Semantic Kernel untuk Python?

OpenAIChatCompletion tidak punya argumen base_url di versi 1.47. Buat klien openai.AsyncOpenAI dengan base_url dan api_key, lalu berikan sebagai async_client. Klien itulah yang mengirim setiap permintaan ke BroadNet.

Kenapa endpoint kustom di C# butuh pragma?

Dokumentasi Microsoft menyebut pemakaian endpoint kustom dengan konektor OpenAI masih eksperimental, jadi overload endpoint memerlukan #pragma warning disable SKEXP0010.

Apakah automatic function calling berfungsi dengan BroadNet?

Fitur ini memakai tool call standar lewat chat completions, jadi pakai model yang dicantumkan BroadNet dengan tools, yaitu GLM 5.3 atau Qwen3.8 27B. Dalam uji mock kami, Semantic Kernel mengirim plugin sebagai tool dan mengembalikan hasilnya dalam pesan tool.

Apakah ChatCompletionAgent Semantic Kernel jalan di BroadNet?

Ya. Agen ini memakai layanan OpenAIChatCompletion yang sama. Dalam uji Python kami, instruksi agen dikirim sebagai pesan system dan plugin dipanggil lewat chat completions.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity