BroadRouter
Mulakan

Guna Semantic Kernel dengan BroadNet Inference

Dikemas kini

Dalam Python, cipta AsyncOpenAI dengan base_url https://inference.broadnet.ai/v1 dan kunci BroadNet anda, kemudian hantarnya sebagai async_client kepada OpenAIChatCompletion dengan ai_model_id ditetapkan kepada ID BroadNet seperti broadnet/glm-5.3. Dalam C#, panggil AddOpenAIChatCompletion dengan Uri endpoint, yang ditanda Microsoft sebagai eksperimen (SKEXP0010). Gunakan GLM 5.3 atau Qwen3.8 27B untuk pemalam.

Semantic Kernel ialah SDK Microsoft untuk membina aplikasi dan ejen AI dalam C#, Python dan Java. Penyambung OpenAInya berfungsi dengan perkhidmatan lain yang serasi OpenAI: Python menerima klien OpenAI anda sendiri, dan C# menerima endpoint tersuai. BroadNet Inference menyediakan chat completions standard di https://inference.broadnet.ai/v1, jadi kedua-dua cara berfungsi. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi Semantic Kernel Microsoft dan kod sumber Python 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id dihantar tanpa diubah, jadi kekalkan awalan broadnet/. Argumen api_key bagi OpenAIChatCompletion tidak diperlukan apabila anda menghantar klien.

Pemalam dan function calling

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel menghantar pemalam sebagai alatan bernama weather-get_weather, menjalankannya apabila model memintanya, dan menghantar hasilnya kembali. Gunakan broadnet/glm-5.3 atau broadnet/qwen3.8-27b; dokumentasi BroadNet menyenaraikan tools untuk dua model ini sahaja.

Ejen

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

Dokumentasi Microsoft memberikan corak ini untuk “other AI service providers that support the OpenAI chat completion API” (Terjemahan: penyedia perkhidmatan AI lain yang menyokong API chat completion OpenAI). Kami tidak menjalankan versi C#.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Pasang penyambung dengan dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Model mana yang patut dipilih

Kegunaan Model
Pemalam, function calling, ejen broadnet/glm-5.3
Pemalam serta input imej atau teks bahasa Arab broadnet/qwen3.8-27b
Chat dan ringkasan tanpa tools, pelan harga tetap broadnet/deepseek-v4.1-flash

Harga setiap model.

Cara kami mengujinya

Pada 2026-11-15 kami memasang semantic-kernel 1.47.0 untuk Python dalam persekitaran maya yang bersih dan menjalankan chat biasa, strim, automatic function calling dan ChatCompletionAgent terhadap pelayan olok-olok tempatan yang mengikut bentuk chat completions BroadNet. Kami membaca permintaan yang dilog. Semuanya pergi ke /v1/chat/completions dengan ID model BroadNet tidak berubah dan kunci Bearer. max_tokens dihantar dengan nama itu, strim menambah stream_options.include_usage, dan function calling menghantar tool_choice: "auto". Kami tiada kunci BroadNet, jadi kami tidak menguji output model sebenar. Snippet C# diambil daripada dokumentasi Microsoft dan tidak dijalankan.

Penyelesaian masalah

  • 401. Kunci salah, tamat tempoh atau kehabisan elaun.
  • 404. base_url klien mesti berakhir dengan /v1. Semak ID model. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi broadnet/gemma-4-26b-a4b dan dua model Transcribe.
  • Balasan kosong. Penaakulan dikira dalam max_tokens pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B. Naikkannya. Mengapa jawapan kosong.
  • Model penaakulan dan peranan. Dokumentasi Microsoft mencadangkan instruction_role="developer" untuk model penaakulan OpenAI. Rujukan API BroadNet tidak menyebut peranan developer, jadi biarkan instruction_role pada nilai lalainya. Ujian ejen kami menghantar arahan dalam mesej system.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Lihat ralat dan cuba semula.

Soalan lazim

Bagaimanakah saya menetapkan base URL tersuai dalam Semantic Kernel untuk Python?

OpenAIChatCompletion tiada argumen base_url dalam versi 1.47. Cipta klien openai.AsyncOpenAI dengan base_url dan api_key, dan hantarnya sebagai async_client. Klien itu kemudian menghantar setiap permintaan ke BroadNet.

Mengapakah endpoint tersuai C# memerlukan pragma?

Dokumentasi Microsoft menyatakan penggunaan endpoint tersuai dengan penyambung OpenAI masih eksperimen, jadi overload endpoint memerlukan

Adakah automatic function calling berfungsi dengan BroadNet?

Ia menggunakan panggilan alatan standard melalui chat completions, jadi gunakan model yang disenaraikan BroadNet dengan tools, GLM 5.3 atau Qwen3.8 27B. Dalam ujian pelayan olok-olok kami, Semantic Kernel menghantar pemalam sebagai alatan dan memulangkan hasilnya dalam mesej tool.

Adakah ChatCompletionAgent Semantic Kernel berfungsi di BroadNet?

Ya. Ia menggunakan perkhidmatan OpenAIChatCompletion yang sama. Dalam ujian Python kami, ia menghantar arahan ejen sebagai mesej system dan memanggil pemalam melalui chat completions.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity