BroadRouter
Начать

Semantic Kernel и BroadNet Inference

Обновлено

В Python создайте AsyncOpenAI с base_url https://inference.broadnet.ai/v1 и ключом BroadNet и передайте его как async_client в OpenAIChatCompletion, указав в ai_model_id ID BroadNet, например broadnet/glm-5.3. В C# вызовите AddOpenAIChatCompletion с endpoint типа Uri; Microsoft помечает это как экспериментальное (SKEXP0010). Для плагинов берите GLM 5.3 или Qwen3.8 27B.

Semantic Kernel — SDK от Microsoft для создания ИИ-приложений и агентов на C#, Python и Java. Его коннектор OpenAI работает и с другими OpenAI-совместимыми сервисами: в Python он принимает ваш собственный клиент OpenAI, а в C# — свой эндпоинт. BroadNet Inference отдаёт стандартные chat completions по адресу https://inference.broadnet.ai/v1, так что подходят оба пути. BroadRouter — собственный сайт BroadNet; руководство опирается на документацию Microsoft по Semantic Kernel и исходный код Python-версии 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id отправляется без изменений, поэтому сохраняйте префикс broadnet/. Аргумент api_key у OpenAIChatCompletion не нужен, если вы передаёте клиент.

Плагины и вызов функций

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel отправляет плагин как инструмент с именем weather-get_weather, выполняет его, когда модель об этом просит, и возвращает результат. Используйте broadnet/glm-5.3 или broadnet/qwen3.8-27b: документация BroadNet указывает инструменты только для этих двух моделей.

Агенты

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

Документация Microsoft приводит этот шаблон для “other AI service providers that support the OpenAI chat completion API” (перевод: «других поставщиков ИИ-сервисов, которые поддерживают API OpenAI chat completion»). Версию на C# мы не запускали.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Коннектор устанавливается командой dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Какую модель выбрать

Задача Модель
Плагины, вызов функций, агенты broadnet/glm-5.3
Плагины плюс вход изображений или текст на арабском broadnet/qwen3.8-27b
Чат и резюме без инструментов, тариф с фиксированной ценой broadnet/deepseek-v4.1-flash

Цены на все модели.

Как мы это проверяли

2026-11-15 мы установили semantic-kernel 1.47.0 для Python в чистом виртуальном окружении и прогнали обычный чат, стриминг, автоматический вызов функций и ChatCompletionAgent на локальном mock-сервере, который отвечает в формате chat completions BroadNet. Мы прочитали записанные запросы. Все они ушли на /v1/chat/completions с неизменённым ID модели BroadNet и ключом Bearer. max_tokens передавался под этим именем, при стриминге добавлялся stream_options.include_usage, а вызов функций отправлял tool_choice: "auto". Ключа BroadNet у нас не было, поэтому реальные ответы моделей мы не проверяли. Фрагмент на C# взят из документации Microsoft и не запускался.

Решение проблем

  • 401. Ключ неверен, истёк или на нём закончился лимит.
  • 404. base_url клиента должен заканчиваться на /v1. Проверьте ID модели. Для платных моделей нужно пополнить баланс; грант $5 покрывает только broadnet/gemma-4-26b-a4b.
  • Пустые ответы. У DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждения учитываются в max_tokens. Увеличьте его. Почему ответы приходят пустыми.
  • Рассуждающие модели и роли. Документация Microsoft советует instruction_role="developer" для рассуждающих моделей OpenAI. Справочник API BroadNet роль developer не упоминает, поэтому оставьте instruction_role по умолчанию. В нашем тесте агент отправлял инструкции в сообщении system.
  • 429. Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно выполняемых. См. ошибки и повторные запросы.

Вопросы и ответы

Как задать свой базовый URL в Semantic Kernel для Python?

В версии 1.47 у OpenAIChatCompletion нет аргумента base_url. Создайте клиент openai.AsyncOpenAI с base_url и api_key и передайте его как async_client. Тогда этот клиент будет отправлять все запросы в BroadNet.

Зачем своему эндпоинту в C# нужна директива pragma?

Документация Microsoft называет использование своих эндпоинтов с коннектором OpenAI экспериментальным, поэтому перегрузке с endpoint нужна строка #pragma warning disable SKEXP0010.

Работает ли автоматический вызов функций с BroadNet?

Он использует стандартные вызовы инструментов через chat completions, поэтому берите модель, для которой BroadNet указывает инструменты: GLM 5.3 или Qwen3.8 27B. В нашем тесте с mock-сервером Semantic Kernel отправил плагин как инструмент и вернул результат в сообщении tool.

Работает ли ChatCompletionAgent из Semantic Kernel на BroadNet?

Да. Он принимает тот же сервис OpenAIChatCompletion. В нашем тесте на Python он отправил инструкции агента как системное сообщение и вызвал плагин через chat completions.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity