BroadRouter
Começar

Usar o Semantic Kernel com a BroadNet Inference

Atualizado em

Em Python, crie um AsyncOpenAI com base_url https://inference.broadnet.ai/v1 e a sua chave da BroadNet, e passe-o como async_client ao OpenAIChatCompletion com ai_model_id definido como um ID da BroadNet, por exemplo broadnet/glm-5.3. Em C#, chame AddOpenAIChatCompletion com um endpoint Uri, que a Microsoft marca como experimental (SKEXP0010). Para plugins, use GLM 5.3 ou Qwen3.8 27B.

O Semantic Kernel é o SDK da Microsoft para criar apps e agentes de IA em C#, Python e Java. O conector OpenAI dele funciona com outros serviços compatíveis com a OpenAI: em Python ele aceita o seu próprio cliente OpenAI, e em C# um endpoint personalizado. A BroadNet Inference oferece chat completions padrão em https://inference.broadnet.ai/v1, então os dois caminhos funcionam. O BroadRouter é o site da própria BroadNet; este guia segue a documentação do Semantic Kernel da Microsoft e o código-fonte Python 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

O ai_model_id é enviado sem alteração, então mantenha o prefixo broadnet/. O argumento api_key do OpenAIChatCompletion não é necessário quando você passa um cliente.

Plugins e function calling

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

O Semantic Kernel envia o plugin como uma tool chamada weather-get_weather, executa a função quando o modelo pede e devolve o resultado. Use broadnet/glm-5.3 ou broadnet/qwen3.8-27b; a documentação da BroadNet lista ferramentas só para esses dois.

Agentes

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

A documentação da Microsoft traz este padrão para “other AI service providers that support the OpenAI chat completion API” (tradução: outros provedores de serviços de IA que suportam a API de chat completion da OpenAI). Não rodamos a versão em C#.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Instale o conector com dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Qual modelo escolher

Uso Modelo
Plugins, function calling, agentes broadnet/glm-5.3
Plugins com entrada de imagem ou texto em árabe broadnet/qwen3.8-27b
Chat e resumos sem ferramentas, plano de preço fixo broadnet/deepseek-v4.1-flash

Preços de todos os modelos.

Como testamos

Em 2026-11-15 instalamos o semantic-kernel 1.47.0 para Python em um ambiente virtual limpo e rodamos chat simples, streaming, function calling automático e um ChatCompletionAgent contra um servidor mock local que fala o formato de chat completions da BroadNet. Lemos as requisições registradas. Todas foram para /v1/chat/completions com o ID de modelo da BroadNet sem alteração e uma chave Bearer. O max_tokens foi enviado com esse nome, o streaming adicionou stream_options.include_usage e o function calling enviou tool_choice: "auto". Não tínhamos uma chave da BroadNet, então não testamos a saída real do modelo. O trecho em C# vem da documentação da Microsoft e não foi executado.

Solução de problemas

  • 401. A chave está errada, expirou ou ficou sem cota.
  • 404. O base_url do cliente precisa terminar em /v1. Confira o ID do modelo. Os modelos pagos exigem uma recarga; o crédito de $5 cobre só broadnet/gemma-4-26b-a4b e os dois modelos Transcribe.
  • Respostas vazias. No DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B, o raciocínio conta no max_tokens. Aumente o valor. Por que as respostas vêm vazias.
  • Modelos de raciocínio e papéis. A documentação da Microsoft sugere instruction_role="developer" para modelos de raciocínio da OpenAI. A referência da API da BroadNet não menciona o papel developer, então deixe instruction_role no padrão. No nosso teste, o agente enviou as instruções numa mensagem system.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento. Veja erros e novas tentativas.

Perguntas frequentes

Como defino uma base URL personalizada no Semantic Kernel para Python?

Na versão 1.47, o OpenAIChatCompletion não tem argumento base_url. Crie um cliente openai.AsyncOpenAI com base_url e api_key e passe-o como async_client. A partir daí, esse cliente envia todas as requisições para a BroadNet.

Por que o endpoint personalizado em C# precisa de um pragma?

A documentação da Microsoft diz que usar endpoints personalizados com o conector OpenAI é experimental, então a sobrecarga com endpoint exige #pragma warning disable SKEXP0010.

O function calling automático funciona com a BroadNet?

Ele usa tool calls padrão sobre chat completions, então use um modelo que a BroadNet lista com ferramentas: GLM 5.3 ou Qwen3.8 27B. No nosso teste com servidor mock, o Semantic Kernel enviou o plugin como tool e devolveu o resultado numa mensagem tool.

O ChatCompletionAgent do Semantic Kernel funciona na BroadNet?

Sim. Ele usa o mesmo serviço OpenAIChatCompletion. No nosso teste em Python, enviou as instruções do agente como mensagem de sistema e chamou o plugin via chat completions.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity