BroadRouter
Inizia

Usare Semantic Kernel con BroadNet Inference

Aggiornato

In Python crea AsyncOpenAI con base_url https://inference.broadnet.ai/v1 e la tua chiave BroadNet, poi passalo come async_client a OpenAIChatCompletion con ai_model_id impostato su un ID BroadNet come broadnet/glm-5.3. In C# chiama AddOpenAIChatCompletion con un endpoint Uri, che Microsoft segna come sperimentale (SKEXP0010). Per i plugin usa GLM 5.3 o Qwen3.8 27B.

Semantic Kernel è l’SDK di Microsoft per creare app e agenti di AI in C#, Python e Java. Il suo connettore OpenAI funziona con altri servizi compatibili con OpenAI: in Python accetta un tuo client OpenAI, in C# un endpoint personalizzato. BroadNet Inference serve chat completions standard su https://inference.broadnet.ai/v1, quindi funzionano entrambe le strade. BroadRouter è il sito di BroadNet; questa guida segue la documentazione di Semantic Kernel di Microsoft e il sorgente Python 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id viene inviato invariato, quindi mantieni il prefisso broadnet/. Quando passi un client, l’argomento api_key di OpenAIChatCompletion non serve.

Plugin e function calling

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel invia il plugin come tool chiamato weather-get_weather, lo esegue quando il modello lo richiede e rimanda indietro il risultato. Usa broadnet/glm-5.3 o broadnet/qwen3.8-27b: la documentazione di BroadNet indica gli strumenti solo per questi due.

Agenti

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

La documentazione di Microsoft propone questo schema per “other AI service providers that support the OpenAI chat completion API” (traduzione: altri fornitori di servizi di AI che supportano l’API OpenAI chat completion). La versione C# non l’abbiamo eseguita.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Installa il connettore con dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Quale modello scegliere

Uso Modello
Plugin, function calling, agenti broadnet/glm-5.3
Plugin con input di immagini o testo in arabo broadnet/qwen3.8-27b
Chat e riassunti senza strumenti, piano a prezzo fisso broadnet/deepseek-v4.1-flash

Prezzi di tutti i modelli.

Come l’abbiamo testato

Il 2026-11-15 abbiamo installato semantic-kernel 1.47.0 per Python in un ambiente virtuale pulito e abbiamo eseguito chat semplice, streaming, function calling automatico e un ChatCompletionAgent contro un server mock locale che parla il formato di chat completions di BroadNet. Abbiamo letto le richieste registrate. Sono andate tutte a /v1/chat/completions con l’ID del modello BroadNet invariato e una chiave Bearer. max_tokens è stato inviato con questo nome, lo streaming ha aggiunto stream_options.include_usage e il function calling ha inviato tool_choice: "auto". Non avevamo una chiave BroadNet, quindi non abbiamo testato l’output reale del modello. Lo snippet C# viene dalla documentazione di Microsoft e non è stato eseguito.

Risoluzione dei problemi

  • 401. La chiave è sbagliata, scaduta o ha esaurito la quota.
  • 404. Il base_url del client deve finire con /v1. Controlla l’ID del modello. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solo broadnet/gemma-4-26b-a4b e i due modelli Transcribe.
  • Risposte vuote. Su DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B il ragionamento conta in max_tokens. Alzalo. Perché le risposte arrivano vuote.
  • Modelli di ragionamento e ruoli. La documentazione di Microsoft suggerisce instruction_role="developer" per i modelli di ragionamento di OpenAI. Il riferimento API di BroadNet non menziona il ruolo developer, quindi lascia instruction_role al valore predefinito. Nel nostro test l’agente ha inviato le istruzioni in un messaggio system.
  • 429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso contemporaneamente. Vedi errori e retry.

Domande frequenti

Come imposto una base URL personalizzata in Semantic Kernel per Python?

Nella versione 1.47 OpenAIChatCompletion non ha un argomento base_url. Crea un client openai.AsyncOpenAI con base_url e api_key e passalo come async_client. Da quel momento il client invia ogni richiesta a BroadNet.

Perché l’endpoint personalizzato in C# richiede un pragma?

La documentazione di Microsoft dice che usare endpoint personalizzati con il connettore OpenAI è sperimentale, quindi l’overload con endpoint richiede #pragma warning disable SKEXP0010.

Il function calling automatico funziona con BroadNet?

Usa le normali tool call su chat completions, quindi scegli un modello che BroadNet indica con gli strumenti: GLM 5.3 o Qwen3.8 27B. Nel nostro test con un server mock, Semantic Kernel ha inviato il plugin come tool e ha restituito il risultato in un messaggio tool.

Il ChatCompletionAgent di Semantic Kernel funziona su BroadNet?

Sì. Usa lo stesso servizio OpenAIChatCompletion. Nel nostro test in Python ha inviato le istruzioni dell’agente come messaggio di sistema e ha chiamato il plugin tramite chat completions.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity