BroadRouter
Commencer

Utiliser Semantic Kernel avec BroadNet Inference

Mis à jour

En Python, créez un AsyncOpenAI avec base_url https://inference.broadnet.ai/v1 et votre clé BroadNet, puis passez-le comme async_client à OpenAIChatCompletion, avec ai_model_id réglé sur un ID BroadNet comme broadnet/glm-5.3. En C#, appelez AddOpenAIChatCompletion avec une Uri d’endpoint, que Microsoft marque comme expérimentale (SKEXP0010). Pour les plugins, utilisez GLM 5.3 ou Qwen3.8 27B.

Semantic Kernel est le SDK de Microsoft pour créer des applications et des agents d’IA en C#, Python et Java. Son connecteur OpenAI fonctionne avec d’autres services compatibles OpenAI : en Python, il accepte votre propre client OpenAI ; en C#, un endpoint personnalisé. BroadNet Inference sert des chat completions standard à l’adresse https://inference.broadnet.ai/v1 : les deux voies fonctionnent. BroadRouter est le site de BroadNet ; ce guide suit la documentation Semantic Kernel de Microsoft et le code source Python 1.47.0.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id est envoyé tel quel : gardez le préfixe broadnet/. L’argument api_key de OpenAIChatCompletion est inutile quand vous passez un client.

Plugins et appel de fonctions

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel envoie le plugin comme un outil nommé weather-get_weather, l’exécute quand le modèle le demande et renvoie le résultat. Utilisez broadnet/glm-5.3 ou broadnet/qwen3.8-27b ; la documentation de BroadNet n’indique les outils que pour ces deux modèles.

Agents

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

La documentation de Microsoft donne ce modèle pour les « other AI service providers that support the OpenAI chat completion API » (traduction : « autres fournisseurs de services d’IA qui prennent en charge l’API de chat completion d’OpenAI »). Nous n’avons pas exécuté la version C#.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

Installez le connecteur avec dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI.

Quel modèle choisir ?

Usage Modèle
Plugins, appel de fonctions, agents broadnet/glm-5.3
Plugins avec entrée d’images ou texte arabe broadnet/qwen3.8-27b
Chat et résumés sans outils, forfait à prix fixe broadnet/deepseek-v4.1-flash

Les prix de chaque modèle.

Comment nous l’avons testé

Le 15 novembre 2026, nous avons installé semantic-kernel 1.47.0 pour Python dans un environnement virtuel vierge et exécuté un chat simple, du streaming, l’appel automatique de fonctions et un ChatCompletionAgent contre un serveur fictif local qui parle le format chat completions de BroadNet. Nous avons lu les requêtes journalisées. Toutes sont allées vers /v1/chat/completions, avec l’ID de modèle BroadNet inchangé et une clé Bearer. max_tokens a été envoyé sous ce nom, le streaming a ajouté stream_options.include_usage, et l’appel de fonctions a envoyé tool_choice: "auto". Faute de clé BroadNet, nous n’avons pas testé de vraie sortie de modèle. L’extrait C# provient de la documentation de Microsoft et n’a pas été exécuté.

Dépannage

  • 401. La clé est erronée, a expiré ou a épuisé son allocation.
  • 404. La base_url du client doit se terminer par /v1. Vérifiez l’ID du modèle. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
  • Réponses vides. Sur DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B, le raisonnement compte dans max_tokens. Augmentez-le. Pourquoi les réponses reviennent vides.
  • Modèles de raisonnement et rôles. La documentation de Microsoft suggère instruction_role="developer" pour les modèles de raisonnement d’OpenAI. La référence de l’API de BroadNet ne mentionne pas le rôle developer : laissez donc instruction_role à sa valeur par défaut. Notre test d’agent a envoyé les instructions dans un message system.
  • 429. Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours. Voir codes d’erreur et nouvelles tentatives.

Questions fréquentes

Comment définir une base URL personnalisée dans Semantic Kernel pour Python ?

OpenAIChatCompletion n’a pas d’argument base_url dans la version 1.47. Créez un client openai.AsyncOpenAI avec base_url et api_key, et passez-le comme async_client. Ce client envoie alors chaque requête à BroadNet.

Pourquoi l’endpoint personnalisé en C# exige-t-il un pragma ?

La documentation de Microsoft indique que l’utilisation d’endpoints personnalisés avec le connecteur OpenAI est expérimentale : la surcharge avec endpoint nécessite donc #pragma warning disable SKEXP0010.

L’appel automatique de fonctions fonctionne-t-il avec BroadNet ?

Il repose sur des appels d’outils standard via les chat completions : utilisez donc un modèle que BroadNet indique avec outils, GLM 5.3 ou Qwen3.8 27B. Dans notre test sur serveur fictif, Semantic Kernel a envoyé le plugin comme outil et renvoyé le résultat dans un message d’outil.

Le ChatCompletionAgent de Semantic Kernel fonctionne-t-il avec BroadNet ?

Oui. Il prend le même service OpenAIChatCompletion. Dans notre test Python, il a envoyé les instructions de l’agent dans un message système et appelé le plugin via les chat completions.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity