BroadRouter
始める

Semantic Kernel で BroadNet Inference を使う

更新日

Python では base_url を https://inference.broadnet.ai/v1 にし、BroadNet のキーで AsyncOpenAI を作成して、OpenAIChatCompletion に async_client として渡します。ai_model_id は broadnet/glm-5.3 などの BroadNet の ID です。C# では endpoint の Uri を指定して AddOpenAIChatCompletion を呼びます。Microsoft はこれを実験的機能(SKEXP0010)としています。プラグインには GLM 5.3 か Qwen3.8 27B を使います。

Semantic Kernel は、C#、Python、Java で AI アプリやエージェントを作るための Microsoft の SDK です。OpenAI コネクタは、ほかの OpenAI 互換サービスでも使えます。Python では自分で作った OpenAI クライアントを、C# ではカスタムエンドポイントを渡します。BroadNet Inference は https://inference.broadnet.ai/v1 で標準の chat completions を提供しているので、どちらの方法でも使えます。BroadRouter は BroadNet 自身のサイトです。このガイドは Microsoft の Semantic Kernel のドキュメントと Python 1.47.0 のソースに基づいています。

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id はそのまま送られるので、broadnet/ プレフィックスは残してください。クライアントを渡す場合、OpenAIChatCompletion の api_key 引数は不要です。

プラグインと関数呼び出し

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel はプラグインを weather-get_weather という名前のツールとして送り、モデルが要求したときに実行して、結果を送り返します。broadnet/glm-5.3 か broadnet/qwen3.8-27b を使ってください。BroadNet のドキュメントでツール対応が記載されているのはこの 2 つだけです。

エージェント

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C#(.NET)

Microsoft のドキュメントでは、“other AI service providers that support the OpenAI chat completion API”(訳:OpenAI の chat completion API に対応したほかの AI サービスプロバイダー)向けに次の書き方を紹介しています。C# 版は実行していません。

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

コネクタは dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI でインストールします。

モデルの選び方

用途 モデル
プラグイン、関数呼び出し、エージェント broadnet/glm-5.3
プラグインに加えて画像入力やアラビア語のテキスト broadnet/qwen3.8-27b
ツールを使わないチャットや要約、定額プラン broadnet/deepseek-v4.1-flash

全モデルの料金。

テスト方法

2026-11-15 に、クリーンな仮想環境に Python 版 semantic-kernel 1.47.0 をインストールし、BroadNet の chat completions の形式で応答するローカルのモックサーバーに対して、通常のチャット、ストリーミング、自動関数呼び出し、ChatCompletionAgent を実行しました。記録されたリクエストを確認したところ、すべて /v1/chat/completions に届き、BroadNet のモデル ID はそのまま、Bearer キーが付いていました。max_tokens はその名前で送られ、ストリーミングでは stream_options.include_usage が追加され、関数呼び出しでは tool_choice: "auto" が送られました。BroadNet のキーは持っていなかったため、実際のモデル出力はテストしていません。C# のスニペットは Microsoft のドキュメントからのもので、実行していません。

トラブルシューティング

  • 401。 キーが間違っているか、期限切れか、利用枠を使い切っています。
  • 404。 クライアントの base_url は /v1 で終わっている必要があります。モデル ID も確認してください。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは broadnet/gemma-4-26b-a4b と 2 つの Transcribe モデルだけです。
  • 応答が空。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B では推論が max_tokens に含まれます。上限を上げてください。回答が空で返ってくる理由。
  • 推論モデルとロール。 Microsoft のドキュメントは、OpenAI の推論モデルには instruction_role="developer" を勧めています。BroadNet の API リファレンスには developer ロールの記載がないため、instruction_role はデフォルトのままにしてください。私たちのエージェントのテストでは、instructions は system メッセージで送られました。
  • 429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。エラーとリトライを参照してください。

よくある質問

Python の Semantic Kernel でカスタムの base URL を設定するには?

バージョン 1.47 の OpenAIChatCompletion には base_url 引数がありません。base_url と api_key を指定して openai.AsyncOpenAI クライアントを作成し、async_client として渡します。以降のリクエストはすべてそのクライアント経由で BroadNet に送られます。

C# のカスタムエンドポイントで pragma が必要なのはなぜですか?

Microsoft のドキュメントでは、OpenAI コネクタでカスタムエンドポイントを使うことは実験的機能とされています。そのため endpoint を受け取るオーバーロードには #pragma warning disable SKEXP0010 が必要です。

自動関数呼び出しは BroadNet で動きますか?

chat completions 上の標準的なツール呼び出しを使うため、BroadNet がツール対応として記載している GLM 5.3 か Qwen3.8 27B を使ってください。私たちのモックテストでは、Semantic Kernel はプラグインをツールとして送り、結果を tool メッセージで返しました。

Semantic Kernel の ChatCompletionAgent は BroadNet で動きますか?

はい。同じ OpenAIChatCompletion サービスを使います。私たちの Python のテストでは、エージェントの instructions を system メッセージとして送り、chat completions 経由でプラグインを呼び出しました。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く