BroadRouter
시작하기

BroadNet Inference에서 Semantic Kernel 사용하기

업데이트

Python에서는 base_url을 https://inference.broadnet.ai/v1로, 키를 BroadNet 키로 지정해 AsyncOpenAI를 만들고, 이를 async_client로 OpenAIChatCompletion에 넘기세요. ai_model_id는 broadnet/glm-5.3 같은 BroadNet ID로 설정합니다. C#에서는 endpoint Uri를 넣어 AddOpenAIChatCompletion을 호출하며, Microsoft는 이를 실험적 기능(SKEXP0010)으로 표시합니다. 플러그인에는 GLM 5.3이나 Qwen3.8 27B를 쓰세요.

Semantic Kernel은 C#, Python, Java로 AI 앱과 에이전트를 만드는 Microsoft의 SDK입니다. OpenAI 커넥터는 다른 OpenAI 호환 서비스와도 작동합니다. Python에서는 직접 만든 OpenAI 클라이언트를 받고, C#에서는 커스텀 엔드포인트를 받습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 표준 chat completions를 제공하므로 어느 방법이든 쓸 수 있습니다. BroadRouter는 BroadNet이 운영하는 사이트이며, 이 글은 Microsoft의 Semantic Kernel 문서와 Python 1.47.0 소스를 따릅니다.

Python

pip install semantic-kernel
export BROADNET_API_KEY='your-broadnet-key'
import asyncio, os
from openai import AsyncOpenAI
from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion, OpenAIChatPromptExecutionSettings
from semantic_kernel.contents import ChatHistory

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
chat = OpenAIChatCompletion(ai_model_id="broadnet/glm-5.3", async_client=client, service_id="broadnet")

async def main():
    history = ChatHistory()
    history.add_user_message("Give me three names for a billing microservice.")
    settings = OpenAIChatPromptExecutionSettings(max_tokens=4000)
    print(await chat.get_chat_message_content(chat_history=history, settings=settings))

asyncio.run(main())

ai_model_id는 그대로 전송되므로 broadnet/ 접두사를 유지하세요. 클라이언트를 넘길 때는 OpenAIChatCompletion의 api_key 인수가 필요 없습니다.

플러그인과 함수 호출

from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.function_choice_behavior import FunctionChoiceBehavior
from semantic_kernel.functions import kernel_function

class Weather:
    @kernel_function(description="Get the weather for a city.")
    def get_weather(self, city: str) -> str:
        return f"21C in {city}"

kernel = Kernel()
kernel.add_service(chat)
kernel.add_plugin(Weather(), plugin_name="weather")
settings = OpenAIChatPromptExecutionSettings(
    max_tokens=4000,
    function_choice_behavior=FunctionChoiceBehavior.Auto(),
)
# await chat.get_chat_message_content(chat_history=history, settings=settings, kernel=kernel)

Semantic Kernel은 플러그인을 weather-get_weather라는 이름의 도구로 보내고, 모델이 요청하면 실행한 뒤 결과를 돌려보냅니다. broadnet/glm-5.3 또는 broadnet/qwen3.8-27b 모델을 쓰세요. BroadNet 문서가 도구를 표기한 모델은 이 두 개뿐입니다.

에이전트

from semantic_kernel.agents import ChatCompletionAgent

agent = ChatCompletionAgent(service=chat, name="helper", instructions="Answer briefly.", plugins=[Weather()])
# response = await agent.get_response(messages="What's the weather in Dubai?")

C# (.NET)

Microsoft 문서는 “other AI service providers that support the OpenAI chat completion API”(번역: OpenAI chat completion API를 지원하는 다른 AI 서비스 제공업체)용으로 이 패턴을 제시합니다. C# 버전은 저희가 실행해 보지 않았습니다.

using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010
IKernelBuilder kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.AddOpenAIChatCompletion(
    modelId: "broadnet/glm-5.3",
    apiKey: Environment.GetEnvironmentVariable("BROADNET_API_KEY"),
    endpoint: new Uri("https://inference.broadnet.ai/v1")
);
Kernel kernel = kernelBuilder.Build();

커넥터는 dotnet add package Microsoft.SemanticKernel.Connectors.OpenAI 명령으로 설치하세요.

어떤 모델을 고를까

용도 모델
플러그인, 함수 호출, 에이전트 broadnet/glm-5.3
플러그인에 이미지 입력이나 아랍어 텍스트까지 broadnet/qwen3.8-27b
도구 없는 채팅과 요약, 정액 플랜 broadnet/deepseek-v4.1-flash

모든 모델의 가격을 확인하세요.

테스트 방법

2026-11-15에 깨끗한 가상 환경에 Python용 semantic-kernel 1.47.0을 설치하고, BroadNet의 chat completions 형식으로 응답하는 로컬 모의(mock) 서버를 대상으로 일반 채팅, 스트리밍, 자동 함수 호출, ChatCompletionAgent를 실행했습니다. 기록된 요청을 읽어 보니 모두 BroadNet 모델 ID를 그대로 담고 Bearer 키와 함께 /v1/chat/completions로 전송되었습니다. max_tokens는 그 이름 그대로 전송되었고, 스트리밍에는 stream_options.include_usage가 추가되었으며, 함수 호출에는 tool_choice: "auto"가 전송되었습니다. BroadNet 키가 없었기 때문에 실제 모델 출력은 테스트하지 않았습니다. C# 코드는 Microsoft 문서에서 가져온 것이며 실행하지 않았습니다.

문제 해결

  • 401. 키가 잘못되었거나 만료되었거나 사용 가능 금액이 소진된 경우입니다.
  • 404. 클라이언트의 base_url은 /v1로 끝나야 합니다. 모델 ID도 확인하세요. 유료 모델은 충전이 필요하며, 초기 크레딧($5 상당)은 broadnet/gemma-4-26b-a4b 모델과 Transcribe 모델 두 개에만 쓸 수 있습니다.
  • 빈 응답. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에서는 추론도 max_tokens에 포함됩니다. 한도를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
  • 추론 모델과 역할(role). Microsoft 문서는 OpenAI 추론 모델에 instruction_role="developer"를 권장합니다. BroadNet API 레퍼런스는 developer 역할을 언급하지 않으므로 instruction_role은 기본값으로 두세요. 저희 에이전트 테스트에서는 지시문이 system 메시지로 전송되었습니다.
  • 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. 오류와 재시도를 참고하세요.

자주 묻는 질문

Python용 Semantic Kernel에서 커스텀 base URL은 어떻게 지정하나요?

1.47 버전의 OpenAIChatCompletion에는 base_url 인수가 없습니다. base_url과 api_key로 openai.AsyncOpenAI 클라이언트를 만들고 async_client로 넘기세요. 그러면 이 클라이언트가 모든 요청을 BroadNet으로 보냅니다.

C# 커스텀 엔드포인트에 pragma가 필요한 이유는 무엇인가요?

Microsoft 문서에 따르면 OpenAI 커넥터에서 커스텀 엔드포인트를 쓰는 것은 실험적 기능이므로, endpoint 오버로드에는

BroadNet에서 자동 함수 호출이 작동하나요?

자동 함수 호출은 chat completions의 표준 도구 호출을 쓰므로, BroadNet이 도구를 표기한 GLM 5.3이나 Qwen3.8 27B를 쓰세요. 저희 모의 테스트에서 Semantic Kernel은 플러그인을 도구로 보냈고, 결과를 tool 메시지로 돌려보냈습니다.

Semantic Kernel의 ChatCompletionAgent가 BroadNet에서 작동하나요?

네. 같은 OpenAIChatCompletion 서비스를 받습니다. 저희 Python 테스트에서 에이전트 지시문을 system 메시지로 보냈고, chat completions를 통해 플러그인을 호출했습니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기