Langflow는 에이전트와 RAG 플로우를 만드는 오픈 소스 비주얼 빌더입니다. Langflow의 OpenAI 컴포넌트에는 OpenAI API Base 필드가 있는데, 컴포넌트 설명에 따르면 이 필드로 “use other APIs”(번역: 다른 API를 사용)할 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 chat completions를 제공하므로, BroadNet 모델 ID를 직접 입력하면 이 컴포넌트로 쓸 수 있습니다. BroadRouter는 BroadNet이 운영하는 사이트입니다. 아래 내용은 Langflow 1.13.x 문서와 v1.13.2의 컴포넌트 소스를 따릅니다.
설정
-
컴포넌트를 추가합니다. 플로우에서 컴포넌트 패널을 열고 OpenAI 번들의 OpenAI를 추가하세요. Langflow 1.13.2에서는 이 번들이 메인 패키지와 함께 설치됩니다.
-
Model Name. 필드를 클릭하고
broadnet/glm-5.3값을 입력하세요. 임의의 값을 받으므로 목록에 있는 OpenAI 모델로 제한되지 않습니다. -
OpenAI API Key. BroadNet 키를 붙여 넣거나, 키를 담은 전역 변수를 고르세요.
-
고급 설정. 컴포넌트의 컨트롤을 열고 다음과 같이 설정하세요.
필드 값 OpenAI API Base https://inference.broadnet.ai/v1Max Tokens 4000 -
실행합니다. Chat Input과 Chat Output을 연결하고 Playground를 열어 메시지를 보내세요. 답이 오면 설정이 맞는 것입니다.
BroadNet 연결을 막을 수 있는 Langflow 검사 두 가지
Langflow 1.13은 SSRF 보호가 기본으로 켜져 있습니다. 중요한 규칙은 두 가지입니다.
-
서버 환경에서 온 키. API 키가 서버 환경에서 온 경우(예: 환경 변수에서 불러온 전역 변수), 호스트가 허용 목록에 없으면 Langflow는 기본값이 아닌 엔드포인트로 키를 보내지 않습니다. 운영자가 다음을 설정하세요.
export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai컴포넌트에 직접 입력한 키에는 영향이 없습니다.
-
사설 주소. 루프백 주소와 사설 IP는
LANGFLOW_SSRF_ALLOWED_HOSTS에 넣지 않으면 차단됩니다. BroadNet은 공개 HTTPS 호스트이므로, 로컬 프록시를 거쳐 연결할 때만 해당됩니다.
OpenAI Compatible 제공자를 쓰지 않는 이유
Langflow 1.13에는 Settings → Model Providers 아래에 OpenAI Compatible 모델 제공자도 있습니다. 문서에 따르면 이 제공자는 엔드포인트의 /v1/models 경로로 연결을 검증하고, 거기서 찾은 모델을 선택지로 보여 줍니다. 2026년 11월 16일에 확인했을 때 BroadNet의 /v1/models에는 broadnet/cohere-transcribe-arabic와 broadnet/cohere-transcribe만 나열되어 있었으므로 여기서는 채팅 모델을 고를 수 없습니다. OpenAI 컴포넌트에서 모델 이름을 직접 입력하면 이 문제를 피할 수 있습니다.
어떤 모델을 고를까
| 플로우 | 모델 |
|---|---|
| 도구를 쓰는 Agent 컴포넌트 | broadnet/glm-5.3 |
| 이미지나 아랍어 텍스트를 다루며 도구를 쓰는 플로우 | broadnet/qwen3.8-27b |
| 긴 문서 플로우, 정액 플랜 | broadnet/deepseek-v4.1-flash |
| 초기 크레딧으로 Langflow 체험 | broadnet/gemma-4-26b-a4b (32,768 토큰 컨텍스트) |
BroadNet 문서는 도구와 구조화된 출력을 GLM 5.3과 Qwen3.8 27B에만 표기합니다. 컴포넌트의 JSON Mode는 response_format: {"type": "json_object"}를 보내므로 이 두 모델과 함께 쓰세요. 모든 모델의 가격을 확인하세요.
테스트 방법
Langflow UI를 직접 실행하지는 않았습니다. 2026-11-15에 lfx 1.13.2와 lfx-openai 번들을 설치했습니다. 이 번들의 OpenAI 컴포넌트 파일은 v1.13.2 소스와 같습니다. 그런 다음 BroadNet의 chat completions 형식을 흉내 내는 로컬 모의 서버를 대상으로 Python에서 컴포넌트를 만들었습니다. 키를 직접 입력하고 로컬 모의 서버용으로 LANGFLOW_SSRF_ALLOWED_HOSTS를 설정하자, 요청은 /v1/chat/completions로 갔고 모델 ID broadnet/glm-5.3 값은 바뀌지 않았으며 Bearer 키, temperature: 0.1, seed가 포함되었습니다. Max Tokens 값은 max_completion_tokens로 전송되었는데, BroadNet API 레퍼런스에는 max_tokens로 설명되어 있습니다. 서버 환경에서 복사한 키는 LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS도 설정할 때까지 거부되었습니다. BroadNet 키가 없었기 때문에 실제 모델 출력은 테스트하지 않았습니다.
문제 해결
- “Refusing to send a server-provisioned API credential”.
LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS에inference.broadnet.ai를 추가하거나, 키를 컴포넌트에 직접 입력하세요. - 401. 키가 잘못되었거나, 만료되었거나, 사용 가능 금액이 소진된 것입니다.
- 404. OpenAI API Base는
/v1로 끝나야 하고, Model Name은 BroadNet ID와 정확히 일치해야 합니다. 유료 모델은 충전이 필요하며, 초기 크레딧($5 상당)으로는broadnet/gemma-4-26b-a4b모델과 Transcribe 모델 두 개만 쓸 수 있습니다. - 빈 응답. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에서는 추론도 출력 한도에 포함됩니다. Max Tokens를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
- 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. 오류와 재시도를 참고하세요.
