BroadRouter
시작하기

Jan에서 BroadNet Inference를 OpenAI 호환 커스텀 제공자로 쓰기

업데이트

Jan에서 Settings, Model Providers로 가서 Add Provider를 클릭하세요. OpenAI-compatible을 고르고 이름은 BroadNet, Base URL은 https://inference.broadnet.ai/v1로 정한 뒤 BroadNet 키를 붙여 넣습니다. 그다음 + 버튼으로 broadnet/glm-5.3 같은 채팅 모델을 직접 추가하고, 모델마다 capabilities에서 Tools나 비전을 켜세요.

Jan은 로컬 모델을 실행하고 클라우드 API에도 연결하는 오픈 소스 데스크톱 채팅 앱입니다. OpenAI 형식을 쓰는 서비스라면 무엇이든 커스텀 제공자로 추가할 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 표준 chat completions를 제공합니다. BroadRouter는 BroadNet이 운영하는 사이트이며, 아래 단계는 Jan 0.8.8 기준 Jan의 Custom Endpoints 문서를 따릅니다.

설정

  1. 키를 받습니다. BroadNet 콘솔에서 종량제 키를 만들거나, 시간제 키나 플랜을 구매하세요.

  2. 대화 상자를 엽니다. Settings > Model Providers로 가서 목록 옆의 Add Provider 버튼을 클릭하세요.

  3. API 형식을 고릅니다. 기본값인 OpenAI-compatible을 선택하세요.

  4. 세부 정보를 입력합니다.

    필드 값
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key BroadNet 키
  5. Create를 클릭하세요.

  6. 모델을 직접 추가합니다. 제공자의 Models 섹션에서 **+**를 클릭하고 채팅 모델 ID를 정확히 입력하세요. 예: broadnet/glm-5.3

  7. 기능을 설정합니다. 각 모델 옆의 연필 아이콘을 클릭해 그 모델이 지원하는 기능을 켜세요(아래 표 참고). Jan은 커스텀 제공자의 기능을 감지하지 못합니다.

  8. 테스트합니다. 새 채팅을 시작하고 모델 선택기에서 BroadNet 모델을 고른 뒤 짧은 메시지를 보내세요.

Jan은 저장할 때 https://inference.broadnet.ai/v1/models를 가져옵니다. BroadNet 문서는 이 엔드포인트를 모니터링용 카탈로그 메타데이터라고 설명하며, 2026년 11월 15일에 확인했을 때는 전사 모델 두 개만 나열되어 있었습니다. 이 모델들은 채팅을 할 수 없으니, 목록에 나타나면 지우세요.

모델 ID와 기능

모델 ID 도구 이미지 컨텍스트
GLM 5.3 broadnet/glm-5.3 켬 끔 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b 켬 켬 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 끔(BroadNet 미표기) 켬 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 끔 켬 32,768

broadnet/gemma-4-26b-a4b 모델은 초기 크레딧($5 상당)으로 실행되는 유일한 채팅 모델이며, BroadNet 시간제 키(1시간 $0.50, 스트림 1개)가 쓰는 모델이기도 합니다. 나머지 모델은 충전이 필요하고, DeepSeek V4.1 Flash는 무제한 플랜으로도 쓸 수 있습니다.

바꿔 둘 만한 설정

  • 출력 한도. 이 중 세 모델은 답하기 전에 추론하며, 그 추론도 max_tokens에 포함됩니다. BroadNet 모델에 출력 한도를 설정한다면 1,000 토큰 이상으로 두세요.
  • 샘플러. Jan은 커스텀 제공자에 샘플링 파라미터 전체를 노출하는데, Jan 문서는 커스텀 엔드포인트가 지원하지 않는 샘플러를 아무 말 없이 무시할 수 있다고 경고합니다. min-P 같은 설정이 아무 효과가 없어 보인다면 그 때문입니다.
  • 대체 키. Jan은 제공자마다 키를 여러 개 보관할 수 있고, 401, 403, 429가 나면 다음 키로 재시도합니다. BroadNet 허용 사용 정책은 속도 제한이나 동시 처리 제한을 우회하는 것을 금지하므로, 추가 키는 장애 조치용으로만 쓰고 한도를 늘리는 데 쓰지 마세요.

문제 해결

  • 모든 요청에 404. Base URL에 /v1이 빠졌습니다. Jan 문서는 이것이 가장 흔한 실수라고 합니다.
  • 401 또는 403. 키가 틀렸거나 만료되었거나 사용 가능 금액이 소진되었습니다. 확인했을 때 BroadNet의 /v1/models는 키 없이도 응답했으므로, Test keys가 통과해도 키가 작동한다는 증거는 아닙니다.
  • Model not found. broadnet/ 접두사를 포함해 ID를 확인하세요. 유료 모델은 충전이 필요합니다.
  • 빈 답변. 추론이 출력 예산을 다 썼습니다. 출력 한도를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
  • 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용하며, 시간제 키는 스트림 하나를 실행합니다. 오류와 재시도를 참고하세요.

자주 묻는 질문

BroadNet을 추가하면 Jan에 전사 모델만 보이는 이유는 무엇인가요?

Jan은 저장할 때 https://inference.broadnet.ai/v1/models를 가져옵니다. 2026년 11월 15일에 확인했을 때 BroadNet의 공개 /v1/models에는 전사 모델 두 개만 있었고, 이 모델들은 채팅에 쓸 수 없습니다. 이들을 지우고 채팅 모델 ID를 직접 추가하세요.

Jan의 Test keys 버튼이 OK라고 하면 키가 유효한 건가요?

꼭 그렇지는 않습니다. Jan은 /models를 호출해 키를 테스트하는데, 확인했을 때 BroadNet의 /v1/models는 키 없이도 응답했습니다. 채팅 메시지를 보내 키를 확인하세요.

Jan에서 BroadNet 시간제 키를 쓸 수 있나요?

네. 시간제 키는 BroadNet Gemma 4 VL 26B(ID broadnet/gemma-4-26b-a4b)를 한 번에 스트림 하나로 실행하므로, 채팅 창 하나에 잘 맞습니다.

Jan이 BroadNet 모델의 이미지나 도구 지원 여부를 감지하나요?

아니요. Jan 문서에 따르면 커스텀 제공자는 기능을 감지하지 않습니다. DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B는 이미지 입력을, GLM 5.3과 Qwen3.8 27B는 Tools를 켜세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기