BroadRouter
시작하기

LibreChat에 BroadNet Inference를 커스텀 엔드포인트로 추가하기

업데이트

librechat.yaml의 endpoints.custom 아래에 항목을 추가하고 name은 BroadNet, apiKey는 BROADNET_API_KEY 같은 환경 변수 참조, baseURL은 https://inference.broadnet.ai/v1, models.default에는 broadnet/glm-5.3 같은 BroadNet ID를 나열하세요. 키는 .env에 넣고, Docker라면 파일을 컨테이너에 마운트한 뒤 LibreChat을 재시작합니다. /chat/completions는 LibreChat이 base URL 뒤에 직접 붙입니다.

LibreChat은 OpenAI 호환 서비스를 커스텀 엔드포인트로 지원하는 오픈 소스 채팅 앱입니다. 엔드포인트는 librechat.yaml에 정의하고, 키는 .env에 두며, Docker에서는 YAML 파일을 컨테이너에 마운트합니다. BroadRouter는 BroadNet이 운영하는 사이트이며, 아래 단계는 LibreChat의 커스텀 엔드포인트 가이드를 따릅니다.

설정

  1. librechat.yaml을 마운트합니다(Docker만 해당). docker-compose.override.yml.example을 docker-compose.override.yml로 복사하고, 볼륨이 활성화되어 있는지 확인하세요.
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. 엔드포인트를 추가합니다. 프로젝트 루트의 librechat.yaml에서 endpoints.custom 아래에 추가하세요.
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

version처럼 파일에 이미 있는 최상위 키는 그대로 두세요.

  1. 키를 설정합니다. .env에 넣으세요.
BROADNET_API_KEY=your-broadnet-key
  1. LibreChat을 재시작합니다. Docker에서는 docker compose down && docker compose up -d, 로컬 설치에서는 npm run backend로 재시작하세요. 그러면 엔드포인트 선택 목록에 BroadNet이 나타납니다.

필드 설명

  • baseURL. LibreChat이 /chat/completions를 직접 붙이므로, 위처럼 /v1 루트를 쓰세요. directEndpoint: true는 설정하지 마세요. 이 옵션은 baseURL이 이미 completions URL 전체일 때 씁니다.
  • fetch: false. LibreChat의 기본값이지만, 선택을 눈에 보이게 하려고 명시했습니다. BroadNet 문서는 GET /v1/models를 모니터링용 공개 카탈로그 메타데이터로 설명하므로, default에 모델을 나열하는 편이 더 예측 가능합니다.
  • titleModel. LibreChat은 채팅마다 추가 요청을 보내 제목을 만듭니다. 추론하지 않는 작고 저렴한 모델을 쓰면 이 호출이 짧게 끝납니다. BroadNet 문서는 Gemma 4 VL 26B에 추론을 표기하지 않습니다.
  • user_provided. 사용자마다 UI에서 자기 BroadNet 키를 입력하게 하려면 apiKey: 'user_provided'로 설정하세요. LibreChat은 각 사용자의 키를 암호화해 저장하고, 사용자가 엔드포인트를 처음 고를 때 키를 묻습니다.
  • 고유한 이름. 대소문자를 무시하고 이름이 같은 엔드포인트가 또 있으면, 나중 것이 앞의 것을 조용히 대체합니다. 이미 BroadNet이라는 항목이 있다면 둘 중 하나의 이름을 바꾸세요.
  • 키를 직접 쓰지 마세요. LibreChat 문서는 librechat.yaml에 키를 직접 입력하는 대신 ${VAR} 참조를 권장합니다. 직접 입력하면 키가 파일에 평문으로 남습니다.

어떤 모델을 고를까

용도 모델
기본 채팅, 도구, JSON GLM 5.3
이미지와 아랍어 Qwen3.8 27B
긴 문서, 1M 컨텍스트 DeepSeek V4.1 Flash
제목과 빠른 답변 BroadNet Gemma 4 VL 26B

이 모델들 중 초기 크레딧($5 상당)으로 실행되는 것은 Gemma 4 VL 26B뿐이며, 이 크레딧은 Transcribe 모델 두 개에도 쓸 수 있습니다. 가격은 가격 페이지에서 비교하세요.

문제 해결

  • 엔드포인트가 나타나지 않음. name, baseURL, apiKey, models.default의 철자가 맞는지, endpoints.custom 안에 들여쓰기되어 있는지 확인하세요. LibreChat은 불완전한 항목을 로그 한 줄 없이 버립니다. Docker에서는 docker-compose.override.yml의 바인드 마운트가 주석 해제되어 있는지 확인하세요.
  • “Missing API Key for BroadNet”. BROADNET_API_KEY가 .env에 없거나 LibreChat을 재시작하지 않은 것입니다. 엔드포인트는 그대로 보이고, 오류는 메시지를 보낼 때만 나타납니다.
  • 제공자의 401. 키가 잘못되었거나, 만료되었거나, 종량제 사용 가능 금액이 소진된 것입니다.
  • 모델 오류. 각 ID는 broadnet/ 접두사를 포함해 BroadNet ID와 정확히 일치해야 합니다. GLM 5.3, Qwen3.8 27B, DeepSeek V4.1 Flash는 충전이 필요합니다.
  • 빈 응답. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 먼저 추론하며, 추론도 max_tokens에 포함됩니다. LibreChat 파라미터에서 최대 출력을 작게 잡았다면 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
  • 사용자가 많을 때 429. 종량제 키 하나는 분당 30 요청, 동시 4 건까지 허용하며, 이 한도를 엔드포인트의 모든 사용자가 나눠 씁니다. 제목 요청도 포함됩니다. user_provided 키를 쓰면 부하가 분산됩니다. 오류와 재시도를 참고하세요.
  • 플랜 키. 무제한 플랜 세션은 한 번에 요청 하나만 실행하고 공유할 수 없으므로, 여러 사용자가 쓰는 LibreChat에는 맞지 않습니다.

자주 묻는 질문

LibreChat에 BroadNet 엔드포인트가 나타나지 않는 이유는 무엇인가요?

name, baseURL, apiKey, models.default 중 하나라도 빠지거나 철자가 틀리면 LibreChat은 오류나 로그 한 줄 없이 커스텀 엔드포인트를 버립니다. Docker라면 librechat.yaml이 /app/librechat.yaml에 마운트되었는지, 재시작했는지도 확인하세요.

사용자마다 자기 BroadNet 키를 쓰게 할 수 있나요?

네. apiKey를 user_provided로 설정하세요. 그러면 LibreChat이 각 사용자가 엔드포인트를 처음 고를 때 키를 묻고, 암호화해 저장합니다.

LibreChat에 "Missing API Key for BroadNet"이 표시되는 이유는 무엇인가요?

apiKey에서 참조하는 변수가 .env에 설정되어 있지 않은 것입니다. 엔드포인트는 선택 목록에 그대로 보이고, 오류는 메시지를 보낼 때만 나타납니다. 변수를 추가한 뒤 LibreChat을 재시작하세요.

LibreChat의 baseURL에 /chat/completions를 포함해야 하나요?

아니요. LibreChat은 기본적으로 baseURL 뒤에 /chat/completions를 붙입니다. https://inference.broadnet.ai/v1을 쓰세요. 입력한 URL이 이미 completions 엔드포인트 전체 주소일 때만 directEndpoint를 true로 설정합니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기