BroadRouter

기업용 오픈 웨이트 vs 비공개 AI 모델: 비용, 통제, 위험

BroadNet Inference 팀 · 4분 분량 · 게시

최전선에서는 여전히 비공개 모델이 앞서지만, Epoch AI는 최고의 오픈 웨이트 모델이 약 4개월 뒤처진다고 추정합니다. 오픈 웨이트 모델은 여러 제공업체가 같은 가중치를 서빙할 수 있으므로 통제, 개인정보 선택지, 버전 고정, 종속성 면에서 유리합니다. 어려운 작업에서 최고 품질이 필요하다면 비공개 모델이 유리합니다. 많은 기업이 작업에 따라 둘을 함께 씁니다.

LLM으로 무언가를 만드는 팀이라면 모두 이 선택을 합니다. 의식하지 못한 채로 하는 경우도 많습니다. 한 공급업체의 API로만 접근할 수 있는 비공개 모델인가, 아니면 누구나 가중치를 내려받아 실행할 수 있는 오픈 웨이트 모델인가. 이 선택은 청구서, 데이터 경로, 제품의 안정성, 그리고 떠나기가 얼마나 어려운지에 영향을 줍니다.

오픈 웨이트란 정확히 무슨 뜻인가요?

오픈 웨이트 모델은 학습된 파라미터를 공개합니다. 여러분이든 어떤 제공업체든 실행할 수 있습니다. 이는 오픈소스보다 좁은 개념입니다. 학습 데이터와 전체 학습 파이프라인은 보통 공개되지 않습니다.

라이선스는 다양합니다. 관대한 것도 있습니다. 예를 들어 OpenAI의 Whisper는 코드와 가중치를 MIT 라이선스로 공개합니다. 상업적 사용, 사용자 수, 사용 분야를 제한하는 라이선스도 있습니다. 모델 위에 무언가를 만들기 전에 각 모델의 라이선스를 읽어 보세요.

비공개 모델의 가중치는 공급업체에 남아 있습니다. 그 API나 공급업체가 라이선스를 준 클라우드를 통해 접근 권한을 빌려 씁니다.

오픈 웨이트와 비공개 모델 비교

요소 오픈 웨이트 비공개
최상위 품질 최전선보다 몇 개월 뒤처짐 가장 어려운 작업에서 보통 앞섬
토큰당 가격 대체로 낮음. 호스트들이 같은 모델로 경쟁 공급업체 한 곳이 정함
실행 위치 자체 서버, 임대 GPU, 어떤 호스트든 공급업체의 API나 라이선스를 받은 클라우드
개인정보 선택지 자체 호스팅, 또는 데이터 비보관 호스트 선택 공급업체의 약관과 등급
버전 안정성 원하는 기간 동안 정확한 가중치 고정 공급업체가 자체 일정에 따라 버전 종료
맞춤화 직접 파인튜닝하거나 양자화 공급업체가 제공하는 것만
종속성 낮음. 여러 호스트가 같은 가중치를 서빙 높음. 모델마다 공급업체 한 곳
운영 자체 호스팅이라면 직접 공급업체

품질 격차는 얼마나 되나요?

예전보다 작지만, 실재합니다. Stanford의 2025 AI Index에 따르면 Chatbot Arena 리더보드에서 최고의 비공개 모델이 최고의 오픈 웨이트 모델보다 앞선 폭은 2024년 1월 초 8.04%에서 2025년 2월 1.70%로 줄었습니다. Epoch AI는 2026년 5월 29일, 자체 Epoch Capabilities Index로 측정했을 때 “the most capable open-weight models have lagged frontier closed models by an average of four months”(번역: 가장 뛰어난 오픈 웨이트 모델은 최전선 비공개 모델보다 평균 4개월 뒤처져 왔다)고 추정했습니다.

실제로는 다음과 같습니다.

  • 분류, 추출, 요약, 번역, 일상적인 채팅: 오픈 웨이트 모델이 보통 충분히 좋고, 더 저렴합니다.
  • 코딩 에이전트와 긴 문서: 강력한 오픈 웨이트 선택지가 있습니다. 자체 저장소로 시험하세요. 코딩 에이전트에 가장 좋은 오픈 모델을 참고하세요.
  • 가장 어려운 추론과 최신 기능: 비공개 모델이 먼저 도달하는 경우가 많습니다.

리더보드는 평균입니다. 중요한 벤치마크는 여러분의 실제 테스트 사례 50개입니다.

오픈 웨이트 모델을 실행하는 세 가지 방법은 무엇인가요?

선택지 가장 좋은 경우 주의할 점
자체 GPU에서 자체 호스팅 데이터가 네트워크 밖으로 나가면 안 되고, GPU가 계속 바쁠 때 하드웨어, 드라이버, 확장, 보안, 업그레이드
전용 GPU 임대 부하가 꾸준하고, 맞춤 가중치가 있을 때 노는 시간에도 비용을 냅니다
호스팅된 오픈 웨이트 API 트래픽이 들쭉날쭉하거나 늘어나는 중이고, 빨리 시작해야 할 때 호스트의 데이터 보관과 가동 시간을 믿어야 합니다

자체 호스팅은 토큰당으로는 공짜처럼 보이지만, GPU는 시간당 요청 하나를 처리하든 천 개를 처리하든 비용이 같습니다. 높고 꾸준한 사용률에서만 본전을 뽑습니다. 그보다 낮다면 토큰당 API나 정액 플랜이 보통 더 저렴합니다.

오픈 웨이트 모델은 한 달에 얼마나 드나요?

호스팅된 오픈 웨이트 모델의 토큰당 가격은 계산하기 쉽습니다. BroadNet을 통해 DeepSeek V4.1 Flash로 한 달에 입력 1억 토큰, 출력 1,000만 토큰을 쓴다면:

캐시 할인 전 월 100 x $0.175 + 10 x $0.52입니다.

같은 계산을 비공개 공급업체가 공개한 100만 토큰당 가격과 실제 토큰 수로 해 보거나, GPT, Claude, Gemini, Grok, 오픈 모델 5개로 같은 워크로드의 가격을 매긴 오픈 웨이트 vs 비공개 모델 API 비용 비교에서 시작하세요. 캐시된 입력은 결과를 크게 바꿉니다. 이 모델의 캐시된 토큰은 100만 토큰당 $0.0055 요금입니다. LLM API 비용 계산기는 모든 BroadNet 모델에 대해 이 계산을 해 주고, LLM API 가격표는 같은 오픈 웨이트에 대해 다른 호스트가 받는 가격을 나열합니다.

종속성은 왜 보기보다 중요한가요?

비공개 공급업체가 가격을 올리거나, 데이터 약관을 바꾸거나, 프롬프트를 맞춰 둔 모델을 종료하면, 선택지는 받아들이거나 다시 쓰는 것뿐입니다. 오픈 웨이트 모델이라면 같은 가중치를 다른 호스트나 사내로 옮겨 같은 동작을 유지할 수 있습니다.

그 선택지를 실제로 유지하려면 다음을 하세요.

  1. base URL과 모델 ID를 설정에 두고 OpenAI 호환 SDK로 모델을 호출하세요.
  2. 회귀 테스트 세트를 유지하고, 제공업체를 바꿀 때마다 실행하세요.
  3. 원한다면 LiteLLM 같은 라우터를 앞에 두어, 전환을 설정 변경만으로 끝내세요.

기업은 오픈 모델과 비공개 모델을 어떻게 함께 쓰나요?

대부분의 기업은 결국 둘 다 씁니다.

  • 양이 많고 잘 정의된 작업(추출, 분류, 요약, 에이전트의 일상적인 단계)은 오픈 웨이트 모델로 보냅니다.
  • 드물고 어려운 작업은 최전선 비공개 모델로 보냅니다.
  • 분기마다 다시 시험합니다. Epoch가 측정한 격차를 고려하면, 시간이 지나면서 작업이 두 번째 목록에서 첫 번째 목록으로 옮겨 갑니다.

BroadNet Inference의 역할

BroadNet Inference는 호스팅된 오픈 웨이트 API입니다. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet이 빌드한 Google의 Gemma 4, 그리고 음성 인식 모델 두 개를 모두 OpenAI 호환 엔드포인트로 제공합니다. 개인정보 정책에 따르면 프롬프트와 출력을 보관하지 않으며, 추론 데이터를 모델 학습, 파인튜닝, 평가에 쓰지 않습니다. DeepSeek V4.1 Flash는 세션당 1시간 $1 요금부터 월 $60 요금까지의 정액 플랜으로도 이용할 수 있습니다.

비공개 모델은 서빙하지 않습니다. 작업에 GPT, Claude, Gemini가 필요하다면 그 경로에는 해당 공급업체를 쓰고, 나머지는 오픈 웨이트로 유지하세요. BroadNet을 다른 제공업체와 비교하려면 20가지 항목의 제공업체 체크리스트를 활용하세요.

자주 묻는 질문

오픈 웨이트 AI 모델과 오픈소스 AI 모델은 무엇이 다른가요?

오픈 웨이트 모델은 학습된 가중치를 공개해 누구나 실행할 수 있게 합니다. 오픈소스 모델이라면 학습 코드와 데이터도 공개해야 합니다. 널리 쓰이는 "오픈" LLM은 대부분 오픈 웨이트일 뿐이며, 라이선스는 관대한 것부터 제한적인 것까지 다양합니다.

오픈 웨이트 모델은 비공개 모델만큼 좋은가요?

가깝지만 최상위에서는 같지 않습니다. Epoch AI는 2026년 5월, 최고의 오픈 웨이트 모델이 최고의 비공개 모델보다 약 4개월 뒤처진다고 추정했습니다. 많은 일상 작업에서는 차이가 작지만, 가장 어려운 작업에서는 보통 비공개 모델이 여전히 앞섭니다.

오픈 웨이트 모델이 더 저렴한가요?

토큰당으로는 그런 경우가 많습니다. 여러 호스트가 같은 가중치를 서빙하려고 경쟁하기 때문입니다. 자체 호스팅은 GPU가 계속 바쁠 때만 더 저렴합니다. 노는 GPU도 쓰든 안 쓰든 비용이 듭니다.

오픈 웨이트 모델이 개인정보 보호에 더 유리한가요?

그럴 수 있습니다. 자체 호스팅으로 데이터가 네트워크 밖으로 나가지 않게 하거나, 데이터 비보관 호스트를 고를 수 있습니다. 비공개 모델은 공급업체가 서빙하는 곳에서, 공급업체의 약관에 따라서만 실행할 수 있습니다.

코드를 다시 쓰지 않고 비공개 모델에서 오픈 웨이트 모델로 바꿀 수 있나요?

호스트가 OpenAI 호환 API를 제공한다면 대개 가능합니다. base URL, 키, 모델 ID를 바꾼 다음, 자체 테스트 세트로 프롬프트, 도구 호출, 출력 품질을 다시 시험하세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기