---
title: "SLA란? LLM API의 가동률 보장과 서비스 크레딧 | BroadRouter"
description: "SLA는 보통 월간 가동률 같은 서비스 수준을 서면으로 약속하고, 지키지 못하면 서비스 크레딧을 주는 계약입니다. LLM API SLA의 작동 방식을 실제 예시로 정리했습니다."
url: https://broadrouter.com/ko/glossary/sla/
lang: ko
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/glossary/sla/) (2026-11-15 업데이트).

# SLA(서비스 수준 협약, service level agreement)

업데이트 2026-11-15

SLA(서비스 수준 협약)는 제공업체가 측정 가능한 서비스 수준, 보통 월간 가동률을 계약으로 약속하고, 이를 지키지 못했을 때의 구제 수단, 보통 서비스 크레딧을 정해 둔 것입니다. SLA는 무엇을 다운타임으로 보는지, 무엇이 제외되는지, 어떻게 청구하는지를 정의합니다.

다른 이름: SLA, 서비스 수준 협약, 서비스 수준 계약, 가동률 보장, 업타임 보장, 서비스 크레딧, service level agreement, uptime SLA, uptime guarantee, service credits

“고가용성”은 희망 사항입니다. SLA는 계약서에 적힌 숫자이고, 그 숫자를 지키지 못했을 때의 구제 수단이 정해져 있습니다.

## 작동 방식

SLA는 네 가지를 정의합니다. 무엇이 대상인지, 다운타임을 어떻게 측정하는지, 목표를 못 지켰을 때 무엇을 받는지, 어떻게 청구하는지입니다. Gemini Enterprise Agent Platform에서 제공하는 Gemini 온라인 추론 API에 대한 Google의 SLA가 좋은 실제 예시입니다.

-   **목표.** `generateContent`와 `streamGenerateContent` 메서드에 대해 월간 가동률(Monthly Uptime Percentage) 99.5%(가용 기간이 짧게 지정된 모델은 95%).
-   **다운타임.** “more than a five percent Error Rate”(번역: 오류율 5% 초과). 여기서 오류는 유효한 요청에 대한 HTTP 5XX 응답이며, “five or more consecutive minutes”(번역: 5분 이상 연속된) 구간만 집계합니다.
-   **크레딧.**

| 월간 가동률 | 해당 서비스 월 청구액에 대한 크레딧 |
| --- | --- |
| 99.0% 이상 99.5% 미만 | 10% |
| 95.0% 이상 99.0% 미만 | 25% |
| 95.0% 미만 | 50% |

-   **청구.** 고객은 “must notify Google technical support within 30 days”(번역: 30일 이내에 Google 기술 지원팀에 알려야 합니다)이며, 다운타임 구간을 보여 주는 로그 파일을 제출해야 합니다. 크레딧 상한은 그달 해당 서비스 청구액의 50%입니다.
-   **제외 사항.** GA 이전 기능, Grounding with Google Search, 고객 자체 소프트웨어에서 생긴 오류, 서버 기본값보다 짧은 기한(deadline), 할당량 오류는 대상이 아닙니다.

같은 SLA는 Provisioned Throughput을 쓰는 일부 모델에 대해 초당 출력 토큰으로 측정하는 지연 시간 목표도 추가합니다. Azure, Amazon Bedrock, OpenAI, Anthropic 등을 나란히 비교한 내용은 [LLM API SLA 비교](https://broadrouter.com/ko/blog/llm-api-sla-uptime-compared/)에서 확인하세요.

## 왜 중요한가

-   **가동률은 처리량이 아닙니다.** 5XX 오류만 세는 SLA는 [지연 시간](https://broadrouter.com/ko/glossary/latency/) 목표가 없는 한 [속도 제한](https://broadrouter.com/ko/glossary/rate-limit/)(429)이나 느린 응답에 대해 아무것도 말해 주지 않습니다.
-   **크레딧은 작습니다.** 10% 크레딧이 제품 장애로 생긴 비용에 맞먹는 경우는 드뭅니다. 어차피 실패를 전제로 설계하세요. [백오프](https://broadrouter.com/ko/glossary/exponential-backoff/)를 둔 재시도, 타임아웃, [폴백 모델](https://broadrouter.com/ko/glossary/model-fallback/)이나 다른 제공업체를 준비하세요. [오류와 재시도 가이드](https://broadrouter.com/ko/guides/errors-and-retries/)를 참고하세요.
-   **제외 사항을 읽으세요.** Google의 SLA는 GA 이전 기능과 특정 서비스를 제외합니다. 어떤 SLA든 비슷한 예외가 있는지 확인하세요.
-   **로그는 직접 남기세요.** 청구에는 증거가 필요합니다. 요청 ID, 타임스탬프, 상태 코드를 기록하세요.

## BroadNet Inference에서는

BroadNet의 셀프서비스 API는 종량제든 플랜이든 SLA가 없습니다. 서비스 약관(§7.4)은 “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.”(번역: API를 계속 이용할 수 있도록 노력하고 측정한 내용을 공개하지만, 셀프서비스에는 가용성 약속이 없습니다)라고 말합니다. 또 “Service levels exist only in a separate written agreement”(번역: 서비스 수준은 별도의 서면 계약에만 존재합니다)이며, 전용 엔드포인트와 예약 용량은 그 계약을 따른다고 덧붙입니다. 계약으로 보장된 가동률이 필요하다면 BroadNet에 전용 엔드포인트를 문의하세요. 무엇을 준비해야 하는지는 [전용 엔드포인트 계획 글](https://broadrouter.com/ko/blog/private-endpoint-planning/)에서 다룹니다. 셀프서비스라면 폴백을 계획하세요. [제공업체 선택 체크리스트](https://broadrouter.com/ko/blog/choose-llm-api-provider-checklist/)에 적었듯, 저희는 BroadNet 문서에서 SLA, 상태 페이지, 지원 중단 정책을 찾지 못했습니다.

## 자주 묻는 질문

### 월간 가동률 99.5%면 다운타임이 얼마나 허용되나요?

30일 기준 약 3.6시간입니다. 43,200분의 0.5%는 216분입니다. 짧거나 부분적인 장애는 포함되지 않을 수 있으니 SLA가 다운타임을 어떻게 정의하는지 확인하세요.

### 서비스 크레딧으로 손실이 보상되나요?

대개 아닙니다. 크레딧은 해당 서비스의 이후 청구서에 적용되는 할인이며 상한이 있는 경우가 많습니다. 예를 들어 Google의 Gemini SLA는 크레딧 상한을 그달 해당 서비스 청구액의 50%로 두고, SLA를 고객의 "sole and exclusive remedy"(번역: 유일하고 배타적인 구제 수단)라고 부릅니다.

### BroadNet Inference에는 SLA가 있나요?

셀프서비스에는 없습니다. BroadNet 서비스 약관은 셀프서비스에 가용성 약속이 없으며, 서비스 수준은 전용 엔드포인트처럼 별도의 서면 계약에서만 정해진다고 말합니다.

## 함께 보기

-   [추론 제공업체(Inference provider)](https://broadrouter.com/ko/glossary/inference-provider/) (용어)
-   [속도 제한(rate limit)](https://broadrouter.com/ko/glossary/rate-limit/) (용어)
-   [지수 백오프(exponential backoff)](https://broadrouter.com/ko/glossary/exponential-backoff/) (용어)
-   [모델 폴백(model fallback)](https://broadrouter.com/ko/glossary/model-fallback/) (용어)
-   [모델 지원 중단(model deprecation)](https://broadrouter.com/ko/glossary/model-deprecation/) (용어)
-   [지연 시간(latency)](https://broadrouter.com/ko/glossary/latency/) (용어)
-   [요청 타임아웃(request timeout)](https://broadrouter.com/ko/glossary/request-timeout/) (용어)
-   [BroadNet Inference 오류 코드와 재시도해야 하는 경우](https://broadrouter.com/ko/guides/errors-and-retries/) (가이드)
-   [LLM API SLA 비교: Azure, Bedrock, Google, OpenAI는 무엇을 보장하나](https://broadrouter.com/ko/blog/llm-api-sla-uptime-compared/) (글)
-   [LLM API 제공업체 선택 가이드: 20가지 체크리스트](https://broadrouter.com/ko/blog/choose-llm-api-provider-checklist/) (글)
-   [전용 엔드포인트는 분명한 워크로드 정의에서 시작합니다](https://broadrouter.com/ko/blog/private-endpoint-planning/) (글)
-   [BroadNet의 GPU 하드웨어와 서빙 방식: BroadNet이 밝힌 내용](https://broadrouter.com/ko/blog/broadnet-gpu-fleet-and-serving/) (글)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-glossary-sla&utm_content=page-cta) ·

**출처**

-   [Google Cloud, Gemini Online Inference API on Gemini Enterprise Agent Platform SLA(최종 수정 2026-06-30, 2026-11-15 확인)](https://cloud.google.com/vertex-ai/generative-ai/sla)
-   [BroadNet 서비스 약관, §7.4 가용성(2026-11-15 확인) (영어)](https://www.broadnet.ai/terms)
