BroadRouter

SLA LLM API: что обещают Azure, Bedrock, Google и OpenAI

Команда BroadNet Inference · 7 мин чтения · Опубликовано · Обновлено

Большинство LLM API при оплате по факту не обещают никакого аптайма. Письменные SLA идут с облачными контрактами или зарезервированной мощностью: Azure Foundry Models и Amazon Bedrock начисляют кредит ниже 99,9% аптайма в месяц, онлайн-инференс Gemini от Google — ниже 99,5%, а Scale Tier от OpenAI даёт 99,9% корпоративным клиентам. В коммерческих условиях Anthropic и условиях самостоятельного подключения BroadNet SLA нет. Компенсация — кредит на счёт.

Поищите «SLA LLM API» — и получите таблицы, которые противоречат друг другу. В этой статье мы обходимся без чужих таблиц и читаем первоисточник: собственную страницу SLA или условий каждого провайдера, загруженную 15 ноября 2026 г. Для каждого мы отмечаем целевой аптайм, что считается простоем, сервисный кредит, цель по задержке, если есть, и какой уровень обслуживания покрыт. BroadRouter — сайт BroadNet, поэтому BroadNet есть в списке, и это один из провайдеров без SLA при самостоятельном подключении.

Что на самом деле обещает SLA LLM API?

SLA — это письменная цель плюс компенсация. Он не заставляет API работать. Он говорит, что произойдёт с вашим счётом, если API не работает. У каждого SLA ниже одни и те же четыре части:

  1. Цель. Обычно процент аптайма за месяц по региону, проекту или ресурсу.
  2. Определение простоя. Почти всегда только серверные ошибки: ответы 500 или 5XX на корректные запросы. 429 из-за лимита запросов простоем не считается. Медленный или неверный ответ — тоже.
  3. Компенсация. Процент месячного счёта за затронутый сервис, зачисляемый в будущие счета, с потолком.
  4. Порядок претензии. Вы сами запрашиваете кредит, с собственными логами, в установленный срок.

В минутах проценты выглядят так, для 30-дневного месяца в 43 200 минут:

Аптайм за месяц Допустимый простой
99,9% около 43 минут
99,5% 216 минут
99,0% 432 минуты
95,0% 36 часов

Какие LLM API публикуют SLA?

Все строки прочитаны на собственной странице провайдера 15 ноября 2026 г. «Не найдено» значит, что на проверенной странице SLA не указан; частный договор это не исключает.

Провайдер и сервис Целевой аптайм Что считается простоем Кредиты SLA по задержке Кого покрывает
Microsoft Azure, Foundry Models (включая модели Azure OpenAI) 99,9% Запросы, вернувшие код ошибки, усреднённо по минутам 10% ниже 99,9%, 25% ниже 99% Да, для развёртываний Provisioned Managed и Priority Processing Foundry Models, продаваемые Azure; уровень Developer исключён
Amazon Bedrock 99,9% (кредиты начинаются ниже) Запросы, вернувшие код 500, за пятиминутный интервал, по регионам 10%, 25% ниже 99,0%, 100% ниже 95,0% В SLA нет Bedrock в каждом регионе AWS
Google, API онлайн-инференса Gemini 99,5% (95% для моделей с более короткой доступностью) Доля ошибок 5XX выше 5% в течение 5 или более минут подряд 10%, 25% ниже 99,0%, 50% ниже 95,0% Да, при Provisioned Throughput на глобальном эндпоинте generateContent и streamGenerateContent
OpenAI, Scale Tier 99,9% На публичной странице не определено На публичной странице не указаны 99% времени выше порога токенов в секунду для каждой модели Корпоративные клиенты, токен-юниты куплены минимум на 30 дней
OpenAI, стандартная оплата по факту Не найдено – – – –
Anthropic API Не найдено; в условиях — “as is” и “as available” («как есть» и «по мере доступности») – – – –
Fireworks AI, Reserved Throughput Условия аптайма 99,9% На странице цен не указано Не указаны SLA по пропускной способности Только зарезервированная мощность; превышение не покрывается
Together AI Serverless: не указано. “Provisioned Throughput: Token-based capacity with SLAs” (перевод: «Provisioned Throughput: мощность на основе токенов с SLA»; условия на странице не опубликованы) – – – Условия SLA узнавайте у отдела продаж
BroadNet Inference, самостоятельное подключение Нет: “no availability commitment” («нет обязательств по доступности») – – – Уровни обслуживания только в отдельном письменном соглашении

Чем различаются SLA гиперскейлеров?

Microsoft Azure. На странице Microsoft Learn сказано, что Foundry Models, продаваемые Azure, “include all Azure OpenAI models” (перевод: «включают все модели Azure OpenAI») и “covered by Azure service-level agreements” (перевод: «покрываются соглашениями об уровне обслуживания Azure»). Сводное SLA (редакция октября 2026 г.) определяет Error Rate поминутно, а Uptime Percentage — как 100% минус средняя доля ошибок. Кредиты: 10% ниже 99,9% и 25% ниже 99%. Кредиты применяются только к Foundry Models, продаваемым Azure, и “The Developer tier of the Foundry Models service is not covered by this SLA.” (перевод: «Уровень Developer сервиса Foundry Models этим SLA не покрывается».) Для развёртываний Provisioned Managed и Priority Processing второе SLA измеряет токены в секунду относительно цели для каждой модели из документации продукта, с кредитом 10%, если выполнение падает ниже 99%.

Amazon Bedrock. AWS обязуется прилагать “commercially reasonable efforts” (перевод: «коммерчески разумные усилия»), чтобы выполнять таблицу аптайма. Доступность — это “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors” (перевод: «доля запросов, обработанных Amazon Bedrock, которые не завершились ошибками»), а ошибка — “any Request that returns a 500 error code” (перевод: «любой запрос, вернувший код ошибки 500»). Расчёт идёт по регионам, а интервалы без запросов считаются полностью доступными. Исключения включают действия клиента, например “scaling of provisioned throughput” (перевод: «масштабирование зарезервированной пропускной способности»), и программное обеспечение модели, вызывающее “repeated model crashes or an inoperable model” (перевод: «повторяющиеся падения модели или неработоспособную модель»). Цели по задержке в SLA нет.

Google Cloud. SLA онлайн-инференса Gemini строже всех в том, что считать простоем. Для простоя нужна доля ответов 5XX выше 5%, длящаяся “five or more consecutive minutes” (перевод: «пять или более минут подряд»). Кредиты ограничены 50% месячного счёта за сервис, уведомить поддержку нужно в течение 30 дней с файлами логов, а SLA — ваше “sole and exclusive remedy” (перевод: «единственное и исключительное средство защиты»). Исключены Grounding with Google Search, ошибки квот и дедлайны короче серверного значения по умолчанию. При Provisioned Throughput SLA по задержке покрывает некоторые модели Gemini 2.5 на глобальном эндпоинте и измеряется как p50 токенов в секунду за пятиминутный интервал. Если же вы разворачиваете собственную открытую модель на Vertex AI, отдельное SLA Vertex AI Platform покрывает онлайн-предсказания кастомных моделей на 99,5%, но только “for models deployed on 2 or more nodes” (перевод: «для моделей, развёрнутых на 2 или более узлах»).

А что у OpenAI и Anthropic напрямую?

OpenAI. На странице Scale Tier сказано: “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.” (перевод: «Трафик Scale Tier даёт SLA на 99,9% аптайма и приоритетные вычисления».) Таблица дополняет это SLA по задержке для каждой модели, например “99% > 50 tokens per second” (перевод: «99% > 50 токенов в секунду»), рассчитанным как p50 задержки запроса за 5 минут. На странице сказано “This offering is available to Enterprise customers” (перевод: «Это предложение доступно корпоративным клиентам»), что каждый токен-юнит покупается “for a minimum of 30 days” (перевод: «минимум на 30 дней») и что Scale Tier покрывает модели, выпущенные до GPT-5.6, а для более поздних моделей есть Reserved Tier. SLA по аптайму для стандартного использования с оплатой по факту мы не нашли. (openai.com заблокировал наш загрузчик, поэтому мы читали страницу по снимку Internet Archive от 7 ноября 2026 г.)

Anthropic. Публичные Commercial Terms (действуют с 17 июня 2025 г.) не содержат ни SLA, ни сервисных кредитов. Раздел L.2 предоставляет сервисы “AS IS” и “AS AVAILABLE” (перевод: «КАК ЕСТЬ» и «ПО МЕРЕ ДОСТУПНОСТИ») и отказывается гарантировать, что использование “WILL BE UNINTERRUPTED” (перевод: «БУДЕТ БЕСПЕРЕБОЙНЫМ»). Корпоративные соглашения могут отличаться, но они не публикуются.

Чего SLA вам не даёт?

  • Самого аптайма. Кредит выплачивается после сбоя. Ваши пользователи его всё равно видели.
  • Мощности. Троттлинг (429) не входит ни в одно из определений аптайма выше. Google прямо исключает “quotas applied by the system” (перевод: «квоты, применяемые системой»). См. как обрабатывать ошибки 429.
  • Скорости. Цель по токенам в секунду есть только у зарезервированных уровней. На стандартном трафике медленный ответ — это успешный ответ. Метрики задержки.
  • Качества. Ответ 200 с неверным ответом нигде не считается простоем.
  • Больших денег. Кредиты — это доля месячного счёта за один сервис, часто с потолком, и требовать их нужно с собственными логами.

Как строить продукт на API без SLA?

Большинство команд строят продукты на API с оплатой по факту без SLA. Это работает, если приложение рассчитано на сбои:

  1. Задайте тайм-ауты. Стримьте длинные ответы и задавайте тайм-аут клиента для каждого запроса, чтобы зависший вызов быстро падал. Руководство по стримингу.
  2. Повторяйте с задержкой и jitter на 429 и 5XX и ограничьте число повторов. Ошибки и повторы.
  3. Держите второго провайдера настроенным. С OpenAI-совместимыми API резерв — это второй базовый URL, ключ и ID модели. Как переключаться между LLM API.
  4. Логируйте ID запросов, метки времени и коды состояния. Они нужны для любой претензии по SLA и чтобы видеть свою реальную долю ошибок.
  5. Покупайте договор там, где он нужен. Если аптайм — жёсткое требование, используйте уровень провайдера с письменным SLA или приватное развёртывание с согласованными уровнями обслуживания. Что спланировать перед приватным эндпоинтом.

Какое место здесь занимает BroadNet Inference

BroadRouter — собственный сайт BroadNet. У API BroadNet с самостоятельным подключением SLA нет — ни при оплате по факту, ни на тарифах. В условиях обслуживания (§7.4) сказано: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (перевод: «Мы стремимся поддерживать доступность API и публикуем то, что измеряем, но у самостоятельного подключения нет обязательств по доступности».) И ещё: “Service levels exist only in a separate written agreement.” (перевод: «Уровни обслуживания существуют только в отдельном письменном соглашении».) В этом Azure, AWS и Google предлагают больше: письменную цель по аптайму с кредитами. Ключ BroadNet с оплатой по факту допускает 30 запросов в минуту и 4 одновременно. Собственное описание BroadNet того, как устроено обслуживание, — в статье GPU-оборудование BroadNet и подход к обслуживанию; мы передаём его как рассказ BroadNet, а не как обязательство.

Если ваша нагрузка может работать с повторами и резервом, OpenAI-совместимый эндпоинт BroadNet — ещё один базовый URL для настройки: https://inference.broadnet.ai/v1. Если вам нужны уровни обслуживания по договору, спросите BroadNet о письменном соглашении, прежде чем на него полагаться. Прочитать справочник API или создать аккаунт.

Вопросы и ответы

Какой SLA у Azure OpenAI?

Модели Azure OpenAI — это Foundry Models, продаваемые Azure, и, по словам Microsoft, они покрываются SLA Azure. Сводное SLA редакции октября 2026 г. даёт Foundry Models сервисный кредит 10% ниже 99,9% аптайма в месяц и 25% ниже 99%. Уровень Developer не покрывается. Развёртывания Provisioned Managed и Priority Processing добавляют SLA по задержке в токенах в секунду с кредитом 10%, если выполнение падает ниже 99%.

Есть ли у OpenAI API SLA по аптайму?

OpenAI публикует SLA на 99,9% аптайма и SLA по задержке для Scale Tier, который описывает как "available to Enterprise customers" («доступно корпоративным клиентам») и продаёт в токен-юнитах минимум на 30 дней. Для GPT-5.6 и новее OpenAI отсылает к Reserved Tier. SLA по аптайму для стандартного использования API с оплатой по факту мы не нашли.

Какой SLA у Amazon Bedrock?

AWS начисляет кредит 10% от расходов на Bedrock в регионе, если аптайм за месяц ниже 99,9%, 25% — ниже 99,0% и 100% — ниже 95,0%. Доступность измеряется по регионам пятиминутными интервалами, а ошибкой считается запрос, вернувший код 500.

Даёт ли Anthropic SLA для Claude API?

В публичных Commercial Terms — нет. Они предоставляют сервисы "as is" и "as available" («как есть» и «по мере доступности») и не гарантируют бесперебойной работы. Корпоративные договоры не публикуются, поэтому спросите Anthropic или используйте Claude через облако, SLA которого его покрывает.

Сколько простоя допускает аптайм 99,9%?

Около 43 минут за 30-дневный месяц: 0,1% от 43 200 минут. 99,5% допускает 216 минут, 99% — 432 минуты. То, как измеряется простой, важно не меньше самого процента.

Есть ли SLA у BroadNet Inference?

Не при самостоятельном подключении. В условиях BroadNet сказано: "self-serve has no availability commitment" и "Service levels exist only in a separate written agreement" («у самостоятельного подключения нет обязательств по доступности»; «уровни обслуживания существуют только в отдельном письменном соглашении»), например для приватного эндпоинта.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity

Источники