BroadRouter
Начать

Базовые URL OpenAI-совместимых API: 14 провайдеров с проверкой

Команда BroadNet Inference · 6 мин чтения · Опубликовано

OpenAI-совместимый API позволяет оставить OpenAI SDK и поменять всего две вещи: base_url и API-ключ. Базовый URL у каждого провайдера свой, например https://api.groq.com/openai/v1 у Groq, https://openrouter.ai/api/v1 у OpenRouter и https://inference.broadnet.ai/v1 у BroadNet Inference. Пути, ID моделей и поддерживаемые параметры всё равно различаются, поэтому перед переходом проверьте один запрос.

OpenAI-совместимый API принимает запросы в том же формате, что и API OpenAI, поэтому официальные SDK OpenAI работают, если поменять base_url и API-ключ. Сложность в том, что каждый провайдер размещает свой эндпоинт чуть по-другому. В таблице ниже 14 провайдеров; данные по каждому взяты из его собственной документации 15 ноября 2026 года.

Какой базовый URL у каждого OpenAI-совместимого провайдера?

Провайдер Базовый URL Что перечислено в документации о совместимости с OpenAI Особенности, указанные в документации
OpenAI https://api.openai.com/v1 Всё; это эталон Значение SDK по умолчанию, если ничего не задано
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (перевод: «в первую очередь предназначен для тестирования и сравнения возможностей моделей»); strict игнорируется; аудио и файлы на входе дают 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions, embeddings, генерация изображений, models, batch Поддержка библиотеки OpenAI “still in beta” (перевод: «пока в бете»); Responses API не указан
DeepSeek https://api.deepseek.com Chat completions Нет версии в пути; отдельный URL в формате Anthropic — /anthropic
Groq https://api.groq.com/openai/v1 Chat completions, Responses API; замечания по audio transcription logprobs, logit_bias, top_logprobs, messages[].name дают 400; n должен быть 1; нет расшифровок в srt и vtt
Together AI https://api.together.ai/v1 Chat, completions, images, speech, transcriptions, models, Responses Инференс только в США — на https://us-api.together.ai/v1; embeddings только на выделенных эндпоинтах
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions ID моделей вида accounts/fireworks/models/…; если не указано иное, уменьшает max_tokens под размер контекста вместо ошибки
DeepInfra https://api.deepinfra.com/v1/openai Chat completions; клиенты Responses используют тот же базовый URL Embeddings, изображения и речь описаны на отдельной странице
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions Справочник API не называет себя OpenAI-совместимым; проверьте, прежде чем на это полагаться
OpenRouter https://openrouter.ai/api/v1 Chat completions Необязательные заголовки HTTP-Referer и X-OpenRouter-Title для его рейтингов
xAI https://api.x.ai/v1 Responses API В руководстве сказано: “The Responses API is the preferred way of interacting with our models” (перевод: «Responses API — предпочтительный способ работы с нашими моделями»)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions Путь v4, а не v1
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Сингапур) Chat completions ID рабочего пространства в имени хоста; ключ работает только в том регионе, где создан, иначе 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions, audio transcriptions ID моделей начинаются с broadnet/; подробнее ниже

Alibaba указывает также эндпоинт в США (Вирджиния) на us-east-1. В строке для Пекина на той же странице показан сингапурский хост, хотя в другом месте страницы назван cn-beijing, поэтому китайский эндпоинт уточняйте в консоли. Таблица — снимок на дату проверки. Эндпоинты меняются: пока мы проверяли документацию Anthropic и Google, обе перенаправили нас на новые адреса.

Цены этих провайдеров смотрите на страницах цены LLM API по провайдерам.

Как задать базовый URL в коде?

В Python передайте base_url в клиент:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

В Node параметр называется baseURL:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

Или задайте его один раз для всех инструментов, которые используют официальные SDK. В исходном коде Node SDK baseURL по умолчанию берётся из process.env['OPENAI_BASE_URL'], а если её нет — https://api.openai.com/v1; README для Python описывает ту же переменную:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

Подробные руководства: OpenAI Python SDK, OpenAI Node SDK. Что такое базовый URL и зачем его запрашивают инструменты, — в глоссарии.

Как проверить новый базовый URL через curl?

Прежде чем менять код приложения, отправьте один маленький запрос:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

Подставьте базовый URL, ключ и модель провайдера, которого проверяете. Ответ 200 с массивом choices означает, что путь, ключ и ID модели верны. 404 обычно означает неверный путь; 401 — неверный ключ или регион; в ответе 400 часто указан параметр, который провайдер отклоняет. Больше примеров — в быстром старте с curl, а конструктор API-запросов сам напишет версии для curl, Python и Node.

Какие ошибки чаще всего допускают при смене base_url?

  • Вставляют полный эндпоинт. SDK сам добавляет /chat/completions. Если базовый URL уже на него заканчивается, получится /chat/completions/chat/completions и 404.
  • Добавляют или убирают /v1 по привычке. В документированном базовом URL DeepSeek нет /v1, у Z.ai он заканчивается на /v4/, а у Gemini — на /v1beta/openai/. Копируйте строку провайдера в точности.
  • Оставляют названия моделей OpenAI. Имена gpt-… у других провайдеров не работают. У каждого свой формат: deepseek-ai/DeepSeek-V4-Flash-0731 у DeepInfra, accounts/fireworks/models/… у Fireworks, broadnet/deepseek-v4.1-flash у BroadNet.
  • Отправляют параметры, которые провайдер отклоняет или игнорирует. Groq возвращает 400 на logprobs; слой Anthropic молча игнорирует seed, logit_bias и reasoning_effort. Молча проигнорированный параметр хуже ошибки: вы об этом просто не узнаете.
  • Рассчитывают на те же поля в ответе. Слой Anthropic возвращает пустой prompt_tokens_details, поэтому данных о токенах из кэша нет. Fireworks кладёт usage при стриминге в последний чанк, а типы SDK могут это поле не объявлять.
  • Рассчитывают, что есть все эндпоинты. «OpenAI-совместимый» обычно означает chat completions. Embeddings, аудио, генерация изображений и Responses API — отдельные вопросы, как видно из таблицы.
  • Путают регионы. Ключи Alibaba привязаны к региону, а у Together есть отдельный хост только для США. Действующий ключ на чужом хосте всё равно не сработает.

Полный список проверок перед переходом — в чек-листе миграции на OpenAI-совместимый API.

Какие эндпоинты поддерживает BroadNet Inference?

Справочник API BroadNet описывает два эндпоинта моделей на https://inference.broadnet.ai/v1, а также GET /v1/models для метаданных каталога:

Эндпоинт Модели
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 языков)

Что это значит на практике:

  • Embeddings, генерация изображений и Responses API не документированы. Если инструменту нужно что-то из этого, для этой части потребуется второй провайдер.
  • Вызов инструментов и структурированный вывод документированы для GLM 5.3 и Qwen3.8 27B.
  • Изображения передаются как data: URL внутри частей контента image_url — для DeepSeek V4.1 Flash, Qwen3.8 27B и Gemma 4 VL 26B.
  • Рассуждающие модели (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) засчитывают рассуждения в max_tokens. Оставляйте 1000 токенов или больше либо задайте reasoning_effort равным low, как советует документация; см. почему рассуждающие модели возвращают пустые ответы.
  • Список моделей вернулся, когда мы вызвали GET /v1/models 15 ноября 2026 года, но этого эндпоинта нет в списке документированных, поэтому не стройте на нём решения.
  • Лимиты для ключей с оплатой по факту: 30 запросов в минуту и 4 одновременно выполняемых.

Цены за 1 млн токенов: DeepSeek V4.1 Flash — $0.175 за вход и $0.52 за выход, Gemma 4 VL 26B — $0.10 и $0.22. DeepSeek V4.1 Flash также продаётся по тарифу с фиксированной ценой: $60 в месяц за сессию, один запрос за раз.

Стоит ли пропускать нескольких провайдеров через один базовый URL?

Если ваше приложение обращается к нескольким из этих провайдеров, прокси вроде LiteLLM даёт коду один базовый URL и сопоставляет названия моделей с каждым upstream-провайдером. Сопоставление задаёте вы; ничто не переключает провайдеров за вас, если вы сами не настроите фолбэки. Как это сделать в клиенте или в LiteLLM, показано в статье об отказоустойчивости LLM API. В руководстве по прокси LiteLLM есть пример записи для BroadNet. Что означает сам термин, читайте в статье OpenAI-совместимый API.

Какое место здесь занимает BroadNet Inference

BroadNet подойдёт, если ваш код уже работает с chat completions и вам нужны открытые модели, распознавание арабской и многоязычной речи или сессия DeepSeek по фиксированной цене — на одном ключе. Он не подойдёт, если от того же провайдера нужны embeddings, Responses API или генерация изображений; Together AI и Gemini документируют большую часть возможностей OpenAI API. Перед выпуском сверьте нашу таблицу с документацией каждого провайдера: эти URL и списки эндпоинтов меняются.

Вопросы и ответы

Какой базовый URL у OpenAI API?

https://api.openai.com/v1. Официальный Node SDK использует его, если не заданы ни baseURL, ни переменная окружения OPENAI_BASE_URL.

Чем должен заканчиваться base_url — /v1 или /chat/completions?

Тем же, чем в документации провайдера, обычно /v1. SDK сам добавляет /chat/completions, поэтому базовый URL, который уже заканчивается на /chat/completions, приводит к 404.

Можно ли задать базовый URL через переменную окружения?

Да. Оба официальных SDK OpenAI читают OPENAI_BASE_URL, и многие инструменты на их основе — тоже. Рядом задайте OPENAI_API_KEY и сверьтесь с документацией каждого инструмента: у некоторых свои имена переменных.

Совместим ли Claude API с OpenAI?

Частично. Anthropic предлагает https://api.anthropic.com/v1/ для OpenAI SDK, но пишет, что этот слой нужен в основном для тестирования и сравнения моделей, а не для долгосрочной работы в продакшене. Он игнорирует strict у инструментов и отклоняет аудио и файлы на входе.

Какие эндпоинты поддерживает BroadNet Inference?

В документации указаны POST /v1/chat/completions и POST /v1/audio/transcriptions. Embeddings, генерация изображений и Responses API там не указаны.

Почему запрос работает с OpenAI, но падает у другого провайдера?

Обычно дело в ID модели в неверном формате или в параметре, который провайдер отклоняет. Например, Groq возвращает 400 на logprobs, logit_bias, top_logprobs и messages[].name. Уберите необязательные параметры и повторите запрос с точным ID модели этого провайдера.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity