---
title: "Vercel AI SDK: createOpenAICompatible со своим baseURL"
description: "Как вызывать BroadNet Inference из Vercel AI SDK через createOpenAICompatible из @ai-sdk/openai-compatible: generateText, streamText, инструменты и reasoning effort."
url: https://broadrouter.com/ru/guides/vercel-ai-sdk-openai-compatible/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (обновлён 2026-11-16).

# Vercel AI SDK и BroadNet Inference: OpenAI-совместимый провайдер

Обновлено 2026-11-16

Установите ai и @ai-sdk/openai-compatible и вызовите createOpenAICompatible с name broadnet, baseURL https://inference.broadnet.ai/v1 и ключом BroadNet в apiKey. Передайте провайдеру ID модели BroadNet, например broadnet/glm-5.3, и используйте generateText или streamText как обычно. Храните ключ на сервере, а моделям с рассуждениями задавайте maxOutputTokens с запасом.

[AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) от Vercel — набор инструментов на TypeScript для приложений с LLM. Пакет `@ai-sdk/openai-compatible` создаёт провайдера для любого API в формате chat completions от OpenAI. BroadNet Inference следует этому формату, поэтому менять нужно только базовый URL, ключ и ID моделей. Если вам нужен обычный клиент OpenAI, см. [руководство по Node SDK](https://broadrouter.com/ru/guides/openai-node-sdk/).

## Настройка

1.  **Установите пакеты.** На момент написания npm отдаёт `ai` 7.x и `@ai-sdk/openai-compatible` 3.x.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Создайте провайдера.** Комментарий в коде означает, что данные о расходе токенов будут приходить и в потоковых ответах.
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **Сгенерируйте текст.** Промпт просит объяснить ключи идемпотентности в двух предложениях; комментарий напоминает, что рассуждения учитываются в `maxOutputTokens`.
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **Включите стриминг.** Замените `generateText` на `streamText` и читайте `textStream`. Какой формат передаётся под капотом, объясняет [руководство по стримингу](https://broadrouter.com/ru/guides/streaming-chat-completions/).
    

Значение `name` становится ключом для параметров и метаданных провайдера, поэтому делайте его коротким и неизменным. И `provider('id')`, и `provider.chatModel('id')` создают чат-модель; отдельно настраивать каждую модель не нужно. Храните ключ на сервере. Не импортируйте этот файл в код, который выполняется в браузере, иначе ключ получит каждый посетитель.

В документации провайдера поддерживаемыми возможностями названы генерация текста, стриминг, вызов инструментов, структурированный вывод, содержимое рассуждений и изображения на входе, с оговоркой, что часть из них зависит от провайдера. В BroadNet изображения на входе принимают DeepSeek V4.1 Flash, Qwen3.8 27B и Gemma 4 VL 26B. GLM 5.3 работает только с текстом.

## Какие параметры стоит задать

-   **reasoningEffort.** Передавайте его через `providerOptions` под ключом с именем провайдера. В документации AI SDK сказано, что точные значения зависят от провайдера; в документации BroadNet показано `low`. В примере ниже модель классифицирует намерение в фразе «refund my order» («верните деньги за заказ»).

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** AI SDK отправляет JSON-схемы, только если у провайдера этот параметр равен `true`. BroadNet указывает структурированный вывод для GLM 5.3 и Qwen3.8 27B. Если вы его включаете, используйте для вывода по схеме эти модели.
-   **maxRetries.** По умолчанию `generateText` повторяет запрос дважды. Подберите значение под свой лимит запросов.
-   **Вывод рассуждений.** AI SDK читает содержимое рассуждений, если провайдер его возвращает. Поле результата верхнего уровня `reasoningText` теперь помечено как устаревшее в пользу `finalStep.reasoningText`. Не стройте логику, которая рассчитывает на наличие рассуждений.

## Какую модель выбрать

| Задача | Модель | Контекст |
| --- | --- | --- |
| Вызов инструментов, структурированный вывод | [`broadnet/glm-5.3`](https://broadrouter.com/ru/models/glm-5.3/) | 1 048 576 |
| Изображения и инструменты, арабский | [`broadnet/qwen3.8-27b`](https://broadrouter.com/ru/models/qwen3.8-27b/) | 262 144 |
| Длинный контекст, тариф с фиксированной ценой | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) | 1 048 576 |
| Дешёвые вызовы с текстом и изображениями | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/ru/models/gemma-4-vl-26b/) | 32 768 |

Цены за токен для каждой модели — на [странице цен](https://broadrouter.com/ru/pricing/).

## Решение проблем

-   **401.** `BROADNET_API_KEY` не задан в среде выполнения (проверьте настройки переменных окружения у хостинга), неверен, истёк или исчерпан лимит оплаты по факту.
-   **providerOptions игнорируются.** Ключ должен совпадать с `name` провайдера в camelCase. При `name: 'broadnet'` используйте `providerOptions.broadnet`.
-   **Ошибки модели.** ID должен точно совпадать с ID BroadNet, вместе с префиксом `broadnet/`. Для GLM 5.3, Qwen3.8 27B и DeepSeek V4.1 Flash нужно пополнить баланс; стартовый грант $5 покрывает только Gemma 4 VL 26B.
-   **Пустой текст, finishReason “length”.** Рассуждения израсходовали бюджет. Увеличьте `maxOutputTokens` или уменьшите `reasoningEffort`. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **429 под нагрузкой.** Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно. Serverless-функции быстро масштабируются, поэтому ограничьте параллелизм в приложении. См. [ошибки и повторные запросы](https://broadrouter.com/ru/guides/errors-and-retries/).
-   **Параллельные агенты на ключе тарифа.** Одна [сессия безлимитного тарифа](https://broadrouter.com/ru/guides/unlimited-llm-api-sessions/) обрабатывает один запрос за раз. Если запускать несколько агентов через `Promise.all`, каждому нужна своя сессия, иначе запросы встанут в очередь.

## Термины в этом руководстве

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[Безлимитный тариф LLM (flat-rate LLM plan)](https://broadrouter.com/ru/glossary/flat-rate-llm-plan/)

Безлимитный тариф LLM, или тариф с фиксированной ценой, — это доступ к API языковой модели за фиксированную плату за период, например месяц, вместо оплаты за токены. Обычно такие тарифы ограничивают что-то другое — параллельность, скорость, набор моделей или окна использования, поэтому ограничения важны не меньше цены.

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

[RAG (генерация, дополненная поиском)](https://broadrouter.com/ru/glossary/rag/)

RAG (retrieval-augmented generation, генерация, дополненная поиском) — это подход, при котором приложение сначала находит во внешнем хранилище, например поисковом или векторном индексе, фрагменты, относящиеся к вопросу, а затем добавляет их в промпт, чтобы языковая модель отвечала по этому тексту, а не только по памяти.

## Вопросы и ответы

### Что использовать: @ai-sdk/openai или @ai-sdk/openai-compatible?

Для сторонних OpenAI-совместимых API используйте @ai-sdk/openai-compatible. Он вызывает эндпоинт chat completions, а именно его обслуживает BroadNet Inference.

### Почему сгенерированный текст пустой?

В BroadNet рассуждения учитываются в max\_tokens. Если maxOutputTokens маленький, модель может израсходовать его целиком ещё до начала ответа. Увеличьте значение или задайте reasoningEffort: low.

### Как получить расход токенов при стриминге?

При создании провайдера задайте includeUsage: true. По документации AI SDK, этот параметр добавляет данные о расходе токенов в потоковые ответы. По умолчанию он равен false.

### Нужна ли отдельная настройка для каждой модели BroadNet?

Нет. Один провайдер createOpenAICompatible покрывает все модели. Вызывайте broadnet('model-id') или broadnet.chatModel('model-id') с ID любой чат-модели BroadNet.

## Похожие руководства

-   [OpenAI Node.js SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-node-sdk/)
-   [Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference в opencode: свой провайдер](https://broadrouter.com/ru/guides/opencode-custom-provider/)
-   [Все инструменты, которые работают с BroadNet Inference (на английском)](https://broadrouter.com/integrations/): SDK, агенты для программирования, чат-интерфейсы и инструменты автоматизации с точными настройками для каждого

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Источники**

-   [Документация AI SDK, OpenAI-совместимые провайдеры (дата обращения 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [Документация AI SDK, справочник generateText (дата обращения 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, пакет @ai-sdk/openai-compatible (3.x, дата обращения 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [Справочник API BroadNet Inference (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
