---
title: "CrewAI со своим OpenAI-совместимым base_url | BroadRouter"
description: "Как направить агентов CrewAI на BroadNet Inference через LLM(custom_openai=True, base_url=...) и выбрать модели для инструментов, длинного контекста и тарифа."
url: https://broadrouter.com/ru/guides/crewai-custom-openai-endpoint/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (обновлён 2026-11-16).

# CrewAI и BroadNet Inference как свой OpenAI-эндпоинт

Обновлено 2026-11-16

Создайте модель через класс LLM из crewai: model — ID BroadNet, например broadnet/glm-5.3, custom\_openai=True, base\_url — https://inference.broadnet.ai/v1, api\_key — ваш ключ BroadNet. Затем передайте этот LLM каждому Agent. CrewAI использует свой нативный клиент OpenAI и chat completions, поэтому устанавливать LiteLLM не нужно.

CrewAI — Python-фреймворк для команд агентов. В его документации описана схема **собственного OpenAI-совместимого эндпоинта**: `LLM` с `custom_openai=True` и `base_url`. BroadNet Inference отдаёт стандартные chat completions по адресу `https://inference.broadnet.ai/v1`, поэтому подключается именно так. BroadRouter — собственный сайт BroadNet; инструкция основана на документации и исходном коде CrewAI версии 1.15.41.

## Установка

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## Подключение

Комментарии и промпты в коде ниже оставлены на английском: в `max_tokens` учитываются рассуждения, `llm.call` — быстрая проверка одним вызовом напрямую к модели, а агент-аналитик пишет короткую сводку об инциденте.

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

Если `llm.call` вывел ответ, ключ, URL и ID модели указаны верно.

## Как CrewAI маршрутизирует запрос

В исходном коде CrewAI задан порядок: `custom_openai=True` проверяется первым и принудительно включает нативного провайдера OpenAI, что бы ни подсказывало имя модели. Кроме того, CrewAI выдаёт ошибку, если собственный эндпоинт не задан через `base_url`, `api_base`, `OPENAI_BASE_URL` или `OPENAI_API_BASE`. Строка модели отправляется как есть, поэтому `broadnet/glm-5.3` доходит до BroadNet без изменений.

Без `custom_openai` имя вроде `broadnet/glm-5.3` было бы прочитано как провайдер `broadnet`, которого CrewAI не знает, и запрос ушёл бы через LiteLLM. Документированная альтернатива — `model="openai/broadnet/glm-5.3"` вместе с `base_url`: CrewAI отрезает префикс `openai/` и отправляет остальное.

Ещё две детали из кода и документации CrewAI:

-   **Поле лимита токенов.** Если передать `max_tokens`, нативный клиент отправляет `max_tokens` в chat completions — именно это поле описано в справочнике API BroadNet. Если передать `max_completion_tokens`, отправится оно.
-   **Оставайтесь на chat completions.** В документации CrewAI показан `api="responses"` для перехода на Responses API. Не задавайте его: BroadNet этот API не указывает.

## Какая модель для какого агента

| Агент | Модель | Почему |
| --- | --- | --- |
| Агенты с инструментами | `broadnet/glm-5.3` | BroadNet указывает инструменты и структурированный вывод; контекст 1M |
| Изображения или арабский на входе, с инструментами | `broadnet/qwen3.8-27b` | Инструменты и изображения; контекст 262K |
| Долгое чтение, тариф с фиксированной ценой | `broadnet/deepseek-v4.1-flash` | Безлимитные тарифы; инструменты BroadNet не указывает |

В одной команде можно сочетать модели: дайте каждому `Agent` свой `LLM`.

## Решение проблем

-   **401.** Ключ неверен, истёк или исчерпал лимит. Если вы не передали `api_key`, CrewAI прочитал `OPENAI_API_KEY`, а там может быть ключ OpenAI.
-   **“custom\_openai=True requires base\_url”.** Передайте `base_url` или задайте `OPENAI_BASE_URL`.
-   **Модель не найдена.** Проверьте, что ID точно совпадает с ID BroadNet. Для платных моделей нужно пополнить баланс; грант $5 покрывает только `broadnet/gemma-4-26b-a4b`.
-   **`EmptyLLMResponseError`.** CrewAI один раз повторяет запрос при пустом ответе, а затем выбрасывает эту ошибку. Увеличьте `max_tokens`. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **429 при нескольких агентах.** Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно, а сессия тарифа обрабатывает один запрос за раз. См. [ошибки и повторные запросы](https://broadrouter.com/ru/guides/errors-and-retries/).

## Термины в этом руководстве

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[Базовый URL (base URL)](https://broadrouter.com/ru/glossary/base-url/)

Базовый URL — это фиксированный корневой адрес API, например https://api.example.com/v1, который клиент подставляет перед каждым путём эндпоинта, например /chat/completions. В OpenAI-совместимых SDK смена базового URL вместе с API-ключом и ID модели направляет тот же код к другому провайдеру.

[Безлимитный тариф LLM (flat-rate LLM plan)](https://broadrouter.com/ru/glossary/flat-rate-llm-plan/)

Безлимитный тариф LLM, или тариф с фиксированной ценой, — это доступ к API языковой модели за фиксированную плату за период, например месяц, вместо оплаты за токены. Обычно такие тарифы ограничивают что-то другое — параллельность, скорость, набор моделей или окна использования, поэтому ограничения важны не меньше цены.

[ИИ-агент (AI agent)](https://broadrouter.com/ru/glossary/agent/)

ИИ-агент — это система, в которой языковая модель сама направляет свои шаги к цели: решает, какие инструменты вызвать, читает результаты и повторяет, пока не выдаст итоговый ответ или не упрётся в лимит. Фиксированный сценарий, который вызывает модель в заранее заданных местах, обычно называют не агентом, а workflow.

## Вопросы и ответы

### Что делает custom\_openai=True в CrewAI?

Судя по исходному коду CrewAI, этот флаг принудительно включает нативного провайдера OpenAI независимо от того, как выглядит имя модели, и требует base\_url, api\_base, OPENAI\_BASE\_URL или OPENAI\_API\_BASE. Строка модели отправляется как есть, поэтому broadnet/glm-5.3 доходит до BroadNet без изменений.

### Можно ли написать model="openai/broadnet/glm-5.3"?

Да. Если задан собственный base\_url, CrewAI направляет префикс openai/ в нативный клиент OpenAI и отрезает префикс, так что BroadNet получает broadnet/glm-5.3. Но custom\_openai=True — более понятная запись.

### Почему crew падает с EmptyLLMResponseError?

CrewAI один раз повторяет запрос при пустом ответе, без текста и без вызовов инструментов, и выбрасывает эту ошибку, если повтор тоже пуст. У рассуждающих моделей BroadNet это обычно значит, что рассуждения израсходовали бюджет на выход. Увеличьте max\_tokens.

### Какую модель BroadNet выбрать для агентов CrewAI?

GLM 5.3 для агентов с инструментами: BroadNet указывает для неё инструменты и структурированный вывод. Qwen3.8 27B тоже поддерживает инструменты и принимает изображения.

## Похожие руководства

-   [Pydantic AI и BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/ru/guides/pydantic-ai-openai-compatible/)
-   [OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/)
-   [Все инструменты, которые работают с BroadNet Inference (на английском)](https://broadrouter.com/integrations/): SDK, агенты для программирования, чат-интерфейсы и инструменты автоматизации с точными настройками для каждого

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**Источники**

-   [Документация CrewAI, LLM (OpenAI, собственный OpenAI-совместимый эндпоинт) (дата обращения 2026-11-15)](https://docs.crewai.com/en/concepts/llms)
-   [Исходный код CrewAI, маршрутизация LLM для custom\_openai (llm.py) (дата обращения 2026-11-15)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python от 3.10 до 3.13 (дата обращения 2026-11-15)](https://pypi.org/project/crewai/)
-   [Справочник API BroadNet Inference (дата обращения 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-crewai-custom-openai-endpoint&utm_content=sources)
