---
title: "Что такое guardrails для LLM? Проверки входа и выхода"
description: "Guardrails — проверки вокруг вызова LLM, которые блокируют, исправляют или помечают опасный вход и выход. Виды проверок, их цена в задержке и где они работают."
url: https://broadrouter.com/ru/glossary/guardrails/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/glossary/guardrails/) (обновлён 2026-11-14).

# Ограничители (guardrails)

Обновлено 2026-11-14

Ограничители (guardrails) — это проверки, которые приложение выполняет вокруг вызова языковой модели, чтобы удерживать её в заданных рамках. Входные проверяют то, что попадает в модель, выходные — то, что из неё выходит, а ограничители инструментов проверяют действия до их выполнения. Проваленная проверка блокирует, переписывает или помечает запрос.

Также называют: guardrails, гардрейлы, ограничители, защитные ограничители, ограничители LLM, фильтры LLM, проверки входа и выхода, LLM guardrails, AI guardrails, input guardrails, output guardrails, safety rails

Guardrails — это проверки, которыми вы окружаете модель, чтобы плохой вход или плохой ответ останавливался в вашем коде, а не доходил до пользователя.

## Как это работает

OpenAI Agents SDK описывает guardrails как “checks and validations of user input and agent output” (перевод: «проверки и валидацию пользовательского ввода и вывода агента») и выделяет три вида:

| Вид | Когда выполняется | Типичная проверка |
| --- | --- | --- |
| Входной | До первого вызова модели или параллельно с ним | Запросы не по теме, оскорбительные или с инъекциями |
| Выходной | После финального ответа | Утечки секретов, нарушения политики, неверный формат |
| Инструментальный | До и после выполнения инструмента-функции | Аргументы в допустимом диапазоне, никаких разрушительных действий |

Когда проверка не проходит, срабатывает “tripwire” (перевод: «растяжка»): выбрасывается исключение, и выполнение останавливается. Входные проверки бывают блокирующими (основная модель вообще не запускается) или параллельными (задержка меньше, но к моменту срабатывания растяжки токены и вызовы инструментов уже могут быть потрачены).

Открытая библиотека NVIDIA NeMo Guardrails использует пять этапов: ограничители входа, поиска, диалога, выполнения и выхода. Документация Anthropic предлагает “harmlessness screen” (перевод: «фильтр безвредности»): небольшую быструю модель, которая классифицирует пользовательский ввод до того, как он попадёт в основной диалог, со [структурированным выводом](https://broadrouter.com/ru/glossary/structured-output/), чтобы вердикт был разбираемым true или false.

Не каждому ограничителю нужна модель. Фильтры на регулярных выражениях, списки разрешённого, проверка по JSON Schema и ограничения длины дёшевы и детерминированы.

## Почему это важно

-   **Безопасность.** Guardrails — один из уровней защиты от [промпт-инъекций](https://broadrouter.com/ru/glossary/prompt-injection/) и [джейлбрейков](https://broadrouter.com/ru/glossary/jailbreak/). Ни один уровень не останавливает их все.
-   **Стоимость.** Дешёвый фильтр может отклонить запрос до того, как дорогая модель прочитает 100 000 токенов контекста.
-   **Агенты.** [Агенту](https://broadrouter.com/ru/glossary/agent/), который отправляет письма или редактирует данные, нужны проверки на уровне инструментов и одобрение человеком для рискованных шагов, а не только фильтр на финальном тексте.
-   **Измеряйте их.** Ограничитель, который блокирует хорошие запросы, — это баг. Отслеживайте ложные срабатывания с помощью набора [eval](https://broadrouter.com/ru/glossary/eval/).

## В BroadNet Inference

В документации BroadNet нет guardrails, эндпоинтов модерации или фильтров контента. Считайте guardrails задачей вашего приложения. Распространённая схема — фильтр на меньшей модели, например [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ru/models/gemma-4-vl-26b/) ($0.10 за 1 млн входных токенов), а затем основной вызов к более крупной модели. Если во входах есть персональные данные, см. статью [об отправке чувствительных данных в LLM API](https://broadrouter.com/ru/blog/llm-api-sensitive-data/).

## Вопросы и ответы

### Guardrails — это часть модели?

Нет. У моделей есть собственные обученные отказы, но guardrails — это отдельный код или отдельные вызовы моделей, которые приложение выполняет до и после основного вызова. Что именно проверять, решаете вы.

### Увеличивают ли guardrails задержку?

Блокирующая проверка входа добавляет ещё один вызов до старта основной модели. OpenAI Agents SDK может вместо этого запускать входные проверки параллельно: это экономит время, но токены могут быть потрачены до срабатывания проверки.

### Есть ли guardrails в BroadNet Inference?

В документации BroadNet guardrails и фильтры контента не указаны как функция. Встраивайте их в своё приложение, например используйте небольшую модель в качестве фильтра и проверяйте ответы по схеме.

## См. также

-   [Промпт-инъекция (prompt injection)](https://broadrouter.com/ru/glossary/prompt-injection/) (термин)
-   [Джейлбрейк LLM (jailbreak)](https://broadrouter.com/ru/glossary/jailbreak/) (термин)
-   [ИИ-агент (AI agent)](https://broadrouter.com/ru/glossary/agent/) (термин)
-   [Структурированный вывод (structured output)](https://broadrouter.com/ru/glossary/structured-output/) (термин)
-   [Eval (оценка LLM)](https://broadrouter.com/ru/glossary/eval/) (термин)
-   [Системный промпт (system prompt)](https://broadrouter.com/ru/glossary/system-prompt/) (термин)
-   [Персональные данные (PII)](https://broadrouter.com/ru/glossary/pii/) (термин)
-   [OpenAI Agents SDK на BroadNet Inference](https://broadrouter.com/ru/guides/openai-agents-sdk-custom-provider/) (руководство)
-   [Конфиденциальные данные в LLM API: маскирование, минимизация, логи](https://broadrouter.com/ru/blog/llm-api-sensitive-data/) (статья)
-   [Безопасность API-ключей LLM: хранение, ротация и белые списки IP](https://broadrouter.com/ru/blog/llm-api-key-security/) (статья)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-guardrails&utm_content=page-cta) ·

**Источники**

-   [OpenAI Agents SDK, guardrails (входные, выходные и ограничители инструментов, tripwires)](https://openai.github.io/openai-agents-python/guardrails/)
-   [Документация NVIDIA NeMo Guardrails](https://docs.nvidia.com/nemo/guardrails/latest/index.html)
-   [Anthropic, защита от джейлбрейков и промпт-инъекций (фильтры безвредности)](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks)
