---
title: "LLM のガードレールとは？入力と出力のチェックを解説 | BroadRouter"
description: "ガードレールは、LLM の呼び出しの前後で危険な入力や出力をブロック、修正、フラグ付けするチェックです。入力・出力・ツールのガードレール、レイテンシへの影響、実行場所を解説します。"
url: https://broadrouter.com/ja/glossary/guardrails/
lang: ja
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/glossary/guardrails/)（2026-11-14 更新）。

# ガードレール（guardrails）

更新日 2026-11-14

ガードレールとは、言語モデルの呼び出しを決めた範囲に収めるため、アプリがその前後で実行するチェックです。入力、出力、ツール操作をそれぞれ検証し、チェックに通らなければリクエストをブロック、書き換え、またはフラグ付けします。

別名： LLM ガードレール、AI ガードレール、入力ガードレール、出力ガードレール、安全対策、コンテンツフィルター、guardrails、LLM guardrails、AI guardrails、input guardrails、output guardrails、safety rails

ガードレールは、モデルの周りに巡らせるチェックです。悪い入力や悪い出力を、ユーザーに届く前にコードの段階で止めます。

## 仕組み

OpenAI Agents SDK はガードレールを “checks and validations of user input and agent output”（訳：ユーザー入力とエージェント出力のチェックと検証）と説明し、3 つの種類を定義しています。

| 種類 | 実行タイミング | 典型的なチェック |
| --- | --- | --- |
| 入力 | 最初のモデル呼び出しの前、または並行して | 話題外、攻撃的、インジェクションを含むリクエスト |
| 出力 | 最終回答の後 | 機密の漏えい、ポリシー違反、形式の誤り |
| ツール | 関数ツールの実行前後 | 引数が範囲内か、破壊的な操作でないか |

チェックに失敗すると、「トリップワイヤー」（tripwire）が例外を発生させて実行を止めます。入力チェックはブロッキング型（メインのモデルはまったく動かない）にも、並行型（レイテンシは小さいが、トリップワイヤーが作動した時点でトークンやツール呼び出しをすでに消費していることがある）にもできます。

NVIDIA のオープンソースの NeMo Guardrails ライブラリは、入力、検索、対話、実行、出力の 5 段階のレールを使います。Anthropic のドキュメントは “harmlessness screen”（訳：無害性スクリーニング）を勧めています。小さく高速なモデルで、ユーザー入力がメインの会話に届く前に分類し、[構造化出力](https://broadrouter.com/ja/glossary/structured-output/)を使って判定結果を解析可能な true か false にする方法です。

すべてのガードレールにモデルが必要なわけではありません。正規表現フィルター、許可リスト、JSON Schema による検証、長さの制限は、安価で結果が決定的です。

## なぜ重要か

-   **安全性。** ガードレールは、[プロンプトインジェクション](https://broadrouter.com/ja/glossary/prompt-injection/)や[ジェイルブレイク](https://broadrouter.com/ja/glossary/jailbreak/)に対する防御の 1 層です。1 つの層ですべてを止めることはできません。
-   **コスト。** 安価なスクリーニングで、高価なモデルが 100,000 トークンのコンテキストを読む前にリクエストを却下できます。
-   **エージェント。** メールを送ったりデータを編集したりする[エージェント](https://broadrouter.com/ja/glossary/agent/)には、最終的なテキストへのフィルターだけでなく、ツール単位のチェックと、リスクの高い手順での人間の承認が必要です。
-   **測定する。** 正当なリクエストをブロックするガードレールはバグです。[eval](https://broadrouter.com/ja/glossary/eval/) セットで誤検知を追跡してください。

## BroadNet Inference では

BroadNet のドキュメントには、ガードレール、モデレーション用エンドポイント、コンテンツフィルターの記載はありません。ガードレールはアプリケーション側の仕事として扱ってください。よくあるのは、[BroadNet Gemma 4 VL 26B](https://broadrouter.com/ja/models/gemma-4-vl-26b/)（入力 100 万トークンあたり $0.10）のような小さなモデルでスクリーニングし、そのあと大きなモデルでメインの呼び出しを行うパターンです。入力に個人データが含まれる場合は、[LLM API に機密データを送るとき](https://broadrouter.com/ja/blog/llm-api-sensitive-data/)を参照してください。

## よくある質問

### ガードレールはモデルの一部ですか？

いいえ。モデルには学習で身につけた回答拒否がありますが、ガードレールはアプリケーションがメインの呼び出しの前後で実行する別のコードやモデル呼び出しです。何をチェックするかは自分で決めます。

### ガードレールでレイテンシは増えますか？

ブロッキング型の入力チェックでは、メインのモデルが動き出す前に呼び出しが 1 回増えます。OpenAI Agents SDK では入力ガードレールを並行実行することもでき、時間は節約できますが、チェックが作動する前にトークンを消費することがあります。

### BroadNet Inference にはガードレールが含まれていますか？

BroadNet のドキュメントには、ガードレールやコンテンツフィルターは機能として記載されていません。たとえば小さなモデルでのスクリーニングや出力のスキーマ検証など、アプリケーション側で組み込んでください。

## 関連項目

-   [プロンプトインジェクション（prompt injection）](https://broadrouter.com/ja/glossary/prompt-injection/)（用語）
-   [ジェイルブレイク（LLM jailbreak）](https://broadrouter.com/ja/glossary/jailbreak/)（用語）
-   [AI エージェント（AI agent）](https://broadrouter.com/ja/glossary/agent/)（用語）
-   [構造化出力（Structured Outputs）](https://broadrouter.com/ja/glossary/structured-output/)（用語）
-   [評価（eval、LLM evaluation）](https://broadrouter.com/ja/glossary/eval/)（用語）
-   [システムプロンプト（system prompt）](https://broadrouter.com/ja/glossary/system-prompt/)（用語）
-   [PII（個人を特定できる情報）](https://broadrouter.com/ja/glossary/pii/)（用語）
-   [OpenAI Agents SDK を BroadNet Inference で動かす](https://broadrouter.com/ja/guides/openai-agents-sdk-custom-provider/)（ガイド）
-   [機密データを LLM API に送るとき：マスキング、最小化、ログ削減](https://broadrouter.com/ja/blog/llm-api-sensitive-data/)（記事）
-   [LLM API キーのセキュリティ：保管、ローテーション、IP 許可リスト](https://broadrouter.com/ja/blog/llm-api-key-security/)（記事）

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-guardrails&utm_content=page-cta) ·

**出典**

-   [OpenAI Agents SDK、ガードレール（入力・出力・ツールのガードレール、トリップワイヤー）](https://openai.github.io/openai-agents-python/guardrails/)
-   [NVIDIA NeMo Guardrails ドキュメント](https://docs.nvidia.com/nemo/guardrails/latest/index.html)
-   [Anthropic、ジェイルブレイクとプロンプトインジェクションの緩和（無害性スクリーニング）](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks)
