---
title: "Apa itu guardrails LLM? Pemeriksaan input dan output"
description: "Guardrails adalah pemeriksaan di sekitar panggilan LLM yang memblokir, memperbaiki, atau menandai input dan output berbahaya. Jenis, biaya latensi, dan lokasinya."
url: https://broadrouter.com/id/glossary/guardrails/
lang: id
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/glossary/guardrails/) (diperbarui 2026-11-14).

# Guardrails (pagar pengaman AI)

Diperbarui 2026-11-14

Guardrails adalah pemeriksaan yang dijalankan aplikasi di sekitar panggilan model bahasa agar tetap dalam batas yang ditetapkan. Guardrail input menyaring apa yang masuk ke model, guardrail output memeriksa apa yang keluar, dan guardrail tool memvalidasi aksi sebelum dijalankan. Pemeriksaan yang gagal akan memblokir, menulis ulang, atau menandai request.

Disebut juga: guardrails, guardrail AI, guardrail LLM, pagar pengaman AI, pembatas keamanan AI, LLM guardrails, AI guardrails, input guardrails, output guardrails, safety rails

Guardrails adalah pemeriksaan yang Anda pasang di sekitar model agar input atau output yang buruk berhenti di kode Anda, bukan sampai ke pengguna Anda.

## Cara kerjanya

OpenAI Agents SDK menggambarkan guardrails sebagai “checks and validations of user input and agent output” (terjemahan: pemeriksaan dan validasi input pengguna dan output agen) dan mendefinisikan tiga jenis:

| Jenis | Kapan berjalan | Pemeriksaan umum |
| --- | --- | --- |
| Input | Sebelum atau bersamaan dengan panggilan model pertama | Request di luar topik, kasar, atau berisi injeksi |
| Output | Setelah jawaban akhir | Rahasia yang bocor, pelanggaran kebijakan, format salah |
| Tool | Sebelum dan sesudah function tool berjalan | Argumen dalam rentang, tidak ada aksi destruktif |

Saat pemeriksaan gagal, sebuah “tripwire” memunculkan exception dan menghentikan run. Pemeriksaan input bisa bersifat memblokir (model utama tidak pernah mulai) atau paralel (latensi lebih rendah, tetapi token dan panggilan tool mungkin sudah terpakai saat tripwire terpicu).

Library open-source NeMo Guardrails dari NVIDIA memakai lima tahap: rail input, retrieval, dialog, execution, dan output. Dokumentasi Anthropic menyarankan “harmlessness screen” (terjemahan: penyaring keamanan): model kecil dan cepat yang mengklasifikasikan input pengguna sebelum mencapai percakapan utama, dengan [output terstruktur](https://broadrouter.com/id/glossary/structured-output/) agar putusannya berupa true atau false yang bisa di-parse.

Tidak semua guardrail membutuhkan model. Filter regex, allow-list, validasi JSON Schema, dan batas panjang itu murah dan deterministik.

## Mengapa penting

-   **Keamanan.** Guardrails adalah satu lapisan pertahanan terhadap [prompt injection](https://broadrouter.com/id/glossary/prompt-injection/) dan [jailbreak](https://broadrouter.com/id/glossary/jailbreak/). Tidak ada satu lapisan pun yang bisa menghentikan semuanya.
-   **Biaya.** Penyaring murah bisa menolak request sebelum model mahal membaca 100.000 token konteks.
-   **Agen.** [Agen](https://broadrouter.com/id/glossary/agent/) yang mengirim email atau mengubah data membutuhkan pemeriksaan di level tool dan persetujuan manusia untuk langkah berisiko tinggi, bukan hanya filter pada teks akhir.
-   **Ukur guardrails Anda.** Guardrail yang memblokir request yang baik adalah bug. Pantau false positive dengan set [eval](https://broadrouter.com/id/glossary/eval/).

## Di BroadNet Inference

Dokumentasi BroadNet tidak mencantumkan guardrails, endpoint moderasi, atau filter konten. Anggap guardrails sebagai tugas aplikasi Anda. Pola yang umum adalah penyaring pada model yang lebih kecil seperti [BroadNet Gemma 4 VL 26B](https://broadrouter.com/id/models/gemma-4-vl-26b/) ($0.10 per 1 juta token input), lalu panggilan utama pada model yang lebih besar. Jika input berisi data pribadi, lihat [mengirim data sensitif ke API LLM](https://broadrouter.com/id/blog/llm-api-sensitive-data/).

## Pertanyaan umum

### Apakah guardrails bagian dari model?

Tidak. Model punya penolakan hasil pelatihannya sendiri, tetapi guardrails adalah kode atau panggilan model terpisah yang dijalankan aplikasi Anda sebelum dan sesudah panggilan utama. Anda yang menentukan apa yang diperiksa.

### Apakah guardrails menambah latensi?

Pemeriksaan input yang memblokir menambah satu panggilan ekstra sebelum model utama mulai. OpenAI Agents SDK juga bisa menjalankan guardrail input secara paralel, yang menghemat waktu tetapi bisa menghabiskan token sebelum pemeriksaannya terpicu.

### Apakah BroadNet Inference menyertakan guardrails?

Dokumentasi BroadNet tidak mencantumkan guardrails atau filter konten sebagai fitur. Bangun di aplikasi Anda, misalnya dengan model kecil sebagai penyaring dan validasi skema pada output.

## Lihat juga

-   [Prompt injection (injeksi prompt)](https://broadrouter.com/id/glossary/prompt-injection/) (istilah)
-   [Jailbreak (LLM)](https://broadrouter.com/id/glossary/jailbreak/) (istilah)
-   [Agen AI (AI agent)](https://broadrouter.com/id/glossary/agent/) (istilah)
-   [Output terstruktur (structured output)](https://broadrouter.com/id/glossary/structured-output/) (istilah)
-   [Eval (evaluasi LLM)](https://broadrouter.com/id/glossary/eval/) (istilah)
-   [System prompt (prompt sistem)](https://broadrouter.com/id/glossary/system-prompt/) (istilah)
-   [PII (personally identifiable information)](https://broadrouter.com/id/glossary/pii/) (istilah)
-   [Menjalankan OpenAI Agents SDK di BroadNet Inference](https://broadrouter.com/id/guides/openai-agents-sdk-custom-provider/) (panduan)
-   [Mengirim data sensitif ke API LLM: redaksi, minimalkan, kurangi log](https://broadrouter.com/id/blog/llm-api-sensitive-data/) (artikel)
-   [Keamanan kunci API LLM: penyimpanan, rotasi, dan IP allow-list](https://broadrouter.com/id/blog/llm-api-key-security/) (artikel)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-guardrails&utm_content=page-cta) ·

**Sumber**

-   [OpenAI Agents SDK, guardrails (guardrail input, output, dan tool, tripwire)](https://openai.github.io/openai-agents-python/guardrails/)
-   [Dokumentasi NVIDIA NeMo Guardrails](https://docs.nvidia.com/nemo/guardrails/latest/index.html)
-   [Anthropic, memitigasi jailbreak dan prompt injection (harmlessness screen)](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks)
