I guardrail sono i controlli che metti attorno a un modello perché un input o un output sbagliato si fermi nel tuo codice, non davanti al tuo utente.
Come funziona
L’OpenAI Agents SDK descrive i guardrail come “checks and validations of user input and agent output” (traduzione: controlli e validazioni dell’input dell’utente e dell’output dell’agente) e ne definisce tre tipi:
| Tipo | Quando gira | Controllo tipico |
|---|---|---|
| Input | Prima o in parallelo alla prima chiamata al modello | Richieste fuori tema, offensive o con injection |
| Output | Dopo la risposta finale | Segreti trapelati, violazioni di policy, formato sbagliato |
| Tool | Prima e dopo l’esecuzione di un function tool | Argomenti nei limiti, nessuna azione distruttiva |
Quando un controllo fallisce, un “tripwire” solleva un’eccezione e ferma l’esecuzione. I controlli di input possono essere bloccanti (il modello principale non parte mai) o paralleli (latenza più bassa, ma token e chiamate ai tool possono essere già stati spesi quando il tripwire scatta).
La libreria open source NeMo Guardrails di NVIDIA usa cinque fasi: rail di input, di recupero, di dialogo, di esecuzione e di output. La documentazione di Anthropic suggerisce un “harmlessness screen” (filtro di innocuità): un modello piccolo e veloce che classifica l’input dell’utente prima che arrivi alla conversazione principale, con output strutturato così il verdetto è un vero o falso facile da leggere nel codice.
Non tutti i guardrail hanno bisogno di un modello. Filtri regex, allow-list, validazione con JSON Schema e limiti di lunghezza sono economici e deterministici.
Perché è importante
- Sicurezza. I guardrail sono uno strato di difesa contro la prompt injection e i jailbreak. Nessuno strato da solo li ferma tutti.
- Costo. Un filtro economico può respingere una richiesta prima che un modello costoso legga 100.000 token di contesto.
- Agenti. Un agente che invia email o modifica dati ha bisogno di controlli a livello di tool e di approvazione umana per i passaggi ad alto rischio, non solo di un filtro sul testo finale.
- Misurali. Un guardrail che blocca richieste valide è un bug. Tieni traccia dei falsi positivi con un set di eval.
Su BroadNet Inference
La documentazione di BroadNet non elenca guardrail, endpoint di moderazione o filtri di contenuto. Considera i guardrail un compito della tua applicazione. Uno schema comune è un filtro su un modello più piccolo come BroadNet Gemma 4 VL 26B ($0.10 per 1M di token di input), poi la chiamata principale su un modello più grande. Se gli input contengono dati personali, vedi inviare dati sensibili a un’API LLM.