BroadRouter
Inizia

Guardrail (controlli di sicurezza per LLM)

Aggiornato

I guardrail sono controlli che un’applicazione esegue attorno alla chiamata a un modello linguistico per tenerla entro limiti stabiliti. I guardrail di input esaminano ciò che entra nel modello, quelli di output controllano ciò che esce e quelli sui tool validano le azioni prima che vengano eseguite. Un controllo fallito blocca, riscrive o segnala la richiesta.

Detto anche: guardrail, guardrail LLM, guardrail AI, barriere di sicurezza AI, controlli di input, controlli di output, LLM guardrails, AI guardrails, input guardrails, output guardrails, safety rails

I guardrail sono i controlli che metti attorno a un modello perché un input o un output sbagliato si fermi nel tuo codice, non davanti al tuo utente.

Come funziona

L’OpenAI Agents SDK descrive i guardrail come “checks and validations of user input and agent output” (traduzione: controlli e validazioni dell’input dell’utente e dell’output dell’agente) e ne definisce tre tipi:

Tipo Quando gira Controllo tipico
Input Prima o in parallelo alla prima chiamata al modello Richieste fuori tema, offensive o con injection
Output Dopo la risposta finale Segreti trapelati, violazioni di policy, formato sbagliato
Tool Prima e dopo l’esecuzione di un function tool Argomenti nei limiti, nessuna azione distruttiva

Quando un controllo fallisce, un “tripwire” solleva un’eccezione e ferma l’esecuzione. I controlli di input possono essere bloccanti (il modello principale non parte mai) o paralleli (latenza più bassa, ma token e chiamate ai tool possono essere già stati spesi quando il tripwire scatta).

La libreria open source NeMo Guardrails di NVIDIA usa cinque fasi: rail di input, di recupero, di dialogo, di esecuzione e di output. La documentazione di Anthropic suggerisce un “harmlessness screen” (filtro di innocuità): un modello piccolo e veloce che classifica l’input dell’utente prima che arrivi alla conversazione principale, con output strutturato così il verdetto è un vero o falso facile da leggere nel codice.

Non tutti i guardrail hanno bisogno di un modello. Filtri regex, allow-list, validazione con JSON Schema e limiti di lunghezza sono economici e deterministici.

Perché è importante

  • Sicurezza. I guardrail sono uno strato di difesa contro la prompt injection e i jailbreak. Nessuno strato da solo li ferma tutti.
  • Costo. Un filtro economico può respingere una richiesta prima che un modello costoso legga 100.000 token di contesto.
  • Agenti. Un agente che invia email o modifica dati ha bisogno di controlli a livello di tool e di approvazione umana per i passaggi ad alto rischio, non solo di un filtro sul testo finale.
  • Misurali. Un guardrail che blocca richieste valide è un bug. Tieni traccia dei falsi positivi con un set di eval.

Su BroadNet Inference

La documentazione di BroadNet non elenca guardrail, endpoint di moderazione o filtri di contenuto. Considera i guardrail un compito della tua applicazione. Uno schema comune è un filtro su un modello più piccolo come BroadNet Gemma 4 VL 26B ($0.10 per 1M di token di input), poi la chiamata principale su un modello più grande. Se gli input contengono dati personali, vedi inviare dati sensibili a un’API LLM.

Domande frequenti

I guardrail fanno parte del modello?

No. I modelli hanno i propri rifiuti appresi in addestramento, ma i guardrail sono codice o chiamate a modelli separati che la tua applicazione esegue prima e dopo la chiamata principale. Sei tu a decidere cosa controllano.

I guardrail aggiungono latenza?

Un controllo di input bloccante aggiunge una chiamata prima che parta il modello principale. L’OpenAI Agents SDK può invece eseguire i guardrail di input in parallelo, il che fa risparmiare tempo ma può consumare token prima che il controllo scatti.

BroadNet Inference include dei guardrail?

La documentazione di BroadNet non elenca guardrail o filtri di contenuto tra le funzioni. Costruiscili nella tua applicazione, per esempio con un modello piccolo come filtro e con la validazione dello schema sugli output.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity