BroadRouter

Few-shot prompting (prompt con esempi)

Aggiornato

Il few-shot prompting è una tecnica in cui il prompt include un piccolo numero di esempi svolti di input e output prima dell’input reale, così il modello linguistico ne ricava compito e formato. I pesi del modello non cambiano; lo zero-shot non usa esempi e il one-shot ne usa uno.

Detto anche: prompt con esempi, esempi nel prompt, apprendimento few-shot, few-shot learning, multishot prompting, in-context examples, one-shot prompting

Mostrare batte spiegare. Pochi esempi spesso sistemano formato e tono più in fretta di un paragrafo di regole.

Come funziona

È stato l’articolo su GPT-3 di Brown e colleghi a diffondere il termine. Ha testato un modello da 175 miliardi di parametri con compiti “specified purely via text interaction with the model” (traduzione: specificati solo tramite interazione testuale con il modello), senza aggiornamenti dei gradienti né fine-tuning, e ha trovato che le prestazioni few-shot miglioravano nettamente con la dimensione del modello. L’articolo definisce tre impostazioni:

Impostazione Esempi nel prompt
Zero-shot nessuno, solo un’istruzione
One-shot uno
Few-shot diversi, entro i limiti della context window

Un prompt few-shot per etichettare i ticket di assistenza potrebbe essere così (i ticket restano in inglese: addebito doppio, crash al login, richiesta di dark mode, addebito dopo la disdetta):

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Il modello prosegue lo schema. La guida di Anthropic definisce gli esempi “one of the most reliable ways to steer” (traduzione: uno dei modi più affidabili per orientare) formato, tono e struttura, e chiede che siano pertinenti, vari e racchiusi in tag, così il modello li distingue dalle istruzioni.

Perché è importante

  • Controllo del formato. Gli esempi mostrano casi limite che le regole non coprono, come scrivere un campo vuoto. Per un JSON rigoroso, abbinali all’output strutturato.
  • Costo. Ogni esempio si rimanda come input a ogni chiamata. Cinque esempi da 200 token aggiungono 1.000 token per richiesta. Messi in un prefisso fisso, possono essere fatturati come token di input in cache.
  • Ragionamento. Gli esempi che mostrano i passaggi, non solo la risposta, sono prompting chain-of-thought.
  • Quando fermarsi. Se ti servono centinaia di esempi, il fine-tuning può costare meno per chiamata che inviarli ogni volta.

Su BroadNet Inference

Il few-shot prompting non richiede funzioni API speciali: è testo semplice in messages. BroadNet riporta cached_tokens in usage, così puoi verificare se il tuo blocco di esempi viene letto dalla cache. Con una chiave a consumo il prezzo in cache è più basso di quello dell’input; su DeepSeek V4.1 Flash è $0.0055 contro $0.175 per 1M di token. Per i compiti in arabo vedi il prompt engineering in arabo, e per l’estrazione da documenti con esempi la guida alle fatture in arabo.

Errori comuni

  • Usare esempi che hanno tutti la stessa etichetta o la stessa lunghezza. Il modello copia il bias.
  • Cambiare gli esempi a ogni richiesta. Rompe il prefisso in cache e rende i risultati più difficili da confrontare.

Domande frequenti

Quanti esempi deve avere un prompt few-shot?

Anthropic suggerisce da 3 a 5 per i risultati migliori. Più esempi costano più token di input a ogni chiamata, quindi smetti di aggiungerne quando la qualità non migliora più.

Il few-shot prompting è la stessa cosa del fine-tuning?

No. Gli esempi few-shot stanno nel prompt e si rimandano a ogni richiesta. Il fine-tuning cambia i pesi del modello una volta sola, così non serve più inviare gli esempi.

Gli esempi vanno nel system prompt o come turni di chat?

Funzionano entrambe le soluzioni. Tienili in una posizione fissa vicino all’inizio, così formano un prefisso stabile che può andare in cache.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity