Mostrare batte spiegare. Pochi esempi spesso sistemano formato e tono più in fretta di un paragrafo di regole.
Come funziona
È stato l’articolo su GPT-3 di Brown e colleghi a diffondere il termine. Ha testato un modello da 175 miliardi di parametri con compiti “specified purely via text interaction with the model” (traduzione: specificati solo tramite interazione testuale con il modello), senza aggiornamenti dei gradienti né fine-tuning, e ha trovato che le prestazioni few-shot miglioravano nettamente con la dimensione del modello. L’articolo definisce tre impostazioni:
| Impostazione | Esempi nel prompt |
|---|---|
| Zero-shot | nessuno, solo un’istruzione |
| One-shot | uno |
| Few-shot | diversi, entro i limiti della context window |
Un prompt few-shot per etichettare i ticket di assistenza potrebbe essere così (i ticket restano in inglese: addebito doppio, crash al login, richiesta di dark mode, addebito dopo la disdetta):
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
Il modello prosegue lo schema. La guida di Anthropic definisce gli esempi “one of the most reliable ways to steer” (traduzione: uno dei modi più affidabili per orientare) formato, tono e struttura, e chiede che siano pertinenti, vari e racchiusi in tag, così il modello li distingue dalle istruzioni.
Perché è importante
- Controllo del formato. Gli esempi mostrano casi limite che le regole non coprono, come scrivere un campo vuoto. Per un JSON rigoroso, abbinali all’output strutturato.
- Costo. Ogni esempio si rimanda come input a ogni chiamata. Cinque esempi da 200 token aggiungono 1.000 token per richiesta. Messi in un prefisso fisso, possono essere fatturati come token di input in cache.
- Ragionamento. Gli esempi che mostrano i passaggi, non solo la risposta, sono prompting chain-of-thought.
- Quando fermarsi. Se ti servono centinaia di esempi, il fine-tuning può costare meno per chiamata che inviarli ogni volta.
Su BroadNet Inference
Il few-shot prompting non richiede funzioni API speciali: è testo semplice in messages. BroadNet riporta cached_tokens in usage, così puoi verificare se il tuo blocco di esempi viene letto dalla cache. Con una chiave a consumo il prezzo in cache è più basso di quello dell’input; su DeepSeek V4.1 Flash è $0.0055 contro $0.175 per 1M di token. Per i compiti in arabo vedi il prompt engineering in arabo, e per l’estrazione da documenti con esempi la guida alle fatture in arabo.
Errori comuni
- Usare esempi che hanno tutti la stessa etichetta o la stessa lunghezza. Il modello copia il bias.
- Cambiare gli esempi a ogni richiesta. Rompe il prefisso in cache e rende i risultati più difficili da confrontare.