BroadRouter

Few-shot prompting

Diperbarui

Few-shot prompting adalah teknik di mana prompt berisi sejumlah kecil contoh input-output yang sudah dikerjakan sebelum input sebenarnya, sehingga model bahasa menyimpulkan tugas dan formatnya dari contoh itu. Bobot model tidak berubah; zero-shot tidak memakai contoh dan one-shot memakai satu.

Disebut juga: few-shot prompting, prompt few-shot, prompting dengan contoh, contoh dalam prompt, few-shot learning, multishot prompting, in-context examples, one-shot prompting

Menunjukkan lebih ampuh daripada menjelaskan. Beberapa contoh sering memperbaiki format dan nada lebih cepat daripada satu paragraf aturan.

Cara kerjanya

Makalah GPT-3 karya Brown dan rekan-rekannya membuat istilah ini populer. Makalah itu menguji model 175 miliar parameter dengan tugas yang “specified purely via text interaction with the model” (terjemahan: ditentukan murni melalui interaksi teks dengan model), tanpa pembaruan gradien atau fine-tuning, dan menemukan bahwa performa few-shot meningkat tajam seiring ukuran model. Makalah itu mendefinisikan tiga pengaturan:

Pengaturan Contoh di dalam prompt
Zero-shot tidak ada, hanya instruksi
One-shot satu
Few-shot beberapa, dibatasi oleh context window

Prompt few-shot untuk memberi label tiket dukungan bisa terlihat seperti ini:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Model melanjutkan polanya. Panduan Anthropic menyebut contoh sebagai “one of the most reliable ways to steer” (terjemahan: salah satu cara paling andal untuk mengarahkan) format, nada, dan struktur, dan meminta agar contoh relevan, beragam, dan dibungkus tag supaya model bisa membedakannya dari instruksi.

Mengapa penting

  • Kontrol format. Contoh menunjukkan edge case yang terlewat oleh aturan, misalnya cara menulis field yang kosong. Untuk JSON yang ketat, padukan dengan output terstruktur.
  • Biaya. Setiap contoh dikirim ulang sebagai input di setiap panggilan. Lima contoh berukuran 200 token menambah 1.000 token per request. Jika diletakkan di prefiks tetap, contoh itu bisa ditagih sebagai token input cache.
  • Penalaran. Contoh yang menunjukkan langkah-langkahnya, bukan hanya jawabannya, adalah prompting chain-of-thought.
  • Kapan berhenti. Jika Anda butuh ratusan contoh, fine-tuning bisa lebih murah per panggilan daripada mengirimnya setiap kali.

Di BroadNet Inference

Few-shot prompting tidak memerlukan fitur API khusus; ini hanya teks biasa di messages. BroadNet melaporkan cached_tokens di usage, jadi Anda bisa memeriksa apakah blok contoh Anda dibaca dari cache. Pada kunci PAYG (bayar sesuai pemakaian), harga cache lebih rendah daripada harga input; pada DeepSeek V4.1 Flash, itu $0.0055 dibanding $0.175 per 1 juta token. Untuk tugas bahasa Arab, lihat prompt engineering bahasa Arab, dan untuk ekstraksi dokumen dengan contoh, lihat panduan faktur bahasa Arab.

Kesalahan umum

  • Memakai contoh yang semuanya punya label atau panjang yang sama. Model akan meniru bias itu.
  • Mengganti-ganti contoh di setiap request. Ini merusak prefiks cache dan membuat hasil lebih sulit dibandingkan.

Pertanyaan umum

Berapa banyak contoh yang sebaiknya ada di prompt few-shot?

Anthropic menyarankan 3 sampai 5 untuk hasil terbaik. Lebih banyak contoh berarti lebih banyak token input di setiap panggilan, jadi berhentilah menambah contoh begitu kualitas tidak lagi membaik.

Apakah few-shot prompting sama dengan fine-tuning?

Tidak. Contoh few-shot ada di dalam prompt dan dikirim ulang di setiap request. Fine-tuning mengubah bobot model sekali, sehingga contohnya tidak perlu dikirim lagi.

Sebaiknya contoh ditaruh di system prompt atau sebagai giliran chat?

Keduanya bisa. Letakkan di posisi tetap di dekat awal agar membentuk prefiks yang stabil dan bisa di-cache.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity