BroadRouter

Few-shot prompting (az örnekli istem)

Güncellendi

Few-shot prompting (az örnekli istem), istemin gerçek girdiden önce az sayıda çözülmüş girdi-çıktı örneği içerdiği bir tekniktir; dil modeli görevi ve biçimi bu örneklerden çıkarır. Modelin ağırlıkları değişmez; zero-shot hiç örnek kullanmaz, one-shot ise bir örnek kullanır.

Diğer adları: few-shot prompting, az örnekli istem, birkaç örnekli istem, few-shot öğrenme, bağlam içi örnekler, one-shot istem, few-shot learning, multishot prompting, in-context examples, one-shot prompting

Göstermek, anlatmaktan iyidir. Birkaç örnek, biçimi ve tonu çoğu zaman bir paragraf kuraldan daha hızlı düzeltir.

Nasıl çalışır

Terimi Brown ve arkadaşlarının GPT-3 makalesi yaygınlaştırdı. Makale 175 milyar parametreli bir modeli, gradyan güncellemesi veya ince ayar olmadan, “specified purely via text interaction with the model” (çeviri: tamamen modelle metin etkileşimi yoluyla belirtilen) görevlerle test etti ve few-shot performansının model boyutuyla güçlü biçimde arttığını buldu. Makale üç ayar tanımlar:

Ayar İstemdeki örnekler
Zero-shot hiç yok, yalnızca bir talimat
One-shot bir
Few-shot birkaç, bağlam penceresiyle sınırlı

Destek taleplerini etiketlemek için bir few-shot istem şöyle görünebilir:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Model kalıbı sürdürür. Anthropic’in rehberi örnekleri biçimi, tonu ve yapıyı “one of the most reliable ways to steer” (çeviri: yönlendirmenin en güvenilir yollarından biri) olarak niteler ve modelin onları talimatlardan ayırt edebilmesi için örneklerin ilgili, çeşitli ve etiketlerle sarılmış olmasını ister.

Neden önemli

  • Biçim kontrolü. Örnekler, boş bir alanın nasıl yazılacağı gibi kuralların kaçırdığı uç durumları gösterir. Katı JSON için onları yapılandırılmış çıktı ile birlikte kullanın.
  • Maliyet. Her örnek her çağrıda girdi olarak yeniden gönderilir. 200 token’lık beş örnek, istek başına 1.000 token ekler. Sabit bir öneke yerleştirilirlerse önbellekli girdi token’ları olarak faturalanabilirler.
  • Akıl yürütme. Yalnızca yanıtı değil adımları da gösteren örnekler, chain-of-thought istemidir.
  • Ne zaman durmalı. Yüzlerce örneğe ihtiyacınız varsa, ince ayar çağrı başına bunları her seferinde göndermekten daha ucuz olabilir.

BroadNet Inference’ta

Few-shot prompting özel bir API özelliği gerektirmez; messages içinde düz metindir. BroadNet usage içinde cached_tokens bildirir; böylece örnek bloğunuzun önbellekten okunup okunmadığını kontrol edebilirsiniz. Kullandıkça öde (PAYG) anahtarında önbellekli fiyat girdi fiyatından düşüktür; DeepSeek V4.1 Flash’ta bu, 1M token başına $0.0055 ve $0.175 karşılaştırmasıdır. Arapça görevler için Arapça istem mühendisliği yazısına, örneklerle belge çıkarma için de Arapça faturalar rehberine bakın.

Sık yapılan hatalar

  • Hepsi aynı etiketi veya uzunluğu paylaşan örnekler kullanmak. Model bu yanlılığı kopyalar.
  • Örnekleri her istekte değiştirmek. Bu, önbellekli öneki bozar ve sonuçları karşılaştırmayı zorlaştırır.

Sık sorulan sorular

Bir few-shot istemde kaç örnek olmalı?

Anthropic en iyi sonuç için 3 ila 5 örnek önerir. Daha fazla örnek her çağrıda daha fazla girdi token'ı demektir; kalite artmayı bıraktığında örnek eklemeyi bırakın.

Few-shot prompting, ince ayar ile aynı şey mi?

Hayır. Few-shot örnekleri istemin içinde yaşar ve her istekte yeniden gönderilir. İnce ayar ise model ağırlıklarını bir kez değiştirir; böylece örneklerin artık gönderilmesi gerekmez.

Örnekler sistem istemine mi, sohbet turları olarak mı konmalı?

İkisi de olur. Sabit ve önbelleğe alınabilir bir önek oluşturmaları için onları başa yakın sabit bir konumda tutun.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor