BroadRouter

퓨샷 프롬프팅(few-shot prompting)

업데이트

퓨샷 프롬프팅(few-shot prompting)은 실제 입력 앞에 입력-출력 예시를 몇 개 넣어, 언어 모델이 예시에서 작업과 형식을 추론하게 하는 기법입니다. 모델의 가중치는 바뀌지 않습니다. 예시가 없으면 제로샷, 하나면 원샷이라고 합니다.

다른 이름: 퓨샷 프롬프팅, 퓨샷 러닝, 퓨샷 학습, 원샷 프롬프팅, 제로샷, 인컨텍스트 예시, few-shot learning, multishot prompting, in-context examples, one-shot prompting

말로 설명하기보다 보여 주는 편이 낫습니다. 규칙을 한 문단 쓰는 것보다 예시 몇 개가 형식과 어조를 더 빨리 잡아 주는 경우가 많습니다.

작동 방식

이 용어는 Brown 등이 쓴 GPT-3 논문으로 널리 퍼졌습니다. 논문은 1,750억 파라미터 모델을 경사 업데이트나 파인튜닝 없이 “specified purely via text interaction with the model”(번역: 순전히 모델과의 텍스트 상호작용으로 지정된) 작업으로 시험했고, 퓨샷 성능이 모델 크기에 따라 크게 좋아진다는 것을 확인했습니다. 논문은 세 가지 설정을 정의합니다.

설정 프롬프트 속 예시
제로샷 없음, 지시문만
원샷 1개
퓨샷 여러 개, 컨텍스트 윈도우가 허용하는 만큼

고객 지원 티켓에 라벨을 붙이는 퓨샷 프롬프트는 다음과 같을 수 있습니다.

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

모델은 패턴을 이어 갑니다. Anthropic 가이드는 예시를 형식, 어조, 구조를 조정하는 “one of the most reliable ways to steer”(번역: 가장 확실한 조정 방법 중 하나)라고 부르며, 예시가 관련성 있고 다양해야 하고, 모델이 지시문과 구별할 수 있도록 태그로 감싸야 한다고 말합니다.

왜 중요한가

  • 형식 제어. 예시는 빈 필드를 어떻게 쓰는지처럼 규칙이 놓치는 엣지 케이스를 보여 줍니다. 엄격한 JSON이 필요하면 구조화된 출력과 함께 쓰세요.
  • 비용. 모든 예시가 호출마다 입력으로 다시 보내집니다. 200토큰짜리 예시 5개면 요청마다 1,000토큰이 늘어납니다. 고정된 프리픽스에 두면 캐시된 입력 토큰으로 청구될 수 있습니다.
  • 추론. 답만이 아니라 단계를 보여 주는 예시는 생각의 사슬(CoT) 프롬프팅입니다.
  • 멈출 때. 예시가 수백 개 필요하다면 매번 보내는 것보다 파인튜닝이 호출당 더 저렴할 수 있습니다.

BroadNet Inference에서는

퓨샷 프롬프팅에는 특별한 API 기능이 필요 없습니다. messages에 들어가는 일반 텍스트일 뿐입니다. BroadNet은 usage에 cached_tokens를 보고하므로, 예시 블록을 캐시에서 읽는지 확인할 수 있습니다. 종량제(PAYG) 키에서는 캐시 가격이 입력 가격보다 낮습니다. DeepSeek V4.1 Flash를 예로 들면, 100만 토큰당 일반 입력이 $0.175 요금일 때 캐시 입력은 $0.0055 요금입니다. 아랍어 작업은 아랍어 프롬프트 엔지니어링을, 예시를 활용한 문서 추출은 아랍어 청구서 가이드를 참고하세요.

흔한 실수

  • 모든 예시가 같은 라벨이나 같은 길이인 경우. 모델이 그 편향을 그대로 따라 합니다.
  • 요청마다 예시를 바꾸는 경우. 캐시된 프리픽스가 깨지고 결과를 비교하기도 어려워집니다.

자주 묻는 질문

퓨샷 프롬프트에는 예시를 몇 개 넣어야 하나요?

Anthropic은 가장 좋은 결과를 위해 3~5개를 권합니다. 예시가 많을수록 호출마다 입력 토큰 비용이 늘어나므로, 품질이 더 나아지지 않으면 그만 추가하세요.

퓨샷 프롬프팅과 파인튜닝은 같은 건가요?

아닙니다. 퓨샷 예시는 프롬프트 안에 있고 요청마다 다시 보내집니다. 파인튜닝은 모델 가중치를 한 번 바꾸므로 예시를 더 보낼 필요가 없습니다.

예시는 시스템 프롬프트에 넣어야 하나요, 대화 턴으로 넣어야 하나요?

둘 다 됩니다. 앞부분의 고정된 위치에 두어 캐시 가능한 안정적인 프리픽스가 되게 하세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기