BroadRouter

Few-shot промптинг (few-shot prompting)

Обновлено

Few-shot промптинг — это приём, при котором в промпт перед реальным входом добавляют несколько готовых примеров «вход — выход», чтобы языковая модель по ним поняла задачу и формат. Веса модели не меняются; в zero-shot примеров нет, в one-shot — один.

Также называют: few-shot, few-shot промптинг, промптинг с примерами, обучение на нескольких примерах, примеры в промпте, one-shot, zero-shot, few-shot prompting, few-shot learning, multishot prompting, in-context examples, one-shot prompting

Показать лучше, чем объяснить. Несколько примеров часто исправляют формат и тон быстрее, чем абзац правил.

Как это работает

Термин стал общеупотребительным благодаря статье о GPT-3 от Brown и соавторов. В ней модель на 175 млрд параметров проверяли на задачах, “specified purely via text interaction with the model” (перевод: «заданных исключительно через текстовое взаимодействие с моделью»), без обновления градиентов и дообучения, и обнаружили, что качество в режиме few-shot сильно растёт с размером модели. Статья определяет три режима:

Режим Примеров в промпте
Zero-shot ни одного, только инструкция
One-shot один
Few-shot несколько, сколько позволяет контекстное окно

Few-shot промпт для разметки обращений в поддержку может выглядеть так:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Модель продолжает шаблон. Руководство Anthropic называет примеры “one of the most reliable ways to steer” (перевод: «одним из самых надёжных способов управлять») форматом, тоном и структурой и просит, чтобы они были релевантными, разнообразными и обёрнутыми в теги, чтобы модель могла отличить их от инструкций.

Почему это важно

  • Контроль формата. Примеры показывают пограничные случаи, которые упускают правила, например как записывать пустое поле. Для строгого JSON сочетайте их со структурированным выводом.
  • Стоимость. Каждый пример заново отправляется как вход в каждом вызове. Пять примеров по 200 токенов добавляют к каждому запросу 1000 токенов. Если поместить их в фиксированный префикс, они могут тарифицироваться как вход из кэша.
  • Рассуждения. Примеры, которые показывают шаги, а не только ответ, — это промптинг chain-of-thought.
  • Когда остановиться. Если нужны сотни примеров, дообучение может оказаться дешевле в расчёте на вызов, чем каждый раз отправлять их.

В BroadNet Inference

Few-shot промптингу не нужны особые функции API: это обычный текст в messages. BroadNet возвращает cached_tokens в usage, так что можно проверить, читается ли ваш блок примеров из кэша. На ключе с оплатой по факту цена входа из кэша ниже цены входа; у DeepSeek V4.1 Flash это $0.0055 против $0.175 за 1 млн токенов. Для задач на арабском см. промпт-инжиниринг для арабского, а для извлечения данных из документов с примерами — руководство по арабским счетам.

Частые ошибки

  • Брать примеры с одной и той же меткой или длиной. Модель копирует этот перекос.
  • Менять примеры от запроса к запросу. Это ломает кэшируемый префикс и затрудняет сравнение результатов.

Вопросы и ответы

Сколько примеров нужно в few-shot промпте?

Anthropic советует от 3 до 5 для лучшего результата. Каждый пример увеличивает число входных токенов в каждом вызове, так что перестаньте добавлять примеры, когда качество перестаёт расти.

Few-shot промптинг — это то же самое, что дообучение?

Нет. Few-shot примеры живут в промпте и отправляются заново с каждым запросом. Дообучение один раз меняет веса модели, и примеры больше не нужно отправлять.

Куда класть примеры: в системный промпт или в реплики чата?

Подойдёт и то и другое. Держите их на фиксированном месте ближе к началу, чтобы они образовали стабильный префикс, который можно кэшировать.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity