BroadRouter
开始使用

提示词工程(prompt engineering)

更新于

提示词工程是编写、组织和测试发给语言模型的指令的过程,目的是让模型稳定地产出符合要求的结果。它包括角色消息、清晰的指令、示例、格式,以及用测试用例衡量结果。

又称: 提示工程、提示词设计、提示词技巧、Prompt 工程、prompt engineering、prompt design、prompting techniques

提示词就是一份规格说明。提示词工程就是把它写好,并检查模型是否照做。

工作原理

OpenAI 的指南把提示词工程定义为 “the process of writing effective instructions for a model”(译文:为模型编写有效指令的过程),使其 “consistently generates content that meets your requirements.”(译文:稳定地生成符合你要求的内容。)各家厂商的核心技巧大同小异:

技巧 做法
角色 把规则放进系统提示词(或 developer 消息),把请求放进 user 消息
结构 系统提示词按身份、指令、示例、上下文的顺序组织;用 Markdown 标题和 XML 标签标出各部分
示例 加入几组覆盖不同情况的输入输出对(少样本提示)
推理 要求逐步思考(思维链),或使用思考模型
输出格式 要求固定格式,或在 API 支持时使用结构化输出
稳定性 固定模型版本,避免行为在你不知情时发生变化

Anthropic 的概览说,先准备好三样东西:明确的成功标准、对照这些标准进行测试的方法,以及第一版提示词草稿。实际上,这就意味着一套评测集。

一个简短的修改前后示例:

Before: Summarize this ticket.

After:  You summarize support tickets for an engineering team.
        Write 3 bullet points: the problem, the customer impact, the next step.
        Use the customer's words for error messages. Do not guess at causes.
        <ticket>...</ticket>

修改前只有一句”总结这张工单”。修改后说明了读者是工程团队,要求写 3 个要点(问题、对客户的影响、下一步),错误信息照用客户原话,并且不要猜测原因。

对智能体来说,提示词只是更大上下文中的一部分。Anthropic 关于上下文工程的文章把提示词工程,即 “methods for writing and organizing LLM instructions,“(译文:编写和组织大模型指令的方法)与上下文工程区分开来,后者管理模型看到的其他所有内容。

为什么重要

  • 无需训练就能提升质量。 在微调或换更大的模型之前,改进提示词是最便宜的尝试。
  • 费用。 系统提示词在每个请求中都会重新发送。删掉不影响输出的内容;参见减少提示词 token。
  • 迁移。 为一个模型调好的提示词,换到另一个模型上可能表现不同。切换时请重新运行评测集。

在 BroadNet Inference 上

BroadNet 的对话模型接受标准的 Chat Completions messages 列表,所以 system、user、assistant 角色和少样本示例都照常可用。写代码之前,可以先在 Playground 里试提示词。需要阿拉伯语输出时,阿拉伯语提示词工程介绍了语体、方言、数字和从右到左的排版。

GLM 5.3 和 Qwen3.8 27B 的文档中列出了结构化输出。在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上,思考内容计入 max_tokens,所以”一步一步思考”这类提示词也需要在预算里留出空间。

常见问题

有了更新的模型,还需要提示词工程吗?

需要,只是技巧在变。新模型能很好地遵循清晰、具体的指令,所以大部分工作是把要求说清楚、给出示例,并用真实输入来测试。

什么时候应该改用微调?

当一个经过充分测试、带示例的提示词仍然在很大比例的情况下失败,或者长到不适合每次请求都发送时。Anthropic 的文档还指出,有些目标,例如降低延迟或成本,换一个模型更容易实现。

要输出阿拉伯语时,提示词要用阿拉伯语写吗?

两种都可以。说明你想要的语体或方言,以及如何处理数字和混排文本。阿拉伯语提示词工程一文对比了这两种做法。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity