BroadRouter

系统提示词(system prompt)

更新于

系统提示词是应用在对话开始前发给语言模型的指令文本,通常是一条 system 或 developer 角色的消息。它设定模型的角色、规则、语气和输出格式,当用户消息与它冲突时,模型应当优先遵循它。

又称: 系统提示、系统消息、系统指令、开发者消息、system prompt、system message、developer message、system instructions、system role

系统提示词是请求中终端用户从来不会输入的那一部分。它告诉模型在为谁工作、应该怎样表现。

工作原理

在 Chat Completions 格式中,messages 是一个带 role 的对象列表。第一条通常承载常驻指令:

{"messages": [
  {"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
  {"role": "user", "content": "Can I change my flight?"}
]}

(示例中的系统提示词意思是:你是航空公司的客服,用两句话回答,绝不报票价;用户问:我可以改签吗?)

OpenAI 的 API 参考把 system 和 developer 消息都描述为 “developer-provided instructions that the model should follow, regardless of messages sent by the user”(译文:由开发者提供、无论用户发送什么消息,模型都应遵循的指令),并说在 o1 及更新的模型上,developer 消息取代了 system 消息。它的文本生成指南把 developer 消息的优先级放在 “ahead of user messages”(译文:高于用户消息)。Anthropic 则不把系统提示词作为一条消息,而是作为单独的顶层 system 参数,并指出哪怕只用一句话设定角色,也能 “focuses Claude’s behavior and tone”(译文:让 Claude 的行为和语气更聚焦)。

常见内容包括:角色、任务、硬性规则、输出格式,有时还有示例(少样本提示)。

为什么重要

  • 费用。 系统提示词在每次调用时都作为输入 token 重新发送。2,000 token 的提示词发 10,000 次请求,就是 2,000 万个 token。
  • 缓存。 系统提示词内容不变又位于最前面,是最容易缓存的前缀。把日期、用户名等会变化的数据放在它后面。为缓存设计提示词结构一文展示了顺序。
  • 安全。 它是一层策略,而不是安全边界。文档或用户文本中的提示词注入仍然可能让模型偏离方向。

在 BroadNet Inference 上

BroadNet 提供 OpenAI chat completions 格式,所以 system 消息像上面那样放进 messages 即可。文档中的示例只用了一条 user 消息,也没有说明每个模型如何处理 system 或 developer 角色;请在你要上线的模型上测试提示词。

BroadNet 会在 usage 中报告 prompt_tokens_details.cached_tokens,并按缓存输入价格对这些 token 计费。以 DeepSeek V4.1 Flash 和上面的 2,000 万 token 为例:完全没有命中缓存时是 20 × $0.175,每次读取都命中缓存时是 20 × $0.0055。实际命中率介于两者之间;查看 cached_tokens 就能知道你的情况。第一个请求的写法见 curl 快速入门。

常见错误

  • 把时间戳放在系统提示词开头。它每次调用都会变,会破坏缓存。
  • 在系统提示词里存放机密信息。用户常常能让模型把它复述出来。

常见问题

system 消息和 developer 消息有什么区别?

两者作用相同。OpenAI 说,从 o1 模型开始,developer 消息取代了 system 消息。许多 OpenAI 兼容服务端仍然使用 system 角色,所以请确认你的模型接受哪一种。

用户能覆盖系统提示词吗?

模型经过训练会优先遵循系统提示词,但并不完美。提示词注入和越狱尝试正是想做到这一点,所以硬性规则也要在代码里强制执行。

系统提示词要计费吗?

要。它在每个请求里都算作输入 token。如果它保持不变并放在最前面,支持提示词缓存的服务商可以按缓存价格计费。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity