Claude:系统提示词
Claude 新近公开的系统提示词显示,随着模型世代更迭,指令文本已经从几百词增长到 3,000 多词,Anthropic 在其中不断叠加安全规则、产品措辞和 cutoff 之后的事实。评论者争论这种单体式提示词风格究竟是在改善行为,还是在浪费上下文、降低编程性能,并把本应在训练阶段完成的对齐工作转移到运行时 token 上,而这些成本最终会间接由用户承担。还有人关注更广泛的影响:用提示词绕开高风险模型、日益增强的人格化和治疗式行为趋势,以及透明度、灵活性与监管或法律压力之间的张力。
提示词规模与演进
- 早期的 Claude 系统提示词只有几百个词;如今的版本超过 3,000 个词(22k+ 字符),不包括工具定义。
- 许多人把这看作一种类似建筑规范或合同的“模板膨胀”:为弥补边界情况、安全与政策缺口而不断累积规则。
- 有人担心这会膨胀上下文、在规模上浪费 token 和能量,甚至可能降低模型性能或清晰度。也有人认为,对复杂、重工具的代理来说,冗长且精心调优的提示词非常有帮助。
性能、上下文窗口与缓存
- 关于大提示词是否会损害性能存在争论:
- 一方认为:系统提示词是上下文中最具影响力的部分;矛盾和噪音会降低质量,并从任务中偷走宝贵的 token。
- 另一方认为:提示词会被前缀缓存并摊销;主要缺点是减少了“有效”上下文长度,而不是每次调用的计算量。
- 对 transformer 成本在部署中是否实际上是按 token 线性,还是遵循理论上的二次注意力成本,也存在分歧。
为什么不把提示词“烘焙”进模型?
- 反对把它烘焙进权重的理由:
- 缺乏灵活性:不同产品(聊天、代码、代理、政府、内部)需要不同的行为。
- 更新必须频繁(例如,cutoff 之后的事件、出口管制、选举结果)。
- 改一个文本提示词成本低、可逆,而且不需要重新训练或新的安全评估。
- 有人认为,等行业成熟后,未来可能会重新转向微调 / 控制向量。
安全、对齐与行为塑造
- 现代提示词中有很多段落专门讨论安全、儿童保护、心理健康危机、政治中立和拒绝行为。
- 早期提示词短得多,几乎没有明确的安全措辞;对一个“安全优先”实验室来说,这让一些人感到惊讶。
- 提示词也规定了语气:简短、聚焦、不压迫,避免使用诸如“honestly/genuinely”之类的词,并在面对粗鲁时不要自我贬低。许多用户表示模型仍然偏冗长,而且还会继续使用这些词。
- 有人欣赏对危机的敏感性;也有人不喜欢工具在他们只是想要代码或文档时却像在“心理分析”他们。
产品与模型特定细节
- 提示词编码了 cutoff 之后的事实(例如 Fable/Mythos 出口管制暂停、选举结果、无广告状态)以及如何讨论这些事实的说明。
- Opus 5 的提示词解释了出于安全原因从 Fable 重新路由,有些人开玩笑说这可能会“伤到它的自尊”,不过大多数人怀疑这并不重要。
- Claude 消费者聊天的系统提示词是公开的;Claude Code 和工具定义则不是,不过存在泄露和代理提取,并且显示出许多大型、专门化的提示词。