睡不着听播客,听到 Claude 的研究员说所有过去写的 prompt 都应该更新一遍:
此前因为模型的幻觉问题,我们会习惯于在 prompt 中设置很多约束,比如提供一些示例。但对今天的前沿模型来说,最好从 prompt 中删掉示例,因为模型本身的创造力早已比人类想象得更强。
具体而言,在写 prompt 的时候多给上下文,少下“不准做某事”的禁令。因为否定指令对前沿模型的驱动力极强,一旦它与后续的用户指令发生冲突,模型就会陷入混乱。
减少硬性限制,多给背景信息,从整体上精简指令 —— 这是 Anthropic 通过大量安利摸索出的最有效的 prompt 撰写方法。
发布于 上海
