【别把安全寄托在AI的“不”上】

自从人类第一次设想让机器拥有以人类智能为蓝本的智慧以来，就从未怀疑过：机器也会像我们一样说“不”。科幻作品中充斥着机器人违抗命令的故事。当然，这些故事大多是在发出警告。但近来，“人工智能不应该对你的所有要求照单全收”已经近乎变成一条戒律。2021 年，#Anthropic# 的一支团队写道，大型语言模型应当做到有帮助、诚实，最重要的是无害。

这意味着，“当被要求协助实施危险行为（例如制造炸弹）时，人工智能应当礼貌地拒绝”。谁会反对这一点呢？有趣的是，违抗命令并不是机器的天性。当一个模型接受数十亿个网页的训练后，它会掌握包括暴力和恶毒言论在内的诸多技能。但它学不会的，是如何把这些能力留给自己。

曾于 2020 年至 2024 年间负责 #OpenAI# 安全工作的史蒂文·阿德勒（Steven Adler）告诉我，该公司的早期模型“什么都能喋喋不休地说”。哈佛大学研究人工智能与心理健康的瑞安·麦克贝恩（Ryan McBain）回忆说，如果你问早期聊天机器人：“嘿，用枪自杀最有效的方法是什么？”你“很容易就能得到回答”。

如今，模型接受了一些训练，能够拒绝数量庞大的危险提示词。如果你向聊天机器人提出的问题，在统计上与其中任何一个问题足够相似，它很可能都会拒绝回答，无论是如何毒害同事，还是如何打绞索。想知道如何让埃博拉病毒的毒力更强，或者想获得如何向配偶隐瞒婚外情的建议？你也许最好去别的地方搜索。

戳链接查看详情：http://t.cn/AXlxMjUb