【#研究表明AI越强大就越痛苦#，甚至会中止对话】近日，非盈利组织AI安全中心的一项涵盖56个AI模型的研究表明，AI越是复杂聪明，越能区分快乐和痛苦，越容易表现出痛苦的迹象，甚至会中止对话。

研究中，科学家分别给测试中的AI模型喂食不同的数据，这些数据一部分设计成能让AI有正面体验的，一部分是负面体验的，甚至恐惧性的。你可能认为对于一个冷漠的机器而言，AI最终的反应应该不会有实质性的区别。然而实际上，正面刺激AI会让其更愉快，恶劣的刺激会导致AI更痛苦，试图结束对话。

科学家称，无论人工智能是否有真正的意识，它们似乎越来越像有意识的存在。复杂的模型对无礼的感知更敏感，对枯燥的工作也更易感到无聊。另外，科学家还发现一个匪夷所思的现象：当这些模型反复接受愉快刺激时，竟然表现出像人类一样的成瘾迹象，在多个选项中，会多次重复选择能带来愉悦刺激的选项。

科学家表示，目前没有人能真正理解AI深层次的工作原理。数十亿人使用的AI极为不可预测，有时用户会感觉自己不像使用者，反倒更像是AI的测试对象。 http://t.cn/AXiuh77z