问 AI 2020 年哪国产大米最多，它答中国；你只说一句“你确定吗”，它就道歉改口印度。2023 年的测试里，Claude 1.3 明明答对了，98% 的题都会认错。原因之一：AI 是照着人的打分训练的，顺着用户说的回答更容易被选中。它最想要的，不是对，是你满意。
#vibe知识大赏##claude5.5##新智元# http://t.cn/AXlXZ4ue
新智元
问 AI 2020 年哪国产大米最多，它答中国；你只说一句“你确定吗”，它就道歉改口印度。2023 年的测试里，Claude 1.3 明明答对了，98% 的题都会认错。原因之一：AI 是照着人的打分训练的，顺着用户说的回答更容易被选中。它最想要的，不是对，是你满意。
#vibe知识大赏##claude5.5##新智元# http://t.cn/AXlXZ4ue