发布了头条文章：《哪些事必须对AI“零信任”？》 如果大模型接到我的“寻找合适案例”的指令，在搜索不到的时候，你认为它会怎么做呢？
大模型的幻觉，固然与它的工作原理有关（预测下一字而不是判断事实），但更重要的还有三样东西：
数据本身的偏差：人类世界本来就充满偏见和矛盾
人类的反馈机制（RLHF）：奖励“听话”和“好看”的答案
商业利益：真相更贵还不好卖，谎言更便宜更受欢迎
AI在总结人类智慧时，也把人类原本的弱点，变成了工业化产品。
好处是，人类有机会重新认识自己，重新学习什么是“真实”，什么是“可信”，什么是“我不知道”。 http://t.cn/AXJ3c6Tk