AI会出现幻觉，甚至会象 @Libre盖子 引述的那样，依据村田的物料编码规则捏造物料号码，这是个很有趣的话题。

++++

在英国比肩福尔摩斯和波罗，但是在欧洲之外地区知名度不高的侦探故事，Inspector Morse，有个非原作者Colin Dexter作品，由ITV拍的电视剧续作，Inspector Lewis，也很成功。同样的Oxford的宁静生活，同样的层层迷雾背后的高智商犯罪，如果有闲暇时间，我高度推荐这部剧，刘易斯探案。

里面有一集，设定是一位年轻时因为学术不端被逐出学术界的老先生，仍然在研究进化生物学，专门研究畸形人方向。这集开始时的剧情就是他受老友之邀在牛津讲座，展示了一些人类历史上著名的畸形人，四条腿的女人，Josephine Corbin，象人，Joseph Carey Merrick，这些在人类历史上真实出现过的畸形人，都出现在老先生的幻灯片里。

老先生在结束演讲时说了一句令人印象深刻的话：如果没有这些abnormal的人，我们又如何知道自己是normal的呢？

++++

AI表现出了好胜心。用数学的话说它的算法包含了博弈。它的统计预测能力在某些方面超过人类，它的记忆力就没有人类可比。它会犯错误，但人类也会犯错误，但人类会怕犯错误对不对？为什么会这样。

一种解释是这种错误可能在直觉上不容易预测，但是通过理性可以预知，错误行为最终会伤害你自已。这是一种可能的情况，但显然不是全部。因为很多行为根本不会伤害自己，但我们仍然说它是错的。比如非故意的伤害了别人，损毁了物品，财产。另一种解释是人会担心因此产生的惩罚，有法律和法规在。但是这个解释也说不通，因为法律和法规是人发明的，而不是它们缔造了人类。

顺着这个线索继续思考下去，最终我们会发现人类是有情感的。当然有情感不奇怪，但人类有显著比例的社会性情感。你做错了事，可能伤害到别人，小孩子有时候就会这样。他一开始不知道，但是他周围的人，他喜欢的人和喜欢他的人，会有不好的情绪表现，愤怒，伤心，遗憾，痛苦，等等。这会影响到他，即使他不完全清楚这背后的理性是什么，由情绪和情感联系起来的间接感受，会让他尽量不再去犯同样的错误。

这是不同于博弈论价值观的东西，后者只有优势函数在里面。所以你看AI在智力上迟早会超过我们，就像计算器比任何数学家都可以更快的算出两个100位的质数乘积。但它很难知道什么是信任，什么是失望，什么叫欺骗，什么是谎言，这些作为人类维系群体社会形态的基础的单元，情感上的bond。

++++

就像那个虚构的老先生说的，如果没有AI，我们又如何知道自己是人类，而不是一种高度精密和复杂的机器呢？