#刘慈欣称人工智能或让人类完了#
人类个体思考慢，知识面窄，细节更是不知道。但不能说高级智能可以把人类当蚂蚁，现在AI只有二手知识

大模型学习的就是人类知识，没有什么特别的知识人类不知道。

人类看蚂蚁，是有明显的沟通问题，都没法告诉蚂蚁发生了什么事，即使是善意也沟通不了，恶意就直接灭了蚂蚁窝。蚂蚁没有理解能力，所有动物都没有。

按刘慈欣发明的梗，这叫“毁灭你，与你何干”。没法沟通，直接毁灭。

人类相比动物，是确定无疑发生了一次智力飞跃。最大的进步就是试图去理解，发生了什么，取得了很大进展。

人类用于理解世界的是大脑，思考慢，记忆力不行会忘，知识面就窄，很多知识细节不知道。

现在AI，似乎在发生一次智力飞跃。但它还在“模拟人类智慧”的层面，知识结构是二手的，告诉它是什么就是什么。AI还没有构建出“人类无法理解”的智能，现在还没有什么AI智能，是人类无法理解的。人类只是“做不到”，还是能理解。

举个例子，AI能以人类绝对不可能做到的方式下棋，每走一步都推理几十万次。但是人类理解这个算法，理解AI下的棋，积极学习。

一种AI智能，是技术性细节，如网络安全相关知识。AI知道所有的网络协议细节，有了不错的理解，还能找到系统漏洞，修补。这里没有很深的算法，而是对架构与细节的全面掌握。

想象不出什么AI智能是人类无法理解，无法沟通询问的。科幻小说是描述了一些超级智能，但刘慈欣写的是猜疑，而不是无法理解。

真正的科幻，是写出人类无法理解的智能。而这又写不出来，悖论了。