昨天在直播里还谈到奇点这个事情。奇点指的是“技术奇点”（ "technological singularity"），是Kurzweil提出的一个概念，他据此写了本书叫《奇点临近》。这本书我读过，此前也写过评论，现在看这本书论证非常不严谨，价值不大。

技术奇点指的是，进入现代社会以来各项领域的进展都在指数型增长。具体到AI领域，如果AI的智力达到了可以自我改进的水平，那么它可以在一个瞬间（也许是天，也许是小时，也许是秒或者毫秒）通过大量运算不停的自我改进突然从比人类弱的水平达到一个极高的智力水准，成为一个人类无法理解的更高阶的物种。在知乎上当时有个点赞四万的长篇作品，就是由这个概念拓展而成。

但这个推论在现实中有一些问题。首先，所谓智力高出人类很多，到底是多高？在营销这个概念的文章里，通常以“智商几十万”等几乎无意义的数字来描述。的确描绘一个号称不能理解的东西很难。但现实中，我们可以参考一些已解决的问题，比如围棋。通过自我对弈，人工智能可以达到接近“棋神”的水平，那么这个水平到底有多高呢？大概是让顶尖的几个职业棋手三颗子互有胜负的程度。——的确很高，但也并没有达到人类无法理解的程度。主要还是直觉更准，算得更远，失误更少。而这些优势，远谈不上对方高你一个物种。那么在其它问题上，它会不会只是表现为一个特别聪明+特别渊博的人类的水平呢？我觉得很有可能，也就是说，奇点以后的电脑，依然是人类能够理解，至少是顶尖的那些人类能够理解的电脑。

其次，知识数量可以通过运算不断增长，只是在极少数的领域，才成立，比如数学。更多的领域里，要积累知识，需要的是实验，理解现实的自然条件和社会条件，这就意味着你不会发现电脑在1秒钟内突然变成一个全知全能的机器。它依然需要创造具体的实验条件，完成设计、执行和观测才能得到相应的新知识。这显然不可能在几秒内完成，需要时日。

所以我想奇点这个概念，了解它是某个人不严谨的想象就行了。没有必要为之兴奋和恐惧。还是应该更多的关注和推动现实进展。