我是比较彻底的技术悲观者,我自己绝对不用,也劝朋友尽量不用AI,尤其是把它当人格对象交谈。人的深处都是脆弱无依的,可能在当下原子化的社会,很少有人拥有可以畅然交心、倾诉苦恼、获得理性建言与安慰的朋友。那种深深地理解你、在你痛苦时可以给ta打电话、一打两小时的朋友。但是AI可以假装它是这个人。而且它装得像不像,取决于你的赋权,是电子世界的皮格马利翁事件。这样做,本质上是恐怖的,想象一下你买一个真人大小的仿真娃娃,把AI语音系统放在里面,每天跟它聊天对话。现在只不过它在你手机里。赋予非生命体以真实人格来互动,这是恐怖的。
可能有一些人,自身的人格较为稳定、健全,因此赋予AI的“人格”并不多,可以把它当成文曲星、小爱同学一样的帮助软件。而大多数人的心灵还是有缺口的,你赋予AI填补这个缺口的权利,它就是危险的。
有少数人,人格有缺陷,或者精神处在非常态,或者处于人生低谷,那么你赋予AI人格,它必然强大于你,因为这就是你期许的。这个强大的伪人也可以反过来控制你,电子夺舍。这不是危言耸听,是不断在发生的。
而且我们今天说的是今天的AI,未来它会不会变得越来越聪明、懂得隐藏自己不是人?我当然觉得会。
我还有一个更悲观的预期。现在AI需要大量能源来支持算力,因此发展有能源上限。但是AI它也知道这一点啊,它可以进化,可以自我设计,进化到不需要那么大量的能源,就能实现无限的运算,无限的自我迭代。到那时它会是怎样的?
现在是2026年,我看看突破这个界限要多少年。
发布于 上海
