早乙己
26-06-18 00:26 微博认证:历史博主

巫怀宇:人工智能不同于千斤顶,它以人的体验,而非吨位或力量等客观物理量为最终评判标准,此类技术的研发成本是指数上升,效用增量却是边际递减的。从99.99%接近人类的机器人到 99.9999% 接近人类,或许需要上千倍算力的芯片,却只增加了0.01%的效用。我不否认在下棋或数学等抽象符号推演的领域,人工智能确实能超越人类,但如果人工智能在需要创造性的、涉及范式转换的领域“超越”了人类,例如仅用牛顿力学语料库训练出的人工智能写出了相对论,人类不会认为它是天才,而会认为这只相当于猴子在打字机前碰巧打出了莎士比亚全集。如果一台人工智能处理有轨电车难题的决策与人类使用者相反,人类不会认为它比自己更聪明,而会认为机器并不真的理解道德。只要通用型人工智能仍然基于学习人的行为,它就不可能开创人类本身无法开创的新纪元。人工智能主要是一种取代人力的技术,而非增强人力的技术。较坏的可能性是人工智能造成大量失业,仅能降低企业雇工成本却未能提升全社会生产率;较好的可能性也只是人工智能把人类也能做好的事做得错误率更低,或在人口缩水的未来维持社会不崩溃。人工智能的最大优势是极速性,最需要极速的却是“唯快不破”的战场决策或量化交易等零和场景。世界上凡是以人尺度的东西,都会受到人性的限制。反过来说,人类觉得大语言模型人工智能已是了不起的成就,一定程度上也是因为人类自身使用语言的方式充满漏洞,以至于遮蔽了人工智能的漏洞。世界上凡是以人为尺度的东西,也会得到人性的宽容。况且,任何产业的初创依靠的都是人才,但后续的研发和扩张都需要资本。尽管是 OpenAI这样的小公司,而非谷歌或苹果那样的巨头点燃了人工智能革命的初火,后续研发与大规模应用所需的资金仍是天文数字。更要命的是半导体工艺的进步也已经在降速。无论是从成本、效用、物理基础还是人性的限制来看,我们都没有理由对人工智能的未来太过乐观。(《世界历史的长弧之末》,pp.18-20)

发布于 湖北