我在此区分了 “受限于人性” 的技术和单纯 “物理增幅” 的技术。人工智能属于前者。AI能有多强大，终极限制条件其实是人性，而不仅是技术。硅谷精英也意识到了这一点，一波人主张限制AI，另一波要让AI “超越” 人性。我想问：“超越” 的标准是什么？当一个数学AI在有轨电车难题上和你答案不一致，你是觉得它 “只不过擅长数学而已”，还是迷信它 “既然擅长数学，也必然比我更懂道德”？
发布于 美国
旧常识
我在此区分了 “受限于人性” 的技术和单纯 “物理增幅” 的技术。人工智能属于前者。AI能有多强大，终极限制条件其实是人性，而不仅是技术。硅谷精英也意识到了这一点，一波人主张限制AI，另一波要让AI “超越” 人性。我想问：“超越” 的标准是什么？当一个数学AI在有轨电车难题上和你答案不一致，你是觉得它 “只不过擅长数学而已”，还是迷信它 “既然擅长数学，也必然比我更懂道德”？