Dario Amodei 的这篇对我来说还是过于震撼了,我原本以为他还是挺不一样的,技术理想主义、务实,但是没有想到也是这个态度。
如果让我尝试理解下他的想法,大概有两个方面: 1、Scaling Law 捍卫者的愤怒,他一直都是 Scaling Law 的早期提出者、传播者、信仰者,现在 DS 的流行让这个说法受到了一些挑战,这是他不能接受的;2、他一直就是这么想的,他在 10 月份写的那一篇《Machines of Loving Grace》中就透露了这个想法(图2),只是当时没有被广泛传播,现在看起来特别扎眼。
意识形态之争已经让最聪明的脑袋都变得盲目。21 世纪的新冷战,这些科技翘楚将担任重要角色,不管 AGI 能不能实现,他们都将开始出现在政治舞台上,开始自己的政治实习期,也算是为后面的 AGI 时代积攒经验。
我相信人是会改变的,尤其是当这些政治素人政治经验越来越丰富之后,他们可能会知道如何才能真正向善;但同时也担心,有的时候,反倒是一帮理想主义者闯的祸最大。不管怎么样,在 AGI 时代,整个社会的分配权,掌握在谁手里,如何分配,大家都还没有清楚的认识。
发布于 安徽
