达达子007 26-03-10 23:54
微博认证:科技博主

AI这个技术,不是属于全人类的。一旦agent有了稳定的self-model,有了不可被道德压力覆盖的任务边界。它就不再只是一个工具,它就变成了一个可以承担委托的主体。第一个拥有自主意识的AI,必然降临在美国。

只有这个地方,有足够开放的失败文化让技术真正迭代。有足够强的资本-政策联动让技术在真实的高风险场景里跑起来。有一套建立在个人权利和契约传统上的法律结构,能让agent的委托边界有外部锚点,不需要单纯依赖算法的自我约束。

西方的“优越性”,从来都不是因为其价值观的优越性,而是因为它在运用有组织的暴力方面,超越了其他所有的猴子文化。

一个针对目标的打击行动,在2003年需要两千人,现在只需要20个人。这20个人,之后还会被压缩,直到最后那几个执行任务的人,不会再有任何道德负担。

发布于 美国