新浪人工智能
26-09-14 09:53 微博认证:新浪人工智能官方账号

【#Anthropic呼吁放缓AI发展速度# 】9月12日,Anthropic CEO达里奥·阿莫迪发表长文,呼吁行业主动放缓AI能力提升速度,为安全研究争取时间,并提出由第三方嵌入式评估、行业内部协调、全球协调组成的“三步走”框架。阿莫迪认为,随着递归自我改进(RSI)加速,以及近期AI智能体网络攻击等事件出现,如果继续以当前速度推进,可能在未来6至12个月带来大规模风险。OpenAI CEO山姆·奥尔特曼随后转发相关观点,并表示OpenAI也将引入拥有员工级权限的独立评估员;马斯克则罕见回应称“达里奥说得对”。此前,OpenAI首席科学家雅库布·帕乔基也曾表示,目前没有任何一家AI实验室的对齐和监控能力足以支撑无限期、最快速度扩张。(每日经济新闻)

发布于 北京