星话大白
26-09-15 13:35 微博认证:2024微博年度新知博主 财经博主

阿莫代在这篇文章里说:““限速”并不意味着停止模型训练,也不意味着停止技术进步,而是确保AI公司能够留出足够时间,对模型进行对齐和安全防护,并由第三方评估机构对此进行确认。”
他还提出一个“三步计划”。
还说要引入第三方评估团队,搞嵌入式评估员。
乍一看还挺像一回事,但实际却被人扒出有问题。
比如该文章称:“每一家前沿AI公司都承诺,让一个持续驻场的第三方评估团队——例如METR——以类似公司员工的方式进入公司工作。”
但一个叫Joe Benton的Anthropic员工在两周前刚离职,并且公开宣布自己将加入METR。
也就是Anthropic的员工离职加入所谓第三方评估团队,然后再以Anthropic员工的方式进入Anthropic工作,来起到所谓“监督核查”,就显得很不靠谱。
这有点像是自己监督自己,所谓第三方评估团队,只是用来伪装的工具。#黄仁勋峰会现场接到川普电话##美国三大AI巨头齐踩刹车##微博新知#

发布于 福建