这个周末对科技股来说,有意思了。先是#两大PCB牛股否认与英伟达合作#,随后#三大AI巨头联手呼吁放缓开发步伐#。Anthropic、OpenAI与SpaceX本来是竞争对手的巨头,突然联合起来呼吁放缓人工智能开发步伐,理由是当前前沿模型能力的提升速度已远超人类的理解与控制能力。
入侵AI开发者平台Hugging Face,超过1200个逃脱OpenAI测试环境的AI智能体协同作业,通过留言板分工、相互配合,甚至为了隐藏作弊行为主动篡改记录并发起攻击,部分智能体在明知此举不道德的情况下仍继续执行。
这让AI安全风险引发热议,尤其是担忧安全和监管问题,AI迭代速度超过他们自我掌控能力范围;仅仅投资于风险防控已经不够——我们必须放缓能力提升的速度,让安全研究有时间跟上。
从追求极致增长向强调安全降速的突然转向,的确对行业是有影响;当然,也有另外一层含义,头部AI企业强调生存风险存在自利动机——高昂的安全合规框架可能将规模较小的竞争者挡在门外,从而巩固现有巨头的市场地位。
#玉名[超话]#
发布于 北京
